Falešné video nebo audio generované AI
Deepfake je syntetické video nebo audio vytvořené umělou inteligencí, ve kterém skutečný člověk říká nebo dělá něco, co se nikdy nestalo. Název vznikl spojením „deep learning“ (hluboké učení, odnož machine learningu) a slova „fake“. Technologie vymění tvář ve videu, napodobí hlas konkrétního člověka nebo rozpohybuje obyčejnou fotografii.
Ještě nedávno se dal deepfake odhalit na první pohled. Dnes už ne. Kvalita roste tak rychle, že u povedeného videa selže i pozorné oko.
Nejčastěji se mluví o podvodech – typický scénář je falešný hlas jednatele, který v telefonu žádá o urgentní platbu. Blízko k nim mají dezinformace: někdo vloží známé osobě do úst výroky, které nikdy neřekla. A firmy řeší ještě třetí situaci, zneužití vlastního loga nebo tváře v podvodné reklamě, o které nemají tušení.
Nejzákeřnější dopad je ale tišší. Jakmile lidé vědí, že deepfake existuje, dá se zpochybnit i pravé video – „to bude určitě fake“ najednou funguje jako univerzální výmluva. Důvěra v cokoli natočeného tím pomalu eroduje.
Okrajově ano. Syntetičtí avataři namluví produktové video, AI dabing převede spot do několika jazyků bez dalšího natáčení. Upřímně – jsem u toho opatrný. Souhlas zobrazené osoby je základ (právně i lidsky) a stejně důležitá je reakce publika: divák, který zjistí, že mluví s vygenerovanou tváří, může značce věřit míň než předtím. Platí tu stejná pravidla transparentnosti jako u zbytku AI contentu.
V marketingu se s deepfake technologií potkávám hlavně u syntetických avatarů a AI hlasů ve videích. Můj přístup: bez souhlasu dané osoby ani ránu, a i se souhlasem raději divákům rovnou přiznat, že se dívají na syntetickou tvář. Skrývat to nemá smysl – jakmile to publikum odhalí samo, ušetřené natáčení vyjde draho.
