Během několika posledních let se AI (umělá inteligence) rychle rozvíjela. Ne všechny produkty AI mají ale pozitivní dopad na společnost. Jsou zde i technologie, které jsou později zneužity zločinci. Příkladem takové technologie je Deepfake.
Co je to deepfakeSlovo „deepfake“ je kombinace dvou běžných slov, deep – hluboký a fake – falešný. Deep zde odkazuje na technologii AI, která je známá jako hluboké učení. Technologie deepfake se používá k vytváření falešného obsahu, a to nahrazením tváře nebo řeči. V těchto videích tak osoby (většinou veřejně známé), mohou říkat něco, co ve skutečnosti nikdy neřekli. První kroky k této technologii byly učiněny již v 90. letech akademickými institucemi. V další části si vysvětlíme, jak se vyvíjí deepfake obsah.
Jak deepfake funguje
Existuje několik technik pro vytváření deepfake softwaru pomocí algoritmů strojového učení. Jedná se o algoritmy, které mohou generovat obsah na základě vstupních dat. Pokud je pro program nastaven úkol vytvořit nový obličej nebo nahradit část obličeje osoby, musí být k dispozici velké množství dat, která se pak používají k tomu, aby se program naučil vytvářet svá vlastní, nová data.
Jak poznat deepfake
Technologie, které rozpoznávají deepfake, jsou také postaveny na umělé inteligenci pomocí algoritmů podobných těm, které se používají k vytváření samotných deepfake. Detekují známky, které by na skutečných fotografiích nebo videích nebyly. Zpočátku bylo neobvyklé mrkání očí nebo jejich úplná absence dobrým znamením deepfakeu. Ale postupem času se systémy naučily předstírat mrkání očí. Mezi příznaky například patří: Nekonzistentní barva pleti, trhavé pohyby, špatná synchronizace řeči s pohybem rtů a změny v osvětlení.
Jak se deepfake používá
Skupinou lidí postižených deepfake jsou politici. Objevila se videa, na nichž prezident Obama uráží prezidenta Trumpa. V dalším videu byla řeč Nancy Pelosi zpracována tak, aby publikum věřilo, že byla opilá. V dalším videu bylo ukázáno, že prezident Trump se vysmívá Belgii za její členství v Pařížské klimatické dohodě. Existuje však názor, že deepfake je budoucností tvorby obsahu. Jihokorejský kanál MBN například použil deepfake k nahrazení svého zpravodajského moderátora.
Jak moc je deepfake nebezpečný
Deepfake je považován za jedno z nejnebezpečnějších použití AI. Většina jeho aplikací v reálném světě má buď diskreditační nebo podvodné úmysly. K jednomu z prvních případů podvodu zahrnujícího deepfake došlo ve Spojeném království. Podvodníci zavolali generálnímu řediteli energetické společnosti se sídlem ve Spojeném království a předstírali hlas jeho německého šéfa a nařídili mu převést 220 000 EUR na bankovní účet třetí strany.
Konečný výsledek deepfake může být k nerozeznání od reality. Může podkopat pověst člověka nebo způsobit, že někdo řekne nebo udělá něco zbytečného. Je to perfektní zbraň v rukou podvodníků. Vytvoření systému, který rozpozná deepfake totiž stále vyžaduje čas.