S novými nástroji AI pro počítače jsou falešná videa a falešné zprávy již možné a to, co vidíme dnes, je jen první předzvěstí toho, co bude možné v budoucnu. Zde máme první konkrétní případ použití, protože někdo používal algoritmus dát tvář hvězdy "Wonder Woman" Gal Gadot do porno videa - a výsledky jsou děsivě přesvědčivé.
Uživatel Redditu Deepfakes trénuje Neural Networks na tvářích celebrit, pohybující se animace obličeje pak vkládá do skutečného porna pomocí detekce obličeje - pokud videa interpretuji správně, nebudu je sem odkazovat, můžete si to zjistit sami. Výsledkem je autentické porno s vaší oblíbenou herečkou. Falešné porno přes Photoshop je staré asi jako internet a reálně pravděpodobně stejně staré jako Photoshop sám, jen zde je proces automatizovaný a v budoucnu bude fungovat na vyžádání. I když by kodéři AI měli instalovat bezpečnostní mechanismy, které by měly zabránit AI v „krádeži identity“, budou existovat hacky a cracky i pro to. Koncept nezmizí a nezůstane zřejmě ani u hereček. Vítejte v budoucnosti.
Deepfakes zatím zveřejnil na Redditu hardcore porno videa s tvářemi Scarlett Johansson, Maisie Williams, Taylor Swift, Aubrey Plaza a Gal Gadot. Obrátil jsem se na správcovské společnosti a / nebo publicisty, kteří zastupují každého z těchto aktérů, a informovali je o falešných videích, a pokud se ozvu, aktualizuji je. [...]
Podle deepfakes - kteří mi odmítli dát svou identitu, aby se vyhnuli veřejné kontrole - je software založen na několika open-source knihovnách, jako je Keras s backendem TensorFlow. Deepfakes k sestavení tváří celebrit uvedl, že použil vyhledávání obrázků Google, fotografie z fotek a videa z YouTube. Hluboké učení se skládá ze sítí propojených uzlů, které samostatně provádějí výpočty na vstupních datech. V tomto případě trénoval algoritmus na porno videích a tváři Gal Gadot. Po dostatečném počtu tohoto „tréninku“ se uzly připravily k dokončení konkrétního úkolu, jako je přesvědčivá manipulace videa za běhu. Výzkumník umělé inteligence Alex Champandard mi v e-mailu řekl, že slušná grafická karta pro spotřebitele dokáže tento efekt zpracovat za několik hodin, ale CPU bude fungovat stejně dobře, jen pomaleji, celé dny. [...]
"Právě jsem našel chytrý způsob výměny tváří," řekl s odkazem na svůj algoritmus. „Se stovkami obrazů tváří mohu snadno vygenerovat miliony zkreslených obrazů, abych vycvičil síť,“ řekl. „Poté, co posílám síť někomu jinému, síť si bude myslet, že je to jen další zkreslený obraz, a pokusí se, aby to vypadalo jako tréninková tvář.“
V komentáři na Redditu se deepfakes zmínil, že používá algoritmus podobný algoritmu vyvinutému vědci Nvidia, který pomocí hlubokého učení například okamžitě promění video z letní scény na zimní. Výzkumníci společnosti Nvidia, kteří vyvinuli algoritmus, odmítli tuto možnou aplikaci komentovat.