Niektoré spoločnosti z rebríčka Fortune 500 začali testovať softvér, ktorý dokáže rozpoznať a deepfake skutočného človeka v živom videohovore, ktorý nasleduje po záplave podvodov zahŕňajúcich podvodných uchádzačov o prácu, ktorí si vezmú podpisový bonus a utekajú.
Detekčnú technológiu poskytuje Get Real Labs, nová spoločnosť založená Iba Faridprofesor UC-Berkeley a uznávaný odborník na deepfakes a manipuláciu s obrázkami a videom.
Spoločnosť Get Real Labs vyvinula sadu nástrojov na zisťovanie obrázkov, zvuku a videa, ktoré sa generujú alebo sa s nimi manipuluje buď pomocou umelej inteligencie alebo manuálnymi metódami. Softvér spoločnosti dokáže analyzovať tvár vo videohovore a nájsť stopy, ktoré môžu naznačovať, že bola umelo vytvorená a vymenená na telo skutočnej osoby.
„Toto nie sú hypotetické útoky, počúvame o tom stále viac a viac,“ hovorí Farid. „V niektorých prípadoch sa zdá, že sa snažia získať duševné vlastníctvo a infiltrovať sa do spoločnosti. V iných prípadoch to vyzerá čisto finančne, berú len podpisový bonus.“
FBI vydala a POZOR v roku 2022 o hlbokofalošných lovcoch práce, ktorí počas videohovorov preberajú identitu skutočnej osoby. Britská dizajnérska a inžinierska firma Arup stratený 25 miliónov dolárov hlbokému falošnému podvodníkovi, ktorý sa vydáva za finančného riaditeľa spoločnosti. Túto technológiu si osvojili aj romantickí podvodníciokrádajúc nič netušiace obete o ich úspory.
Vydávanie sa za skutočnú osobu na živom videu je len jedným z príkladov trikov, ktoré rozplývajú realitu vďaka AI. Veľké jazykové modely dokážu v online chate presvedčivo napodobňovať skutočnú osobu, zatiaľ čo krátke videá môžu byť generované nástrojmi ako napr Sora od OpenAI. Pôsobivé pokroky AI v posledných rokoch urobili deepfakery presvedčivejším a dostupnejším. Bezplatný softvér uľahčuje zdokonaľovanie zručností deepfakery a je ľahko dostupný nástroje AI dokáže zmeniť textové výzvy na realisticky vyzerajúce fotografie a videá.
Ale vydávanie sa za osobu v živom videu je relatívne nová hranica. Vytvorenie tohto typu deepfake zvyčajne zahŕňa použitie kombinácie strojové učenie a algoritmy sledovania tváre na bezproblémové spojenie falošnej tváre so skutočnou tvárou, čo umožňuje votrelcovi kontrolovať, čo na obrazovke hovorí a robí nedovolená podobizeň.
Farid dal WIRED demo technológie Get Real Labs. Keď sa zobrazí fotografia firemnej zasadacej miestnosti, softvér analyzuje metadáta spojené s obrázkom, aby zistil, že bol upravený. Niekoľko veľkých spoločností s umelou inteligenciou vrátane OpenAI, Google a Meta teraz pridáva digitálne podpisy k obrázkom generovaným AI, čím poskytuje spoľahlivý spôsob, ako potvrdiť ich nepravosť. Nie všetky nástroje však poskytujú takéto pečiatky a generátory obrázkov s otvoreným zdrojovým kódom možno nakonfigurovať tak, aby neposkytovali. Metadáta sa dajú tiež ľahko manipulovať.