Home Umela inteligencia Deepfakes sa vyvíjajú. Táto spoločnosť ich chce všetkých chytiť

Deepfakes sa vyvíjajú. Táto spoločnosť ich chce všetkých chytiť

by
 Deepfakes sa vyvíjajú.  Táto spoločnosť ich chce všetkých chytiť

Niektoré spoločnosti z rebríčka Fortune 500 začali testovať softvér, ktorý dokáže rozpoznať a deepfake skutočného človeka v živom videohovore, ktorý nasleduje po záplave podvodov zahŕňajúcich podvodných uchádzačov o prácu, ktorí si vezmú podpisový bonus a utekajú.

Detekčnú technológiu poskytuje Get Real Labs, nová spoločnosť založená Iba Faridprofesor UC-Berkeley a uznávaný odborník na deepfakes a manipuláciu s obrázkami a videom.

Spoločnosť Get Real Labs vyvinula sadu nástrojov na zisťovanie obrázkov, zvuku a videa, ktoré sa generujú alebo sa s nimi manipuluje buď pomocou umelej inteligencie alebo manuálnymi metódami. Softvér spoločnosti dokáže analyzovať tvár vo videohovore a nájsť stopy, ktoré môžu naznačovať, že bola umelo vytvorená a vymenená na telo skutočnej osoby.

„Toto nie sú hypotetické útoky, počúvame o tom stále viac a viac,“ hovorí Farid. „V niektorých prípadoch sa zdá, že sa snažia získať duševné vlastníctvo a infiltrovať sa do spoločnosti. V iných prípadoch to vyzerá čisto finančne, berú len podpisový bonus.“

FBI vydala a POZOR v roku 2022 o hlbokofalošných lovcoch práce, ktorí počas videohovorov preberajú identitu skutočnej osoby. Britská dizajnérska a inžinierska firma Arup stratený 25 miliónov dolárov hlbokému falošnému podvodníkovi, ktorý sa vydáva za finančného riaditeľa spoločnosti. Túto technológiu si osvojili aj romantickí podvodníciokrádajúc nič netušiace obete o ich úspory.

Vydávanie sa za skutočnú osobu na živom videu je len jedným z príkladov trikov, ktoré rozplývajú realitu vďaka AI. Veľké jazykové modely dokážu v online chate presvedčivo napodobňovať skutočnú osobu, zatiaľ čo krátke videá môžu byť generované nástrojmi ako napr Sora od OpenAI. Pôsobivé pokroky AI v posledných rokoch urobili deepfakery presvedčivejším a dostupnejším. Bezplatný softvér uľahčuje zdokonaľovanie zručností deepfakery a je ľahko dostupný nástroje AI dokáže zmeniť textové výzvy na realisticky vyzerajúce fotografie a videá.

Ale vydávanie sa za osobu v živom videu je relatívne nová hranica. Vytvorenie tohto typu deepfake zvyčajne zahŕňa použitie kombinácie strojové učenie a algoritmy sledovania tváre na bezproblémové spojenie falošnej tváre so skutočnou tvárou, čo umožňuje votrelcovi kontrolovať, čo na obrazovke hovorí a robí nedovolená podobizeň.

Farid dal WIRED demo technológie Get Real Labs. Keď sa zobrazí fotografia firemnej zasadacej miestnosti, softvér analyzuje metadáta spojené s obrázkom, aby zistil, že bol upravený. Niekoľko veľkých spoločností s umelou inteligenciou vrátane OpenAI, Google a Meta teraz pridáva digitálne podpisy k obrázkom generovaným AI, čím poskytuje spoľahlivý spôsob, ako potvrdiť ich nepravosť. Nie všetky nástroje však poskytujú takéto pečiatky a generátory obrázkov s otvoreným zdrojovým kódom možno nakonfigurovať tak, aby neposkytovali. Metadáta sa dajú tiež ľahko manipulovať.

GIF: Will Knight

Source Link

Related Posts

Leave a Comment