Americké ministerstvo spravodlivosti (DOJ) uviedlo riziká dezinformácií a falšovania umelej inteligencie ako dôvody, prečo nezverejní zvuk rozhovoru so špeciálnym poradcom Joea Bidena o jeho zaobchádzaní s utajovanými dokumentmi.
Ministerstvo spravodlivosti dospelo k záveru, že neexistuje dôvod na stíhanie Bidena, ale prepis rozhovoru sa stal vítaným palivom pre kritikov Bidenových mentálnych schopností a schopnosti uchádzať sa o ďalšie funkčné obdobie.
Čítať prepis je jedna vec, počuť zvuk amerického prezidenta, ktorý sa snaží spomenúť si na dátum, kedy jeho syn zomrel, alebo zabudol, kto bol prezidentom Mexika, je niečo úplne iné.
Ministerstvo spravodlivosti tvrdí, že jeho neschopnosť bojovať proti dezinformáciám AI je dôvodom, prečo nezverejní zvuk.
„Plynutie času a pokroky v oblasti zvuku, umelej inteligencie a „hlboko falošných“ technológií len zosilňujú obavy zo zlomyseľnej manipulácie so zvukovými súbormi. Ak je zvukový záznam zverejnený tu, je ľahké predvídať, že môže byť nevhodne pozmenený a že zmenený súbor môže byť vydávaný za autentický záznam a môže byť široko distribuovaný,“ napísal vo svojom súdnom podaní.
Námestník generálneho prokurátora DOJ Bradley Weinsheimer uviedol, že ak by zverejnili zvuk, existovalo by „podstatné riziko, že zlomyseľní herci by mohli nahrávku pozmeniť tak, aby (napríklad) vložili slová, ktoré prezident Biden nepovedal, alebo vymazali slová, ktoré povedal.
Hlasové klony generované AI na vytvorenie presvedčivého zvuku je potrebných iba niekoľko sekúnd hlasu osoby. Klon hlasu Joea Bidena bol použitý v a falošná robotická kampaň v januári, čo odradilo voličov od hlasovania v primárkach.
Podanie potvrdilo, že vytvorenie klonu Bidenovho hlasu už bolo možné.
Povedalo. „Samozrejme, už je k dispozícii iný surový materiál na vytvorenie hlbokého falošného hlasu prezidenta Bidena, ale zverejnenie zvukového záznamu predstavuje jedinečné riziká: ak by bolo verejne známe, že zvukový záznam bol zverejnený, pre zlomyseľných aktérov by bolo jednoduchšie. vydávať zmenený súbor za skutočný záznam.“
Výkonný riaditeľ projektu Oversight v Heritage Foundation Mike Howell verí, že ministerstvo spravodlivosti používa AI deepfakes ako vhodnú výhovorku.
„Vôbec nechcú zverejniť tento zvuk… Robia prístup k kuchynskému drezu a sú úplne vydesení, že nemajú žiadny dobrý právny argument,“ povedal Howell.
Senátor Mark Warner, demokratický predseda senátneho výboru pre spravodajské služby, uznal riziko manipulácie AI, ale povedal, že zvuk by mal byť zverejnený s „vodoznakovými komponentmi“, aby bolo možné odhaliť manipuláciu.
Je iróniou, že niektorí republikáni verejne špekulovali, že prepis presne neodráža rozhovor.
Dezinformácie umelej inteligencie a hlboké falšovanie mali nepopierateľný rušivý vplyv vplyv na globálnu politiku.
Ale jednoduchosť vytvárania falošných obrázkov, zvuku a videa tiež poskytla pohodlnú výhovorku pre politikov, ktorí sa ocitli v zložitej situácii.
