Pamätajte si „falošné správy“? Tento výraz sa v tomto bode používa (a zneužíva) tak intenzívne, že môže byť ťažké zapamätať si, čo pôvodne označoval. Tento koncept má však veľmi špecifický pôvod. Pred desiatimi rokmi začali novinári biť na poplach pred prílevom údajných „spravodajských“ stránok, ktoré vrhajú falošné, často bizarné tvrdenia o politikoch a celebritách. Mnohí mohli okamžite povedať, že tieto stránky sú nelegitímne.
Mnohým ďalším však chýbali kritické nástroje, aby to rozpoznali. Výsledkom bolo prvé prebudenie epistemologickej krízy, ktorá teraz zachvátila internet – krízy, ktorá dosiahla svoj najdesivejší prejav so vzostupom deepfakes.
Okrem toho, že dokonca aj pri prijateľnom deepfake, sa webové stránky s „falošnými správami“ zdajú byť krotké. Ešte horšie je, že aj tým, ktorí si myslia, že majú relatívne vysokú úroveň mediálnej gramotnosti, hrozí, že budú oklamaní. Syntetické médiá vytvorené s použitím algoritmy hlbokého učenia a generatívna AI majú potenciál spôsobiť zmätok v základoch našej spoločnosti. Podľa spoločnosti Deloitte by len tento rok mohli stáť podniky viac ako 250 miliónov dolárov prostredníctvom falošných transakcií a iných druhov podvodov. Svetové ekonomické fórum medzitým označilo deepfakes za „jedno z najznepokojujúcejších spôsobov využitia AI“, pričom poukázalo na potenciál „agendy riadených chatbotov a avatarov AI v reálnom čase“ na uľahčenie nových typov ultra personalizovaných (a ultra- efektívna) manipulácia.
Odpoveď WEF na tento problém je rozumná: obhajujú „myslenie s nulovou dôverou“, ktorý vnáša do každého stretnutia s digitálnymi médiami určitú mieru skepticizmu. Ak chceme rozlišovať medzi autentickým a syntetickým pohybom vpred – najmä v pohlcujúcich online prostrediach – takýto spôsob myslenia bude čoraz dôležitejší.
Dva prístupy k boju s hlbokou falošnou krízou
Boj proti nekontrolovateľnému dezinformácie chovaný syntetickými médiami si bude podľa môjho názoru vyžadovať dva odlišné prístupy.
Prvý zahŕňa overenie: poskytuje každodenným používateľom internetu jednoduchý spôsob, ako zistiť, či je video, na ktoré sa pozerajú, skutočne autentické. Takéto nástroje sú už rozšírené v odvetviach, ako je poisťovníctvo, vzhľadom na potenciál zlých aktérov podávať nepravdivé nároky podporované upravenými videami, fotografiami a dokumentmi. Demokratizácia týchto nástrojov – zabezpečenie ich bezplatného a jednoduchého prístupu – je rozhodujúcim prvým krokom v tomto boji a už teraz vidíme na tomto fronte výrazný pohyb.
Druhý krok má menej technologický charakter, a preto predstavuje väčšiu výzvu: menovite zvyšovanie povedomia a podpora zručností kritického myslenia. Po pôvodnom škandále „falošných správ“ v roku 2015 neziskové organizácie v celej krajine vypracovali programy mediálnej gramotnosti a pracovali na šírení osvedčených postupov, pričom sa často spájali s miestnymi občianskymi inštitúciami, aby umožnili bežným občanom rozpoznať nepravdy. Samozrejme, „falošné správy“ zo starej školy sú popri najpokročilejších deepfake detskou hrou, a preto musíme zdvojnásobiť svoje úsilie na tomto fronte a investovať do vzdelávania na každej úrovni.
Pokročilé deepfakes vyžadujú pokročilé kritické myslenie
Samozrejme, že tieto vzdelávacie iniciatívy bolo o niečo jednoduchšie uskutočniť, keď boli príslušné dezinformácie založené na texte. V prípade stránok s falošnými správami boli náznaky podvodu často zrejmé: neštandardný webový dizajn, nekontrolovateľné preklepy, bizarné zdroje. Pri deepfakes sú znaky oveľa jemnejšie – a často si ich na prvý pohľad nevšimnete.
Používatelia internetu v každom veku sa preto musia efektívne preškoliť, aby mohli kontrolovať digitálne video a hľadať indikátory hlbokého falošného obrazu. To znamená venovať veľkú pozornosť viacerým faktorom. V prípade videa to môže znamenať neskutočne rozmazané oblasti a tiene; neprirodzene vyzerajúce pohyby a výrazy tváre; príliš dokonalé tóny pleti; nejednotné vzory v oblečení a pohyboch; chyby synchronizácie pier; ďalej a ďalej. V prípade zvuku by to mohlo znamenať hlasy, ktoré znejú príliš nedotknuto (alebo sú zjavne digitalizované), chýbajúce emocionálne zafarbenie človeka, zvláštne rečové vzorce alebo nezvyčajné frázovanie.
Z krátkodobého hľadiska môže byť tento druh autotréningu veľmi užitočný. Tým, že sa sami seba znova a znova pýtame: Vyzerá to podozrivo?, zdokonaľujeme nielen našu schopnosť odhaliť hlboké falzifikáty, ale aj naše schopnosti kritického myslenia vo všeobecnosti. To znamená, že sa rýchlo blížime k bodu, v ktorom ani najlepšie trénované oko nebude schopné oddeliť fakty od fikcie bez vonkajšej pomoci. Vizuálne informácie – nezrovnalosti uvedené vyššie – budú technologicky vyhladené, takže úplne vyrobené klipy budú na nerozoznanie od pravého výrobku. Čo nám zostane, je naša situačná intuícia – naša schopnosť klásť si otázky typu Naozaj by to povedal ten a ten politik alebo celebrita? Je obsah tohto videa hodnoverný?
Práve v tomto kontexte sú platformy na detekciu AI také nevyhnutné. S voľným okom, ktorý sa stal irelevantným pre účely detekcie hlbokých falošných správ, môžu tieto platformy slúžiť ako koneční rozhodcovia reality – zábradlia proti epistemologickej priepasti. Keď video vyzerá ako skutočné, ale zdá sa byť podozrivé – čo sa v nasledujúcich mesiacoch a rokoch bude objavovať čoraz častejšie – tieto platformy nás môžu udržať pri zemi vo faktoch tým, že potvrdia základnú pravdivosť čohokoľvek, na čo sa pozeráme. Nakoniec, vďaka tejto výkonnej technológii nás môže zachrániť iba samotná AI. Musíme bojovať s ohňom ohňom – čo znamená použitie dobrej AI na odstránenie najhorších zneužití technológie.
Naozaj, získanie týchto zručností v žiadnom prípade nemusí byť cynický alebo negatívny proces. Pestovanie myslenia s nulovou dôverou môže byť namiesto toho považované za príležitosť na zostrenie vášho kritického myslenia, intuície a uvedomenia. Opakovaným kladením určitých kľúčových otázok – Dáva to zmysel? Je to podozrivé? Zvýšite svoju schopnosť čeliť nielen falošným médiám, ale aj celému svetu. Ak má éra deepfake niečo iné, je to tak. Sme nútení myslieť sami za seba a stať sa empirickejšími v našom každodennom živote – a to môže byť len dobré.
