Na dusno Aprílové popoludnie v Ajmeri v indickom štáte Rádžasthán sa miestny politik Shakti Singh Rathore posadil pred zelené plátno, aby natočil krátke video. Vyzeral nervózne. Bolo to prvýkrát, čo bol klonovaný.
Rathore mal na sebe sviežu bielu košeľu a slávnostnú šafranovú šatku s lotosovým kvetom – logom BJP, vládnucej strany krajiny –, stlačil dlane k sebe a pozdravil svoje publikum v hindčine. „Namashkar,“ začal. „Všetkým mojim bratom –“
Skôr ako mohol pokračovať, režisér natáčania vošiel do záberu. Divyendra Singh Jadoun, 31-ročný s holou hlavou a hustou čiernou bradou, povedal Rathore, že sa na kamere príliš pohybuje. Jadoun sa snažil zachytiť dostatok audio a video dát na vytvorenie AI deepfake z Rathore, ktorý by presvedčil 300 000 potenciálnych voličov okolo Ajmera, že s ním mali osobný rozhovor – ale nadmerné pohyby by porušili algoritmus. Jadoun povedal svojmu subjektu, aby sa pozrel priamo do kamery a pohyboval iba perami. „Začni znova,“ povedal.
Práve teraz ide najväčšia demokracia sveta k volebným urnám. Takmer miliarda Indov má právo voliť v rámci všeobecných volieb v krajine a deepfakes by mohli zohrať rozhodujúcu a potenciálne rozdeľujúcu úlohu. Indické politické strany využili AI na to, aby zlacneli realitu zvukové falzifikáty, propagandistické obrázkya AI paródie. No zatiaľ čo sa globálny diskurz o deepfakes často zameriava na dezinformácie, dezinformácie a iné spoločenské škody, mnohí indickí politici používajú túto technológiu na iný účel: na dosah voličov.
Naprieč celým ideologickým spektrom sa spoliehajú na AI, ktorá im pomáha orientovať sa v 22 úradných jazykoch krajiny a tisíckach regionálnych dialektov a doručovať personalizované správy v odľahlejších komunitách. Zatiaľ čo USA sa to nedávno podarilo nezákonné používať hlasy generované AI na nevyžiadané hovory, v Indii sa sankcionované deepfakes stali obchodnou príležitosťou za 60 miliónov dolárov. Počas dvoch mesiacov pred začiatkom volieb v apríli sa uskutočnilo viac ako 50 miliónov hlasových klonov generovaných AI – a ďalšie milióny sa uskutočnia počas hlasovania, uviedol pre WIRED jeden z najväčších prevádzkovateľov podnikových správ v krajine.
Jadoun je autorom plagátu tohto rozvíjajúceho sa priemyslu. Jeho firma Polymath Synthetic Media Solutions je jedným z mnohých poskytovateľov hlboko falošných služieb z celej Indie, ktorí sa objavili, aby uspokojili politickú triedu. V tejto volebnej sezóne Jadoun zatiaľ dodal päť AI kampaní, za ktoré jeho spoločnosť zaplatila celkovo 55 000 dolárov. (Účtuje podstatne menej ako veľkí politickí konzultanti – 125 000 rupií (1 500 USD) za vytvorenie digitálneho avatara a 60 000 rupií (720 USD) za zvukový klon.) Urobil deepfakes pre Prema Singha Tamanga, hlavného ministra himalájskeho štátu Sikkim a vzkriesili YS Rajasekhara Reddyho, ikonického politika, ktorý zomrel pri havárii vrtuľníka v roku 2009, aby podporil svojho syna YS Jagana Mohana Reddyho, v súčasnosti hlavného ministra štátu Ándhrapradéš. Jadoun tiež vytvoril propagandistické piesne vygenerované AI pre niekoľkých politikov vrátane Tamanga, miestneho kandidáta do parlamentu a hlavného ministra západného štátu Maháráštra. „On je naša pýcha,“ znela jedna pieseň v hindčine o miestnom politikovi v Ajmeri s mužskými a ženskými hlasmi nastavenými na pikantnú melódiu. „Vždy bol nestranný.“
Jadoun tiež vytvára piesne z kampane generované AI, vrátane tejto pre miestneho politika Rama Chandra Choudharyho v Ajmeri. V preklade do angličtiny text znel: „Pre Ajmera priniesol nový dar / Volá sa Ram Chandra / Každému pomáha / Bol prezidentom Ajmer Dairy / Vždy bol nestranný / V mene má Ram / On je našou hrdosťou / Je vojakom Kongresu / Zdieľa verejné trápenie / Syn Ajmera / Strážca rozvoja / Syn Ajmera / Skutočná forma rozvoja / Boj za práva všetkých / Ram Chandra hral na klarinete.“ Zvuk: Divyendra Singh Jadoun
Hoci Rathore tento rok nevolí, je jedným z viac ako 18 miliónov dobrovoľníkov BJP, ktorých úlohou je zabezpečiť, aby si vláda premiéra Narendru Modiho udržala moc. V minulosti by to znamenalo stráviť mesiace krížom krážom cez Rádžasthán, púštny štát o rozlohe približne ako Taliansko, aby sme sa individuálne porozprávali s voličmi a pripomenuli im, aký úžitok mali z rôznych sociálnych programov BJP – dôchodky, voľné nádrže na plyn na varenie, hotovosť. platby pre tehotné ženy. Ale s pomocou Jadounových deepfakes sa Rathoreho práca stala oveľa jednoduchšou.
Strávi tu 15 minút rozhovorom do kamery o niektorých kľúčových volebných otázkach, zatiaľ čo ho Jadoun nabáda k otázkam. Ale je úplne jedno, čo hovorí. Všetko, čo Jadoun potrebuje, je Rathoreov hlas. Akonáhle to bude hotové, Jadoun použije dáta na generovanie videí a hovorov, ktoré budú smerovať priamo do telefónov voličov. Namiesto zaklopania na dvere alebo rýchleho podania ruky na mítingu uvidia alebo budú počuť, ako ich Rathore osloví menom a bude hovoriť s desivou konkrétnosťou o problémoch, na ktorých im najviac záleží, a požiada ich, aby hlasovali za BJP. Ak kladú otázky, AI by mala odpovedať – jasným a pokojným hlasom, ktorý je takmer lepší ako rýchly ťah skutočného Rathore. Menej technicky zdatní voliči si možno ani neuvedomujú, že sa rozprávali so strojom. Dokonca aj Rathore priznáva, že o AI toho veľa nevie. Ale rozumie psychológii. „Takéto hovory môžu pomôcť s výkyvmi voličov.“
Kefovanie ramien s politici nie sú pre Jadouna novinkou. Kedysi ním bol. V roku 2015 kandidoval vo voľbách v Ajmeri za okresného prezidenta Národnej študentskej únie Indie (NSUI), mládežníckeho krídla Indického národného kongresu, kedysi impozantnej národnej strany, ktorá je teraz hlavnou opozíciou voči Modiho BJP.
