Extrémisti v celých USA vyzbrojili nástroje umelej inteligencie, aby im pomohli efektívnejšie šíriť nenávistné prejavy, verbovať nových členov a radikalizovať online podporovateľov bezprecedentnou rýchlosťou a rozsahom. nový prehľad z Middle East Media Research Institute (MEMRI), americkej neziskovej organizácie monitorujúcej tlač.
V správe sa zistilo, že obsah generovaný umelou inteligenciou je teraz základom produkcie extrémistov: Vyvíjajú svoje vlastné modely umelej inteligencie preniknuté extrémistami a už experimentujú s novými spôsobmi, ako využiť technológiu, vrátane výroby plánov pre 3D zbrane a receptov na výrobu. bomby.
Výskumníci z Domestic Terrorism Threat Monitor, skupiny v rámci inštitútu, ktorá špecificky sleduje extrémistov so sídlom v USA, veľmi podrobne vysvetľujú rozsah a rozsah používania AI medzi domácimi aktérmi, vrátane neonacistov, prívržencov bielej rasy a anti- vládnych extrémistov.
„Na začiatku bolo okolo tejto technológie trochu váhania a medzi (extrémistami) online sme videli veľa diskusií a diskusií o tom, či by sa táto technológia dala použiť na ich účely,“ Simon Purdue, riaditeľ Monitoringu hrozieb domáceho terorizmu v MEMRI. povedal novinárom na brífingu začiatkom tohto týždňa. „V posledných rokoch sme sa od občasného obsahu umelej inteligencie dostali k tomu, že umelá inteligencia predstavuje významnú časť nenávistného propagandistického obsahu online, najmä pokiaľ ide o video a vizuálnu propagandu. Takže ako sa táto technológia bude vyvíjať, uvidíme, že ju extrémisti budú viac využívať.“
Ako sa blížia voľby v USA, Purdueho tím sleduje niekoľko znepokojujúcich vývojov v extrémistickom využívaní technológie AI, vrátane širokého prijatia video nástrojov AI.
„Najväčším trendom, ktorý sme zaznamenali (v roku 2024), je vzostup videa,“ hovorí Purdue. „Minulý rok bol videoobsah generovaný AI veľmi jednoduchý. Tento rok s vydaním Sora od OpenAIa iných platforiem na generovanie alebo manipuláciu s videom, videli sme extrémistov, ktorí ich používali ako prostriedok na vytváranie videoobsahu. Videli sme v tejto súvislosti veľa vzrušenia, veľa jednotlivcov hovorí o tom, ako by im to mohlo umožniť produkovať celovečerné filmy.“
Extrémisti už túto technológiu použili na vytvorenie videí s prezidentom Joeom Bidenom, ktorý počas prejavu používa rasové nadávky a herečka Emma Watson číta nahlas. Môj boj oblečený v nacistickej uniforme.
Minulý rok, Informoval o tom WIRED o tom, ako extrémisti napojení na Hamas a Hizballáh využívali generatívne nástroje AI na podkopanie databázy na zdieľanie hash, ktorá umožňuje platformám Big Tech rýchlo koordinovaným spôsobom odstraňovať teroristický obsah, a v súčasnosti neexistuje žiadne dostupné riešenie tohto problému
Adam Hadley, výkonný riaditeľ Tech Against Terrorism, hovorí, že on a jeho kolegovia už archivovali desiatky tisíc obrázkov vytvorených umelou inteligenciou, ktoré vytvorili krajne pravicoví extrémisti.
„Táto technológia sa využíva dvoma hlavnými spôsobmi,“ hovorí Hadley pre WIRED. „Po prvé, generatívna AI sa používa na vytváranie a správu robotov, ktorí prevádzkujú falošné účty, a po druhé, rovnako ako generatívna AI prináša revolúciu v produktivite, používa sa aj na generovanie textu, obrázkov a videí prostredníctvom nástrojov s otvoreným zdrojovým kódom. Obe tieto použitia ilustrujú značné riziko, že teroristický a násilný obsah môže byť produkovaný a šírený vo veľkom rozsahu.
