Výskum publikovaný Anglia Ruskin University v Spojenom kráľovstve odhalil rastúci dopyt po CSAM generovanom AI na tmavých webových fórach.
Výskumníci Dr. Deanna Davy a profesor. Sam Lundrigan analyzoval konverzácie z týchto fór za posledný rok a objavil znepokojujúci vzorec používateľov, ktorí sa aktívne učia a zdieľajú techniky na vytváranie takéhoto materiálu pomocou nástrojov AI.
„Zistili sme, že mnohí páchatelia získavajú obrázky detí, aby nimi manipulovali, a že sa pravidelne diskutuje o túžbe po „tvrdých“ snímkach vystupňujúcich z „softcore“,“ vysvetľuje Dr. Davy. v blogovom príspevku.
To vyvracia mylnú predstavu, že obrázky generované AI sú „bez obetí“, pretože ako zdrojový materiál pre tieto manipulácie AI sa často používajú skutočné obrázky detí.
Štúdia tiež zistila, že členovia fóra označovali tých, ktorí vytvárajú CSAM generované AI, ako „umelcov“, pričom niektorí vyjadrili nádej, že technológia sa vyvinie, aby tento proces uľahčila.
Tento spôsob myslenia poukazuje na normalizáciu takéhoto kriminálneho správania v rámci týchto online komunít.
Prof. Lundrigan dodal: „Konverzácie, ktoré sme analyzovali, ukazujú, že vďaka množstvu rád a usmernení o tom, ako používať AI týmto spôsobom, tento typ materiálu o zneužívaní detí narastá a zvyšuje sa počet trestných činov. To prispieva k rastúcej globálnej hrozbe online zneužívania detí vo všetkých formách a musíme to vnímať ako kritickú oblasť, ktorej sa treba venovať v rámci našej reakcie na tento typ zločinu.“
Muž bol zatknutý za nezákonnú výrobu obrázkov AI
V a súvisiaci prípad Oznámila to BBC v ten istý deň, polícia Veľkého Manchestru (GMP) nedávno oznámila to, čo opisuje ako „prelomový prípad“ zahŕňajúci použitie AI na vytváranie neslušných obrázkov detí.
Hugh Nelson, 27-ročný muž z Boltonu, sa priznal k 11 trestným činom, vrátane šírenia a vytvárania neslušných obrázkov, a má byť odsúdený 25. septembra.
Detektív Constable Carly Baines z GMP opísal prípad ako „obzvlášť jedinečný a hlboko desivý“, pričom poznamenal, že Nelson premenil „normálne každodenné fotografie“ skutočných detí na neslušné snímky pomocou technológie AI. “
Tento prípad je prvý v našej oblasti a je prelomovým prípadom na národnej úrovni,“ dodala.
Prípad proti Nelsonovi poukázal na výzvy, ktorým čelia orgány činné v trestnom konaní pri riešení tejto novej formy digitálneho zločinu.
Spoločnosť GMP to opísala ako „skutočný test legislatívy“, keďže súčasné právo Spojeného kráľovstva konkrétne nerieši používanie AI týmto spôsobom. DC Baines vyjadril nádej, že tento prípad „zohrá úlohu pri ovplyvňovaní toho, ako budú vyzerať budúce právne predpisy“.
Tento vývoj prichádza v dôsledku niekoľkých ďalších významných prípadov týkajúcich sa CSAM generovaného AI.
V apríli bol muž z Floridy obvinený z údajného používania AI na generovanie explicitných obrázkov detského suseda. Minulý rok v Severnej Karolíne detský psychiater bol odsúdený na 40 rokov väzenia za to, že od svojich detských pacientov vytvoril nevhodný materiál vytvorený AI.
Nedávno ministerstvo spravodlivosti USA oznámilo zatknutie 42-ročný Steven Anderegg vo Wisconsine za údajné vytvorenie viac ako 13 000 urážlivých obrázkov detí vytvorených AI.
Na zložitosti problematiky pridáva a Správa Stanfordskej univerzity odhalili, že stovky skutočných obrázkov CSAM boli zahrnuté do databázy LAION-5B používanej na trénovanie populárnych nástrojov AI.
Akonáhle bola databáza vytvorená ako open source, odborníci tvrdia, že vytváranie CSAM generovaných AI explodovalo.
To tiež vyvolalo vážne otázky o zodpovednosti vývojárov AI pri preverovaní ich tréningových údajov.
Vzostup CSAM generovaného AI tiež predstavuje nové výzvy pre moderovanie obsahu na platformách sociálnych médií a iných online priestoroch.
Tradičné metódy detekcie môžu mať problémy s identifikáciou snímok generovaných AI, čo potenciálne umožňuje, aby sa takýto obsah ľahšie šíril.
Odborníci požadujú mnohostranný prístup k riešeniu tejto rastúcej hrozby. To zahŕňa:
- Aktualizácia legislatívy, aby sa konkrétne zaoberala umelou inteligenciou generovanou CSAM.
- Zlepšenie spolupráce medzi technologickými spoločnosťami, orgánmi činnými v trestnom konaní a organizáciami na ochranu detí.
- Vývoj sofistikovanejších nástrojov na detekciu AI na identifikáciu a odstránenie CSAM generovaných AI.
- Zvyšovanie povedomia verejnosti o škodách spôsobených všetkými formami sexuálneho zneužívania detí vrátane obsahu generovaného umelou inteligenciou.
- Poskytovanie lepšej podpory a zdrojov obetiam sexuálneho zneužívania detí vrátane tých, ktorých sa dotýkala umelá inteligencia manipulácie s ich obrázkami.
- Implementácia prísnejších procesov preverovania pre súbory údajov školenia AI, aby sa zabránilo zahrnutiu CSAM.
Tieto opatrenia sa zatiaľ ukázali ako neúčinné.
Ak chcete vidieť materiálne zlepšenie, bude potrebné vyriešiť spôsob, akým môžu zneužívajúce obrázky generované AI lietať pod technickým radarom a zároveň zaberajú šedú zónu v legislatíve, ako aj spôsob, akým sa s nimi dá manipulovať.
