Pred niekoľkými týždňami sa v službe Google objavil výraz „deepfake nudes jennifer Aniston“. aspoň sedem výsledkov ktoré údajne mali explicitné obrázky herečky vygenerované AI. Teraz zmizli.
Produktová manažérka Google Emma Higham hovorí, že nové úpravy hodnotenia výsledkov spoločnosti, ktoré boli zavedené tento rok, už znížili vystavenie falošným explicitným obrázkom o viac ako 70 percent pri vyhľadávaniach, ktoré vyhľadávajú tento obsah o konkrétnej osobe. Tam, kde sa mohli objaviť problematické výsledky, sa algoritmy Google zameriavajú na propagáciu spravodajských článkov a iného neexplicitného obsahu. Vyhľadávanie Aniston teraz vracia články ako „Ako Deepfake AI Porn Taylor Swift predstavuje hrozbu“ a ďalšie podobné odkazy varovanie generálneho prokurátora Ohia o „falošných podvodoch s propagáciou celebrít“, ktoré sa zameriavajú na spotrebiteľov.
„Vďaka týmto zmenám si ľudia môžu prečítať o vplyve deepfakes na spoločnosť namiesto toho, aby videli stránky so skutočnými falošnými obrázkami bez súhlasu,“ napísal Higham v stredu na blogu spoločnosti.
Nasleduje zmena poradia WIRED vyšetrovanie tento mesiac odhalil, že vedenie spoločnosti Google v posledných rokoch zamietlo množstvo nápadov navrhnutých zamestnancami a externými odborníkmi na boj proti narastajúcemu problému intímnych zobrazení ľudí šíriacich sa online bez ich povolenia.
Zatiaľ čo Google zjednodušil žiadosť o odstránenie nechceného explicitného obsahu, obete a ich obhajcovia vyzvali na proaktívnejšie kroky. Spoločnosť sa však snažila vyhnúť tomu, aby sa stala príliš regulátorom internetu alebo poškodila prístup k legitímnej pornografii. V tom čase hovorca spoločnosti Google v reakcii na to uviedol, že viaceré tímy usilovne pracujú na posilnení záruk proti tomu, čo nazýva nekonsenzuálne explicitné snímky (NCEI).
Rozširujúca sa dostupnosť generátorov obrázkov AI, vrátane niektorých s niekoľkými obmedzeniami ich používania, viedla podľa obhajcov obetí k nárastu NCEI. Tieto nástroje uľahčili takmer každému vytvárať falošné explicitné obrázky akéhokoľvek jednotlivca, či už je to spolužiak zo strednej školy alebo mega-celebrita.
V marci, analýza WIRED zistilo, že spoločnosť Google dostala viac ako 13 000 žiadostí o odstránenie odkazov na tucet najpopulárnejších webových stránok s explicitnými deepfakes. Google odstránil výsledky v približne 82 percentách prípadov.
Ako súčasť nového zásahu Google Higham hovorí, že spoločnosť začne uplatňovať tri z opatrení na zníženie objaviteľnosti skutočných, ale nechcených explicitných obrázkov na tie, ktoré sú syntetické a nechcené. Keď spoločnosť Google vyhovie žiadosti o zastavenie šírenia pre sexualizovaný deepfake, pokúsi sa udržať duplikáty mimo výsledkov. Bude tiež filtrovať explicitné obrázky z výsledkov v dopytoch podobných tým, ktoré sú uvedené v žiadosti o zastavenie šírenia. A nakoniec, webové stránky, na ktoré sa vzťahuje „veľký objem“ úspešných žiadostí o zastavenie šírenia, budú čeliť degradácii vo výsledkoch vyhľadávania.
„Tieto snahy sú navrhnuté tak, aby ľuďom poskytli väčší pokoj, najmä ak sa obávajú podobného obsahu, ktorý sa o nich v budúcnosti objaví,“ napísal Higham.
Google uznal, že opatrenia nefungujú dokonale a bývalí zamestnanci a obhajcovia obetí uviedli, že by mohli zájsť oveľa ďalej. Vyhľadávač výrazne varuje ľudí v USA, ktorí hľadajú nahé obrázky detí, že takýto obsah je nezákonný. Účinnosť varovania je nejasná, ale je to potenciálny odstrašujúci prostriedok podporovaný zástancami. Napriek zákonom zakazujúcim zdieľanie NCEI sa podobné upozornenia nezobrazujú pri vyhľadávaniach zameraných na sexuálne falzifikáty dospelých. Hovorca Google potvrdil, že sa to nezmení.
