Google hovorí že plánuje zaviesť zmeny vo Vyhľadávaní Google, aby bolo jasnejšie, ktoré obrázky vo výsledkoch boli vygenerované AI – alebo upravené nástrojmi AI.
V najbližších mesiacoch začne Google označovať obrázky vytvorené a upravené umelou inteligenciou v okne „O tomto obrázku“ vo Vyhľadávaní, Google Lens a Circle na vyhľadávanie. Podobné zverejnenia sa môžu v budúcnosti dostať aj do iných služieb Google, ako je YouTube. Google hovorí, že neskôr v tomto roku bude mať čo zdieľať.
Rozhodujúce je, iba obrázky obsahujúce „metadáta C2PA“ budú vo Vyhľadávaní označené ako AI manipulované. C2PA, skratka pre Coalition for Content Provenance and Authenticity, je skupina vyvíjajúca technické štandardy na sledovanie histórie snímky, vrátane vybavenia a softvéru použitého na jej zachytenie a/alebo vytvorenie.
Spoločnosti vrátane Google, Amazon, Microsoft, OpenAI a Adobe podporujú C2PA. Normy koalície však neboli všeobecne prijaté. Ako The Verge poznamenal v nedávnom diele C2PA čelí mnohým výzvam v oblasti prijatia a interoperability; iba niekoľko generatívnych nástrojov AI a fotoaparátov od spoločností Leica a Sony podporuje špecifikácie skupiny.
Navyše, metadáta C2PA – ako akékoľvek metadáta – môžu byť odstránené alebo vyčistené, alebo sa môžu poškodiť do tej miery, že sú nečitateľné. A obrázky z niektorých populárnejších generatívnych nástrojov AI, ako napr Fluxčo je xAI Grok chatbot používa na generovanie obrazu, nie mať k nim pripojené metadáta C2PA čiastočne preto, že ich tvorcovia nesúhlasili s podporou štandardu.
Niektoré opatrenia sú lepšie ako žiadne, samozrejme, keďže deepfakes sa naďalej rýchlo šíria. Podľa jedného odhadnúťdošlo od roku 2023 do roku 2024 k 245 % nárastu podvodov zahŕňajúcich obsah generovaný AI. Deloitte projektov že straty súvisiace s deepfake stúpnu z 12,3 miliardy dolárov v roku 2023 na 40 miliárd dolárov do roku 2027.
Prieskumy ukázať že väčšina ľudí sa obáva oklamania hlbokým falošným správaním a potenciálu AI podporovať šírenie propagandy.
