Britský dozorný orgán pre ochranu údajov uzavrel takmer ročné vyšetrovanie chatbota My AI spoločnosti Snap s umelou inteligenciou a vyjadril spokojnosť, že spoločnosť sociálnych médií riešila obavy z rizík pre súkromie detí. Úrad komisára pre informácie (ICO) zároveň vydal všeobecné varovanie pre priemysel, aby pred uvedením generatívnych nástrojov umelej inteligencie na trh bol proaktívny pri posudzovaní rizík pre ľudské práva.
GenAI označuje príchuť AI, ktorá často stojí v popredí vytvárania obsahu. V prípade Snapu táto technológia poháňa chatbota, ktorý dokáže reagovať na používateľov ľudským spôsobom, napríklad posielaním textových správ a snímok, čo umožňuje platforme poskytovať automatizovanú interakciu.
Chatbot Snap AI využíva technológiu ChatGPT od OpenAI, ale spoločnosť sociálnych médií tvrdí, že na aplikáciu uplatňuje rôzne bezpečnostné opatrenia, vrátane programovania usmernení a zohľadnenia veku v predvolenom nastavení, ktoré majú zabrániť deťom vidieť obsah nevhodný pre vek. Pečie aj v rodičovskej kontrole.
„Naše vyšetrovanie „Moja umelá inteligencia“ by malo pôsobiť ako varovný signál pre priemysel,“ napísal Stephen Almond, výkonný riaditeľ ICO pre regulačné riziká. vyhlásenie utorok. „Organizácie, ktoré vyvíjajú alebo používajú generatívnu AI, musia od začiatku zvážiť ochranu údajov vrátane dôsledného hodnotenia a zmierňovania rizík pre ľudské práva a slobody pred uvedením produktov na trh.“
„Budeme pokračovať v monitorovaní hodnotenia rizík organizácií a využívať celú škálu našich právomocí v oblasti presadzovania práva – vrátane pokút – na ochranu verejnosti pred poškodením,“ dodal.
Späť v októbriICO poslala spoločnosti Snap predbežné oznámenie o presadzovaní práva týkajúceho sa toho, čo vtedy opísalo ako „potenciálne zlyhanie riadneho vyhodnotenia rizík ochrany súkromia, ktoré predstavuje jeho generatívny chatbot s umelou inteligenciou „Moja AI“.
Toto predbežné oznámenie z jesene sa javí ako jediné verejné pokarhanie pre Snap. Teoreticky môže režim ukladať pokuty až do výšky 4 % ročného obratu spoločnosti v prípade potvrdeného porušenia údajov.
Pri oznámení záveru svojho utorkového vyšetrovania ICO navrhlo, aby spoločnosť po svojom zásahu podnikla „významné kroky na vykonanie dôkladnejšieho preskúmania rizík, ktoré predstavuje „Moja AI“. ICO tiež uviedlo, že spoločnosť Snap dokázala preukázať, že zaviedla „primerané zmiernenia“ v reakcii na vznesené obavy – bez toho, aby špecifikovala, aké dodatočné opatrenia (ak nejaké) spoločnosť prijala (spýtali sme sa).
Bližšie podrobnosti môžu byť zverejnené, keď bude v najbližších týždňoch zverejnené konečné rozhodnutie regulátora.
„ICO je spokojné s tým, že spoločnosť Snap teraz vykonala posúdenie rizika týkajúceho sa „Mojej AI“, ktoré je v súlade so zákonom o ochrane údajov. ICO bude pokračovať v monitorovaní zavádzania „Mojej AI“ a ako sa riešia vznikajúce riziká,“ dodal regulátor.
Po odpovedi na záver vyšetrovania nám hovorca spoločnosti Snap poslal vyhlásenie, v ktorom napísal: „Sme radi, že ICO akceptovalo, že sme zaviedli vhodné opatrenia na ochranu našej komunity pri používaní My AI. Aj keď sme starostlivo posúdili riziká, ktoré predstavuje moja AI, uznávame, že naše hodnotenie mohlo byť jasnejšie zdokumentované a urobili sme zmeny v našich globálnych postupoch, aby odrážali konštruktívnu spätnú väzbu ICO. Vítame záver ICO, že naše hodnotenie rizík je plne v súlade so zákonmi Spojeného kráľovstva o ochrane údajov a tešíme sa na pokračovanie nášho konštruktívneho partnerstva.
Snap odmietol špecifikovať akékoľvek zmiernenia, ktoré implementoval v reakcii na zásah ICO.
Regulačný orgán Spojeného kráľovstva uviedol, že generatívna AI zostáva prioritou presadzovania. Poukazuje na to vývojárov vedenie je vytvorený na základe pravidiel AI a ochrany údajov. Má tiež a konzultácia otvorená so žiadosťou o informácie o tom, ako by sa mal zákon o ochrane súkromia uplatňovať na vývoj a používanie generatívnych modelov umelej inteligencie.
Zatiaľ čo Spojené kráľovstvo ešte nezaviedlo formálnu legislatívu pre AI, pretože to urobila vláda rozhodli sa spoliehať na regulačné orgány, ako je ICO, ktoré určujú, ako sa uplatňujú rôzne existujúce pravidlázákonodarcovia Európskej únie majú práve schválila rámec pre AI založený na riziku — to má platiť v nasledujúcich mesiacoch a rokoch — čo zahŕňa aj povinnosti transparentnosti pre AI chatboty.
