V roku 2023 Meta AI navrhla školenie svojich veľkých jazykových modelov (LLM) na používateľských údajoch z Európy. Cieľom tohto návrhu je zlepšiť schopnosť LLM porozumieť dialektu, geografii a kultúrnym odkazom európskych používateľov.
Spoločnosť Meta chcela expandovať do Európy, aby optimalizovala presnosť svojich technologických systémov umelej inteligencie (AI) tým, že ich zaškolí na používanie používateľských údajov. Írska komisia pre ochranu údajov (DPC) však vzniesla veľké obavy o súkromie a prinútila spoločnosť Meta pozastaviť svoju expanziu.
Tento blog pojednáva o obavách DPC o ochrane súkromia a bezpečnosti údajov a o tom, ako na ne Meta reagovala.
Obavy o súkromie vznesené DCP
DPC je hlavným regulátorom spoločnosti Meta v Európskej únii (EÚ). Po sťažnostiach DPC vyšetruje postupy spoločnosti Meta v oblasti údajov. Hoci spoločnosť Meta požiadala, aby pozastavila svoje plány až po prešetrení, môže si od spoločnosti Meta počas vyšetrovania vyžiadať ďalšie zmeny alebo objasnenia.
Jeden z takýchto sťažovateľov, NOYB (to nie je vaša vec), organizácia aktivistov za ochranu súkromia, podal jedenásť sťažností. V nich tvrdili, že Meta porušila viaceré aspekty všeobecného nariadenia o ochrane údajov (GDPR). Jedným z uvedených dôvodov bolo, že Meta výslovne nepožiadala používateľov o povolenie na prístup k ich údajom, ale dala im iba možnosť odmietnuť.
V predchádzajúcom prípade boli pokusy spoločnosti Meta zastavené, keď plánovala vykonávať cielenú reklamu pre Európanov. Súdny dvor Európskej únie (SDEU) rozhodol, že Meta nemôže používať „oprávnený záujem“ ako odôvodnenie. Toto rozhodnutie negatívne ovplyvnilo spoločnosť Meta, pretože spoločnosť sa pri obhajobe svojich praktík spoliehala najmä na ustanovenia GDPR.
DPC predložili zoznam obáv vrátane:
- Absencia výslovného súhlasu: Ako už bolo spomenuté, zámery Meta neboli úplne konsenzuálne. Ich praktiky, odosielanie zmlúv o súhlase v upozorneniach a potenciálne vyzvanie na ich zmeškanie, sťažovali používateľom možnosť odmietnuť.
- Zhromažďovanie nepotrebných údajov: GDPR uvádza, že by sa mali zbierať iba potrebné údaje. DPC však tvrdil, že zhromažďovanie údajov spoločnosti Meta bolo príliš široké a nemalo špecifikácie.
- Problémy s transparentnosťou: Používatelia neboli presne informovaní o tom, ako budú ich údaje použité, čím sa vytvoril deficit dôvery. To bolo v rozpore so zásadami transparentnosti a zodpovednosti GDPR.
Títo prísne predpisy predstavovalo pre spoločnosť Meta značné prekážky, ktorá reagovala nesúhlasom s vyšetrovaním DPC a zachovala si svoju pozíciu dodržiavania pravidiel.
Odpoveď Meta
Meta bola z pauzy sklamaná a reagovala na obavy DPC. Tvrdili, že ich konanie bolo v súlade s nariadeniami, pričom citovali ustanovenie GDPR o „oprávnených záujmoch“ na odôvodnenie postupov spracovania údajov.
Okrem toho spoločnosť Meta tvrdila, že včas informovala používateľov prostredníctvom rôznych komunikačných kanálov a že jej postupy AI sa snažia zlepšiť používateľskú skúsenosť bez ohrozenia súkromia.
V reakcii na obavu používateľa o prihlásení sa Meta tvrdila, že tento prístup by mal obmedzený objem údajov, čím by sa projekt stal neúčinným. Preto bolo oznámenie umiestnené strategicky, aby sa zachoval objem údajov.
Kritici však zdôraznili, že spoliehanie sa na „legitímne záujmy“ je nedostatočné pre súlad s GDPR a nepriehľadné pre výslovný súhlas používateľa. Okrem toho považovali rozsah transparentnosti za nedostatočný, pričom mnohí používatelia zabudli, do akej miery sa ich údaje používajú.
Vyhlásenie vydané riaditeľom Global Engagement Director spoločnosti Meta zvýraznené záväzok spoločnosti k ochrane súkromia používateľov a súladu s predpismi. V ňom zdôraznil, že Meta sa bude zaoberať obavami DPC a bude pracovať na zlepšení opatrení na zabezpečenie dát. Okrem toho sa Meta zaviazala k informovanosti používateľov, súkromiu používateľov a vývoju zodpovedných a vysvetliteľných systémov AI.
Dôsledky pozastavenia AI Meta
V dôsledku pauzy musela Meta prehodnotiť stratégiu a podľa toho prerozdeliť svoj finančný a ľudský kapitál. To nepriaznivo ovplyvnilo jeho prevádzku, čo viedlo k zvýšenej rekalibrácii.
Okrem toho to viedlo k neistote v súvislosti s predpismi upravujúcimi postupy v oblasti údajov. Rozhodnutie DPC tiež pripraví pôdu pre éru, v ktorej môže technologický priemysel zažiť oveľa viac, dokonca prísnejších predpisov.
Spomalenie zažije aj metaverza Meta, ktorá je považovaná za „nástupcu mobilného internetu“. Keďže zhromažďovanie používateľských údajov naprieč rôznymi kultúrami je jedným zo základných faktorov vývoja metaverza, pauza narúša jeho vývoj.
Pauza vážne ovplyvnila vnímanie Mety verejnosťou. Meta zvažuje potenciálne stratu svojej konkurenčnej výhody, najmä v priestore LLM. V dôsledku prestávky budú zainteresované strany pochybovať o schopnosti spoločnosti spravovať používateľské údaje a dodržiavať predpisy o ochrane osobných údajov.
Širšie dôsledky
Rozhodnutie DPC ovplyvní legislatívu a nariadenia týkajúce sa ochrany osobných údajov a bezpečnosti. Okrem toho to podnieti ostatné spoločnosti v technologickom sektore, aby prijali preventívne opatrenia na zlepšenie ich zásady ochrany údajov. Technologickí giganti ako Meta musia nájsť rovnováhu medzi inováciami a súkromím a zabezpečiť, aby to nebolo ohrozené.
Táto pauza navyše predstavuje príležitosť pre začínajúce technologické spoločnosti, aby využili neúspech spoločnosti Meta. Tým, že tieto spoločnosti prevezmú vedúcu úlohu a neurobia rovnaké chyby ako Meta, môžu podporiť rast.
Ak chcete zostať informovaní o novinkách a vývoji AI na celom svete, navštívte Unite.ai.
