Prezident Signal Meredith Whittaker v piatok varoval Agentická AI Mohlo by prísť s rizikom pre súkromie používateľa.
Na pódiu na konferencii SXSW v Austine v Texase, obhajcom zabezpečenej komunikácie, označoval používanie agentov AI ako „umiestňovanie vášho mozgu do nádoby“ a varoval, že táto nová paradigma výpočtovej techniky – kde AI vykonáva úlohy v mene používateľov – má „hlboký problém“ s pripevňovaním a bezpečnosťou.
Whittaker vysvetlil, ako sa agenti AI uvádzajú na trh ako spôsob, ako pridať hodnotu pre váš život, manipuláciou s rôznymi online úlohami pre používateľa. Napríklad agenti AI by mohli prijať úlohy, ako je hľadanie koncertov, rezervácia lístkov, plánovanie udalosti vo vašom kalendári a posielanie správ svojim priateľom, ktoré sú rezervované.
„Takže môžeme len dať náš mozog do pohára, pretože to robí to a nemusíme sa ho dotýkať, však?“ Whittaker uvažoval.
Potom vysvetlila typ prístupu, ktorý by agent AI musel vykonávať tieto úlohy, vrátane prístupu k nášmu webovému prehliadači a spôsobu, ako ho riadiť, ako aj prístup k informáciám o našich kreditných kartách, aby zaplatil za lístky, náš kalendár a aplikáciu na zasielanie správ, aby ste posielali text svojim priateľom.
„Muselo by to byť schopné riadiť to (spracovanie) v celom našom systéme s niečím, čo vyzerá ako koreňové povolenie, prístup k každej jednej z týchto databáz – pravdepodobne v jasnom, pretože nie je model, ktorý by urobil šifrovaný,“ varoval Whittaker.
„A ak hovoríme o dostatočne silnom … model AI, ktorý to poháňa, neexistuje spôsob, ako sa to deje na zariadení,“ pokračovala. „To sa takmer určite posiela na cloudový server, kde sa spracováva a odosiela späť. Existuje teda hlboký problém s bezpečnosťou a súkromím, ktorý prenasleduje tento humbuk okolo agentov, a to v konečnom dôsledku hrozí, že prelomí bariéru krvného mozgu medzi aplikačnou vrstvou a vrstvou OS spojením všetkých týchto samostatných služieb (a) zablatenia ich údajov, “uzavrel Whittaker.
Keby sa aplikácia na zasielanie správ, ako je signál, integrovať s agentmi AI, podkopávala by to súkromie vašich správ, povedala. Agent musí mať prístup k aplikácii, aby ste svojim priateľom napodobňovali a tiež odtiahli údaje späť, aby tieto texty zhrnuli.
Jej komentáre nasledovali poznámky, ktoré predniesla počas panela o tom, ako bol priemysel AI postavený na modeli sledovania so zberom hromadných údajov. Povedala, že „väčšia je lepšia paradigma AI“ – čo znamená, že čím viac údajov, tým lepšie – malo potenciálne následky, o ktorých si nemyslela, že sú dobré.
Vďaka agentikovi AI Whittaker varoval, že ďalej podkopávame súkromie a bezpečnosť v mene „Magic Genie Bot, ktorý sa bude starať o potrby života,“ uzavrela.
