Kalifornia zvažuje niekoľko zákonov na reguláciu AI pomocou SB 1047 a AB 3211, ktoré budú mať obrovský vplyv na vývojárov AI, ak sa budúci mesiac stanú zákonom.
Hádky o rizikách AI ao tom, ako ich zmierniť, pokračujú a v prípade absencie amerických federálnych zákonov Kalifornia navrhla zákony, ktoré by mohli byť precedensom pre iné štáty.
SB 1047 a AB 3211 prešli kalifornským štátnym zhromaždením a mohli by sa stať zákonom budúci mesiac, keď o nich bude hlasovať Senát.
Podporovatelia zákonov tvrdia, že poskytujú dlho prekonanú ochranu pred rizikami nebezpečných modelov AI a syntetického obsahu generovaného AI. Kritici tvrdia, že požiadavky nariadené v zákonoch zabijú vývoj AI v štáte, pretože požiadavky sú neuskutočniteľné.
Tu je rýchly pohľad na dva návrhy zákonov a dôvod, prečo môžu kalifornskí vývojári AI zvažovať ich začlenenie do iných štátov.
SB 1047
The SB 1047 „Safe and Secure Innovation for Frontier Artificial Intelligence Models Act“ sa bude vzťahovať na výrobcov modelov, ktorých výcvik stojí 100 miliónov dolárov alebo viac.
Od týchto vývojárov sa bude vyžadovať, aby zaviedli dodatočné bezpečnostné kontroly a budú zodpovední, ak sa ich modely použijú na spôsobenie „kritického poškodenia“.
Návrh zákona definuje „kritickú škodu“ ako „vytvorenie alebo použitie chemickej, biologickej, rádiologickej alebo nukleárnej zbrane spôsobom, ktorý má za následok masové obete… alebo škody spôsobené najmenej päťsto miliónmi dolárov (500 000 000 USD) v dôsledku kybernetických útokov na kritické infraštruktúry.
Môže to znieť ako dobrý nápad, aby ste sa uistili, že tvorcovia pokročilých modelov AI venujú dostatočnú pozornosť, ale je to praktické?
Výrobca automobilov by mal niesť zodpovednosť, ak jeho vozidlo nie je bezpečné, ale mal by niesť zodpovednosť, ak niekto úmyselne narazí do niekoho, kto používa jeho vozidlo?
Yann LeCun, hlavný vedec AI spoločnosti Meta, si to nemyslí. LeCun je k návrhu zákona kritický a povedal: „Regulátory by mali regulovať aplikácie, nie technológiu… Ak budú vývojári technológií niesť zodpovednosť za zlé použitie produktov vytvorených z ich technológie, jednoducho to zastaví vývoj technológií.“
Návrh zákona tiež uvalí na tvorcov modelov zodpovednosť, ak niekto vytvorí derivát ich modelu a spôsobí škodu. Táto požiadavka by znamenala smrť modelov s otvorenou váhou, ktoré paradoxne ministerstvo obchodu schválilo.
SB 1047 prešiel kalifornským senátom v máji pomerom hlasov 32:1 a stane sa zákonom, ak prejde v Senáte v auguste.
AB 3211
The Kalifornský zákon o pôvode, autentickosti a vodoznaku (AB 3211) má za cieľ zabezpečiť transparentnosť a zodpovednosť pri vytváraní a distribúcii syntetického obsahu.
Ak niečo vygenerovala AI, v návrhu zákona sa uvádza, že to musí byť označené alebo mať digitálny vodoznak, aby to bolo jasné.
Vodoznak musí byť „maximálne nezmazateľný… navrhnutý tak, aby sa dal čo najobtiažnejšie odstrániť“. Priemysel prijal Štandard pôvodu C2PAale odstránenie metadát z obsahu je triviálne.
Návrh zákona vyžaduje, aby každý konverzačný systém AI „pred začatím konverzácie získal súhlas používateľa“.
Takže zakaždým, keď použijete ChatGPT alebo Siri, budete musieť začať konverzáciu „Som AI“. Rozumiete tomu a súhlasíte s tým?‘ Vždy.
Ďalšou požiadavkou je, že tvorcovia generatívnych modelov AI musia viesť register obsahu generovaného umelou inteligenciou, ktorý ich modely vytvorili, pričom by sa dali považovať za vytvorené ľuďmi.
Pre tvorcov by to bolo pravdepodobne nemožné otvorené modely. Keď si niekto stiahne a spustí model lokálne, ako by ste monitorovali, čo generuje?
Návrh zákona sa vzťahuje na každý model distribuovaný v Kalifornii bez ohľadu na veľkosť alebo kto ho vyrobil. Ak budúci mesiac prejde Senátom, modely AI, ktoré nebudú v súlade, nebudú môcť byť distribuované alebo dokonca hostené v Kalifornii. Ospravedlňujeme sa za HuggingFace a GitHub.
Ak sa ocitnete na nesprávnej strane zákona, umožňuje vám uložiť pokuty vo výške „1 milión USD alebo 5 % z celosvetového ročného príjmu porušovateľa, podľa toho, ktorá hodnota je vyššia“. To sa rovná miliardám dolárov pre spoločnosti ako Meta alebo Google.
Regulácia AI začína presúvať politickú podporu Silicon Valley smerom k Trumpovým spojencom „Urobte Ameriku ako prvú v AI“ prístup. Ak budú SB 1047 a AB 3211 podpísané budúci mesiac, mohlo by to vyvolať exodus vývojárov AI utekajúcich do menej regulovaných štátov.
