Guvernér Kalifornie Gavin Newsom povedal, že na jeho stole je 38 zákonov, ktoré by v utorok vytvorili zákony týkajúce sa umelej inteligencie, ale jeden je väčší ako všetky: SB 1047kalifornský zákon, ktorý sa snaží zabrániť systémom AI spôsobovať katastrofy. Kalifornský guvernér sa po prvýkrát podelil o to, ako uvažuje o kontroverznom zákone.
Skrátka si myslí, že SB 1047 má problémy. Newsom povedal, že sa zaujíma o účty za umelú inteligenciu, ktoré dokážu vyriešiť dnešné problémy bez toho, aby narušili prosperujúci priemysel umelej inteligencie v Kalifornii. To nie je príliš sľubné pre budúcnosť SB 1047, ktorej cieľom je chrániť pred katastrofami tým, že veľkých predajcov AI berie na zodpovednosť, ak sa ich produkty použijú na spôsobenie vážneho poškodenia, ako je napríklad zničenie kritickej infraštruktúry. Zároveň by podpísanie zákona rozrušilo veľkú časť odvetvia umelej inteligencie, ktorá chce, aby Newsom zákon vetoval.
„Posledných pár rokov sme pracovali na tom, aby sme prišli s nejakou racionálnou reguláciou, ktorá podporuje riskovanie, ale nie bezohľadnosť,“ povedal Newsom v rozhovore s generálnym riaditeľom Salesforce Marcom Benioffom v utorok na pódiu konferencie Dreamforce v roku 2024. „To je teraz v tomto priestore náročné, najmä v prípade SB 1047, kvôli obrovskému vplyvu, ktorý by legislatíva mohla mať, a chladivému efektu, najmä v komunite open source.“
Newsom ďalej povedal, že musí zvážiť preukázateľné riziká verzus hypotetické riziká. Neskôr poznamenal: „Nemôžem vyriešiť všetko. Čo môžeme vyriešiť?“
Guvernér zasiahol hlavnú kritiku SB 1047: návrh zákona sa snaží zabrániť úlohe AI v udalostiach s hromadnými nehodami a udalostiach kybernetickej bezpečnosti, ktoré stoja viac ako 500 miliónov dolárov, ale robí málo na to, aby sa technologické spoločnosti zodpovedali za niečo menšie. Kritici SB 1047 tvrdili, že návrh zákona by mohol potlačiť inovácie, pričom nedokáže regulovať krátkodobé problémy, ktoré systémy AI dnes vytvárajú.
Newsom dal tieto poznámky do miestnosti plnej ľudí, ktorí sa zúčastnili konferencie podnikových technológií v srdci San Francisca. Na väčšine technologických konferencií, na ktorých som sa nedávno zúčastnil, počujete v kúpeľňovej linke dunenie o mnohých problémoch SB 1047. Newsom pravdepodobne vedel, aký druh voličov je v publiku, a možno hral davu.
To znamená, že guvernér dáva svoje nariadenie AI tam, kde má ústa. V utorok skôr guvernér Kalifornie podpísala päť zákonov, ktoré riešia problémy AI už sme videli hry v roku 2024, ako sú volebné dezinformácie generované AI a hollywoodske štúdiá vytvárajúce klony umelej inteligencie hercov. Toto môžu byť „preukázateľné riziká“, na ktoré Newsom odkazuje.
Newsom v utorok zároveň lamentoval nad tým, ako federálna vláda „zlyhala pri regulácii“ v priestore AI. Guvernér poznamenal, že Kalifornia v minulosti viedla v oblasti technickej regulácie – menovite sociálnych médií a súkromia – a nie je prekvapený, že ľudia opäť hľadajú vedenie od štátu.
Hovorca autora SB 1047, senátor štátu Kalifornia Scott Wiener, neodpovedal okamžite na žiadosť TechCrunch o komentár.
„(AI) je priestor, kde dominujeme, a ja si chcem našu dominanciu udržať,“ povedal Newsom. „Zároveň cítite hlboký zmysel pre zodpovednosť za riešenie niektorých extrémnejších obáv, ktoré mnohí z nás majú – dokonca aj tí najväčší a najsilnejší propagátori tejto technológie – a to je ťažké miesto.“
Newsom sa zmienil, že je pravdepodobne prehnané, ako by podpísanie SB 1047 cez noc narušilo priemysel AI. Poznamenal však, že vplyv podpísania nesprávnych zákonov v priebehu niekoľkých rokov môže výrazne ovplyvniť náskok Kalifornie.
Kalifornský guvernér v utorok výslovne nepovedal, či zákon podpíše alebo vetuje. OpenAI, Nancy Pelosi, Obchodná komora Spojených štátov amerických a obchodné skupiny Big Tech tlačia Newsom, aby vetoval SB 1047. Na druhej strane Elon Musk, Anthropic a niektorí uznávaní výskumníci AI vyjadrili vlažné nadšenie.
Guvernér Newsom má na rozhodnutie dva týždne. Dovtedy nám ostane kopa poznámok, ktoré nevyzerajú nádejne do budúcnosti návrhu zákona.
