Spoločnosti AI v Kalifornii si kolektívne vydýchli, keď guvernér Gavin Newsom vetoval zákon o bezpečnosti AI SB 1047, ktorý štátny senát schválil začiatkom tohto mesiaca.
Kontroverzný návrh zákona by nariadil dodatočné bezpečnostné kontroly pre modely AI, ktoré prekračujú výpočtovú alebo nákladovú hranicu, ak budú podpísané zákonom. Tieto modely by vyžadovali „prepínač zabíjania“ a tvorcom modelov by sa hrozili vysoké pokuty, ak by boli použité na spôsobenie „kritického poškodenia“.
Newsom vysvetlil vo svojom liste Senátu štátu Kalifornia dôvody jeho rozhodnutia vetovať návrh zákona.
Poznamenal, že jedným z dôvodov, prečo je Kalifornia domovom 32 z 50 popredných svetových spoločností AI, je „slobodomyseľná kultivácia intelektuálnej slobody“. Nezmienil sa o riziku odchodu niektorých z týchto spoločností z Kalifornie, ale naznačil, aký dopad na ne bude mať návrh zákona.
Newsom uviedol, že hlavným dôvodom vetovania zákona bolo, že bol príliš široký a prahová hodnota pre reguláciu neriešila skutočné riziká.
Povedal: „Sústredením sa len na najdrahšie a najrozsiahlejšie modely vytvára SB 1047 regulačný rámec, ktorý by mohol poskytnúť verejnosti falošný pocit bezpečia pri ovládaní tejto rýchlo sa vyvíjajúcej technológie. Menšie, špecializované modely sa môžu ukázať ako rovnako alebo dokonca nebezpečnejšie ako modely, na ktoré sa zameriava SB 1047 – na potenciálne úkor obmedzenia samotnej inovácie, ktorá poháňa pokrok v prospech verejného blaha.“
Newsom uviedol, že regulácia rizík AI je nevyhnutná, ale že lepšou možnosťou je zamerať sa na rizikové aplikácie namiesto plošného prístupu SB 1047.
„SB 1047 neberie do úvahy, či je Al systém nasadený vo vysoko rizikových prostrediach, či ide o kritické rozhodovanie alebo či sa používajú citlivé údaje. Namiesto toho sa v návrhu zákona uplatňujú prísne štandardy aj na tie najzákladnejšie funkcie – pokiaľ ich implementuje veľký systém. Nemyslím si, že toto je najlepší prístup k ochrane verejnosti pred skutočnými hrozbami, ktoré táto technológia predstavuje,“ vysvetlil Newsom.
Zatiaľ čo Newsom odmietol podpísať SB 1047, poukázal na iné nariadenia o AI, ktoré podpísal tento mesiac, ako dôkaz toho, že berie riziká spojené s AI vážne.
Svoj záväzok k bezpečnosti a rozvoju AI zhrnul slovami: „Vzhľadom na to, že ide o ochranu pred skutočnými hrozbami bez zbytočného zmarenia prísľubu tejto technológie na podporu verejného blaha, musíme to urobiť správne.“
Senátor Scott Weiner bol pochopiteľne nešťastný, že Newsom odmietol podpísať návrh zákona, ktorý vytvoril.
Weiner povedal: „Toto veto je prekážkou pre každého, kto verí v dohľad nad obrovskými korporáciami, ktoré robia kritické rozhodnutia ovplyvňujúce bezpečnosť a blaho verejnosti a budúcnosť planéty… Toto veto nás necháva pred znepokojujúcou realitou, na ktorú sa spoločnosti zameriavajú vytvoriť mimoriadne výkonnú technológiu, ktorá nebude čeliť žiadnym záväzným obmedzeniam zo strany politikov USA, najmä vzhľadom na pokračujúcu paralýzu Kongresu okolo regulácie technologického priemyslu akýmkoľvek zmysluplným spôsobom.
Zatiaľ čo Weiner lamentoval nad neúspechom návrhu zákona, Yann LeCun z Meta a rizikový kapitalista Marc Andreesen verejne poďakovali Newsomovi za veto.
Na to, či je rozhodnutie Newsomu príkladom prezieravého vedenia alebo dôvodom na ľútosť, si budeme musieť počkať.
