Iniciatíva Open Source Initiative (OSI) vydala aktualizovaný návrh definície toho, čo predstavuje umelú inteligenciu s otvoreným zdrojovým kódom, a tvrdí, že modely Meta sa napriek tvrdeniam spoločnosti nekvalifikujú.
Mark Zuckerberg sa vyjadril k záväzku Meta voči tomu, čo hovorí, že je umelá inteligencia s otvoreným zdrojom. Zatiaľ čo modely ako Llama 3.1 sú menej nepriehľadné ako proprietárne modely od OpenAI alebo Google, diskusie v komunite OSI naznačujú, že Meta tento termín používa voľne.
Pri an online verejná radničná akcia v piatok OSI diskutovalo o kritériách, o ktorých sa domnieva, že by im mal vyhovovať skutočne otvorený model AI. OSI označuje tieto kritériá ako „4 slobody“ a hovorí, že umelá inteligencia s otvoreným zdrojom „je systém umelej inteligencie sprístupnený za podmienok a spôsobom, ktorý poskytuje slobody:
- Používajte systém na akýkoľvek účel a bez toho, aby ste museli žiadať o povolenie.
- Preštudujte si, ako systém funguje a skontrolujte jeho komponenty.
- Upravte systém na akýkoľvek účel, vrátane zmeny jeho výstupu.
- Zdieľajte systém pre ostatných, aby ho mohli používať s úpravami alebo bez nich na akýkoľvek účel.“
Aby bolo možné upraviť model AI, OSI otvorená definícia AI hovorí, že váhy a zdrojový kód by mali byť otvorené a súbor tréningových údajov by mal byť dostupný.
Licencia spoločnosti Meta ukladá určité obmedzenia na to, ako môžu byť jej modely použité, a odmietla zverejniť tréningové údaje, ktoré použila na trénovanie svojich modelov. Ak pripustíte, že OSI je správcom toho, čo znamená „open-source“, potom to znamená, že Meta skresľuje pravdu, keď svoje modely nazýva „otvorenými“.
OSI je kalifornská verejnoprospešná spoločnosť, ktorá sa pri vývoji štandardov s otvoreným zdrojom spolieha na príspevky komunity. Niektorí v tejto komunite obvinili Marka Zuckerberga z „otvoreného umývania“ modelov Meta a šikanovania priemyslu, aby prijal jeho verziu a nie definíciu OSI.
Shuji Sado, predseda Open Source Group Japan, povedal: „Je možné, že Zuckerberg má inú definíciu Open Source ako my,“ a naznačil, že dôvodom môže byť nejasná právna situácia týkajúca sa tréningových dát AI a autorských práv.
Open Source AI Definition – týždenná aktualizácia 23. septembra https://t.co/flbb3yGCmx
— Open Source Initiative @(chránený e-mailom) (@OpenSourceOrg) 23. septembra 2024
Na slovách záleží
To všetko môže znieť ako argument o sémantike, ale v závislosti od definície, ktorú priemysel AI prijme, by to mohlo mať vážne právne dôsledky.
Meta má za sebou ťažké obdobie navigácia v právnych predpisoch EÚ o GDPR v súvislosti s neukojiteľným hladom po údajoch používateľov zo sociálnych médií. Niektorí ľudia tvrdia, že voľná definícia meta „open-source AI“ je pokusom obísť nové zákony, ako je napr MÁM zákon.
Zákon poskytuje obmedzenú výnimku pre modely AI na všeobecné účely (GPAIM) vydané na základe licencií s otvoreným zdrojom. Tieto modely sú vyňaté z určitých povinností týkajúcich sa transparentnosti, aj keď stále musia poskytovať súhrn obsahu použitého na trénovanie modelu.
Na druhej strane navrhovaný Zákon o bezpečnosti AI SB 1047 v Kalifornii odrádza spoločnosti ako Meta od zosúladenia svojich modelov s definíciou OSI. Návrh zákona nariaďuje zložité bezpečnostné protokoly pre „otvorené“ modely a nesie vývojárov zodpovedných za škodlivé úpravy a zneužitie zlými aktérmi.
SB 1047 definuje nástroje umelej inteligencie s otvoreným zdrojom ako „modely umelej inteligencie, ktoré sú voľne dostupné a ktoré možno voľne upravovať a redistribuovať“. Znamená to, že model AI, ktorý môže používateľ doladiť, je „otvorený“ alebo by sa definícia uplatnila iba vtedy, ak model začiarkne všetky políčka OSI?
Nejasnosť zatiaľ umožňuje Meta marketingové výhody a priestor na rokovanie o nejakej legislatíve. V určitom bode sa priemysel bude musieť zaviazať k definícii. Bude to definované veľkou technologickou spoločnosťou, ako je Meta, alebo komunitou riadenou organizáciou, ako je OSI?
