Ilya Sutskever, spoluzakladateľ a bývalý hlavný vedec OpenAI, oznámil spustenie svojho nového podniku, Safe Superintelligence Inc. (SSI).
Spolu so spoluzakladateľmi Danielom Grossom a Danielom Levym sa Sutskever zameriava na riešenie toho, čo považujú za najkritickejší problém v oblasti AI: vývoj bezpečného a výkonného superinteligentného systému AI.
The vyhlásenie spoločnosti, zverejnený Sutskeverom na X, vyhlasuje: „Superinteligencia je na dosah. Budovanie bezpečnej superinteligencie (SSI) je najdôležitejším technickým problémom našej doby. Spustili sme prvé laboratórium SSI na svete s jedným cieľom a jedným produktom: bezpečnou superinteligenciou.“
Zakladám novú spoločnosť: https://t.co/BG3K3SI3A1
— Ilya Sutskever (@ilyasut) 19. júna 2024
Zakladatelia opisujú SSI nielen ako svoje poslanie, ale aj ako svoje meno a celú produktovú mapu.
„SSI je naša misia, naše meno a celý náš produktový plán, pretože to je naše jediné zameranie. Náš tím, investori a obchodný model sú zosúladení s cieľom dosiahnuť SSI,“ uvádza sa vo vyhlásení.
Protiklad k OpenAI?
Zatiaľ čo Sutskever a generálny riaditeľ OpenAI Sam Altman verejne vyjadrili vzájomný rešpekt, nedávne udalosti naznačujú základné napätie.
Sutskever bol nápomocný pri pokúsiť sa vyhnať Altman, čo neskôr oľutoval. Sutskever formálne odstúpil v máji, pričom sa na X držal v úzadí, pričom diváci sa pýtali, kde sa nachádza.
Po takmer desaťročí som sa rozhodol odísť OpenAI. Trajektória spoločnosti bola zázračná a som si tým istý OpenAI vybuduje AGI, ktoré je bezpečné a prospešné pod vedením @Rovnaký, @gdb, @miramurati a teraz pod…
— Ilya Sutskever (@ilyasut) 14. mája 2024
Tento incident a odchod ďalších kľúčových výskumníkov s odvolaním sa na bezpečnostné obavy v OpenAI vyvolávajú otázky o prioritách a smerovaní spoločnosti.
Tým „superalignment“ OpenAI, ktorého úlohou bolo zosúladiť AI s ľudskými hodnotami a výhodami, bol prakticky demontovaný po tom, čo Sutskever a jeho kolega výskumník Jan Leike tento rok opustili spoločnosť.
Zdá sa, že Sutskeverovo rozhodnutie odísť pramení z jeho túžby pokračovať v projekte, ktorý sa viac zhoduje s jeho víziou budúcnosti vývoja AI – víziou, v ktorej OpenAI zdanlivo zlyháva, keďže sa odkláňa od svojej základné princípy.
Umelá inteligencia na prvom mieste
Riziká súvisiace s AI sú ostro spochybňované.
Zatiaľ čo ľudstvo má prvotné nutkanie báť sa umelých systémov, ktoré sú inteligentnejšie ako my – čo je úplne spravodlivý sentiment – nie všetci výskumníci AI si myslia, že je to v blízkej budúcnosti možné.
Kľúčovým bodom však je, že zanedbanie rizík v súčasnosti môže byť v budúcnosti zničujúce.
SSI má v úmysle riešiť bezpečnosť súčasne s vývojom AI: „K bezpečnosti a schopnostiam pristupujeme v tandeme ako k technickým problémom, ktoré je potrebné riešiť prostredníctvom revolučných inžinierskych a vedeckých objavov. Plánujeme čo najrýchlejšie napredovať v schopnostiach a zároveň zabezpečiť, aby naša bezpečnosť bola vždy vpredu,“ vysvetľujú zakladatelia.
Budeme sa usilovať o bezpečnú superinteligenciu priamočiaro, s jedným zameraním, jedným cieľom a jedným produktom. Urobíme to prostredníctvom revolučných objavov, ktoré produkuje malý naštrbený tím. Pripoj sa k nám: https://t.co/oYL0EcVED2
— Ilya Sutskever (@ilyasut) 19. júna 2024
Tento prístup umožňuje spoločnosti SSI „škálovať v pokoji“, bez rušivých vplyvov režijných nákladov na riadenie, produktových cyklov a krátkodobých komerčných tlakov.
„Naše jedinečné zameranie znamená, že nás nerozptyľujú režijné náklady manažmentu alebo produktové cykly a náš obchodný model znamená, že bezpečnosť, zabezpečenie a pokrok sú izolované od krátkodobých komerčných tlakov,“ zdôrazňuje sa vo vyhlásení.
Zostavenie vysnívaného tímu
Na dosiahnutie svojich cieľov SSI zostavuje „štíhly, popraskaný tím najlepších svetových inžinierov a výskumníkov, ktorí sa zameriavajú na SSI a nič iné“.
„Sme americká spoločnosť s kanceláriami v Palo Alto a Tel Avive, kde máme hlboké korene a máme schopnosť získavať špičkových technických talentov,“ uvádza sa vo vyhlásení.
„Ak ste to vy, ponúkame vám príležitosť urobiť svoju životnú prácu a pomôcť vyriešiť najdôležitejšiu technickú výzvu našej doby.“
So SSI sa do poľa pridáva ďalší hráč.
Bude veľmi zaujímavé vidieť, kto sa pripojí k SSI, a najmä ak dôjde k silnému pohybu talentov z OpenAI.
