Iľja Sutskeverjeden z OpenAI spoluzakladatelia, spustila novú spoločnosť, Spoločnosť Safe Superintelligence Inc. (SSI), len mesiac po formálnom odchode z OpenAI.
Sutskever, ktorý bol dlhoročným hlavným vedcom OpenAI, založil SSI s bývalým partnerom Y Combinator Danielom Grossom a bývalým inžinierom OpenAI Danielom Levym.
V OpenAI bol Sutskever neoddeliteľnou súčasťou úsilia spoločnosti o zlepšenie bezpečnosti AI so vzostupom „superinteligentných“ systémov AI, na ktorej pracoval spolu s Janom Leike, ktorý spoluviedol tím Superalignment OpenAI. Predsa oboje Odsávacie lyžice a potom Leike Spoločnosť dramaticky opustila v máji po tom, čo sa rozišla s vedením OpenAI v otázke, ako pristupovať k bezpečnosti AI. Leike teraz vedie tím v konkurenčnom obchode s AI Anthropic.
Sutskever už dlho objasňuje chúlostivejšie aspekty bezpečnosti AI. V príspevok v blogu Sutskever, publikovaný v roku 2023, písal s Leike a predpovedal, že AI s inteligenciou presahujúcou inteligenciu ľudí by mohla prísť v priebehu desaťročia – a že keď sa tak stane, nebude to nevyhnutne benevolentné, čo si bude vyžadovať výskum spôsobov, ako ju kontrolovať a obmedzovať.
Dnes je očividne rovnako oddaný veci ako kedykoľvek predtým. V stredu popoludní sa v tweete oznamujúcom založenie novej spoločnosti Sutskever uvádza, že: „SSI je naša misia, naše meno a celý náš produktový plán, pretože je naším jediným zameraním. Náš tím, investori a obchodný model sú zosúladení s cieľom dosiahnuť SSI. K bezpečnosti a schopnostiam pristupujeme v tandeme ako k technickým problémom, ktoré je potrebné vyriešiť prostredníctvom revolučných inžinierskych a vedeckých objavov.
„Plánujeme čo najrýchlejšie napredovať v schopnostiach a zároveň zabezpečiť, aby naša bezpečnosť bola vždy vpredu. Takto môžeme v pokoji škálovať. Naše jedinečné zameranie znamená, že nás nerozptyľuje réžia manažmentu alebo produktové cykly a náš obchodný model znamená, že bezpečnosť, zabezpečenie a pokrok sú izolované od krátkodobých komerčných tlakov.“
Odsávacie lyžice hovoril s Bloombergom o novej spoločnosti podrobnejšie, aj keď odmietol diskutovať o jej financovaní alebo ocenení.
Zreteľnejšie je, že na rozdiel od OpenAI – ktorá bola pôvodne spustená ako nezisková organizácia v roku 2015, potom sa reštrukturalizovala, keď sa obrovské sumy peňazí potrebné na jej výpočtovú silu stali evidentnejšími – SSI je od základov navrhnutý ako ziskový. subjekt. Súdiac podľa záujmu o AI a konkrétne poverenia tímu, môže sa veľmi skoro utopiť aj v kapitále. „Zo všetkých problémov, ktorým čelíme,“ hovorí Gross pre Bloomberg, „zvýšenie kapitálu nebude jedným z nich.
SSI má kancelárie v Palo Alto a Tel Avive, kde momentálne získava technické talenty.
