Po minuloročnom ohlásení neuveriteľných 20 miliónov dolárov, Nepravdepodobná AIZakladateľ William Tunstall-Pedoe držal prístup začínajúceho britského výrobcu modelov pod zámkom. Doteraz: TechCrunch môže exkluzívne odhaliť, že k svojej AI používa „neuro-symbolický“ prístup. V ďalšom vývoji oznamuje dvoch seniorov – vrátane bývalého CTO pre Stability AI, Toma Masona.
Neuro-symbolická AI je typ umelej inteligencie, ktorý, ako už názov napovedá, integruje prístupy moderných neurónových sietí k AI – ako ich používajú veľké jazykové modely (LLM), ako je GPT od OpenAI – a staršie architektúry symbolickej AI na riešenie slabých stránok každého z nich.
Tunstall-Pedoe prvýkrát získal verejný profil na britskej technologickej scéne už v roku 2012 Amazon získal spustenie jeho hlasového asistenta, Evi. O dva roky neskôr Amazon spustil Echo a Alexa, ktoré obsahujú veľkú časť technológie Evi. S Nepravdepodobnou AI sa Tunstall-Pedoe snaží dostať späť do centra pozornosti, keď odhaľuje technológiu, na ktorej on a jeho tím pracovali od roku 2019, kedy bol startup založený.
V Stability AI medzitým Mason riadil vývoj hlavných základných modelov v rôznych oblastiach a pomohol spoločnosti AI získať viac ako 170 miliónov dolárov. Teraz je CTO spoločnosti Nepravdepodobná AI, kde bude dohliadať na jej „symbolický/algoritmický“ prístup.
Okrem toho prichádza aj Fred Becker ako hlavný administratívny riaditeľ. Predtým zastával vedúce pozície v spoločnostiach vrátane Skype a Symphony. V spoločnosti Nepravdepodobné bude jeho úlohou viesť 60 zamestnancov na plný úväzok, ktorí sídlia prevažne medzi Cambridge (Spojené kráľovstvo) a Londýnom.
Startup AI tvrdí, že jeho prístup k základným modelom AI sa bude snažiť vyhnúť rizikám, s ktorými sme sa rýchlo stali oboznámenými – menovite zaujatosť, „halucinácie“ (aka výmysel), presnosť a dôvera. Tvrdí tiež, že jeho prístup bude využívať menej energie v snahe znížiť vplyv veľkej AI na životné prostredie.
„Pracujeme súkromne už niekoľko rokov a sme veľmi nadšení z našich dvoch nových seniorov,“ povedal Tunstall-Pedoe pre TechCrunch počas telefonátu.
Po zvýraznení prístupu tímu pokračoval: „Budujeme ‚dôveryhodnú‘ platformu AI, ktorá je navrhnutá tak, aby riešila takmer všetky kľúčové problémy s AI v súčasnosti, čo sa týka… halucinácií a presnosti. Spájame možnosti generatívnej AI, štatistickej AI, so symbolickými algoritmickými metódami a (a) konvenčnými softvérovými metódami, aby sme dosiahli rozšíriteľnosť a spoľahlivosť.“
Platformu opísal ako „horizontálnu“ v tom, že by „spájala mnoho rôznych typov aplikácií“.
Z presných aplikácií bol plachý – ale naďalej zdôrazňoval frázu „dôveryhodná AI“.
Mason povedal, že jeho čas v Stability AI videl, ako spoločnosť vybudovala „niekoľko úžasných modelov“ a „neuveriteľný ekosystém okolo modelov a technológie“, ako sa vyjadril. To tiež predstavovalo náhly výstup zakladateľa Emada Mostaquea, po ktorom nasledovalo množstvo ďalších odchodov z významných tímov. Zatiaľ čo Mason praje svojim bývalým kolegom „všetko najlepšie“, povedal, že je „veľmi nadšený“ z toho, že sa môže pripojiť k AI.
Tunstall-Pedoe, ktorý skúmal technológiu startupu, povedal, že platforma sa skladá z dvoch vecí: „Slovo neuro a slovo symbolické. Neuro implikuje hlboké učenie, takže riešenie problémov, ktoré stroje neboli schopné vyriešiť desiatky rokov… Symbolické označuje druh softvéru, ktorý poháňa vaše tabuľky alebo iné aplikácie.
„Jednou zo slabín ‚neuro‘ je to, že je niekedy nesprávne. Keď model trénujete, dáte mu údaje, bude to lepšie a lepšie. Ale nikdy to nedosiahne 100%. Je to správne, napríklad v 80 % prípadov, čo znamená, že v 20 % prípadov je to nesprávne.“
Povedal, že to „neuveriteľne poškodzuje dôveru“, pretože „neuro výpočet je nepriehľadný“. V skutočnosti existuje celá oblasť výskumu, ktorá sa snaží pochopiť, čo sa deje vo vnútri týchto obrovských LLM.
Namiesto toho povedal, že spoločnosť Nepravdepodobná plánuje spojiť istoty tradičného softvéru, ako sú tabuľky, kde sú výpočty 100% presné, s „neuro“ prístupom v generatívnej AI.
„To, čo robíme, je kombinácia toho najlepšieho z oboch svetov,“ navrhol Tunstall-Pedoe. „Využívame možnosti LLM, všetky pokroky v hĺbkovom učení a spájame to s dôveryhodnosťou a rozšíriteľnosťou a ďalšími výhodami – vrátane vecí, ako sú náklady a vplyv na životné prostredie – neštatistického strojového učenia… Vízia AI máme všetky tieto schopnosti, ale spôsobom, ktorý je úplne dôveryhodný.“
Tvrdí, že kombinovaný prístup prinesie v porovnaní s dnešnými LLM výhody aj z hľadiska nákladov a životného prostredia: „Tieto modely sú neuveriteľne drahé (prevádzkované) a nie sú šetrné k životnému prostrediu, ale sú tiež nákladné z hľadiska dôvery, pretože vytvárajú nesprávne odpovede.“
Prečo sa ostatné základné modely nevydali podobnou cestou?
„Myslím, že sa to deje,“ odpovedal Mason. „Niekedy o tom hovoríme ako o „zloženej architektúre“. Videli sme nárast vecí ako RAG. Je to druh zloženej architektúry. Je to veľmi podobné, ale stavia na tom všetkom s výhodami symbolického uvažovania, čo umožňuje úplne presné uvažovanie.“
V tejto súvislosti uviedol, že Mason verí, že nepravdepodobná AI je „pred vlnou“.
Ďalšou otázkou je, či bude Nepravdepodobná AI produkovať plnohodnotnejší základný model, ako je OpenAI – alebo použije zmiešaný prístup podobný Mistral’s, ktorý ponúkne základné aj open source modely?
Tunstall-Pedoe povedal, že spoločnosť ešte stále rozhoduje o smere cesty: „Zatiaľ sme žiadne takéto rozhodnutia neurobili. To je súčasť interných diskusií. Ale budujeme platformu a zvyšok je TBD… Je to rozhodnutie, ktoré urobíme v blízkej budúcnosti.“
Jedna vec je však potvrdená: Stavať sa bude v Londýne a Cambridge: „Samozrejme, že máme oveľa menšiu populáciu ako v USA a Číne. Londýn je však fantastickým miestom na budovanie inovatívneho startupu AI. Je tu veľa talentov. Veľa inovácií.”
Zatiaľ čo časový plán vydania modelu nie je jasný, Nepravdepodobná AI si je istá silou svojich ambícií. Vzhľadom na to, že umelá inteligencia je strategickou prioritou číslo jedna pre každú spoločnosť s trhovou kapitalizáciou v hodnote bilióna dolárov, Tunstall-Pedoe povedal, že sa usiluje o veľké prijatie. „Chceme byť masívne úspešní, chceme mať obrovský vplyv. Určite sme otvorení rôznym spôsobom, ako to dosiahnuť,“ dodal.
