V prelomovom oznámení Kvapalná AIspin-off MIT, predstavil svoju prvú sériu Modely s tekutým základom (LFMs). Tieto modely, navrhnuté podľa prvých princípov, nastavujú nový štandard v oblasti generatívna AI priestor, ktorý ponúka bezkonkurenčný výkon v rôznych mierkach. LFM so svojou inovatívnou architektúrou a pokročilými možnosťami sú pripravené postaviť sa pred popredné modely AI, vrátane ChatGPT.
Liquid AI bola založená tímom výskumníkov MIT, vrátane Ramin Hasani, Mathias Lechner, Alexander Believea Daniela Rus. Poslaním spoločnosti so sídlom v Bostone v štáte Massachusetts je vytvárať schopné a efektívne univerzálne systémy AI pre podniky všetkých veľkostí. Tento tím bol pôvodne priekopníkom tekutých neurónových sietí, triedy modelov AI inšpirovaných dynamikou mozgu, a teraz sa zameriava na rozšírenie možností systémov AI v každom meradle, od špičkových zariadení až po nasadenie na podnikovej úrovni.
Čo sú modely tekutých základov (LFM)?
Modely Liquid Foundation Models predstavujú novú generáciu systémov AI, ktoré sú vysoko efektívne z hľadiska využitia pamäte aj výpočtového výkonu. Postavený na základe dynamických systémov, spracovania signálu a numerická lineárna algebrasú tieto modely navrhnuté tak, aby spracovávali rôzne typy sekvenčných údajov – ako je text, video, zvuk a signály – s pozoruhodnou presnosťou.
Liquid AI vyvinula tri primárne jazykové modely ako súčasť tohto spustenia:
- LFM-1B: Hustý model s 1,3 miliardami parametrov, optimalizovaný pre prostredia s obmedzenými zdrojmi.
- LFM-3B: Model s 3,1 miliardami parametrov, ideálny pre okrajové scenáre nasadenia, ako sú mobilné aplikácie.
- LFM-40B: Model zmesi expertov (MoE) so 40,3 miliardami parametrov navrhnutý na zvládanie zložitých úloh s výnimočným výkonom.
Tieto modely už preukázali najmodernejšie výsledky v kľúčových benchmarkoch AI, vďaka čomu sú impozantným konkurentom existujúcich generatívnych modelov AI.
Najmodernejšie predstavenie
Liquid AI LFM poskytujú najlepší výkon vo svojej triede v rôznych benchmarkoch. napr. LFM-1B prevyšuje modely založené na transformátoroch vo svojej veľkostnej kategórii, pričom LFM-3B konkuruje väčším modelom, ako je séria Phi-3.5 od spoločnosti Microsoft a séria Llama od spoločnosti Meta. The LFM-40B Model je napriek svojej veľkosti dostatočne efektívny, aby mohol konkurovať modelom s ešte väčším počtom parametrov a ponúka jedinečnú rovnováhu medzi výkonom a efektívnosťou zdrojov.
Niektoré hlavné body výkonu LFM zahŕňajú:
- LFM-1B: Dominuje benchmarkom ako MMLU a ARC-C, čím stanovuje nový štandard pre modely s parametrami 1B.
- LFM-3B: Efektívnosťou prekonáva modely ako Phi-3.5 a Gemma 2 od Google, pričom zachováva malú pamäťovú stopu, vďaka čomu je ideálny pre mobilné a okrajové aplikácie AI.
- LFM-40B: Architektúra MoE tohto modelu ponúka výkon porovnateľný s väčšími modelmi, s 12 miliardami aktívnych parametrov v danom čase.
Nová éra efektívnosti AI
Významnou výzvou v modernej AI je správa pamäte a výpočtov, najmä pri práci s úlohami s dlhým kontextom, ako je sumarizácia dokumentov alebo interakcie chatbotov. LFM vynikajú v tejto oblasti efektívnou kompresiou vstupných údajov, čo má za následok zníženú spotrebu pamäte počas inferencie. To umožňuje modelom spracovávať dlhšie sekvencie bez potreby drahých hardvérových aktualizácií.
napr. LFM-3B ponúka a Dĺžka kontextu tokenu 32 kB— čo z neho robí jeden z najefektívnejších modelov pre úlohy vyžadujúce súčasné spracovanie veľkého množstva údajov.
Revolučná architektúra
LFM sú postavené na jedinečnom architektonickom rámci, ktorý sa odchyľuje od tradičných modelov transformátorov. Architektúra je sústredená okolo adaptívnych lineárnych operátorov, ktoré modulujú výpočty na základe vstupných údajov. Tento prístup umožňuje Liquid AI výrazne optimalizovať výkon naprieč rôznymi hardvérovými platformami vrátane hardvéru NVIDIA, AMD, Cerebras a Apple.
The dizajnový priestor pre LFM zahŕňa novú zmes miešanie tokenov a kanálové zmiešavacie štruktúry ktoré zlepšujú spôsob, akým model spracováva údaje. To vedie k vynikajúcim schopnostiam zovšeobecňovania a uvažovania, najmä pri úlohách s dlhým kontextom a multimodálnych aplikáciách.
Rozšírenie hraníc AI
Liquid AI má veľké ambície pre LFM. Okrem jazykových modelov spoločnosť pracuje na rozšírení svojich základných modelov na podporu rôznych dátových modalít vrátane videa, zvuku a údajov časových radov. Tieto vylepšenia umožnia LFM škálovať vo viacerých odvetviach, ako sú finančné služby, biotechnológia a spotrebná elektronika.
Spoločnosť sa tiež zameriava na prispievanie k otvorenej vedeckej komunite. Aj keď samotné modely v súčasnosti nie sú open source, Liquid AI plánuje sprístupniť relevantné výskumné zistenia, metódy a súbory údajov širšej komunite AI, čím podporí spoluprácu a inovácie.
Včasný prístup a prijatie
Liquid AI v súčasnosti ponúka skorý prístup k svojim LFM prostredníctvom rôznych platforiem, vrátane Tekuté ihrisko, lambda (Používateľské rozhranie a API rozhovoru) a Perplexity Labs. Podniky, ktoré chcú integrovať špičkové systémy AI do svojich operácií, môžu preskúmať potenciál LFM v rôznych prostrediach nasadenia, od špičkových zariadení až po on-premise riešenia.
Otvorený vedecký prístup Liquid AI povzbudzuje prvých používateľov, aby sa podelili o svoje skúsenosti a poznatky. Spoločnosť aktívne hľadá spätnú väzbu na zdokonalenie a optimalizáciu svojich modelov pre aplikácie v reálnom svete. Vývojári a organizácie, ktoré majú záujem stať sa súčasťou tejto cesty, môžu prispieť k úsiliu red-teamingu a pomôcť Liquid AI zlepšiť jej systémy AI.
Záver
Vydanie Liquid Foundation Models predstavuje významný pokrok v oblasti AI. So zameraním na efektivitu, adaptabilitu a výkon sú LFM pripravené zmeniť spôsob, akým podniky pristupujú k integrácii AI. Keď si tieto modely osvojí viac organizácií, vízia Liquid AI o škálovateľných systémoch AI na všeobecné účely sa pravdepodobne stane základným kameňom ďalšej éry umelej inteligencie.
Ak máte záujem preskúmať potenciál LFM pre vašu organizáciu, Liquid AI vás pozýva, aby ste sa skontaktovali a pripojili sa k rastúcej komunite prvých používateľov, ktorí formujú budúcnosť AI.
Pre viac informácií navštívte Oficiálna stránka Liquid AI a začnite experimentovať s LFM ešte dnes.