Nvidia získala za posledný štvrťrok čistý zisk viac ako 19 miliárd dolárov oznámila spoločnosť v stredu, ale to len málo ubezpečilo investorov, že jeho rýchly rast bude pokračovať. Analytici nabádali generálneho riaditeľa Jensena Huanga k tomu, ako by sa Nvidii darilo, keby technologické spoločnosti začínajú používať nové metódy na zlepšenie svojich modelov AI.
Metóda, ktorá je základom Model OpenAI o1alebo „test-time škálovanie“, prišiel pomerne veľa. Ide o myšlienku, že modely AI poskytnú lepšie odpovede, ak im dáte viac času a výpočtového výkonu na „premýšľanie“ nad otázkami. Konkrétne pridáva viac výpočtov do fázy vyvodzovania AI, čo je všetko, čo sa stane po tom, čo používateľ zadá príkaz na výzvu.
Generálny riaditeľ spoločnosti Nvidia bol požiadaný, či vidí, ako vývojári modelov AI prechádzajú na tieto nové metódy a ako by staršie čipy Nvidie fungovali pri odvodzovaní AI.
Huang naznačil, že o1 a škálovanie testovacieho času v širšom meradle by mohli hrať väčšiu úlohu v napredovaní podnikania Nvidie a nazval to „jeden z najzaujímavejších vývojov“ a „nový zákon o škálovaní“. Huang urobil všetko, čo bolo v jeho silách, aby zabezpečil investorom, že Nvidia má dobrú pozíciu na zmenu.
Poznámky generálneho riaditeľa Nvidie sú v súlade s tým, čo povedal generálny riaditeľ Microsoftu Satya Nadella na javisku na podujatí Microsoftu v utorok: o1 predstavuje nový spôsob, ako môže priemysel AI vylepšiť svoje modely.
Pre priemysel čipov je to veľká vec, pretože kladie väčší dôraz na odvodenie AI. Zatiaľ čo čipy Nvidie sú zlatým štandardom pre trénovanie modelov AI, existuje široká škála dobre financovaných startupov, ktoré vytvárajú bleskovo rýchle inferenčné čipy AI, ako sú Groq a Cerebras. Pre Nvidiu by to mohol byť konkurencieschopnejší priestor.
Napriek tomu nedávne správy Huang povedal analytikom, že vylepšenia generatívnych modelov sa spomaľujú, že vývojári modelov AI stále zdokonaľujú svoje modely pridávaním ďalších výpočtov a údajov počas fázy predtrénovania.
Generálny riaditeľ spoločnosti Anthropic Dario Amodei tiež v stredu počas rozhovoru na pódiu na summite Cerebral Valley v San Franciscu povedal, že nezaznamenáva spomalenie vývoja modelov.
„Predtréningové škálovanie základného modelu je nedotknuté a pokračuje,“ povedal Huang v stredu. „Ako viete, toto je empirický zákon, nie základný fyzikálny zákon, ale dôkazy sú, že sa stále rozširuje. Učíme sa však, že to nestačí.“
To je určite to, čo investori Nvidia chceli počuť, keďže sú akcie výrobcu čipov v roku 2024 stúpla o viac ako 180 %. predajom AI čipov, na ktorých OpenAI, Google a Meta trénujú svoje modely. Partneri Andreessen Horowitz a niekoľko ďalších manažérov AI však už skôr uviedli, že tieto metódy už začínajú vykazovať klesajúce výnosy.
Huang poznamenal, že väčšina výpočtovej záťaže Nvidie sa dnes týka predbežného školenia modelov AI – nie dedukcie – ale pripísal to skôr tomu, kde sa dnes svet AI nachádza. Povedal, že jedného dňa bude jednoducho viac ľudí používať modely AI, čo znamená, že dôjde k väčšiemu odvodeniu AI. Huang poznamenal, že Nvidia je dnes najväčšia inferenčná platforma na svete a rozsah a spoľahlivosť spoločnosti jej dáva obrovskú výhodu v porovnaní so startupmi.
„Naše nádeje a sny sú, že jedného dňa svet urobí veľa záverov, a vtedy AI skutočne uspela,“ povedal Huang. „Každý vie, že ak inovujú popri architektúre CUDA a Nvidia, môžu inovovať rýchlejšie a vedia, že všetko by malo fungovať.“
