OpenAI predstavila GPT-4o mini, menšiu a cenovo výhodnejšiu verziu svojho výkonného modelu GPT-4o.
GPT-4o mini je propagovaný ako „nákladovo najefektívnejší malý model na trhu“ s cenami, ktoré výrazne podhodnocujú konkurentov.
Vývojári zaplatia len 0,15 USD za milión vstupných tokenov a 0,60 USD za milión výstupných tokenov v porovnaní s 5,00 USD a 15,00 USD za GPT-4o.
Olivier Godement, vedúci produktového oddelenia API spoločnosti OpenAI, diskutoval o potenciáli modelu VentureBeat: „Cena za inteligenciu je taká dobrá, očakávam, že sa bude používať na všetky druhy zákazníckej podpory, softvérové inžinierstvo, kreatívne písanie, všetky druhy úloh.“
Napriek „mini“ sa GPT-4o mini môže pochváliť pôsobivými schopnosťami. V rôznych benchmarkoch prekonáva GPT-3.5 Turbo a dokáže spracovať textové aj obrazové vstupy.
OpenAI uvádza, že GPT-4o mini dosahuje 82,0 % skóre v benchmarku Massive Multitask Language Understanding (MMLU), čím prekonalo konkurentov ako Gemini 1.5 Flash od Google (77,9 %) a Claude 3 Haiku od Anthropic (73,8 %).
To znamená, že priamo konkuruje Gemini Flash a Claude Haiku.
Model má nahradiť GPT-3.5 Turbo pre predplatiteľov ChatGPT Plus a Teams a ponúka používateľom výkonnejší model bez dodatočných nákladov.
Prví používatelia, vrátane startupov Ramp a Superhuman, oznámili sľubné výsledky pre úlohy, ako je kategorizácia potvrdení a prispôsobené e-mailové odpovede.
OpenAI chce presadzovať bezpečnosť GPT-4o mini
Aj keď OpenAI posúva hranice pomocou možností a cenovej dostupnosti GPT-4o mini, na bezpečnosti sa nešetrí. Používa sa rovnaké mechanizmy, aké vyvinul pre väčší model GPT-4o.
OpenAI tiež priviedla viac ako 70 odborníkov z oblastí ako sociálna psychológia a dezinformácie, aby GPT-4o vyskúšali.
Títo špecialisti pomohli identifikovať potenciálne riziká a umožnili tímu riešiť problémy skôr, ako sa z nich stanú problémy. Poznatky boli prenesené do GPT-4o mini.
OpenAI tiež predstavila metódu, ktorú nazývajú „hierarchia inštrukcií“, ktorá „pomáha zlepšiť schopnosť modelu odolávať útekom z väzenia, rýchlym injekciám a systémovým rýchlym extrakciám. Vďaka tomu sú reakcie modelu spoľahlivejšie a prispieva k bezpečnejšiemu použitiu v aplikáciách vo veľkom meradle.“
To je pravdepodobne téma pre podnikových používateľov, ktorí sa chcú za každú cenu vyhnúť chybným výsledkom a halucináciám.
Pokiaľ ide o budúcnosť, OpenAI plánuje rozšíriť možnosti GPT-4o mini, vrátane jeho schopnosti vytvárať snímky, audio a video výstupy. Model je tiež navrhnutý tak, aby bol dostupný prostredníctvom Apple inteligencia tento rok na jeseň, súčasne s vydaním iOS 18.
Zatiaľ čo GPT-4o mini je celkom vzrušujúce, OpenAI čelila neúspechom v iných oblastiach. Spoločnosť nedávno odložila vydanie funkcií na čítanie hlasu a emócií pre ChatGPT, pričom uviedla potrebu ďalšieho testovania bezpečnosti.
Ľudia boli ohromení, keď spoločnosť demonštrovala GPT-4o a jeho syntéza rečiale odvtedy sa veci upokojili.
Napriek tomu GPT-4o mini dokazuje, že ľudia v OpenAI stále tvrdo pracujú napriek niekoľkým nedávnym kontroverziám.
