Prečo svet umelej inteligencie hovorí o jahodách?

OpenAI opäť celkom stíchlo a jeho veľmi medializované funkcie hlasového chatu sa spúšťajú oveľa pomalšie, než ktokoľvek očakával.

Šepká sa však o nových pripravovaných projektoch, vrátane Vyhľadajte GPTktorý kombinuje generatívnu AI a prehliadanie webu a tajomnejší „Project Strawberry“.

Počiatky Strawberry siahajú do novembra 2023, keď sa v r. úniky z agentúry Reuters.

Dokonca sa špekulovalo, že Q* bol potenciálne nebezpečný a zohral určitú úlohu pri najímaní a prepúšťaní generálneho riaditeľa Sama Altmana minulý rok.

Predpokladalo sa, že Q* kombinuje pokročilý model uvažovania s agentom AI schopným skúmať internet. Aj keď napriek dramatickým titulkom „OpenAI sedí na apokalyptickom silnom modeli“, jeho legitimita bola v tom čase veľmi sporná.

Ďalšie podrobnosti o projekte s kódovým označením sa objavili v máji a júni tohto roku. Podľa agentúry ReutersStrawberry zahŕňa špecializovanú metódu školenia modelov AI, aby mohli autonómne skúmať internet a vykonávať „hlboký výskum“.

Q pravdepodobne odkazuje na Q-learning, dlho zavedenú techniku ​​​​posilňovacieho učenia (RL). Čo sa týka hviezdy

je tam väčšia neistota.

Agentúra Reuters uviedla, že je to podobné metóde vyvinutej v Stanforde, ktorá sa nazýva „samouk“ alebo „STaR“. Iní tvrdia, že to súvisí s vyhľadávacím algoritmom s názvom A*.

Zdroje uviedli, že OpenAI chce, aby model vykonával výskum autonómnym prehliadaním webu, s pomocou „počítačového agenta“ (CUA) – ktorý je tiež kľúčovou súčasťou SearchGPT.

Podľa týchto zdrojov chce OpenAI, aby Strawberry vykonával „úlohy s dlhým horizontom“ (LHT), ktoré zahŕňajú komplexné plánovanie a vykonávanie počas dlhších období.

Stanfordský profesor Noah Goodman, jeden z tvorcov STaR, sa vyjadril k potenciálu takejto technológie:

„Myslím si, že je to vzrušujúce a zároveň desivé… ak veci budú pokračovať týmto smerom, musíme ako ľudia premýšľať o niekoľkých vážnych veciach.“

Keď sa hovorca OpenAI spýtal na Strawberry, poskytol všeobecné vyhlásenie o cieľoch vývoja AI spoločnosti:

„Chceme, aby naše modely AI videli a chápali svet viac ako my. Nepretržitý výskum nových schopností AI je v tomto odvetví bežnou praxou so spoločným presvedčením, že tieto systémy sa časom zlepšia v uvažovaní.“

Sociálne médiá hýbu hrncom

Krátko po správe agentúry Reuters, začiatkom augusta, Altman zverejnil fotografiu jahôd sprevádzanú nápisom „Milujem leto v záhrade“, čo opäť vyvolalo špekulácie o projekte Strawberry. milujem leto v záhrade

pic.twitter.com/Ter5Z5nFMc — Sam Altman (@sama)

7. augusta 2024

Potom používateľ iruletheworldmo, akýsi účet meme/satiry zameraný na AI (s profilovou fotografiou Theodora Twomblyho, ktorého hrá Joaquin Phoenix, z filmu o AI Her, ktorý sa stal spojeným s Altmanom), začal uverejňovať obsah súvisiaci s jahodami. , čo naznačuje potenciálny prelom „druhej úrovne“ v AI.

Používateľ napísal: „Vitajte v druhej úrovni. ako sa cítiš? dal som ti pocítiť?“ Altman, generálny riaditeľ OpenAI, odpovedal „úžasným tbh“.

Táto výmena spustila reťazovú reakciu príspevkov s jahodovou tematikou a masových špekulácií v X a Reddite.

vitajte na úrovni dva.

ako sa cítiš?

dal som ti pocítiť? — 🍓🍓🍓 (@iruletheworldmo)

7. augusta 2024

Jahoda naberá ďalší obrat len nedávno, Informácie odhalené

že OpenAI sa pripravuje na spustenie verzie Strawberry ako súčasť chatbota a možno ju integruje do ChatGPT už túto jeseň.

OpenAI tiež údajne demonštroval schopnosti Strawberry predstaviteľom národnej bezpečnosti USA.

1. Zaujímavé je, že podľa The Information, OpenAI vyvíja dve odlišné verzie Strawberry:
2. Táto menšia, zjednodušená verzia je určená na integráciu do aplikácií založených na chate, ako je ChatGPT. Jeho cieľom je zlepšiť schopnosti uvažovania v scenároch, v ktorých používatelia požadujú skôr premyslené a podrobné odpovede než rýchle odpovede.

Táto väčšia a výkonnejšia verzia sa používa na generovanie vysokokvalitných „syntetických“ tréningových údajov pre ďalší vlajkový jazykový model OpenAI s kódovým označením „Orion“.

Syntetické údaje generované Strawberry by mohli znížiť spoliehanie sa na internetom zoškrabaný text a obrázky na školenie. To by mohlo potenciálne viesť k presnejším a spoľahlivejším modelom AI, ktoré by riešili pretrvávajúce problémy, ako sú „halucinácie“ AI alebokolaps modelu

.

Je však zvláštne, že tieto charakteristiky Strawberry nie sú v súlade s predchádzajúcimi opismi Q*.

Možno by sme mohli špekulovať, že autonómny agent Strawberry surfuje po webe autonómne a využíva svoj „hlboký výskum“ na syntetizovanie syntetických údajov.

Možno je to výpočtovo efektívnejšie a užitočnejšie pre trénovanie modelov ako jednoduché zoškrabovanie samotných nespracovaných údajov?

AI nevie, koľko R je v jahode

Tu je miesto, kde príbeh nadobúda bizarný a ironický zvrat.

Jahoda môže byť pomenovaná po slove, ktoré súčasné modely AI, vrátane tých najpokročilejších, majú často problém správne napísať.

Opýtajte sa AI, koľko ‚r je v slove „jahoda“ a je tu šanca, že s istotou odpovie „dva“ namiesto správneho „tri“. oh

pic.twitter.com/K2Lr9iVkjQ — Rob DenBleyker (@RobDenBleyker)

26. augusta 2024

Znie to smiešne, však? Neveril som, kým som to neskúsil s Claudom.

Niektorí tvrdia, že ide o nejaký druh „easter egg“ alebo vtip v rámci systémov OpenAI. Ale keďže Claude reaguje rovnako ako ChatGPT, zdá sa to nepravdepodobné, pokiaľ sa spoločnosti AI v zákulisí nedohodnú na štipľavých jahodových vtipoch.

Vysvetlenie je elegantné vo svojej jednoduchosti.

Jazykové modely, napriek názvu, sú systémy založené na matematike. Text je preložený do kódu, čím sa riskuje strata kontextu a významu na úrovni slov. Prečo to jahoda spoľahlivo vychytá, je už zložitejšia otázka.

Či si teda OpenAI vybralo názov „Jahoda“ ako hravé prikývnutie tomuto bežnému kameňu úrazu AI, alebo čistú náhodu, zostáva nejasné.

Vyzerá to ako niečo, čo by mohol urobiť Altman, či už je Strawberry skutočný alebo nie.

Čo bude ďalej v tomto bizarnom, no bobuľovito zaujímavom (…) jahodovom príbehu, si môže každý domyslieť. Aby som bol úprimný, v tejto fáze mám pocit, že žiadny zo špekulatívnych „dôkazov“, ktoré máme od hlavných spravodajských kanálov, úplne nereprezentuje to, čo sa deje v OpenAI.