Držať krok s tak rýchlo sa rozvíjajúcim odvetvím ako je AI je vysoký poriadok. Takže kým to za vás neurobí AI, tu je praktický súhrn nedávnych príbehov zo sveta strojového učenia spolu s pozoruhodným výskumom a experimentmi, ktoré sme sami nepokryli.
Mimochodom, TechCrunch plánuje spustiť AI newsletter 5. júna. Zostaňte naladení. Medzitým zvyšujeme kadenciu nášho polopravidelného stĺpca AI, ktorý bol predtým dvakrát za mesiac (alebo tak), na týždenný – takže hľadajte ďalšie vydania.
OpenAI tento týždeň v oblasti AI spustila zľavnené plány pre neziskové organizácie a zákazníkov v oblasti vzdelávania a stiahla závesy za svoje najnovšie snahy zastaviť zlých hercov v zneužívaní jej nástrojov AI. Nie je tu čo kritizovať – aspoň nie podľa názoru tohto spisovateľa. Ale ja bude hovoria, že záplava oznámení sa zdala načasovaná tak, aby čelila zlej tlači spoločnosti.
Začnime Scarlett Johansson. OpenAI odstránil jeden z hlasov používa jeho chatbot ChatGPT poháňaný AI po tom, čo používatelia poukázali na to, že to znelo strašidelne podobne ako Johansson. Johansson neskôr vydala vyhlásenie, v ktorom uviedla, že si najala právneho poradcu, aby sa informoval o hlase a získal presné podrobnosti o tom, ako bol vyvinutý – a že odmietla opakované prosby od OpenAI, aby licencovala svoj hlas pre ChatGPT.
Teraz, a kus v The Washington Post znamená, že OpenAI sa v skutočnosti nesnažilo klonovať Johanssonov hlas a že akékoľvek podobnosti boli náhodné. Ale prečo potom generálny riaditeľ OpenAI, Sam Altman, oslovil Johanssona a vyzval ju, aby to prehodnotila dva dni pred okázalým demom, ktorý obsahoval zvuk podobný hlasu? Je to trochu podozrivé.
Potom sú tu problémy s dôverou a bezpečnosťou OpenAI.
Ako my hlásené začiatkom mesiacaOpenAI je odvtedy rozpustený Superalignment tím, ktorá je zodpovedná za vývoj spôsobov riadenia a riadenia „superinteligentných“ systémov AI, dostala prisľúbených 20 % výpočtových zdrojov spoločnosti – ale len vždy (a zriedkavo) dostala len zlomok z toho. To (okrem iných dôvodov) viedlo k rezignácii dvoch spoluvedúcich tímov, Jana Leikeho a Ilju Sutskevera, bývalého hlavného vedca OpenAI.
Takmer tucet bezpečnostných expertov opustil OpenAI v minulom roku; niektorí, vrátane Leike, verejne vyjadrili obavy, že spoločnosť uprednostňuje komerčné projekty pred úsilím o bezpečnosť a transparentnosť. V reakcii na kritiku OpenAI vytvoril nový výbor dohliadať na rozhodnutia o bezpečnosti a zabezpečení súvisiace s projektmi a prevádzkami spoločnosti. Výbor však zamestnal skôr zasvätených ľudí – vrátane Altmana – než vonkajších pozorovateľov. Toto je údajne OpenAI zvažuje zakopanie jeho nezisková štruktúra v prospech tradičného ziskového modelu.
Incidenty, ako sú tieto, sťažujú dôveru OpenAI, spoločnosti, ktorej sila a vplyv každý deň rastie (pozri: jej dohody s vydavateľmi správ). Len málo korporácií, ak vôbec nejaké, si zaslúži dôveru. Ale vďaka technológiám OpenAI, ktoré narúšajú trh, sú tieto porušenia ešte znepokojujúcejšie.
To, že Altman sám nie je práve majákom pravdovravnosti, nepomáha.
Keď správy o OpenAI agresívne taktiky voči bývalým zamestnancom zlomil – taktika, ktorá zahŕňala vyhrážanie sa zamestnancom stratou ich vlastného imania alebo zabránenie predaju vlastného imania, ak nepodpísali obmedzujúce dohody o mlčanlivosti – Altman sa ospravedlnil a tvrdil, že o zásadách nevedel. Ale, podľa VoxAltmanov podpis je na dokumentoch o založení spoločnosti, ktoré uzákonili pravidlá.
A keď bývalá členka predstavenstva OpenAI Helen Toner treba veriť – jeden z bývalých členov predstavenstva, ktorý sa koncom minulého roka pokúsil odstrániť Altmana z jeho postu – Altman zatajil informácie, skreslil veci, ktoré sa diali v OpenAI av niektorých prípadoch predstavenstvu priamo klamal. Toner hovorí, že predstavenstvo sa dozvedelo o vydaní ChatGPT prostredníctvom Twitteru, nie od Altmana; že Altman poskytol nesprávne informácie o formálnych bezpečnostných postupoch OpenAI; a že Altman, nespokojný s akademickým dokumentom, ktorého spoluautorom Toner je a ktorý vrhá kritické svetlo na OpenAI, sa pokúsil zmanipulovať členov predstavenstva, aby vytlačil Tonera z predstavenstva.
Nič z toho neveští nič dobré.
Tu je niekoľko ďalších významných príbehov AI z posledných dní:
- Jednoduché klonovanie hlasu: Nová správa Centra pre boj proti digitálnej nenávisti zistila, že služby hlasového klonovania poháňané umelou inteligenciou robia predstieranie vyhlásenia politika pomerne triviálnym.
- Zápas s prehľadmi AI spoločnosti Google: Prehľady AI, výsledky vyhľadávania generované umelou inteligenciou, ktoré spoločnosť Google začala vo väčšej miere zverejňovať začiatkom tohto mesiaca vo Vyhľadávaní Google, potrebovať nejakú prácu. Spoločnosť to pripúšťa, ale tvrdí, že sa to rýchlo opakuje. (Uvidíme.)
- Paul Graham o Altmanovi: V sérii príspevkov na X Paul Graham, spoluzakladateľ startupového akcelerátora Y Combinator, oprášil tvrdenia, že Altman bol v roku 2019 nútený odstúpiť z funkcie prezidenta Y Combinator kvôli potenciálnym konfliktom záujmov. (Y Combinator má malý podiel v OpenAI.)
- xAI vyzbiera 6 miliárd dolárov: Startup AI od Elona Muska, xAI, získal finančné prostriedky vo výške 6 miliárd dolárov, pretože Musk podporí kapitál, aby mohol agresívne konkurovať svojim konkurentom, ako sú OpenAI, Microsoft a Alphabet.
- Nová funkcia umelej inteligencie Perplexity: S novou funkciou Perplexity Pages sa startup Perplexity s umelou inteligenciou snaží pomôcť používateľom vytvárať správy, články alebo príručky vo vizuálne príťažlivejšom formáte, uvádza Ivan.
- Obľúbené čísla modelov AI: Devin píše o číslach, ktoré si vyberajú rôzne modely AI, keď majú za úlohu dať náhodnú odpoveď. Ako sa ukázalo, majú svoje obľúbené – odzrkadlenie údajov, na základe ktorých bol každý vyškolený.
- Mistral vydáva Codestral: Mistral, francúzsky startup AI podporovaný spoločnosťou Microsoft a v hodnote 6 miliárd dolárov, vydal svoj prvý generatívny model AI na kódovanie s názvom Codestral. Nemožno ho však používať komerčne, vďaka dosť obmedzujúcej licencii Mistralu.
- Chatboti a súkromie: Natasha píše o pracovnej skupine ChatGPT Európskej únie a o tom, ako ponúka prvý pohľad na rozuzlenie súladu s ochranou osobných údajov chatbota AI.
- Zvukový generátor ElevenLabs: Startup ElevenLabs s hlasovým klonovaním predstavil nový nástroj, prvýkrát ohlásený vo februári, ktorý umožňuje používateľom vytvárať zvukové efekty prostredníctvom výziev.
- Prepojenia pre AI čipy: Technologickí giganti vrátane spoločností Microsoft, Google a Intel – ale nie Arm, Nvidia alebo AWS – vytvorili priemyselnú skupinu UALink Promoter Group, ktorá má pomôcť pri vývoji komponentov čipov AI novej generácie.
