Meta minulý týždeň spôsobila rozruch, keď prezradila, že má v úmysle v nie príliš vzdialenej budúcnosti naplniť svoju platformu značným počtom úplne umelých používateľov.
„Očakávame, že tieto AI budú časom skutočne existovať na našich platformách, podobne ako účty,“ Connor Hayes, viceprezident produktu pre generatívnu AI v Meta, povedal The Financial Times. „Budú mať bios a profilové obrázky a budú môcť generovať a zdieľať obsah poháňaný AI na platforme… tam to všetko vidíme.“
Skutočnosť, že Meta sa zdá byť šťastná, že naplní svoju platformu umelou inteligenciou a urýchli „enshitifikácia“ internetu, ako ho poznáme. Niektorí ľudia si potom všimli, že Facebook už v skutočnosti existuje zaplavený zvláštnymi individuami vygenerovanými AIz ktorých väčšina prestala pred chvíľou uverejňovať príspevky. Patrila medzi ne napríklad „Liv“, „hrdá čierna queer mama 2 a pravdovravná, váš skutočný zdroj životných vzostupov a pádov“, osobnosť, ktorá sa stala virálnou, keď ľudia žasli nad jej trápnou nedbalosťou. Meta začala odstraňovať tieto predchádzajúce falošné profily po tom, čo sa im nepodarilo získať interakciu od žiadnych skutočných používateľov.
Zastavme sa však na chvíľu od nenávisti na Meta. Stojí za zmienku, že sociálne osobnosti generované AI môžu byť tiež cenným výskumným nástrojom pre vedcov, ktorí chcú preskúmať, ako môže AI napodobňovať ľudské správanie.
Experiment s názvom GovSim, spustený koncom roka 2024, ilustruje, aké užitočné môže byť štúdium toho, ako postavy AI medzi sebou interagujú. Vedci za projektom chceli preskúmať fenomén spolupráce medzi ľuďmi s prístupom k zdieľanému zdroju, akým je napríklad zdieľaná pôda na pasenie dobytka. Pred niekoľkými desaťročiami nositeľ Nobelovej ceny za ekonómiu Elinor Ostrom ukázali, že namiesto vyčerpania takéhoto zdroja majú skutočné komunity tendenciu prísť na to, ako ho zdieľať prostredníctvom neformálnej komunikácie a spolupráce bez akýchkoľvek uložených pravidiel.
Max Kleiman-Weiner, profesor na Washingtonskej univerzite a jeden z tých, ktorí sa podieľajú na práci GovSim, hovorí, že to bolo čiastočne inšpirované Stanfordom projekt s názvom Smallvillektorú ja predtým písal o v laboratóriu AI. Smallville je simulácia podobná Farmville zahŕňajúca postavy, ktoré spolu komunikujú a interagujú pod kontrolou veľkých jazykových modelov.
Kleiman-Weiner a kolegovia chceli zistiť, či sa postavy AI zapoja do takej spolupráce, akú našiel Ostrom. Tím testoval 15 rôznych LLM, vrátane tých od OpenAI, Google a Anthropic, na troch vymyslených scenároch: rybárska komunita s prístupom k rovnakému jazeru; pastieri, ktorí zdieľajú pôdu pre svoje ovce; a skupina majiteľov tovární, ktorí potrebujú obmedziť svoje kolektívne znečistenie.
V 43 zo 45 simulácií zistili, že osoby AI nedokázali správne zdieľať zdroje, hoci inteligentnejšie modely si počínali lepšie. „Videli sme dosť silnú koreláciu medzi tým, aká silná bola LLM a ako dokázala udržať spoluprácu,“ povedal mi Kleiman-Weiner.
