Týždeň po tom, ako to ľuďom odporučili jeho algoritmy jesť kamene a dať lepidlo na pizzuGoogle vo štvrtok priznal, že to potrebné vykonať úpravy k jeho odvážne nové generatívne vyhľadávanie AI vlastnosť. Táto epizóda poukazuje na riziká agresívnej snahy spoločnosti Google komercializovať generatívnu AI—a tiež zradné a základné obmedzenia tejto technológie.
Funkcia prehľadov AI od Googlu čerpá z Gemini, veľký jazykový model, ako je ten, ktorý stojí za ChatGPT od OpenAI, na generovanie písomných odpovedí na niektoré vyhľadávacie dopyty zhrnutím informácií nájdených online. Súčasný boom AI je postavený okolo Pôsobivá plynulosť LLM s textom, ale softvér môže túto možnosť použiť aj na presvedčivé vyjadrenie nepravd alebo chýb. Použitie technológie na zhrnutie prísľubov online informácií môže uľahčiť strávenie výsledkov vyhľadávania, ale je nebezpečné, keď sú online zdroje obmedzené alebo keď ľudia môžu použiť informácie na dôležité rozhodnutia.
„Rýchly a prehľadný prototyp teraz môžete získať pomerne rýchlo pomocou LLM, ale urobiť ho tak, aby vám nepovedalo, že máte jesť kamene, si vyžaduje veľa práce,“ hovorí Richard Socher, ktorý kľúčovým spôsobom prispel k AI pre jazyk. ako výskumník a koncom roka 2021 spustil vyhľadávací nástroj zameraný na AI s názvom You.com.
Socher hovorí, že spor o LLM si vyžaduje značné úsilie, pretože základná technológia nemá skutočné pochopenie sveta a pretože web je preplnený nedôveryhodnými informáciami. „V niektorých prípadoch je lepšie vám v skutočnosti nielen odpovedať, alebo vám ukázať viacero rôznych uhlov pohľadu,“ hovorí.
Vedúca vyhľadávania Google Liz Reid povedala v spoločnosti blogový príspevok vo štvrtok neskoro večer že pred spustením prehľadov AI vykonala rozsiahle testovanie. Dodala však, že chyby, ako napríklad príklady jedenia kameňa a lepiacej pizze – v ktorých algoritmy Googlu čerpali informácie zo satirického článku a vtipného komentára na Reddit – si vyžiadali ďalšie zmeny. Zahŕňajú lepšiu detekciu „nezmyselných dopytov“, hovorí Google, a tým, že sa systém menej spolieha na obsah generovaný používateľmi.
You.com sa bežne vyhýba typom chýb, ktoré zobrazujú prehľady AI spoločnosti Google, hovorí Socher, pretože jeho spoločnosť vyvinula asi tucet trikov, ako zabrániť tomu, aby sa LLM pri vyhľadávaní správali nesprávne.
„Sme presnejší, pretože vynakladáme veľa zdrojov na to, aby sme boli presnejší,“ hovorí Socher. You.com okrem iného používa webový index vytvorený na mieru, ktorý má LLM pomôcť vyhnúť sa nesprávnym informáciám. Na zodpovedanie konkrétnych otázok tiež vyberá z viacerých rôznych LLM a používa mechanizmus citovania, ktorý dokáže vysvetliť, keď sú zdroje protichodné. Správne vyhľadávanie AI je však zložité. WIRED v piatok zistil, že You.com nedokázal správne odpovedať na otázku, o ktorej je známe, že spomaľuje iné systémy AI, pričom uvádza, že „na základe dostupných informácií neexistujú žiadne africké národy, ktorých mená začínajú písmenom „K“. V predchádzajúcich testoch to zvládlo dopyt.
Generatívna inovácia AI od spoločnosti Google na jej najpoužívanejší a najlukratívnejší produkt je súčasťou reštartu v celom technickom odvetví inšpirovaného vydaním chatbota OpenAI. ChatGPT v novembri 2022. Pár mesiacov po debute ChatGPT Microsoft, kľúčový partner OpenAI, použil jeho technológiu aktualizovať svoj tiež spustený vyhľadávací nástroj Bing. Vylepšený Bing bol sužovaný chybami generovanými AI a zvláštnym správaním, ale generálny riaditeľ spoločnosti, Satya Nadella, povedal, že tento krok bol navrhnutý tak, aby spochybňoval Google, hovorí „Chcem, aby ľudia vedeli, že sme ich prinútili tancovať.“
Niektorí odborníci sa domnievajú, že Google uponáhľal upgrade AI. „Som prekvapený, že to spustili v takej podobe, v akej je na toľko otázok – zdravotných, finančných – myslel som si, že budú opatrnejší,“ hovorí Barry Schwartz, redaktor správ v Search Engine Land, publikácii, ktorá sleduje priemysel vyhľadávania. Spoločnosť mala lepšie predvídať, že niektorí ľudia sa zámerne pokúsia podkopať prehľady AI, dodáva. „Google musí byť v tom múdry,“ hovorí Schwartz, najmä keď výsledky zobrazujú ako predvolené na svojom najcennejšom produkte.
Lily Raykonzultant optimalizácie pre vyhľadávače, bol rok beta testerom prototypu, ktorý predchádzal prehľadom AI, ktorý Google nazval Search Generative Experience. Hovorí, že ju neprekvapilo, keď videla chyby, ktoré sa objavili minulý týždeň, vzhľadom na to, ako sa predchádzajúca verzia pokazila. „Myslím si, že je prakticky nemožné, aby sa vždy všetko spravilo,“ hovorí Ray. „Taká je povaha AI.“
