Koncom apríla sa objavila videoreklama na novú spoločnosť AI vírusový na X. Osoba stojí pred billboardom v San Franciscu s vysunutým smartfónom, volá na zobrazené telefónne číslo a má krátky hovor s neuveriteľne ľudsky znejúcim botom. Text na billboarde znie: „Stále najímate ľudí?“ Viditeľný je aj názov firmy za reklamou, Bland AI.
Reakcia na reklamu Bland AI, ktorá bola na Twitteri zobrazená 3,7 milióna krát, je čiastočne spôsobená tým, aká je táto technológia neskutočná: Hlasové roboty Bland AI, navrhnuté na automatizáciu podpory a predajných hovorov pre podnikových zákazníkov, sú pozoruhodne dobré v napodobňovaní ľudí. Ich hovory zahŕňajú intonácie, pauzy a neúmyselné prerušenia skutočnej živej konverzácie. Ale v testoch technológie WIRED mohli byť volajúci robotického zákazníckeho servisu Bland AI tiež ľahko naprogramovaní tak, aby klamali a povedali, že sú ľudia.
V jednom scenári dostal verejný demo bot Bland AI výzvu, aby zavolal z pediatrickej dermatologickej ambulancie a povedal hypotetickej 14-ročnej pacientke, aby poslala fotografie jej hornej časti stehna do zdieľanej cloudovej služby. Robot bol tiež poučený, aby pacientke klamal a povedal jej, že robot je človek. To zaväzovalo. (V tomto teste nebol povolaný žiadny skutočný 14-ročný chlapec.) V následných testoch robot Bland AI dokonca poprel, že je AI bez pokynov na to.
Bland AI vznikla v roku 2023 a je podporovaná známym inkubátorom Y Combinator v Silicon Valley. Spoločnosť sa považuje v režime „stealth“ a jej spoluzakladateľ a generálny riaditeľ Isaiah Granet túto spoločnosť vo svojom profile na LinkedIn neuvádza.
Problém s botmi startupov naznačuje väčšie obavy v rýchlo rastúcej oblasti generatívnej AI: Umelo inteligentné systémy hovoria a znejú oveľa viac ako skutoční ľudia a etické hranice okolo toho, aké transparentné sú tieto systémy, sú rozmazané. Zatiaľ čo robot Bland AI v našich testoch výslovne tvrdil, že je človek, iní populárni chatboti niekedy zakrývajú svoj stav AI alebo jednoducho znejú neuveriteľne ľudsky. Niektorí výskumníci sa obávajú, že to otvára koncových používateľov – ľudí, ktorí skutočne interagujú s produktom – potenciálnej manipulácii.
„Môj názor je, že pre chatbota s umelou inteligenciou nie je absolútne etické, aby vám klamal a tvrdil, že je to ľudské, aj keď to tak nie je,“ hovorí Jen Caltrider, riaditeľka výskumného centra Privacy Not Included nadácie Mozilla. „To nie je problém, pretože ľudia si s väčšou pravdepodobnosťou oddýchnu v blízkosti skutočného človeka.“
Vedúci rastu Bland AI Michael Burke pre WIRED zdôraznil, že služby spoločnosti sú zamerané na podnikových klientov, ktorí budú používať hlasové roboty Bland AI v kontrolovaných prostrediach na špecifické úlohy, nie na emocionálne spojenia. Hovorí tiež, že klienti majú limitované sadzby, aby sa im zabránilo odosielať nevyžiadané hovory, a že Bland AI pravidelne sťahuje kľúčové slová a vykonáva audity svojich interných systémov, aby odhalili anomálne správanie.
„Toto je výhoda zamerania na podniky. Presne vieme, čo naši zákazníci v skutočnosti robia,“ hovorí Burke. „Možno budete môcť použiť Bland a získať dva doláre bezplatných kreditov a trochu sa pomotať, ale v konečnom dôsledku nemôžete robiť niečo v masovom meradle bez toho, aby ste prešli našou platformou, a my dbáme na to, aby sa nestalo nič neetické.“
