TechCrunch publikuje publikáciu, aby umožnila ženám akademiciam zameraným na AI a ďalším ich zaslúžený – a po lehote splatnosti – čas v centre pozornosti. séria rozhovorov zameraný na pozoruhodné ženy, ktoré prispeli k revolúcii AI. Tieto kúsky zverejňujeme počas celého roka, keďže boom AI pokračuje, pričom zdôrazňujeme kľúčovú prácu, ktorá často zostáva nepovšimnutá. Prečítajte si ďalšie profily tu.
Sarah Myers West je výkonnou riaditeľkou inštitútu AI Now, amerického výskumného inštitútu, ktorý študuje sociálne dôsledky AI a politický výskum, ktorý sa zaoberá koncentráciou moci v technologickom priemysle. Predtým pôsobila ako hlavná poradkyňa pre AI na Federálnej obchodnej komisii USA a je hosťujúcim výskumníkom na Northeastern University, ako aj prispievateľkou do výskumu v Cornell’s Citizens and Technology Lab.
V skratke, ako ste začali s AI? Čím vás obor zaujal?
Strávil som posledných 15 rokov skúmaním úlohy technologických spoločností ako mocných politických aktérov, ktorí sa objavili v prvej línii medzinárodného riadenia. Na začiatku svojej kariéry som sedel v prvom rade a pozoroval, ako sa americké technologické spoločnosti objavujú po celom svete spôsobmi, ktoré zmenili politické prostredie – v juhovýchodnej Ázii, Číne, na Strednom východe a inde – a napísal som knihu o tom, ako priemysel lobovanie a regulácia formovali počiatky obchodného modelu sledovania internetu napriek technológiám, ktoré ponúkali alternatívy v teória že v prax nepodarilo zrealizovať.
V mnohých bodoch mojej kariéry som si kládol otázku: „Prečo sme uzavretí do tejto veľmi dystopickej vízie budúcnosti? Odpoveď má málo spoločného so samotnou technológiou a veľa do činenia s verejnou politikou a komercializáciou.
Odvtedy je to do značnej miery môj projekt, v mojej výskumnej kariére aj teraz v mojej politickej práci ako spoluriaditeľ AI Now. Ak je umelá inteligencia súčasťou infraštruktúry nášho každodenného života, musíme kriticky preskúmať inštitúcie, ktoré ju vytvárajú, a uistiť sa, že ako spoločnosť existuje dostatočné napätie – či už prostredníctvom regulácie alebo organizovania –, aby sme zabezpečili, že ide o potreby verejnosti. ktoré sa podávajú na konci dňa, nie tie od technologických spoločností.
Na akú prácu v oblasti AI ste najviac hrdý?
Som naozaj hrdý na prácu, ktorú sme odviedli vo FTC, čo je americká vládna agentúra, ktorá okrem iného stojí v prvej línii regulačného presadzovania umelej inteligencie. Miloval som vyhrnúť si rukávy a pracovať na prípadoch. Bol som schopný použiť svoje školenie o metódach ako výskumník na investigatívnu prácu, pretože súbor nástrojov je v podstate rovnaký. Bolo potešujúce, že som mohol používať tieto nástroje na držanie moci priamo na zodpovednosť a vidieť, že táto práca má okamžitý vplyv na verejnosť, či už ide o riešenie toho, ako sa AI používa na znehodnocovanie pracovníkov a zvyšovanie cien, alebo boj proti správaniu narúšajúcemu hospodársku súťaž. veľkých technologických spoločností.
Podarilo sa nám priviesť na palubu fantastický tím technológov pracujúcich pod Úradom pre politiku vedy a techniky v Bielom dome a bolo vzrušujúce vidieť, že základy, ktoré sme tam položili, majú okamžitý význam so vznikom generatívnej AI a dôležitosťou cloudovej infraštruktúry. .
Aké sú niektoré z najpálčivejších problémov, ktorým čelí AI pri jej vývoji?
Predovšetkým je to, že technológie AI sa široko používajú vo veľmi citlivých kontextoch – v nemocniciach, školách, na hraniciach atď. – ale zostávajú nedostatočne testované a overené. Ide o technológiu náchylnú na chyby a z nezávislého výskumu vieme, že tieto chyby nie sú rozdelené rovnomerne; neúmerne poškodzujú komunity, ktoré dlhodobo znášajú ťarchu diskriminácie. Mali by sme nastaviť oveľa, oveľa vyššiu latku. Čo sa ma však týka, ako mocné inštitúcie využívajú AI – či už funguje alebo nie – na ospravedlnenie svojich činov, od použitia zbraní proti civilistom v Gaze až po zbavenie práv pracovníkov. Toto nie je problém v technike, ale v diskurze: ako orientujeme našu kultúru okolo techniky a myšlienky, že ak je do toho zapojená AI, určité voľby alebo správanie sa stanú „objektívnejšími“ alebo nejako získajú súhlas.
Aký je najlepší spôsob, ako zodpovedne budovať AI?
Vždy musíme začať otázkou: Prečo vôbec stavať AI? Čo si vyžaduje použitie umelej inteligencie a je technológia AI vhodná na tento účel? Niekedy je odpoveďou stavať lepšiea v takom prípade by vývojári mali zabezpečiť súlad so zákonom, dôkladne dokumentovať a overovať svoje systémy a robiť otvorené a transparentné, čo môžu, aby nezávislí výskumníci mohli urobiť to isté. Ale inokedy je odpoveďou nestavať vôbec: Nepotrebujeme viac „zodpovedne vyrobených“ zbraní alebo sledovacích technológií. Pri tejto otázke záleží na konečnom použití a tu musíme začať.