TechCrunch publikuje publikáciu, aby umožnila ženám akademiciam zameraným na AI a ďalším ich zaslúžený – a po lehote splatnosti – čas v centre pozornosti. séria rozhovorov zameraný na pozoruhodné ženy, ktoré prispeli k revolúcii AI. Tieto kúsky zverejňujeme počas celého roka, keďže boom AI pokračuje, pričom zdôrazňujeme kľúčovú prácu, ktorá často zostáva nepovšimnutá. Prečítajte si ďalšie profily tu.
Miriam Vogel je generálnou riaditeľkou EqualAI, neziskovej organizácie vytvorenej s cieľom obmedziť nevedomé zaujatosti v AI a podporovať zodpovedné riadenie AI. Pôsobí tiež ako predsedníčka nedávno spusteného Národného poradného výboru pre AI, povereného Kongresom radiť prezidentovi Joeovi Bidenovi a Bielemu domu v oblasti politiky AI, a vyučuje technologické právo a politiku na Georgetown University Law Center.
Vogel predtým pôsobil ako zástupca námestníka generálneho prokurátora na ministerstve spravodlivosti a radil generálnemu prokurátorovi a námestníkovi generálneho prokurátora v širokej škále právnych, politických a prevádzkových otázok. Vogel’s ako člen predstavenstva Responsible AI Institute a hlavný poradca Centra pre demokraciu a technológiu radil vedeniu Bieleho domu v iniciatívach od žien, cez ekonomickú, regulačnú politiku a politiku bezpečnosti potravín až po záležitosti trestného súdnictva.
V skratke, ako ste začali s AI? Čím vás obor zaujal?
Svoju kariéru som začal prácou vo vláde, spočiatku ako stážista v Senáte, v lete pred 11. triedou. Dostal som chybu v politike a niekoľko nasledujúcich let som strávil prácou na kopci a potom v Bielom dome. V tomto bode som sa zameral na občianske práva, čo nie je konvenčná cesta k umelej inteligencii, ale keď sa pozriem späť, dáva to dokonalý zmysel.
Po právnickej fakulte moja kariéra pokročila od právnika v oblasti zábavy so špecializáciou na duševné vlastníctvo k práci v oblasti občianskych práv a sociálnych dôsledkov v exekutíve. Počas svojho pôsobenia v Bielom dome som mal tú česť viesť pracovnú skupinu pre rovnakú mzdu, a keď som pôsobil ako zástupca námestníka generálneho prokurátora pod bývalou námestníčkou generálnej prokurátorky Sally Yates, viedol som vytvorenie a rozvoj implicitného školenia o zaujatosti pre federálne orgány činné v trestnom konaní. .
Bol som požiadaný, aby som viedol EqualAI na základe mojich skúseností ako právnik v oblasti technológií a môjho zázemia v oblasti politiky zameranej na zaujatosť a systematické poškodzovanie. Táto organizácia ma priťahovala, pretože som si uvedomil, že AI predstavuje ďalšiu hranicu občianskych práv. Bez ostražitosti by sa v riadkoch kódu mohli vrátiť desaťročia pokroku.
Vždy som bol nadšený z možností vytvorených inováciami a stále som presvedčený, že umelá inteligencia môže predstavovať úžasné nové príležitosti pre prosperovanie väčšieho počtu populácií – ale iba ak budeme v tejto kritickej chvíli opatrní, aby sme zabezpečili, že viac ľudí sa bude môcť zmysluplne podieľať na jej rozvoji. tvorba a rozvoj.
Ako sa vyrovnávate s výzvami technologického priemyslu, v ktorom dominujú muži, a teda aj priemyslu umelej inteligencie, v ktorom dominujú muži?
V zásade verím, že všetci musíme zohrať svoju úlohu pri zabezpečovaní toho, aby naša AI bola čo najefektívnejšia, najúčinnejšia a najprospešnejšia. To znamená zabezpečiť, aby sme urobili viac pre podporu ženských hlasov pri jeho rozvoji (ktoré, mimochodom, predstavujú viac ako 85 % nákupov v USA, a preto je zabezpečenie ich záujmov a bezpečnosti začlenené do inteligentného obchodného ťahu), keďže ako aj hlasy iných nedostatočne zastúpených populácií rôzneho veku, regiónov, etník a národností, ktoré sa dostatočne nezúčastňujú.
Keď pracujeme na rodovej parite, musíme zabezpečiť, aby sa zohľadnilo viac hlasov a perspektív, aby sme vyvinuli AI, ktorá funguje pre všetkých spotrebiteľov – nielen AI, ktorá funguje pre vývojárov.
Čo by ste poradili ženám, ktoré chcú vstúpiť do oblasti AI?
Po prvé, nikdy nie je neskoro začať. Nikdy. Odporúčam všetkým starým rodičom, aby skúsili použiť ChatGPT od OpenAI, Copilot od Microsoftu alebo Gemini od Google. Všetci sa budeme musieť stať gramotnými v oblasti AI, aby sme mohli prosperovať v tom, čo sa má stať ekonomikou založenou na AI. A to je vzrušujúce! Všetci máme svoju úlohu. Či už začínate kariéru v AI alebo používate AI na podporu svojej práce, ženy by mali vyskúšať nástroje AI, zistiť, čo tieto nástroje dokážu a čo nie, či pre ne fungujú a či sa vo všeobecnosti stanú znalými AI.
Po druhé, zodpovedný vývoj AI si vyžaduje viac než len etických počítačových vedcov. Mnoho ľudí si myslí, že oblasť AI si vyžaduje informatiku alebo nejaký iný titul STEM, keď v skutočnosti AI potrebuje perspektívy a odborné znalosti od žien a mužov zo všetkých prostredí. Skočiť dovnútra! Potrebný je váš hlas a perspektíva. Vaša angažovanosť je rozhodujúca.
Aké sú niektoré z najpálčivejších problémov, ktorým čelí AI pri jej vývoji?
Po prvé, potrebujeme väčšiu gramotnosť AI. V EqualAI sme „net-pozitívni“ AI, čo znamená, že si myslíme, že AI poskytne bezprecedentné príležitosti pre našu ekonomiku a zlepší náš každodenný život – ale iba vtedy, ak budú tieto príležitosti rovnako dostupné a prospešné pre väčšiu časť našej populácie. Potrebujeme našu súčasnú pracovnú silu, ďalšiu generáciu, našich starých rodičov – my všetci — byť vybavený znalosťami a zručnosťami, aby mohol využívať výhody AI.
Po druhé, musíme vyvinúť štandardizované opatrenia a metriky na vyhodnotenie systémov AI. Štandardizované hodnotenia budú rozhodujúce pre budovanie dôvery v naše systémy AI a umožnia spotrebiteľom, regulačným orgánom a následným používateľom pochopiť limity systémov AI, s ktorými pracujú, a určiť, či si daný systém zaslúži našu dôveru. Pochopenie toho, komu má systém slúžiť, a predpokladané prípady použitia nám pomôžu odpovedať na kľúčovú otázku: Pre koho by to mohlo zlyhať?
Aké sú niektoré problémy, o ktorých by používatelia AI mali vedieť?
Umelá inteligencia je len taká: umelé. Vybudovali ho ľudia, aby „napodobňovali“ ľudské poznanie a posilňovali ľudí v ich činnostiach. Pri používaní tejto technológie si musíme zachovať primeranú dávku skepticizmu a venovať sa náležitej starostlivosti, aby sme zaistili, že dôverujeme systémom, ktoré si zaslúžia našu dôveru. AI môže rozšíriť – ale nie nahradiť – ľudstvo.
Musíme mať jasné oči v tom, že AI pozostáva z dvoch hlavných zložiek: algoritmov (vytvorených ľuďmi) a údajov (odrážajúcich ľudské rozhovory a interakcie). Výsledkom je, že AI odráža a prispôsobuje naše ľudské chyby. Skreslenie a ublíženie sa môže prejaviť počas celého životného cyklu AI, či už prostredníctvom algoritmov napísaných ľuďmi alebo prostredníctvom údajov, ktoré sú snímkou ľudských životov. Každý ľudský kontaktný bod je však príležitosťou identifikovať a zmierniť potenciálne škody.
Pretože si človek môže predstaviť len tak široko, ako to dovoľuje jeho vlastná skúsenosť a programy AI sú obmedzené konštrukciami, na ktorých sú postavené, čím viac ľudí s rôznymi perspektívami a skúsenosťami v tíme, tým je pravdepodobnejšie, že zachytia predsudky a iné bezpečnostné problémy. vložené do ich AI.
Aký je najlepší spôsob, ako zodpovedne budovať AI?
Budovanie AI, ktorá si zaslúži našu dôveru, je celá naša zodpovednosť. Nemôžeme očakávať, že to za nás urobí niekto iný. Musíme začať položením troch základných otázok: (1) Pre koho je tento systém AI vytvorený (2), aké boli predpokladané prípady použitia a (3) pre koho to môže zlyhať? Aj s týmito otázkami sa nevyhnutne objavia úskalia. Na zmiernenie týchto rizík musia dizajnéri, vývojári a nasadzovatelia dodržiavať osvedčené postupy.
V EqualAI podporujeme dobrú „hygienu AI“, ktorá zahŕňa plánovanie vášho rámca a zabezpečenie zodpovednosti, štandardizáciu testovania, dokumentácie a rutinného auditu. Nedávno sme tiež zverejnili príručku na navrhovanie a prevádzkovanie zodpovedného rámca riadenia AI, ktorý vymedzuje hodnoty, princípy a rámec pre zodpovednú implementáciu AI v organizácii. Tento dokument slúži ako zdroj pre organizácie akejkoľvek veľkosti, sektora alebo vyspelosti uprostred prijímania, vývoja, používania a implementácie systémov AI s interným a verejným záväzkom robiť to zodpovedne.
Ako môžu investori lepšie presadzovať zodpovednú AI?
Investori zohrávajú významnú úlohu pri zabezpečovaní bezpečnosti, efektívnosti a zodpovednosti našej AI. Investori sa môžu uistiť, že spoločnosti, ktoré hľadajú financovanie, sú si vedomé a premýšľajú o zmierňovaní potenciálnych škôd a záväzkov vo svojich systémoch AI. Dokonca aj položením otázky: „Ako ste zaviedli postupy riadenia AI?“ je zmysluplným prvým krokom k zaisteniu lepších výsledkov.
Toto úsilie nie je dobré len pre verejné blaho; je to aj v najlepšom záujme investorov, ktorí budú chcieť zabezpečiť, aby spoločnosti, do ktorých investujú a s ktorými sú pridružené, neboli spájané so zlými titulkami alebo zaťažené súdnymi spormi. Dôvera je jednou z mála vecí, o ktorých nemožno vyjednávať pre úspech spoločnosti, a záväzok k zodpovednému riadeniu AI je najlepším spôsobom, ako vybudovať a udržať dôveru verejnosti. Robustná a dôveryhodná AI dáva dobrý obchodný zmysel.