TechCrunch publikuje publikáciu, aby umožnila ženám akademiciam zameraným na AI a ďalším ich zaslúžený – a po lehote splatnosti – čas v centre pozornosti. séria rozhovorov zameraný na pozoruhodné ženy, ktoré prispeli k revolúcii AI. Tieto kúsky zverejňujeme počas celého roka, keďže boom AI pokračuje, pričom zdôrazňujeme kľúčovú prácu, ktorá často zostáva nepovšimnutá. Prečítajte si ďalšie profily tu.
Chinasa T. Okolo je chlapík v programe Governance Studies na Brookings Instutition v Centre of Technology Innovation. Predtým pôsobila vo výbore pre etiku a sociálny vplyv, ktorý pomáhal rozvíjať nigérijskú národnú stratégiu umelej inteligencie, a pôsobila ako poradkyňa pre politiku AI a etiku pre rôzne organizácie vrátane Africkej únie pre rozvoj a Quebeckého inštitútu pre umelú inteligenciu. Nedávno získala doktorát z informatiky na Cornell University, kde skúmala, ako AI ovplyvňuje globálny juh.
V skratke, ako ste začali s AI? Čím vás obor zaujal?
Spočiatku som prešiel na AI, pretože som videl, ako výpočtové techniky môžu posunúť biomedicínsky výskum a demokratizovať prístup k zdravotnej starostlivosti pre marginalizované komunity. Počas posledného ročníka bakalárskeho štúdia (na Pomona College) som začal výskum s profesorom interakcie medzi človekom a počítačom, ktorý ma vystavil výzvam zaujatosti v rámci AI. Počas môjho doktorandského štúdia som sa začal zaujímať o pochopenie toho, ako tieto problémy ovplyvnia ľudí na globálnom juhu, ktorí predstavujú väčšinu svetovej populácie a sú často vylúčení a nedostatočne zastúpení vo vývoji AI.
Na akú prácu si najviac hrdý (v oblasti AI)?
Som neuveriteľne hrdý na svoju prácu s Africkou úniou (AÚ) na vývoji Kontinentálnej stratégie AU-AI pre Afriku, ktorej cieľom je pomôcť členským štátom AÚ pripraviť sa na zodpovedné prijatie, rozvoj a riadenie AI. Návrh stratégie trval viac ako 1,5 roka a bola zverejnená koncom februára 2024. Teraz je v období otvorenej spätnej väzby s cieľom formálneho prijatia členskými štátmi AÚ začiatkom roku 2025.
Ako nigérijská Američanka prvej generácie, ktorá vyrástla v Kansas City v štáte MO a neopustila štáty, kým počas vysokoškolského štúdia v zahraničí neštudovala, som sa vždy snažila sústrediť svoju kariéru v Afrike. Zapojenie sa do takej pôsobivej práce tak skoro v mojej kariére ma teší, že sa môžem venovať podobným príležitostiam, aby som pomohol formovať inkluzívne globálne riadenie AI.
Ako sa vyrovnávate s výzvami technologického priemyslu, v ktorom dominujú muži, a teda aj priemyslu umelej inteligencie, v ktorom dominujú muži?
Nájsť komunitu s tými, ktorí zdieľajú moje hodnoty, bolo nevyhnutné pri navigácii v technologickom a umelom priemysle ovládanom mužmi.
Mal som to šťastie, že som videl veľa pokrokov v zodpovednej AI a prominentný výskum odhaľujúci škody AI, ktorý viedli černošskí vedci ako Timnit Gebru, Safiya Noble, Abeba Birhane, Ruha Benjamin, Joy Buolamwini a Deb Raji, z ktorých mnohé som ja s používateľom som sa za posledných pár rokov dokázal spojiť.
Vidieť ich vedenie ma motivovalo pokračovať vo svojej práci v tejto oblasti a ukázalo mi hodnotu ísť „proti srsti“, aby som dosiahol zmysluplný vplyv.
Čo by ste poradili ženám, ktoré chcú vstúpiť do oblasti AI?
Nenechajte sa zastrašiť nedostatkom technického zázemia. Oblasť AI je viacrozmerná a potrebuje odborné znalosti z rôznych oblastí. Môj výskum výrazne ovplyvnili sociológovia, antropológovia, kognitívni vedci, filozofi a iní v rámci humanitných a spoločenských vied.
Aké sú niektoré z najpálčivejších problémov, ktorým čelí AI pri jej vývoji?
Jednou z najvýznamnejších otázok bude zlepšenie spravodlivého zastúpenia nezápadných kultúr v prominentných jazykových a multimodálnych modeloch. Prevažná väčšina modelov AI je trénovaná v angličtine a na údajoch, ktoré primárne reprezentujú západné kontexty, čo vynecháva cenné pohľady z väčšiny sveta.
Okrem toho preteky v budovaní väčších modelov povedú k väčšiemu vyčerpaniu prírodných zdrojov a väčším vplyvom na zmenu klímy, ktoré už teraz neúmerne ovplyvňujú krajiny globálneho Juhu.
Aké sú niektoré problémy, o ktorých by používatelia AI mali vedieť?
Značný počet nástrojov a systémov AI, ktoré boli uvedené do verejného nasadenia, preháňajú svoje možnosti a jednoducho nefungujú. Mnoho úloh, na ktoré sa ľudia snažia používať AI, by sa pravdepodobne dali vyriešiť pomocou jednoduchších algoritmov alebo základnej automatizácie.
Okrem toho má generatívna AI schopnosť zhoršiť škody pozorované pri starších nástrojoch AI. Roky sme videli, ako tieto nástroje vykazujú zaujatosť a vedú k škodlivému rozhodovaniu proti zraniteľným komunitám, čo sa pravdepodobne zvýši, keď bude generatívna AI narastať v rozsahu a dosahu.
Umožnenie ľuďom so znalosťami pochopiť obmedzenia AI však môže pomôcť zlepšiť zodpovedné prijímanie a používanie týchto nástrojov. Zlepšenie umelej inteligencie a dátovej gramotnosti širokej verejnosti sa stane základom, pretože nástroje umelej inteligencie sa rýchlo integrujú do spoločnosti.
Aký je najlepší spôsob, ako zodpovedne budovať AI?
Najlepší spôsob, ako zodpovedne budovať AI, je kriticky sa vyjadrovať k zamýšľaným a neúmyselným prípadom použitia týchto nástrojov. Ľudia, ktorí vytvárajú systémy umelej inteligencie, majú zodpovednosť namietať proti používaniu umelej inteligencie na škodlivé scenáre vo vojne a polícii a mali by vyhľadať externé poradenstvo, ak je umelá inteligencia vhodná pre iné prípady použitia, na ktoré sa môžu zameriavať. Vzhľadom na to, že AI je často zosilňovačom existujúcich sociálnych nerovností, je tiež nevyhnutné, aby vývojári a výskumníci boli opatrní pri vytváraní a spravovaní súborov údajov, ktoré sa používajú na trénovanie modelov AI.
Ako môžu investori lepšie presadzovať zodpovednú AI?
Mnohí tvrdia, že rastúci záujem rizikového kapitálu o „výplatu“ na súčasnej vlne umelej inteligencie urýchlil vzostup „hadieho oleja AI“, ktorý vytvorili Arvind Narayanan a Sayash Kapoor. Súhlasím s týmto názorom a verím, že investori musia zaujať vedúce pozície spolu s akademikmi, zainteresovanými stranami občianskej spoločnosti a členmi priemyslu, aby obhajovali zodpovedný vývoj AI. Sám ako anjelský investor som na trhu videl veľa pochybných nástrojov AI. Investori by tiež mali investovať do odborných znalostí v oblasti umelej inteligencie, aby preverili spoločnosti a požiadať o externé audity nástrojov demonštrovaných v balíkoch ponúk.
Chcete ešte niečo dodať?
Toto prebiehajúce „leto umelej inteligencie“ viedlo k množeniu „odborníkov na umelú inteligenciu“, ktorí často odvádzajú pozornosť od dôležitých rozhovorov o súčasných rizikách a škodách umelej inteligencie a poskytujú zavádzajúce informácie o možnostiach nástrojov s podporou AI. Vyzývam tých, ktorí sa zaujímajú o vzdelávanie v oblasti AI, aby boli k týmto hlasom kritickí a hľadali renomované zdroje, z ktorých by sa mohli poučiť.
