Meta v stredu oznámila vytvorenie an Poradná rada AI len s bielymi mužmi. Čo iné by sme čakali? Ženy a farební ľudia už desaťročia hovoria o tom, že sú ignorovaní a vylúčení zo sveta umelej inteligencie napriek tomu, že sú kvalifikovaní a zohrávajú kľúčovú úlohu vo vývoji tohto priestoru.
Meta okamžite nereagovala na našu žiadosť o vyjadrenie sa k rôznorodosti poradného zboru.
Táto nová poradná rada sa líši od skutočnej správnej rady spoločnosti Meta a jej dozornej rady, čo je viac rôznorodé v rodovom a rasovom zastúpení. Akcionári nezvolili túto radu AI, ktorá tiež nemá žiadnu zvereneckú povinnosť. Meta povedala Bloombergu že doska ponúkne „pohľady a odporúčania o technologickom pokroku, inováciách a príležitostiach strategického rastu“. Stretávalo by sa „pravidelne“.
Je výstižné, že poradná rada pre AI sa skladá výlučne z obchodníkov a podnikateľov, nie z etických odborníkov alebo kohokoľvek s akademickým alebo hlbokým výskumným pozadím. Aj keď by sa dalo tvrdiť, že súčasní a bývalí manažéri Stripe, Shopify a Microsoftu majú dobrú pozíciu na to, aby dohliadali na plán produktov AI spoločnosti Meta vzhľadom na obrovské množstvo produktov, ktoré medzi nimi uviedli na trh, znovu a znovu sa dokázalo, že AI nie je. ako ostatné produkty. Je to riskantné podnikanie a následky nesprávneho postupu môžu byť ďalekosiahle, najmä pre marginalizované skupiny.
V nedávnom rozhovore pre TechCrunch Sarah Myers West, výkonná riaditeľka AI Now Institute, neziskovej organizácie, ktorá študuje sociálne dôsledky AI, povedala, že je nevyhnutné „kriticky preskúmať“ inštitúcie produkujúce AI, aby sa „uistili potreby verejnosti ( sú) podávané“.
„Toto je technológia náchylná na chyby a z nezávislého výskumu vieme, že tieto chyby nie sú rozdelené rovnomerne, neúmerne poškodzujú komunity, ktoré už dlho znášajú bremeno diskriminácie,“ povedala. „Mali by sme nastaviť oveľa, oveľa vyššiu latku.“
Ženy oveľa častejšie ako muži zažijú temnú stránku AI. Sensity AI to zistila v roku 2019 96 % AI deepfake videí online boli nekonsenzuálne, sexuálne explicitné videá. Generatívna AI sa odvtedy stala oveľa rozšírenejšou a ženy sú stále terčom tohto porušujúceho správania.
V jednom vysokoprofilovom incidente z januára, nekonsenzuálny, pornografický deepfakes z Taylor Swift sa stal virálom na X, pričom jeden z najrozšírenejších príspevkov získal státisíce lajkov a 45 miliónov videní. Sociálne platformy ako X historicky zlyhali pri ochrane žien pred týmito okolnosťami – no keďže Taylor Swift je jednou z najmocnejších žien na svete, X zasiahla zákazom vyhľadávaných výrazov ako „taylor swift ai“ a taylor swift deepfake.
Ale ak sa vám to stane a nie ste svetovou popovou senzáciou, možno máte smolu. Sú početné správy študentov stredných a stredných škôl, ktorí explicitne falšujú svojich spolužiakov. Hoci táto technológia existuje už nejaký čas, prístup k nej nebol nikdy jednoduchší – nemusíte byť technologicky zdatní, aby ste si stiahli aplikácie, ktoré sú špeciálne inzerované na „vyzliekanie“ fotografií žien alebo na výmenu ich tvárí za pornografiu. V skutočnosti, podľa správ NBC Kat Tenbarge, Facebook a Instagram hostili reklamy pre aplikáciu s názvom Perky AI, ktorá sa opísala ako nástroj na vytváranie explicitných obrázkov.
Dve z reklám, ktoré údajne unikli Metaovej detekcii, kým spoločnosť Tenbarge na tento problém neupozornila, zobrazovali fotografie celebrít Sabriny Carpenter a Jenny Ortegovej s rozmazanými telami a vyzývali zákazníkov, aby aplikáciu vyzvali, aby si vyzliekli svoje oblečenie. V reklamách bol použitý obrázok Ortegy z doby, keď mala len 16 rokov.
Chyba, ktorá umožnila Perky AI inzerovať, nebola ojedinelým incidentom. Dozorná rada Meta nedávno otvorené vyšetrovania na neschopnosť spoločnosti spracovať správy o sexuálne explicitnom obsahu generovanom AI.
Je nevyhnutné, aby sa do inovácií produktov umelej inteligencie zapojili aj hlasy žien a iných ľudí. Takéto marginalizované skupiny boli tak dlho vylúčené z vývoja technológií a výskumu, ktoré menia svet, a výsledky boli katastrofálne.
Jednoduchým príkladom je skutočnosť, že až do 70. rokov 20. storočia boli ženy vylúčené z klinických skúšok, čo znamená, že celé oblasti výskumu sa rozvíjali bez toho, aby pochopili, aký to bude mať dopad na ženy. Najmä černosi vidia dopady technológie vybudovanej bez toho, aby na nich mysleli – napríklad samoriadiace autá ich s väčšou pravdepodobnosťou zasiahnu, pretože ich senzory môžu mať to ťažšie detekcia čiernej kože, podľa štúdia z roku 2019 urobil Gruzínsky technologický inštitút.
Algoritmy trénované na už diskriminačných údajoch iba opakujú tie isté predsudky, na ktoré ich ľudia vycvičili. Vo všeobecnosti už vidíme, že systémy AI udržiavajú a zosilňujú rasovú diskrimináciu v zamestnaní, bývanie a trestného súdnictva. Hlasoví asistenti majú problém porozumieť rôznym prízvukom a často označiť dielo od nerodilých Angličanov ako generované AI od roku, ako poznamenal Axios, angličtina je rodným jazykom AI. Systémy rozpoznávania tváre vlajka černochov ako možné zhody pre podozrivých z trestnej činnosti častejšie ako bielych ľudí.
Súčasný vývoj AI stelesňuje rovnaké existujúce mocenské štruktúry týkajúce sa triedy, rasy, pohlavia a eurocentrizmu, aké vidíme inde, a zdá sa, že sa ním nezaoberá dostatok lídrov. Namiesto toho ho posilňujú. Investori, zakladatelia a tech lídri sa tak zameriavajú na rýchly pohyb a prelomenie vecí, že nedokážu pochopiť, že generatívna AI – najpopulárnejšia technológia AI súčasnosti – by mohla problémy zhoršiť, nie zlepšiť. Podľa a správa od McKinsey by AI mohla zautomatizovať zhruba polovicu všetkých pracovných miest, ktoré nevyžadujú štvorročné vzdelanie a platia viac ako 42 000 dolárov ročne, teda práce, v ktorých sú nadmerne zastúpení menšinoví pracovníci.
Existuje dôvod na obavy, ako by tím úplne bielych mužov v jednej z najvýznamnejších technologických spoločností na svete, ktorý sa zapojil do pretekov o záchranu sveta pomocou umelej inteligencie, mohol radiť o produktoch pre všetkých ľudí, keď len jedna úzka demografická skupina je zastúpená. Vybudovanie technológie, ktorú by mohol používať každý – skutočne každý – si bude vyžadovať obrovské úsilie. V skutočnosti sú vrstvy potrebné na vybudovanie bezpečnej a inkluzívnej AI – od výskumu až po porozumenie na medzisektorovej spoločenskej úrovni – také zložité, že je takmer zrejmé, že tento poradný výbor nepomôže Meta, aby to urobila správne. Aspoň tam, kde Meta zaostáva, by mohol vzniknúť ďalší startup.
Spúšťame newsletter AI! Prihlásiť Se tu aby ste ho začali dostávať do vašich schránok 5. júna.
