Grace Yee je vrchným riaditeľom pre etické inovácie (etika a dostupnosť AI) v spoločnosti Adobepodnecuje globálnu prácu v rámci celej organizácie v oblasti etiky a vyvíja procesy, nástroje, školenia a ďalšie zdroje, ktoré pomáhajú zabezpečiť, aby sa popredné inovácie AI spoločnosti Adobe neustále vyvíjali v súlade so základnými hodnotami a etickými princípmi spoločnosti Adobe. Grace presadzuje záväzok spoločnosti Adobe budovať a používať technológie zodpovedne so zameraním na etiku a inkluzívnosť vo všetkej práci spoločnosti pri vývoji AI. V rámci tejto práce Grace dohliada na Etickú komisiu a revíznu komisiu spoločnosti Adobe pre AI, ktorá vydáva odporúčania, ktoré pomáhajú usmerňovať vývojové tímy spoločnosti Adobe a kontrolujú nové funkcie a produkty AI, aby sa zaistilo, že budú v súlade s princípmi zodpovednosti, zodpovednosti a transparentnosti spoločnosti Adobe. Tieto princípy pomáhajú zabezpečiť, aby sme naše funkcie poháňané AI uvádzali na trh a zároveň zmierňovali škodlivé a neobjektívne výsledky. Grace navyše spolupracuje s tímom pre politiku, aby podporila presadzovanie a pomáhala formovať verejnú politiku, zákony a nariadenia týkajúce sa AI v prospech spoločnosti.
Ako súčasť záväzku Adobe týkajúceho sa dostupnosti pomáha Grace zabezpečiť, aby produkty Adobe boli inkluzívne a prístupné pre všetkých používateľov, takže ktokoľvek môže vytvárať digitálne zážitky, interagovať s nimi a zapájať sa do nich. Pod jej vedením spoločnosť Adobe spolupracuje s vládnymi skupinami, obchodnými združeniami a komunitami používateľov na presadzovaní a presadzovaní zásad a štandardov prístupnosti, čím podporuje účinné priemyselné riešenia.
Môžete nám povedať o ceste Adobe za posledných päť rokov pri formovaní etiky AI? Aké kľúčové míľniky definovali tento vývoj, najmä vzhľadom na rýchly pokrok, ako je generatívna AI?
Pred piatimi rokmi sme formalizovali náš etický proces AI zavedením našich etických princípov zodpovednosti, zodpovednosti a transparentnosti, ktoré slúžia ako základ nášho procesu riadenia etiky AI. Zhromaždili sme rôznorodý tím zamestnancov spoločnosti Adobe z celého sveta s rôznymi funkciami, aby sme vyvinuli použiteľné princípy, ktoré obstoja v skúške času.
Odtiaľ sme vyvinuli robustný proces kontroly na identifikáciu a zmiernenie potenciálnych rizík a skreslení na začiatku cyklu vývoja AI. Toto viacdielne hodnotenie nám pomohlo identifikovať a riešiť funkcie a produkty, ktoré by mohli udržiavať škodlivé predsudky a stereotypy.
Keď sa objavila generatívna AI, prispôsobili sme naše hodnotenie etiky AI, aby sme riešili nové etické výzvy. Tento iteračný proces nám umožnil udržať si náskok pred potenciálnymi problémami a zabezpečiť, aby sa naše technológie AI vyvíjali a nasadzovali zodpovedne. Náš záväzok neustáleho vzdelávania a spolupráce s rôznymi tímami v celej spoločnosti bol rozhodujúci pri udržiavaní relevantnosti a účinnosti nášho programu AI Ethics, v konečnom dôsledku pri zlepšovaní skúseností, ktoré poskytujeme našim zákazníkom, a pri podpore inkluzívnosti.
Ako sa etické princípy AI spoločnosti Adobe – zodpovednosť, zodpovednosť a transparentnosť – premietajú do každodenných operácií? Môžete sa podeliť o nejaké príklady toho, ako tieto princípy viedli projekty Adobe AI?
Dodržiavame záväzky spoločnosti Adobe týkajúce sa etiky AI v našich funkciách poháňaných AI implementáciou robustných technických postupov, ktoré zabezpečujú zodpovedné inovácie, pričom neustále získavame spätnú väzbu od našich zamestnancov a zákazníkov, aby sme umožnili potrebné úpravy.
Nové funkcie AI prechádzajú dôkladným etickým posúdením s cieľom identifikovať a zmierniť potenciálne predsudky a riziká. Keď sme predstavili Adobe Firefly, našu rodinu generatívnych modelov umelej inteligencie, prešiel testom na zmiernenie vytvárania obsahu, ktorý by mohol udržiavať škodlivé stereotypy. Toto hodnotenie je iteratívny proces, ktorý sa vyvíja na základe úzkej spolupráce s produktovými tímami, zahŕňa spätnú väzbu a poznatky, aby zostal relevantný a efektívny. S produktovými tímami tiež vykonávame cvičenia na zisťovanie rizík, aby sme pochopili potenciálne dopady na navrhnutie vhodných mechanizmov testovania a spätnej väzby.
Ako spoločnosť Adobe rieši obavy súvisiace so zaujatosťou v oblasti AI, najmä pokiaľ ide o nástroje používané globálnou, rôznorodou používateľskou základňou? Mohli by ste uviesť príklad, ako bola identifikovaná a zmiernená zaujatosť v konkrétnej funkcii AI?
V úzkej spolupráci s našimi produktovými a inžinierskymi tímami neustále vyvíjame naše procesy hodnotenia a kontroly AI v oblasti etiky. Etické hodnotenie AI, ktoré sme absolvovali pred niekoľkými rokmi, je iné ako to, ktoré máme teraz, a v budúcnosti očakávam ďalšie zmeny. Tento iteratívny prístup nám umožňuje začleniť nové poznatky a riešiť vznikajúce etické problémy, keď sa technológie ako Firefly vyvíjajú.
Napríklad, keď sme do Firefly pridali viacjazyčnú podporu, môj tím si všimol, že neposkytuje zamýšľaný výstup a niektoré slová boli neúmyselne blokované. Aby sme to zmiernili, úzko sme spolupracovali s naším internacionalizačným tímom a rodenými hovorcami, aby sme rozšírili naše modely a pokryli výrazy a konotácie špecifické pre jednotlivé krajiny.
Náš záväzok vyvíjať náš prístup k hodnoteniu s pokrokom v technológii je to, čo pomáha Adobe vyvážiť inovácie s etickou zodpovednosťou. Podporovaním inkluzívneho a pohotového procesu zabezpečujeme, že naše technológie AI spĺňajú najvyššie štandardy transparentnosti a integrity, čo umožňuje tvorcom používať naše nástroje s istotou.
Ako sa Adobe s vašou účasťou na formovaní verejnej politiky pohybuje na križovatke medzi rýchlo sa meniacimi predpismi AI a inováciami? Akú úlohu zohráva spoločnosť Adobe pri vytváraní týchto nariadení?
Aktívne spolupracujeme s tvorcami politík a priemyselnými skupinami, aby sme pomohli formovať politiku, ktorá vyvažuje inovácie a etické hľadiská. Naše diskusie s tvorcami politík sa zameriavajú na náš prístup k AI a dôležitosť vývoja technológie na zlepšenie ľudských skúseností. Regulátori hľadajú praktické riešenia na riešenie súčasných výziev a prezentovaním rámcov, ako sú naše etické princípy AI – vyvinuté v spolupráci a dôsledne uplatňované v našich funkciách poháňaných AI – podporujeme produktívnejšie diskusie. Je dôležité priniesť na stôl konkrétne príklady, ktoré demonštrujú, ako naše princípy fungujú v praxi, a ukázať vplyv v reálnom svete, na rozdiel od rozprávania cez abstraktné pojmy.
Aké etické hľadiská uprednostňuje spoločnosť Adobe pri získavaní školiacich údajov a ako zabezpečuje, že používané súbory údajov sú etické a dostatočne robustné pre potreby AI?
V Adobe uprednostňujeme niekoľko kľúčových etických hľadísk pri získavaní školiacich údajov pre naše modely AI. V rámci nášho úsilia navrhnúť Firefly tak, aby bol komerčne bezpečný, sme ho vyškolili na súbore údajov licencovaného obsahu, ako je napríklad Adobe Stock, a obsahu vo verejnej doméne, na ktorý vypršala platnosť autorských práv. Zamerali sme sa aj na rozmanitosť súborov údajov, aby sme sa vyhli posilňovaniu škodlivých predsudkov a stereotypov vo výstupoch nášho modelu. Aby sme to dosiahli, spolupracujeme s rôznymi tímami a odborníkmi na preskúmaní a spravovaní údajov. Dodržiavaním týchto postupov sa snažíme vytvárať technológie AI, ktoré sú nielen výkonné a efektívne, ale aj etické a inkluzívne pre všetkých používateľov.
Nakoľko je podľa vás dôležitá transparentnosť pri komunikácii s používateľmi o tom, ako sa trénujú systémy umelej inteligencie spoločnosti Adobe, ako je Firefly, a aké údaje sa používajú?
Transparentnosť je kľúčová, pokiaľ ide o komunikáciu s používateľmi o tom, ako sa trénujú generatívne funkcie AI spoločnosti Adobe, ako je Firefly, vrátane typov používaných údajov. Buduje dôveru a dôveru v naše technológie tým, že zabezpečuje, aby používatelia rozumeli procesom, ktoré stoja za naším generatívnym vývojom AI. Tým, že sme otvorení ohľadom našich zdrojov údajov, metodológií školení a etických záruk, ktoré máme, umožňujeme používateľom prijímať informované rozhodnutia o tom, ako interagujú s našimi produktmi. Táto transparentnosť je nielen v súlade s našimi základnými zásadami etiky AI, ale podporuje aj spoluprácu s našimi používateľmi.
Keďže AI sa neustále rozširuje, najmä generatívna AI, aké budú podľa vás najvýznamnejšie etické výzvy, ktorým budú v blízkej budúcnosti čeliť spoločnosti ako Adobe?
Verím, že najvýznamnejšie etické výzvy pre spoločnosti ako Adobe sú zmiernenie škodlivých predsudkov, zabezpečenie inkluzivity a udržanie dôvery používateľov. Potenciál AI neúmyselne zachovávať stereotypy alebo vytvárať škodlivý a zavádzajúci obsah je problémom, ktorý si vyžaduje neustálu ostražitosť a spoľahlivé záruky. Napríklad s nedávnym pokrokom v generatívnej AI je pre „zlých aktérov“ jednoduchšie ako kedykoľvek predtým vytvárať klamlivý obsah, šíriť dezinformácie a manipulovať s verejnou mienkou, čím podkopávajú dôveru a transparentnosť.
Na vyriešenie tohto problému spoločnosť Adobe v roku 2019 založila iniciatívu Content Authenticity Initiative (CAI) s cieľom vybudovať dôveryhodnejší a transparentnejší digitálny ekosystém pre spotrebiteľov. CAI na implementáciu nášho riešenia na budovanie dôvery online – nazývané Content Credentials. Poverenia obsahu zahŕňajú „ingrediencie“ alebo dôležité informácie, ako je meno tvorcu, dátum vytvorenia obrázka, aké nástroje boli použité na vytvorenie obrázka a akékoľvek úpravy, ktoré boli počas toho vykonané. To umožňuje používateľom vytvoriť digitálny reťazec dôvery a autentickosti.
Keďže generatívna umelá inteligencia sa neustále rozširuje, bude ešte dôležitejšie podporovať široké prijatie poverení obsahu, aby sa obnovila dôvera v digitálny obsah.
Čo by ste poradili iným organizáciám, ktoré práve začínajú premýšľať o etických rámcoch pre rozvoj AI?
Moja rada by bola začať stanovením jasných, jednoduchých a praktických princípov, ktoré môžu viesť vaše úsilie. Často vidím spoločnosti alebo organizácie zamerané na to, čo teoreticky vyzerá dobre, ale ich princípy nie sú praktické. Dôvod, prečo naše princípy obstáli v skúške časom, je ten, že sme ich navrhli tak, aby boli použiteľné. Keď hodnotíme naše funkcie poháňané AI, naše produktové a inžinierske tímy vedia, čo hľadáme a aké štandardy od nich očakávame.
Tiež by som odporučil organizáciám, aby vstúpili do tohto procesu s vedomím, že bude iteratívny. Možno neviem, čo spoločnosť Adobe vymyslí o päť alebo 10 rokov, ale viem, že naše hodnotenie vylepšíme, aby sme splnili tieto inovácie a spätnú väzbu, ktorú dostávame.
Ďakujeme za skvelý rozhovor, čitatelia, ktorí sa chcú dozvedieť viac, by mali navštíviť Adobe.
