Kozmos inštitútnezisková organizácia, ktorej zakladajúcimi kolegami sú spoluzakladateľ Anthropic Jack Clark a bývalý technológ ministerstva obrany Brendan McCord, ohlásila rizikový program a výskumné iniciatívy s cieľom – slovami organizácie – „kultivovať novú generáciu technológov a podnikateľov vybavených hlbokým filozofickým myslením. navigovať po neprebádanom území nášho veku AI.“
V a blogový príspevokMcCord, predseda Cosmos, povedal, že inštitút založí laboratórium AI na Oxfordskej univerzite s názvom Human-Centered AI Lab, alebo skrátene „HAI Lab“. Povedie ho oxfordský filozof Philipp Koralus – ďalší zo zakladajúcich kolegov inštitútu – a jeho cieľom bude „preložiť filozofické princípy ľudského rozkvetu do open source softvéru a systémov AI“.
Čo presne znamená „prekladať filozofické princípy ľudského rozkvetu“? Nejasné. Základom je však podporovať vytváranie technológií AI, ktoré rešpektujú ľudskú dôstojnosť a zároveň sa vyhýbajú propagácii škodlivého narušenia (napr. automatizácia vedúca k strate zamestnania). Vysoká a hmlistá latka, iste – ale taká, o ktorú sa bude laboratórium HAI snažiť.
Inštitút tiež vytvára spoločenstvo — Cosmos Fellowship — s kohortou štyroch štipendistov. Pri práci v laboratóriu HAI alebo v iných partnerských inštitúciách na obdobie „od jedného do jedného roka“ budú kolegovia spolupracovať s mentormi spoločnosti Cosmos a budú sa venovať nezávislým projektom s cieľom „(preskúmať) prienik odbornosti AI a hlbokého filozofického pohľadu,“ povedal McCord.
V plánoch inštitútu je investičná zložka a spúšťa sa vo forme venture org: Cosmos Ventures. Cosmos Ventures pod vedením bývalého vedúceho produktu DeepMind Jasona Zhaa, bývalého šéfa korporátnej stratégie Stripe Alexa Komoroskeho, Darrena Zhu a Zoe Weinbergovej, bude podporovať „nové provokatívne prototypy, eseje a kreatívne projekty, ktoré skúmajú základné otázky filozofie technológie“. povedal McCord.
McCord charakterizuje Cosmos Ventures ako „nízku réžiu“ podľa vzoru kolegu z inštitútu Tylera Cowena. Emergent Ventures. Investície sa budú pohybovať medzi 1 000 a 10 000 USD na projekt a projekty – ktoré môžu byť nové alebo existujúce – musia priniesť „hlavný výstup“ do troch mesiacov.
Prvá skupina už bola financovaná, povedal McCord.
Cosmos Institute nie je prvý, kto sa pokúša presadiť etickejšiu, humanistickú víziu AI. OpenAI, založená s poslaním poskytovať výhody pokročilej AI celému ľudstvu, rozložila celé bezpečnostné tímy. Clarkov vlastný Anthropic sa kedysi postavil ako bezpečnejší a etickejší predajca, ale v posledné mesiace zatlačila späť na nariadenia AI a agresívne škrabala údaje bez povolenia.
Možno, že Cosmos Institute bude na tom lepšie s prijatím toho, čo McCord nazýva „akceleracionizmus“: myšlienky, že budúcnosť nie je vopred určená, a preto je ľudstvo zodpovedné za to, čo drží.
„Musíme vybudovať AI, ktorá podnecuje skúmanie spokojnosti a podporuje aktívnu angažovanosť pred pasívnou závislosťou, najmä vo vzdelávaní, medicíne, na verejnom priestranstve a v iných životne dôležitých oblastiach,“ píše McCord. „Presadzujeme AI, ktorá decentralizuje výkon a umožňuje riešenia zdola nahor, čo umožňuje jednotlivcom a komunitám spoluvytvárať bohatšiu a rozmanitejšiu spoločnosť.“
Sú to obdivuhodné pozície. Tento reportér len dúfa, že peniaze, vplyv a moc nespôsobia, že pokušenie opustiť ich bude neodolateľné.
