Sean Ren, Docent počítačových věd na USC – Interview Series

Sean Ren je docent počítačových věd a držitel čestné pozice Andrewa a Erny Viterbiho pro ranou kariéru na University of Southern California (USC). Vede Intelligence and Knowledge Discovery (INK) Research Lab a zastává role v USC’s Information Sciences Institute (ISI), USC NLP Group a USC Machine Learning Center.

Jeho výzkum se zaměřuje na vytváření obecně použitelných systémů zpracování přirozeného jazyka (NLP), vylepšování umělé inteligence pomocí zdravého rozumu a zlepšování transparentnosti modelů. Kromě své práce na USC přispívá do Allen Institute for AI (AI2) a v minulosti poradil Snapchat. Získal doktorát v oblasti počítačových věd na University of Illinois at Urbana-Champaign.

Sean je také CEO & spoluzakladatel Sahara AI, decentralizované platformy pro umělou inteligenci, která má za cíl narušit centralizovanou krajinu umělé inteligence budováním spolupracující ekonomiky umělé inteligence.

Co vás inspirovalo k založení Sahara AI a jak společnost řeší etické otázky týkající se vlastnictví umělé inteligence?

Sahara Labs byla založena v dubnu 2023. Umělá inteligence transformuje náš svět nevídaným tempem. Od personalizovaných doporučení a virtuálních asistentů až po pokročilou diagnostiku zdravotnictví, finanční prognózy a průmyslovou automatizaci je vliv umělé inteligence všudypřítomný a rostoucí. Nicméně tento rychlý pokrok vyvolává významné obavy o kontrolu, spravedlnost a dostupnost. Jakmile se umělá inteligence stane mocnější, vznikají otázky o tom, kdo ovládá tyto systémy a jak jsou používány. Velké technologické společnosti dominují krajíně umělé inteligence, často shromažďují obrovské množství veřejných dat od jednotlivců bez adekvátní kompenzace nebo transparentnosti. Uživatelé často interagují se službami poháněnými umělou inteligencí, aniž by věděli, jak jsou jejich data používána nebo o původu informací, které přispěly k výstupům umělé inteligence. Tato centralizace moci a nedostatek transparentnosti mohou vést k předpojatým algoritmům, porušování soukromí a nerovnému přístupu k výhodám umělé inteligence. Jako zkušený výzkumník a praktik umělé inteligence viděl náš tým tuto výzvu v rámci stávající krajiny umělé inteligence a začal hledat řešení v Q2 2022 (před érou GPT) jako jeden z prvních. Nakonec jsme se rozhodli realizovat naší současnou vizi a misi.

V Sahara AI vidíme jiný přístup – jeden, ve kterém je umělá inteligence otevřená, spravedlivá a prospěšná pro každého ve všech fázích cyklu vývoje umělé inteligence. Naše decentralizovaná platforma pro umělou inteligenci umožňuje každému – od jednotlivých vývojářů po velké podniky – účastnit se a těžit z pokroků v oblasti umělé inteligence. To zajišťuje, že všichni přispěvovatelé jsou spravedlivě odměňováni, suverenita dat a modelů je zachována a aktiva umělé inteligence lze bezpečně vytvářet, sdílet a obchodovat, přičemž je zachována soukromost a podporována inkluzivita.

Jak vaše akademická pozadí ovlivňuje váš přístup k vlastnictví a správě umělé inteligence v Sahara Labs?

Můj akademický výzkum se zaměřuje na budování obecně použitelných systémů zpracování přirozeného jazyka (NLP) schopných zvládat širokou škálu jazykových úkolů a situací. To zahrnuje vývoj nových algoritmů a datových sad pro membuat modely NLP více nákladově efektivními na budování a údržbu, vybavování modelů umělé inteligence zdravým rozumem a zlepšování jejich transparentnosti a spolehlivosti pro budování důvěry uživatelů. Tyto principy přímo ovlivnily můj přístup k vlastnictví a správě umělé inteligence v Sahara Labs. V Sahara AI priorizujeme membuat umělou inteligenci více dostupnou, transparentní a důvěryhodnou – hodnoty, které pocházejí z mé akademické práce.

Jak vidíte vývoj spravedlivých modelů kompenzace, když umělá inteligence pokračuje v proměňování odvětví, a jak Sahara AI umožňuje přispěvovatelům v hodnotovém řetězci umělé inteligence?

Spravedlivá kompenzace je centrální pro naši vizi. Když umělá inteligence proměňuje odvětví, je zásadní, aby přispěvovatelé na všech úrovních – ať už poskytují data, budují modely nebo nabízejí výpočetní zdroje – byli spravedlivě odměňováni. Naše platforma podporuje spolupracující ekonomiku umělé inteligence, ve které jsou přispěvovatelé odměňováni v poměru k hodnotě, kterou vytvářejí. Používáním blockchainu zajišťujeme, aby kompenzace byla transparentní a stopovatelná, aby bylo zřejmé, kdo co přispěl a jak jsou odměňováni. Tento model umožňuje přispěvovatelům v hodnotovém řetězci umělé inteligence, aby měli kontrolu nad svými aktivy a zajišťovali spravedlivé platby.

Naše decentralizovaná tržiště umožňuje přímé transakce peer-to-peer, eliminuje zprostředkovatele a vytváří více inkluzivní a dostupnou ekonomiku. Jakmile se umělá inteligence bude dále vyvíjet, vidíme posun směrem k tomuto typu decentralizovaného, spravedlivého modelu, ve kterém mohou přispěvovatelé všech velikostí prosperovat.

Sahara AI zdůrazňuje “suverenitu umělé inteligence”. Můžete vysvětlit, co to znamená a jak to bude mít dopad na uživatele, vývojáře a podniky v ekosystému umělé inteligence?

Suverenita umělé inteligence je základním principem naší platformy. To znamená, že každý – ať už jsou to koncoví uživatelé, vývojáři nebo podniky – udržuje úplnou vlastnictví a kontrolu nad svými aktivy umělé inteligence. V dnešních centralizovaných systémech umělé inteligence je vlastnictví často přeneseno na velké korporace, což vede ke ztrátě kontroly a soukromí pro tvůrce. Sahara AI mění tuto dynamiku pomocí blockchainu, aby poskytla plnou suverenitu těm, kteří vyvíjejí nebo přispívají k různým aktivům umělé inteligence. Suverenita umělé inteligence podporuje otevřený, decentralizovaný ekosystém, ve kterém mohou jednotlivci a malé týmy soutěžit s většími entitami, zatímco udržují kontrolu nad svou duševní vlastností. To umožňuje menším projektům inovovat bez obav o ztrátu vlastnictví nebo konkurenční výhody, zatímco vývojáři mohou monetizovat svou práci na svých vlastních podmínkách.

Jak Sahara AI integruje hodnoty transparentnosti a důvěry do vývoje své blockchain platformy?

Technologie blockchain umožňuje zajišťovat, aby každá akce na naší platformě – od vývoje aktiv umělé inteligence až po jejich nasazení a monetizaci – byla plně transparentní a zaznamenána v neměnném deníku. To vytváří ověřitelný záznam, který může každý auditovat, zajišťuje, aby aktiva umělé inteligence byla nakládána eticky a spravedlivě. Důvěra je budována, protože uživatelé již nemusí spoléhat na centrální autoritu pro správu svých příspěvků. Místo toho decentralizovaná povaha Sahara AI zajišťuje, že žádná jediná entita nemá kontrolu, a každý účastník může vidět, jak je jeho práce používána. Tento systém transparentnosti podporuje odpovědnost a důvěru napříč platformou, což je zásadní pro vytváření etického ekosystému umělé inteligence.

Vzhledem k vašim rozsáhlým spolupracím se společnostmi jako Microsoft, Amazon a Snap, jak vidíte roli velkých technologických firem v utváření budoucnosti decentralizované umělé inteligence?

Velké technologické firmy sehrály klíčovou roli v pokroku umělé inteligence, ale jejich centralizovaný přístup omezuje přístup k zdrojům a inovacím pro menší hráče. Vidím decentralizovanou umělou inteligenci jako způsob, jak doplnit práci těchto velkých firem, zatímco se podporuje širší přístup a spravedlnost. Decentralizované platformy poskytují menším vývojářům a podnikům nástroje, aby soutěžily na rovném základě, nabízejí úroveň autonomie a vlastnictví, která není typicky dostupná v centralizovaných systémech. Zatímco velké firmy budou pokračovat ve hrají významnou roli v inovacích umělé inteligence, decentralizované platformy pro umělou inteligenci, jako je Sahara AI, budou demokratizovat ekosystém, zajišťují, aby výhody umělé inteligence byly více rovnoměrně rozloženy napříč celou komunitou.

Jaké výzvy předvídáte při udržování etických standardů umělé inteligence, když umělá inteligence bude pokračovat v růstu, a jak je Sahara AI positionována, aby řešila tyto?

Udržování etických standardů umělé inteligence je neustálou výzvou, zejména když se umělá inteligence stává více všudypřítomnou. Otázky, jako je soukromí dat, transparentnost a spravedlivá kompenzace, vyžadují neustálý dohled. V Sahara AI jsme positionováni, aby řešily tyto výzvy prostřednictvím našeho decentralizovaného modelu správy.

Správa naší platformy bude řízena komunitou, s klíčovými rozhodnutími učiněnými transparentně prostřednictvím Sahara DAO (Decentralizovaná autonomní organizace). Uživatelé, kteří významně přispěli k ekosystému, mají možnost navrhnout a hlasovat o iniciativách, které jsou v souladu s hodnotami komunity.

Sahara Foundation bude hrát klíčovou roli při podpoře tohoto modelu správy,指导 Sahara DAO v jejích formativních fázích, aby se zajistilo, že se vyvine do plně decentralizované, komunitou vedené entity. Zajišťujeme, aby etické standardy byly udrženy a aby přispěvovatelé byli spravedlivě reprezentováni v procesech rozhodování.

Můžete nám říci více o programu Prometheus a jak pozvání komunity tvarovat budoucnost decentralizované umělé inteligence se Sahara AI?

Program Prometheus je naše iniciativa pozvat komunitu, aby se aktivně účastnila tvarování budoucnosti decentralizované umělé inteligence. Účastníci, které nazýváme moderními Prometheusy, získají raný přístup k našim nástrojům a platformě, což jim umožní přímo ovlivňovat proces vývoje prostřednictvím své zpětné vazby. Tento program je o spolupráci – přispěvovatelé pomáhají nám rafinovat a zlepšovat platformu, a v návratu jsou odměňováni za svou zpětnou vazbu a úsilí. Je to klíčová součást naší vize otevřeného, spolupracujícího ekosystému umělé inteligence, ve kterém komunita hraje centrální roli při tvarování své budoucnosti.

Jako lídr v akademické a AI průmyslu, jak vyvažujete své výzkumné úsilí se svými podnikatelskými odpovědnostmi v Sahara AI?

Vyvažování akademické a podnikatelské činnosti vyžaduje pečlivé řízení, ale obě role se vzájemně doplňují. Můj výzkum informuje mnoho toho, co děláme v Sahara AI. Mezitím praktické výzvy budování decentralizované platformy pro umělou inteligenci poskytují nové perspektivy, které zlepšují můj výzkum. Jsem rád, že pracuji s talentovanými týmy v obou oblastech, což mi umožňuje přispívat do obou oblastí bez kompromisů na kvalitu. Tato synergie zajišťuje, že Sahara AI je založena na špičkovém výzkumu, zatímco řeší reálné výzvy.

Co vás nejvíce vzrušuje o budoucnosti správy umělé inteligence, a jak můžeme zajistit, aby etické postupy umělé inteligence zůstaly prioritou v nadcházejících letech?

S decentralizovanými systémy, jako je Sahara AI, můžeme vytvořit více demokratickou a transparentní formu správy, ve které mají přispěvovatelé přímou kontrolu nad svými aktivy umělé inteligence. To zajišťuje, aby etické postupy byly integrovány do systému samotného. Abychom udrželi etické postupy umělé inteligence jako prioritu, musíme se zaměřit na transparentnost, odpovědnost a inkluzivitu – zajišťovat, aby všechny zúčastněné strany, bez ohledu na velikost, měly hlas při tvarování budoucnosti umělé inteligence. Poskytováním komunitě możliosti spravovat vývoj umělé inteligence můžeme vytvořit budoucnost, ve které etická umělá inteligence je standardem, ne výjimkou.

Děkuji za skvělý rozhovor, čtenáři, kteří chtějí se dozvědět více, by měli navštívit Sahara AI.