Jen Vescio, prezidentka společnosti Empiric Earth – série rozhovorů

Jen Vescio je prezidentkou společnosti Empiric Earth a dohlíží na produktovou strategii, rozvoj společnosti a komercializaci. Předtím působila jako ředitelka pro rozvoj podnikání ve společnosti Uber, kde vedla globální rozvoj podnikání a navazování nových partnerství v oblasti mobility a autonomního řízení. Má také zkušenosti s investováním do začínajících technologických společností a s poradenstvím pro ně; zaměřuje se přitom na to, jak dostat fyzickou umělou inteligenci z výzkumu do komerčního nasazení.

Empiric Earth spojuje společnosti Nexar a Nauto, aby poskytovala informace o skutečném provozu, bezpečnostní modely a možnosti ověřování. Společnost kombinuje záznamy z miliard ujetých kilometrů s údaji o vzácných událostech, což vývojářům, provozovatelům vozových parků a dalším organizacím pomáhá porozumět výkonnosti a rizikům. V tomto rozhovoru Vescio hovoří o nezávislém hodnocení, odpovědném nakládání s daty, komercializaci a infrastruktuře potřebné k rozšiřování fyzické umělé inteligence.

Máte za sebou rozsáhlou kariéru, která zahrnuje globální rozvoj podnikání ve společnosti Uber, investice do nových technologií i poradenství společnostem působícím v oblasti fyzické umělé inteligence. Členkou správní rady společnosti Empiric Earth jste se nejprve stala v dubnu a teprve nedávno jste přijala funkci prezidentky. Co vás na společnosti zaujalo a co vás nakonec přesvědčilo, abyste se ujala aktivnější vedoucí role?

Jako investorka a poradkyně v oblasti fyzické umělé inteligence jsem opakovaně narážela na stejný nedostatek. Mnoho týmů provádělo experimenty, ale jen málokteré měly k dispozici data z reálného světa, která by prokázala, že jejich systémy fungují i mimo testovací prostředí. Empiric Earth taková data už měla. Více než 10 miliard mil skutečné jízdy a 60 milionů hraničních případů si člověk nemůže koupit ani vymyslet.

To staví společnost do neobvyklé pozice. Nemusíme soutěžit se společnostmi, které vyvíjejí roboty, vozidla nebo modely. Můžeme jim všem pomoci rychleji uvést jejich produkty na trh tím, že jim poskytneme informace z reálného světa, které potřebují k řízení rizik, ověřování výkonnosti a budování důvěry. Z pozice členky správní rady jsem viděla příležitost vybudovat něco, co bude základem celého ekosystému fyzické umělé inteligence.

K přijetí funkce prezidentky mě přivedl Zach a jeho vize. Znám ho už od doby, kdy jsme oba budovali partnerství v oblasti mobility — já ve společnosti Uber a on ve společnosti Lyft. Když za vámi přijde někdo, komu tak dlouho důvěřujete, s obtížným problémem a prostředkem, který nikdo jiný nemá, nasloucháte mu. Dobře se doplňujeme. On přemýšlí o tomto odvětví a o tom, kam směřuje. Já jsem celou kariéru věnovala tomu, abych z nových technologií vytvářela podnikání schopná růstu. Fyzická umělá inteligence se právě přesouvá z výzkumu do skutečného nasazení a nechtěla jsem to sledovat jen ze zasedání správní rady.

Empiric Earth vznikla sloučením společností Nexar a Nauto, které spojilo dvě firmy s rozsáhlými zkušenostmi v oblasti informací o skutečném provozu a bezpečnosti využívající umělou inteligenci. Jaké jedinečné možnosti toto spojení přináší a čím se podle vás sjednocená společnost odliší na rychle se vyvíjejícím trhu fyzické umělé inteligence?

Společnosti Nexar a Nauto byly založeny v roce 2015 a dohromady strávily více než dvě desetiletí zkoumáním stejného problému ze dvou různých perspektiv. Společně dokážeme porozumět tomu, co se děje na silnici, i tomu, jak na to řidiči reagují, a získat tak mnohem ucelenější obraz chování a rizik v reálném světě.

Pro širší trh to představuje spojení mezi simulací a skutečným světem. Většina týmů vyvíjí a testuje v simulacích, ale obtížné je prokázat, že systém dokáže spolehlivě fungovat v podmínkách reálného světa. Partnerům můžeme pomoci odhalit situace, se kterými se jejich systémy dosud nesetkaly, vylepšovat jejich modely a ověřovat výkonnost na základě toho, co se skutečně děje. To může zkrátit vývojové cykly, snížit rizika a urychlit komercializaci.

Odlišuje nás schopnost umožnit nezávislé hodnocení v celém ekosystému fyzické umělé inteligence. Nevyvíjíme vozidla, roboty ani autonomní systémy, které vytvářejí naši zákazníci. Poskytujeme informace z reálného světa, jež jim pomáhají porozumět výkonnosti, řídit rizika a budovat důvěru. To vyžaduje závazek k neutralitě, přenositelnosti a interoperabilitě. Když uvádíme na trh nové aplikace, modely a služby, chceme, aby je zákazníci mohli používat s různým hardwarem a v různých technologických prostředích, aniž by byli vázáni na jediného poskytovatele. Naším cílem je působit jako „rozhodčí“ celého ekosystému, nikoli v něm vybírat vítěze.

Fyzická umělá inteligence se stává jednou z dalších významných oblastí rozvoje umělé inteligence a její využití sahá od autonomních vozidel přes robotiku až po inteligentní infrastrukturu. Co podle vás nejvíce brání tomu, aby tyto systémy spolehlivě fungovaly v nepředvídatelném prostředí reálného světa, a proč je přístup k datům z reálného světa při překonávání těchto překážek tak zásadní?

Největší překážkou je, že fyzický svět nikdy nebyl zaznamenán v podobě dat. Jazykové modely se rychle zdokonalily, protože se trénovaly na desítkách let textů, které lidé už dříve vytvořili. Pro silnici, podlahu ve skladu ani chodník nic srovnatelného neexistuje. Většina toho, co se tam děje — například situace, kdy jen těsně nedojde k nehodě, nebo jízdní pruh uzavřený dnes ráno — se vůbec nikdy nezaznamená.

To přináší dva problémy. Prvním je, že se fyzický svět neustále mění. Systém musí vědět, co platí právě teď, a fotografie z loňského jara mu nemůže říct, že se daná silnice změnila dnes ráno. A včerejšek už také nelze dodatečně zaznamenat. Druhým problémem je roztříštěnost. Žádná společnost sama o sobě nevidí dostatečně velkou část světa, a vývojáři tak provádějí oddělené experimenty s různými datovými soubory, modely a technologickými platformami. Kvůli tomu je obtížnější porovnávat výsledky, sdílet to, co funguje, a přetvářet slibný výzkum v komerčně životaschopné produkty.

Právě data z reálného světa pomáhají překonat oba problémy. Vzácné události, které systém vyřadí z provozu, se někde dějí každý den a lze je zachytit jen průběžným pozorováním široké škály skutečných podmínek. V našich datech z USA připadá na každou srážku přibližně 19 situací, kdy ke srážce málem došlo, a téměř žádná z nich se neobjeví v policejním protokolu ani v pojistné události. Zach to výstižně popsal v nedávném eseji: bezpečnost je studiem toho, co se nestalo. Nelze to studovat, pokud to nikdo nezaznamenal.

Empiric Earth nashromáždila záznamy z více než 10 miliard mil jízdy a přes 60 milionů hraničních případů, přičemž každý měsíc zachytí další stovky milionů mil. Jak mohou tato rozsáhlá data pomoci vývojářům umělé inteligence trénovat a ověřovat spolehlivější autonomní systémy, zejména v případě vzácných nebo nebezpečných situací, které se v tradičních simulacích obtížně reprodukují?

Většina systémů si dnes s běžnou jízdou poradí dobře. Stále je však vyřazují z provozu vzácné krajní situace: nehoda, chodec, který vstoupí do vozovky mezi zaparkovanými auty, zvíře na silnici nebo úsek, kde se pracuje, a který tam ještě minulý týden nebyl. Tyto situace jsou příliš vzácné na to, aby je testovací flotila zachytila v užitečném množství, a simulace dokáže reprodukovat jen to, co už někoho napadlo namodelovat.

Empiric Earth vznikla právě proto, aby tyto situace vyhledávala. Nezpracováváme každý kilometr, který naše síť ujede. Uchováváme jen malou část, kterou naše modely označí za neobvyklou nebo rizikovou. Díky tomu se z 10 miliard mil stává 60 milionů hraničních případů, které mohou vývojáři skutečně využít.

Týmy tyto záznamy využívají třemi způsoby. Vyhledávají v nich: tým pracující na úsecích, kde se staví, může získat tisíce skutečných příkladů toho, jak jimi řidiči projíždějí, místo aby jich několik musel ručně naprogramovat. Žádají o doplnění toho, co chybí: pokud má systém potíže s odbočováním vlevo na frekventovaných křižovatkách, můžeme naši síť zaměřit přímo na tyto situace a sbírat nové příklady, jakmile nastanou. A své simulace porovnávají s realitou. Když partner rekonstruuje skutečné srážky a situace, kdy málem došlo ke srážce s chodci a cyklisty, může ještě před nasazením systému ověřit, zda se simulovaný svět chová jako ten skutečný.

Právě díky tomu mají tato data hodnotu přesahující jejich samotný obsah. Simulace je nezbytná, musí však vycházet z toho, co se skutečně děje v reálném světě. Přístup k těmto důkazům pomáhá vývojářům dříve odhalit nedostatky, rychleji zdokonalovat systémy a lépe se rozhodovat, kdy jsou připravené k nasazení. Zároveň vytváří základ pro jednotnější a nezávislé hodnocení, jak se toto odvětví rozrůstá.

Jedním ze základních principů Empiric Earth je nezávislost na výrobcích autonomních systémů a vozidel, které hodnotí. Proč je nezávislé ověřování stále důležitější, když se fyzická umělá inteligence blíží širokému nasazení, a jaké standardy by mělo toto odvětví přijmout, aby stanovilo smysluplná měřítka bezpečnosti umělé inteligence?

S tím, jak se fyzická umělá inteligence přesouvá z výzkumného prostředí do veřejného prostoru, je důvěra stejně důležitá jako technická výkonnost.

Většina odvětví dnes spoléhá na to, že vývojáři testují a zveřejňují informace o výkonnosti vlastních systémů. V této fázi je to pochopitelné, ale s tím, jak se autonomní systémy stále častěji dostávají do každodenního prostředí, budou zákazníci, regulační orgány i veřejnost stále více požadovat nezávislé důkazy o jejich spolehlivém fungování.

S podobnými výzvami jsme se setkali i v jiných odvětvích. Když usednete do auta, existuje zavedený systém pro udělování řidičských oprávnění, kontroly vozidel a stanovování bezpečnostních požadavků. Fyzická umělá inteligence bude potřebovat vlastní způsoby, jak prokazovat připravenost a výkonnost. U autonomních vozidel by to mohlo připomínat řidičský průkaz: standardizovanou zkoušku, která prokáže, že systém dosahuje alespoň úrovně lidského řidiče.

Otázkou je, jak stanovit smysluplná měřítka, která odrážejí podmínky v reálném světě, místo abychom se spoléhali výhradně na kontrolované testy nebo simulace. Tato měřítka musí vycházet z dat z reálného světa, zohledňovat vzácné a nebezpečné situace a umožňovat konzistentní hodnocení výkonnosti různých systémů.

Právě zde může Empiric Earth sehrát důležitou roli. Nemyslíme si, že by výkonnost autonomních systémů měly hodnotit výhradně společnosti, které je vyvíjejí. Naší úlohou je poskytovat nezávislé informace o reálném světě, modely a možnosti ověřování, díky nimž mohou ostatní posuzovat výkonnost, řídit rizika a budovat důvěru. Díky neutralitě a interoperabilitě můžeme podporovat hodnocení různých technologií a platforem, aniž bychom upřednostňovali kterýkoli z přístupů.

Stanovení standardů si nakonec vyžádá spolupráci vývojářů, výzkumníků, regulačních orgánů a dalších zainteresovaných stran. Chceme pomoci vytvořit základ, který umožní nezávislé hodnocení, aby se důvěra opírala o důkazy, nikoli o tvrzení.

Jak stále sofistikovanější systémy umělé inteligence interagují s fyzickým světem, musí organizace vyvažovat potřebu komplexních dat z reálného prostředí s ochranou soukromí, bezpečností a odpovědným nakládáním s daty. Jak Empiric Earth k těmto výzvám přistupuje a jaká ochranná opatření jsou nezbytná pro budování důvěry veřejnosti v rozsáhlou infrastrukturu fyzické AI?

Důvěra začíná tím, jak se data shromažďují, chrání a používají. V Empiric Earth máme ochranu soukromí od začátku zabudovanou do svého přístupu. Zaměřujeme se na zachycování událostí z reálného světa, které přinášejí užitečné poznatky, místo abychom považovali každý okamžik jízdy za stejně hodnotný. Zásadní součástí tohoto procesu je deidentifikace a odpovědné nakládání s daty.

Stejně důležitý je i původ dat. S tím, jak se fyzická AI blíží komerčnímu nasazení, potřebují vývojáři vědět, odkud jejich data pocházejí, jak byla shromážděna a jaká práva upravují jejich použití. Bez tohoto základu je obtížné získat důvěru potřebnou k rozšíření řešení.

Různé trhy mají také odlišné požadavky na ochranu soukromí, souhlas a umístění dat. Naše platforma pro každý trh používá nastavení přizpůsobená konkrétní zemi, takže můžeme dodržovat místní pravidla, aniž bychom museli systém znovu budovat. Při zvažování, kde a jak se rozšiřovat, musíme tyto rozdíly zohlednit.

Základním principem je transparentnost. Každý, kdo buduje infrastrukturu pro fyzickou AI, by měl umět vysvětlit, jaká data shromažďuje, jak je chrání a kdo je může používat. Odpovědné nakládání s daty není něco odděleného od budování úspěšného podnikání. Je součástí toho, co umožňuje široké přijetí těchto technologií.

Vaše působení v Uberu zahrnovalo přeměnu vznikajících technologií a strategických partnerství v podnikání, které lze rozšiřovat. Ve své nové roli odpovídáte za produktovou strategii, rozvoj společnosti a komercializaci v Empiric Earth. Které poznatky z vašeho působení v Uberu jsou nejdůležitější pro rozšiřování fyzické AI a jak rozhodujete, kdy rozvíjet schopnosti interně a kdy usilovat o akvizice či partnerství?

Uber mě naučil, že správná odpověď se může změnit. Vybudovali jsme vlastní program autonomního řízení ATG, protože jsme věřili, že musíme vlastnit celý technologický stack. Později jsme jej prodali společnosti Aurora a k autonomnímu řízení se vrátili prostřednictvím partnerství. Obě tato rozhodnutí dávala v danou chvíli smysl. Změnila se naše kritéria týkající se rychlosti, nákladů a rizika.

Při každém rozhodování, zda něco vyvinout, koupit, nebo navázat partnerství, si proto klademe stejné otázky. Jaké je riziko? Jaké zdroje a kapitál to vyžaduje? Jak rychle nám to umožní vstoupit na trh a co mezitím dělá konkurence? Odpovídá to naší strategii?

Empiric Earth vychází z jiné pozice než většina společností, protože už máme to nejtěžší, co je třeba vybudovat: data. Rozvíjíme to, v čem nám tento základ poskytuje výhodu, kterou je obtížné napodobit. Akvizice dávají smysl, když přinášejí doplňující schopnosti nebo urychlují naši strategii. Partnerství pak často představují nejrychlejší cestu k zákazníkům, na nové trhy a k rozšíření komerčního působení. Fyzická AI je příliš široká oblast na to, aby v ní jediná společnost dokázala vybudovat všechno, proto chceme spolupracovat s partnery, kteří mohou pomoci posílit celý ekosystém, a volit další kroky podle tržních podmínek i s ohledem na naši konkurenční výhodu – naše aktiva.

Podílela jste se také na ekosystému open-source AI, mimo jiné na spolupráci s komunitou OpenClaw. Jak podle vás přispívají inovace v oblasti open source k rozvoji fyzické AI a mohou větší transparentnost a spolupráce urychlit její přijetí, aniž by byly ohroženy bezpečnostní a správní standardy, které tyto systémy vyžadují?

Open source změnil rychlost, s jakou se AI ve světě softwaru vyvíjela. Když může více lidí stavět na stejných nástrojích, výzkumné cykly se zkracují a dobré nápady přicházejí odkudkoli, nejen z největších laboratoří. Fyzická AI je na této cestě teprve na začátku. Velká část oboru se stále nachází ve fázi výzkumu a ukázek a nyní jde o to, jak tuto práci proměnit v dlouhodobě životaschopné podnikání.

Působila jsem jako vedoucí pro partnerství v OpenClaw Foundation, která vznikla na podporu vize Petera Steinbergera v oblasti osobní agentní AI s otevřeným zdrojovým kódem. Je to jeden z nejzřetelnějších příkladů, jaké jsem viděla, kdy otevřený projekt urychlil skutečnou práci: lidé si jej mohli vzít, spustit na vlastních systémech a přizpůsobit tomu, co skutečně potřebují dělat.

Právě toto by si podle mě měla fyzická AI vzít k srdci. Otevřené nástroje umožňují více týmům vyvíjet a experimentovat, aniž by začínaly od nuly. Pokud data zůstávají v prostředí zákazníka, místo aby je musel posílat jinam, odpadá jeden z hlavních důvodů, proč firmy váhají. Provozovatel vozového parku, město nebo výrobce mohou využívat AI s vlastními daty a pod vlastní kontrolou a rychleji poznat její přínos.

Právě tyto dvě myšlenky pomáhají tomuto odvětví přejít od výzkumu a ukázek k produktům, za které jsou lidé ochotni platit. Samotná otevřenost systém nezabezpečí, takže jsou stále zapotřebí skutečné testování, jasná pravidla a odpovědnost. Otevřený ekosystém, v němž data zůstávají u těch, kterým patří, však dostává do skutečného provozu více systémů – a právě tam se získané poznatky postupně kumulují.

V Empiric Earth nás zajímá, jak mohou otevřené nástroje a data, která zůstávají v prostředí zákazníka, přispět k růstu celého ekosystému fyzické AI a zároveň nám umožnit chránit data z reálného světa, díky nimž je naše práce cenná. Nemyslíme si, že rozvoj ekosystému a budování udržitelného podnikání musí být cíle, které si navzájem konkurují.

Mluvila jste o tom, jak důležité je zapojit do vedení v oblasti AI více žen, zejména nyní, když toto odvětví začíná vytvářet bezpečnostní standardy a rámce pro správu a řízení, které budou určovat, jak budou inteligentní stroje fungovat ve společnosti. Jak podle vás může větší rozmanitost ve vedení přispět k vývoji bezpečnějších a odpovědnějších systémů AI?

V tomto ohledu jsem opatrná, protože tvrzení „stačí zapojit více žen a AI bude bezpečnější“ je samo o sobě určitým druhem předsudku. Jde o širší téma. Agenti, které vytváříme, se učí z toho, co už lidé udělali, i z toho, jak je učíme. Pokud všichni, kdo toto učení formují, přemýšlejí stejně, systémy přebírají stejná slepá místa.

Rozmanité vedení přináší do rozhodování o tom, čeho by si měl agent vážit, více pohledů, včetně empatie, péče a toho, jak dané rozhodnutí dopadne na člověka na druhé straně. Řada rizik spojených s AI je technického rázu. Jiná vyplývají z toho, že systémy přijímají rozhodnutí, která neodrážejí hodnoty ani potřeby lidí, jichž se týkají. Zapojení různých pohledů do těchto rozhodnutí nám pomáhá rozpoznat slepá místa dříve, než se z nich stanou skutečné problémy.

To, co od těchto systémů očekávám, je jednoduché. Měly by lidem pomáhat lépe se rozhodovat a dopřát nám více času, který můžeme trávit spolu v běžném životě. K tomu je třeba rovnováha a skutečná opatření vycházející z mnoha různých pohledů. Žádná skupina to sama nezvládne, a proto musíme ženy motivovat a podporovat v tom, aby se zapojily a pomáhaly rozvíjet propojení mezi agenty a lidmi, mezi agenty navzájem i mezi lidmi navzájem.

Když se podíváte na příštích tři až pět let, kde vidíte pro Empiric Earth největší příležitosti nad rámec stávajících aplikací v oblasti bezpečnosti silničního provozu a správy vozových parků? Jakou roli podle vás bude Empiric Earth hrát v infrastruktuře podporující tuto transformaci, až se autonomní vozidla, robotika a další technologie fyzické AI stanou běžnou součástí každodenního života?

Bezpečnost silničního provozu a vozové parky byly oblastmi, v nichž jsme začínali, a stále tvoří jádro našeho podnikání. Větší příležitost však spočívá v podpoře fyzické AI: ve snižování rizik, poskytování standardu pro ověřování a v konečném důsledku ve zvyšování bezpečnosti reálného světa.

Základní výzvy jsou podobné, ať už vyvíjíte autonomní vozidlo, doručovacího robota, nebo systém pro retailovou inteligenci, který provozuje reklamní a obchodní síť v reálném světě. Jak porozumíte tomu, co se v reálném světě děje? Jak poznáte, zda si systém dokáže poradit s neočekávanými situacemi? A jak budete hodnotit jeho výkon a řídit rizika, až se tyto systémy začnou komerčně nasazovat?

Představuji si, že se Empiric Earth stane důležitou vrstvou inteligence v ekosystému fyzické AI a bude poskytovat data z reálného světa, modely, aplikace a služby, které vývojářům, partnerům a provozovatelům pomohou na tyto otázky odpovědět. Pro tuto vizi bude důležitá neutralita, přenositelnost a interoperabilita. Chceme, aby naše řešení fungovala napříč různými technologiemi a platformami, aby si zákazníci mohli vybrat ta, která jim dávají největší smysl.

Máme mimořádně silné základy v oblasti inteligence založené na datech z reálného provozu a nyní máme příležitost na nich stavět prostřednictvím nových schopností, partnerství a obchodních modelů.

Fyzická AI se nerozšíří jen proto, že jedna společnost vytvoří nejlepšího robota nebo nejlepší model. Rozšíří se tehdy, až bude mít širší ekosystém k dispozici inteligenci, nástroje a bezpečnostní opatření, které umožní nasazovat tyto systémy v reálném světě. Právě takovou roli chceme, aby Empiric Earth sehrála.

Děkujeme za skvělý rozhovor. Čtenáři, kteří chtějí prozkoumat inteligenci založenou na datech z reálného světa a nezávislé ověřování pro fyzickou AI, mohou navštívit Empiric Earth.