Baptiste Bouvier, generální ředitel a spoluzakladatel společnosti Daptic – rozhovor

Baptiste Bouvier je generálním ředitelem a spoluzakladatelem společnosti Daptic, kde se věnuje propojování regulatorních informací s vývojem produktů. Vystudoval informatiku a inženýrství na MIT. Jeho zkušenosti zahrnují výzkum umělé inteligence a autonomních systémů v MIT CSAIL, využití umělé inteligence ve zdravotnictví ve společnosti Babylon Health, kvantitativní výzkum v J.P. Morgan, vývoj technologií AR/VR ve společnosti Meta a poradenství ve společnosti McKinsey. Zaměřuje se na to, aby výrobcům pomáhal převádět složité regulatorní požadavky do praktických rozhodnutí v oblasti inženýrství.

Daptic nabízí platformu pro zajištění souladu produktů s předpisy využívající umělou inteligenci. Ta propojuje změny právních předpisů, jejich výklad a požadavky na produkty v průběhu celého životního cyklu produktu. Její software pomáhá specialistům na regulaci, inženýrům a produktovým týmům sledovat požadavky na globálních trzích, vyhodnocovat jejich dopad a začleňovat je do pracovních postupů při vývoji, přičemž zajišťuje dohledatelnost zdrojů a lidský dohled. V tomto rozhovoru Bouvier hovoří o regulatorních informacích, fyzické umělé inteligenci, strojově čitelných konstrukčních omezeních a přechodu k průběžnému řízení životního cyklu souladu produktu.

Vaše profesní dráha vás zavedla od výzkumu umělé inteligence a autonomních systémů v MIT CSAIL přes využití umělé inteligence ve zdravotnictví ve společnosti Babylon Health a kvantitativní výzkum v J.P. Morgan až k vývoji technologií AR/VR ve společnosti Meta a poradenství ve společnosti McKinsey. Jak tyto zkušenosti ovlivnily vaše rozhodnutí spoluzaložit Daptic a co vás přesvědčilo, že umělá inteligence může zásadně změnit oblast regulatorních informací?

Rozhodující pro mě bylo, když jsem si uvědomil, jak velkou část vývoje produktů ovlivňují předpisy a jak málo softwaru tuto práci podporuje.

Mám především vzdělání v informatice a také určité zkušenosti ze strojírenství. Než jsem založil Daptic, působil jsem v řadě technických prostředí. Právě v McKinsey jsem však zblízka poznal, jak velké společnosti vyvíjejí fyzické produkty a jak mohou předpisy tento proces zpomalovat.

Viděl jsem mimořádně sofistikované společnosti, které zásadní část vývoje produktů řídily pomocí dokumentů, tabulek, e-mailů a komunikace mezi mnoha různými týmy. Předpis může začít jako právní text zveřejněný vládou, ale nakonec jej někdo musí převést na konkrétní technický požadavek, který změní způsob, jakým je produkt navržen.

Právě tato propast mezi předpisy a inženýrstvím mě zaujala. Do této práce se promítalo obrovské množství odborných znalostí, ale infrastruktura, která by jednotlivé činnosti propojovala, téměř neexistovala. Tuto širší oblast vnímáme jako řízení životního cyklu souladu produktu: propojení změn předpisů, jejich výkladu a požadavků na produkty s rozhodnutími, která týmy činí během vývoje i po celou dobu životnosti produktu.

Umělá inteligence mění možnosti, protože dokáže současně pracovat s rozsáhlými objemy regulatorních materiálů, informací o produktech i znalostí v rámci organizace. Díky tomu můžeme vybudovat infrastrukturu pro pracovní postup, který se dosud opíral o značné množství manuální práce. Právě to bylo základem společnosti Daptic.

Inženýři vyvíjející produkty v odvětvích, jako je automobilový a letecký průmysl, obrana, výroba zdravotnických prostředků a robotika, mohou čelit tisícům neustále se měnících předpisů. V čem spočívá největší přínos umělé inteligence při převádění tohoto obrovského množství regulatorních informací do podoby, kterou mohou inženýři skutečně využít při vývoji produktů?

Největší přínos spočívá v možnosti průběžně udržovat souvislost mezi tím, co se děje v oblasti regulace, a tím, co se děje s produktem.

Představte si, že vyvíjíte složitý fyzický produkt, který se nakonec bude prodávat na 30 nebo 40 různých geografických trzích. Musíte zjistit, které předpisy se na něj vztahují, sledovat jejich změny, určit, které z nich jsou pro váš produkt důležité, a převést relevantní požadavky do rozhodnutí v oblasti inženýrství.

Umělá inteligence může toto regulatorní prostředí průběžně sledovat a zúžit okruh informací, které musí tým vyhodnotit. Pokud se požadavek změní, systém může pomoci určit, kterých produktů, součástí nebo technických rozhodnutí se změna může týkat, a předat relevantní souvislosti lidem, kteří je potřebují.

Ještě zajímavější možnost se otevírá ve chvíli, kdy se regulatorní souvislosti stanou přímo součástí pracovního postupu v oblasti inženýrství. Inženýr, který rozhoduje o konstrukčním řešení, by měl rychle zjistit, jaké požadavky s tímto rozhodnutím souvisejí, aniž by je musel ručně vyhledávat v různých jurisdikcích, normách a oblastech regulace.

Předpisy se mění a produkty se mění také. Skutečná hodnota spočívá v tom, že tyto dva systémy zůstávají propojené, takže týmy mohou porozumět důsledkům změn ještě v době, kdy mají možnost zvolit jiné technické řešení. Toto průběžné propojení je základní součástí řízení životního cyklu souladu produktu.

Dodržování předpisů je oblast, kde má využití umělé inteligence mimořádně vysoké důsledky: přehlédnutí požadavku nebo nesprávný výklad mohou mít závažné následky. Jak Daptic při využívání umělé inteligence k práci s regulatorními informacemi přistupuje k přesnosti, vysvětlitelnosti a lidskému dohledu?

Důvěra je v této oblasti zásadní.

Regulační rozhodnutí vyžadují vysokou míru jistoty, proto je třeba do pracovního postupu zabudovat možnost zpětného dohledání. Týmy musí mít možnost zjistit, odkud informace pocházejí, ověřit původní podklady a pochopit, jak se dospělo k určitému výkladu.

Lidská odbornost zůstává mimořádně důležitá, protože předpisy bývají nejednoznačné. Předpis vám může poskytnout mnoho informací, ale jeho uplatnění na konkrétní produkt často vyžaduje kontext, zkušenosti a úsudek. Různí odborníci mohou také dospět k odlišným výkladům téhož požadavku.

Naším přístupem je využívat AI jako oporu pro tuto odbornost. AI dokáže informace vyhledávat a strukturovat, propojovat je s příslušným kontextem produktu a uchovávat dosavadní zdůvodnění. Do tohoto procesu jsou nadále zapojeni inženýři a odborníci na regulaci, kteří mohou vše posoudit, upřesnit a přispět vlastními znalostmi.

To organizaci přináší také dlouhodobou hodnotu. Zdůvodnění regulačního rozhodnutí se stává institucionální znalostí, na kterou lze odkazovat a dále na ní stavět, místo aby zůstalo v e-mailovém vlákně nebo u jediného člověka. Aby řízení životního cyklu shody produktu fungovalo ve velkém měřítku, musí se tento kontext a odborný úsudek zachovat napříč týmy, produkty i vývojovými cykly.

AI pro fyzický svět se rychle přesouvá z kontrolovaného průmyslového prostředí k produktům, které by mohly fungovat v domácnostech a na veřejných místech. Jak se humanoidní roboti a systémy, jako jsou robotické psy, stávají schopnějšími, které regulační překážky se podle vás stanou největšími zábranami jejich širokého přijetí spotřebiteli?

AI pro fyzický svět propojuje oblasti regulace, které bylo historicky možné posuzovat mnohem nezávisleji.

Vezměme si humanoidního robota, který funguje v domácím nebo veřejném prostředí. U téhož produktu mohou hrát roli fyzická bezpečnost, elektrické systémy, baterie, bezdrátová komunikace, kybernetická bezpečnost, ochrana soukromí i autonomní chování. Podle toho, co robot dělá, mohou přicházet v úvahu také další požadavky týkající se strojních zařízení, dopravy, lékařského využití nebo jiných regulovaných činností.

Zvlášť zajímavé je, že tyto produkty jsou stále více definovány softwarem. Fyzický produkt se může po prodeji podstatně změnit prostřednictvím softwaru. Nová funkce nebo chování zavedené aktualizací mohou změnit regulační požadavky vztahující se k danému produktu.

To znamená, že firmy musí přemýšlet o regulaci v průběhu celého životního cyklu produktu, nikoli pouze v jednom okamžiku před uvedením na trh. Tento posun od jednorázového posouzení souladu s předpisy k průběžnému řízení životního cyklu shody produktu je obzvlášť důležitý u produktů, jejichž schopnosti se mohou vyvíjet i po vstupu na trh.

Regulace má také globální rozměr. Jednotlivé jurisdikce vytvářejí pravidla pro tyto technologie různým tempem a často vycházejí z odlišných výchozích podmínek.

Pro firmy vyvíjející produkty využívající AI pro fyzický svět se regulační strategie stále častěji stává součástí produktové strategie. Rozhodnutí týkající se senzorů, autonomie, sběru dat, materiálů, konektivity a chování produktu mohou ovlivnit, kde lze produkt nasadit, jak je třeba jej testovat a jaké požadavky musí splnit. Tyto souvislosti je třeba pochopit ještě ve fázi návrhu produktu.

Dnes se dodržování předpisů často považuje za něco, co přichází na řadu až ke konci vývoje produktu. Co se změní, když se regulační požadavky stanou vstupním podkladem pro inženýrství a návrh produktu hned od samého začátku?

Inženýři tak získají mnohem širší prostor pro hledání řešení.

V inženýrství existuje užitečná analogie v podobě návrhu s ohledem na vyrobitelnost. V CAD můžete navrhnout něco, co vypadá naprosto rozumně, a pak zjistit, že výroba ve velkém měřítku vyžaduje zcela odlišný přístup. Průmysl vyvinul nástroje a metodiky, které přenesly informace o vyrobitelnosti do ranějších fází návrhu, takže inženýři mohli tato omezení zohlednit, dokud ještě měli prostor pro změny.

Podobným směrem se mohou ubírat i regulační požadavky.

Pokud inženýři znají regulační omezení už během navrhování, mohou s mnohem lepším kontextem vyhodnocovat různé architektury, materiály, součástky a chování produktu. Mohou také ještě předtím, než do daného řešení investují měsíce vývojové práce, pochopit, jak by jejich rozhodnutí mohlo ovlivnit testování, certifikaci nebo přístup na trh.

To může významně ovlivnit rychlost i náklady vývoje. Ještě důležitější je, že se regulace stává vstupním podkladem pro inženýrský proces, nikoli informací, která přichází až poté, co už byla učiněna řada důležitých rozhodnutí o produktu. Jde o jednu ze zásadních změn, které přináší řízení životního cyklu shody produktu: informace o regulaci se stávají součástí vývoje produktu, nikoli pouhou překážkou, kterou musí produkt později překonat.

Mohly by se předpisy nakonec proměnit v téměř strojově čitelná návrhová omezení, která by systémům AI umožnila v reálném čase upozorňovat inženýry, že navrhovaná součástka, materiál, softwarová funkce nebo chování produktu mohou na určitém trhu porušovat požadavky? Jak blízko jsme takovému pracovnímu postupu?

Tímto směrem se ubíráme, klíčové však není pouze učinit předpisy strojově čitelnými. Jde o to převést regulatorní jazyk do omezení, která dávají smysl v kontextu konkrétního produktu.

Předpisy zpravidla nejsou psány jako technické specifikace. Vytvářejí je vlády a normalizační organizace pro lidi a mezi textem předpisu a technickým omezením, které inženýr skutečně potřebuje, je několik vrstev výkladu.

Umělá inteligence nám poskytuje mnohem lepší nástroje k propojení těchto vrstev. Systém dokáže porozumět regulatorním požadavkům, oficiálním výkladům i kontextu vyvíjeného produktu. Když inženýr změní materiál, komponentu, softwarovou funkci nebo chování produktu, systém může upozornit na požadavky, kterých se změna může týkat, a vysvětlit souvislost.

Důležitý je kontext produktu. Tentýž regulatorní text může mít velmi odlišné důsledky v závislosti na produktu, trhu, komponentě nebo zamýšleném použití.

K některým částem tohoto pracovního postupu už směřujeme. K dosažení skutečně integrované zpětné vazby ohledně regulace napříč technickými prostředími je zapotřebí strukturovaný kontext produktu a spolehlivé propojení regulatorního jazyka, interních výkladů a technických požadavků. Umělá inteligence nám urychlila budování těchto propojení.

Očekávám, že se zpětná vazba ohledně regulace postupem času mnohem více začlení do nástrojů, které už inženýři používají, podobně jako se jiná technická omezení přiblížila k okamžiku, kdy se přijímají rozhodnutí o návrhu.

Globální výrobci často musí dodržovat různá, někdy i protichůdná pravidla v desítkách jurisdikcí. Jak může umělá inteligence pomoci technickým týmům určit nejen to, které předpisy se uplatní, ale také jak může rozhodnutí o návrhu pro jeden trh ovlivnit produkt v celosvětovém měřítku?

Právě propojení regulatorních informací s kontextem produktu má velký potenciál.

Výrobci se obecně snaží co nejvíce sjednotit produkty napříč trhy, protože udržování mnoha různých verzí téhož produktu výrazně zvyšuje náklady i složitost. Požadavky se však v jednotlivých jurisdikcích liší, takže v některých případech je nutné produkt upravit.

Umělá inteligence může týmům pomoci tyto souvislosti mapovat mnohem systematičtěji. Zvažujete-li konkrétní materiál, komponentu nebo funkci, můžete posoudit trhy, na nichž se bude produkt prodávat, a zjistit příslušné požadavky pro každý z nich.

Technické týmy tak mohou mnohem dříve vidět, jaké celosvětové důsledky bude mít rozhodnutí o návrhu. Jedna volba může vyhovovat na 25 trzích, ale na pěti přinést další požadavky. Tým se pak může rozhodnout, zda upraví globální návrh, vytvoří regionální variantu, nebo zvolí jiný kompromis.

Výrobci taková rozhodnutí činí už dnes. Příležitost spočívá v tom, poskytnout lidem mnohem lepší přehled o tom, jak se regulace vztahuje k produktu, aby mohli o těchto kompromisech rozhodovat dříve a s lepší znalostí souvislostí.

Regulatorní přehled zahrnuje víc než jen sledování již přijatých zákonů. Jak může umělá inteligence rozpoznávat první signály v návrzích předpisů, vládních diskusích, činnosti normalizačních organizací, donucovacích opatřeních a dalších zdrojích, aby společnosti mohly předvídat požadavky ještě předtím, než ovlivní uvedení produktu na trh?

Proaktivní sledování vývoje je obzvlášť důležité, když vývoj produktu trvá několik let.

Pro výrobce je pochopení toho, co se změnilo včera, jen jednou částí celkového obrazu. Týmy potřebují také přehled o tom, co se může změnit v době, kdy se produkt navrhuje, testuje a připravuje k uvedení na trh.

Možných signálů je mnoho. Vlády zveřejňují návrhy předpisů a konzultační dokumenty. Normalizační organizace diskutují o změnách. Regulační orgány vydávají pokyny a přijímají donucovací opatření. Všechny tyto zdroje společně mohou napovědět, jakým směrem se budou požadavky ubírat.

Rozsah této činnosti je značný. Globální výrobce může potřebovat sledovat zdroje z desítek jurisdikcí, v různých jazycích a regulatorních oblastech, a poté určit, který vývoj se jeho produktů skutečně týká.

Umělá inteligence může tyto zdroje průběžně sledovat, rozpoznávat potenciálně relevantní vývoj a propojovat jej s konkrétními produkty, komponentami nebo oblastmi podnikání. Regulatorní odborníci tak mohou více času věnovat posuzování změn, které by mohly významně ovlivnit plán vývoje produktů.

Čím dříve se tyto souvislosti dostanou k produktovému týmu, tím větší manévrovací prostor společnost má. Pokud se má požadavek za 2 roky změnit a uvedení vašeho příštího produktu na trh je plánováno za 18 měsíců, může se to stát podkladem pro rozhodnutí o plánování produktu už dnes.

Mohli bychom se s tím, jak se agenti umělé inteligence stále hlouběji začleňují do technických pracovních postupů, nakonec dočkat specializovaných agentů pro zajištění souladu, kteří budou po celou dobu životního cyklu produktu spolupracovat s inženýry, produktovými manažery a dalšími systémy umělé inteligence? Jak by taková architektura v praxi vypadala?

Ano. Myslím, že klíčové je, aby tyto systémy sledovaly obě strany rovnice. Regulace se mění, ale mění se i produkt.

Specializovaní agenti by mohli průběžně sledovat vývoj regulace a určovat, které změny se týkají konkrétního portfolia produktů. Jiní agenti by mohli pomáhat převádět tyto požadavky do podoby konkrétních dopadů na konstrukční řešení.

Agenti by zároveň mohli sledovat změny samotného produktu. Tým může změnit materiál, aktualizovat software, vyměnit dodavatele, upravit součást nebo přidat novou funkci produktu. Každé z těchto rozhodnutí může ovlivnit, které požadavky se uplatní nebo jak je třeba vykládat některý ze stávajících požadavků.

Tyto systémy musí sdílet kontext. Regulatorní agent musí rozumět produktu. Inženýrský agent musí mít přístup k příslušným regulatorním omezením. Oba musí mít přístup k předchozím rozhodnutím a výkladům organizace.

Lidský úsudek zůstává důležitou součástí této architektury. Pokud agent narazí na nejednoznačnost, vzájemně rozporné požadavky nebo rozhodnutí se závažnými důsledky, příslušný odborník by měl mít možnost prověřit podkladové zdroje, přispět vlastním výkladem a uchovat toto zdůvodnění pro zbytek organizace.

Představuji si, že se architektura promění v síť specializovaných systémů a odborníků, kteří vycházejí ze společného chápání produktu. U fyzických produktů je to obzvlášť přínosné, protože jediné konstrukční rozhodnutí může mít následné dopady na výrobu, bezpečnost, certifikaci, regulaci i přístup na trh. Tato sdílená infrastruktura se může v mnoha ohledech stát základem řízení souladu produktů s předpisy v průběhu celého životního cyklu: systémem, který bude během celého životního cyklu koordinovat regulatorní inteligenci, kontext produktů, umělou inteligenci a lidské odborné znalosti.

Když se podíváme pět až deset let do budoucnosti, kdy se fyzická umělá inteligence, autonomní stroje a stále více softwarově definovaných produktů stanou běžnou součástí života, jak se podle vás bude vyvíjet vztah mezi strojírenstvím, umělou inteligencí a regulací a jakou roli v tomto ekosystému bude podle vás hrát Daptic?

Očekávám, že regulatorní inteligence se stane standardním vstupem při návrhu fyzických produktů.

Podobný vývoj jsme zaznamenali i v jiných oblastech strojírenství. Informace, které byly kdysi součástí odděleného procesu, se postupně dostávají blíže k inženýrům a jsou jim k dispozici přímo ve chvíli, kdy rozhodují. Dobrým příkladem je návrh s ohledem na vyrobitelnost.

Regulace se ubírá stejným směrem, protože nám umělá inteligence umožňuje pracovat s velkým rozsahem a složitostí těchto úkolů a propojovat regulatorní požadavky s konkrétními produkty a konstrukčními rozhodnutími.

S tím, jak se produkty stávají autonomnějšími a více závislými na softwaru, je to stále důležitější. Aktualizace softwaru může po uvedení na trh změnit chování fyzického produktu. Může se změnit dodavatel nebo součást. Nová funkce může ovlivnit, které požadavky jsou relevantní. Regulace a normy se přitom na jednotlivých trzích dál vyvíjejí.

Produkt se mění a mění se i regulatorní prostředí. Firmy potřebují infrastrukturu, která je dokáže průběžně propojovat.

Tímto směrem Daptic rozvíjíme. Chceme, aby se regulatorní inteligence stala součástí infrastruktury pro vývoj produktů a aby inženýrům poskytovala přehled o regulatorních dopadech v době, kdy mají ještě možnost flexibilně upravovat návrh. Zároveň chceme regulatorním odborníkům umožnit uplatnit jejich znalosti v mnohem větších organizacích.

Řízení souladu produktů s předpisy v průběhu celého životního cyklu se podle nás nakonec stane klíčovou součástí této infrastruktury. Cílem je propojit regulaci a strojírenství během celého životního cyklu produktu, aby firmy mohly lépe rozhodovat o produktech, uchovávat klíčové institucionální znalosti a rychleji uvádět fyzické inovace na trh.

Děkuji za skvělý rozhovor. Čtenáři, kteří se chtějí dozvědět více o regulatorní inteligenci využívající umělou inteligenci a řízení souladu produktů s předpisy v průběhu celého životního cyklu, by měli navštívit Daptic.