ASTM a Singapore Standards Council označují pět nedostatků, které brzdí rozvoj vtělené AI

Robot může předvést působivé schopnosti, a přesto v potenciálním zákazníkovi zanechat řadu obtížných otázek. Jak se zachová, když mu někdo přeruší práci? Kdo bude spravovat data, která zachytí jeho kamery? Dokáže spolupracovat se stroji od jiného dodavatele?

Právě tyto otázky spojené s nasazením jsou ústředním tématem odborného dokumentu, který 3. listopadu představily ASTM International a Enterprise Singapore prostřednictvím Singapore Standards Council (SSC). Plán budoucího vývoje standardů pro vtělenou AI vymezuje pět priorit standardizace, které mají umožnit širší využití inteligentních fyzických systémů.

Vypracovaný ve spolupráci se singapurskou Agenturou pro vědu, technologie a výzkum (A*STAR) a Národním programem robotiky navazuje tento dokument na workshop v červenci 2025, kterého se zúčastnilo více než 140 zástupců z průmyslu, vlády, výzkumu a akademické obce. Jeho program zahrnuje správu dat, spolehlivost umělé inteligence, bezpečnost na pracovišti, interoperabilitu a pořizování. Je výchozím bodem pro vývoj standardů, nikoli novou certifikací, kterou by dodavatelé robotů mohli rovnou požadovat.

Proč vtělená AI mění otázku nasazení

Vtělená AI propojuje strojovou inteligenci s fyzickými systémy, mezi něž patří roboti, autonomní vozidla a další inteligentní stroje. Vnáší vnímání a rozhodování do prostředí, kde chyba může ovlivnit lidi, zařízení i okolní prostředí.

Jak Unite.AI rozebíralo v článku o tom, jak jazykové modely mění vtělenou AI, stále schopnější AI otevírá nové možnosti chování robotů. Z komerčního hlediska jde o to, jak zajistit, aby tyto schopnosti byly dostatečně spolehlivé pro každodenní provoz.

Představme si hypotetického doručovacího robota v nemocnici. Projet celou trasu je jen jednou částí jeho práce. Musí také odpovídat uspořádání přístupových cest v budově, dávat zaměstnancům srozumitelně najevo své záměry a dodržovat příslušná pravidla pro nakládání s daty. Úspěšná ukázka navigace odpovídá jen na část otázek, které je třeba při rozhodování o nákupu zvážit.

Pět nedostatků, na něž se zaměřuje agenda standardizace

Oznámení rozděluje priority do pěti oblastí. Jejich význam lépe vynikne, když se na ně podíváme z hlediska rozhodnutí, která musí zákazník učinit před nasazením.

1. Správa dat a ochrana soukromí

První prioritou je stanovit společná očekávání v oblasti správy dat a dodržování předpisů na ochranu soukromí. Kupující potřebuje vědět, jaké informace systém shromažďuje a jak jsou rozděleny odpovědnosti mezi zapojené organizace.

Pro týmy odpovědné za nákup to znamená, že je třeba zahrnout podmínky nakládání s daty už do počáteční specifikace. V hypotetickém prostředí s více dodavateli by měl být provozovatel schopen určit, který dodavatel odpovídá za jednotlivé datové toky, aniž by musel odpověď zpětně rekonstruovat až po incidentu.

2. Bezpečnost a spolehlivost AI

Druhá oblast zahrnuje společné přístupy k testování, srovnávacímu hodnocení a monitorování systémů AI. Srovnatelné důkazy by kupujícím poskytly pevnější základ pro posuzování konkurenčních tvrzení.

Z toho vyplývá důležitá otázka při nákupu: co přesně popisuje uváděný výsledek? Test se snáze interpretuje, jsou-li jasně stanoveny úloha, provozní podmínky, verze softwaru a kritéria selhání. Jinak mohou dva dodavatelé hlásit úspěch, přestože měří podstatně odlišné věci.

3. Bezpečnost na pracovišti a řízení rizik

Třetí priorita se týká fyzické bezpečnosti a rizik, jako je přílišné spoléhání na automatizaci nebo nevhodně navržená rozhraní. Bezpečné nasazení proto zahrnuje i lidi, kteří stroj dohlížejí a pracují s ním.

Užitečným příkladem je upozornění, které vyžaduje zásah obsluhy. Jeho přínos závisí na tom, zda člověk zprávě rozumí a má k dispozici funkční způsob, jak reagovat. Plánování instalace by mělo propojit chování stroje, odpovědnosti zaměstnanců a postupy při zásahu do uceleného pracovního procesu.

4. Interoperabilita a middleware

Čtvrtá oblast se týká koordinace mezi fyzickými agenty, softwarovými službami a infrastrukturou. Pro podnik, který sestavuje flotilu, se předmětem hodnocení stává fungující instalace jako celek.

Představme si, že kupujete dva roboty, z nichž každý se dokáže samostatně pohybovat chodbou. Otázkou integrace je, jak se budou dělit o omezený prostor a koordinovat přístup ke stejným dveřím. Při samostatném nákupu každého stroje může tato otázka zůstat nevyřešena až do fáze implementace. Jasně stanovené požadavky na integraci dávají dodavatelům konkrétní možnost předvést řešení ještě před jeho převzetím.

5. Certifikace kvality a zadávání veřejných zakázek

Pátou prioritou je posílit důvěru, že systém odpovídá svému zamýšlenému účelu. Společné přístupy k certifikaci a zadávání veřejných zakázek by zákazníkům mohly pomoci převést obecné sliby na požadavky, které lze posoudit.

Nejlepší nákupní specifikace propojují tvrzení o schopnostech s konkrétním případem použití. Přesun konkrétního nákladu po dohodnuté trase za stanovených podmínek je užitečnějším akceptačním kritériem než obecné tvrzení, že je robot inteligentní. Taková přesnost také usnadňuje řešení neshod ohledně výkonu.

Od bílé knihy k použitelným standardům

ASTM International a Enterprise Singapore uvádějí, že předloží zjištěné mezery příslušným technickým komisím a globálním sítím, aby pomohly stanovit priority další práce. K účasti jsou zvány organizace s relevantními zkušenostmi s nasazováním.

Vývojáři robotů mají příležitost přispět konkrétními důkazy o tom, kde se integrace nebo hodnocení stávají obtížnými. Kupující mohou vysvětlit, které nezodpovězené otázky brání tomu, aby se pilotní projekt proměnil v opakovatelný nákup. Tyto perspektivy mohou pomoci nasměrovat práci na standardech k rozhodnutím, která skutečně určují míru jejich zavádění.

Význam této studie spočívá v tom, že tyto otázky spojené s nasazováním spojuje do jednoho programu. I schopný stroj musí přesvědčivě doložit, jak bude fungovat v prostředí zákazníka. Společné standardy by mohly usnadnit přípravu, porovnávání i udržování takového zdůvodnění, jak se vtělená umělá inteligence dostává na stále více pracovišť.