Leidos představuje HeadWay Dispatch pro řízení agentů umělé inteligence napříč dodavateli

Společnost Leidos představila platformu HeadWay Dispatch 4. listopadu 2026. Je navržena k dohledu nad agenty umělé inteligence od různých dodavatelů, nastavování limitů jejich autonomie a uchovávání záznamů o jejich rozhodnutích, u nichž lze odhalit neoprávněné zásahy.

Platforma je určena organizacím, jejichž agenti využívají systémy různých dodavatelů. Její počáteční rámec má tři části: Know identifikuje aktivní agenty a systémy, k nimž mají přístup; Control určuje, které akce mohou probíhat samostatně, které vyžadují schválení a které jsou zakázané; a Prove vytváří záznamy umožňující následnou kontrolu rozhodnutí. Model každému agentovi vymezuje oprávnění a zajišťuje důkazní podklady, místo aby samotné ověření identity považoval za dostatečné oprávnění k jednání.

Autonomie nastavená podle rizika

Oficiální informační materiál k platformě HeadWay Dispatch vysvětluje, jak se tato nastavení určují. Míra autonomie agentů se odvíjí od složitosti úkolu, závažnosti možných následků a provozního kontextu. Každá akce spadá do jedné ze čtyř kategorií: zablokovat, před provedením potvrdit, upozornit a pokračovat nebo provést automaticky. Práci s nízkým rizikem, kterou lze vrátit zpět, tak lze provádět bez stejné míry schvalování jako akci s vážnými důsledky.

Flight Recorder zajišťuje důkazní stránku prostřednictvím původu rozhodovacího procesu, u něhož lze odhalit neoprávněné zásahy, a úplného řetězce správy důkazů. Kill Switch zastaví činnost na rozhraních nástrojů bez ohledu na připojení ke cloudu, zatímco Circuit Breakers omezují limity baterie, šířky pásma a výpočetního výkonu, aby zabránily nekontrolovanému chování agentů. Tyto funkce společně propojují řízení oprávnění, možnost přerušení a auditovatelnost, místo aby se spoléhaly výhradně na člověka sledujícího řídicí panel.

Vysvětlení přístupu společnosti Leidos ke správě a řízení z 9. října 2026 objasňuje provozní rozdíl, z něhož tento návrh vychází. Kontrola s člověkem ve smyčce vyžaduje, aby člověk schválil každé rozhodnutí, zatímco dohled s člověkem nad smyčkou průběžně monitoruje činnost a vybrané akce předává k dalšímu posouzení. Oba přístupy musí stát na architektonických omezeních, která stanovují limity chování ještě předtím, než je člověk vyzván k zásahu. Při rozsáhlém provozu umožňuje selektivní předávání akcí k posouzení rozšiřovat dohled, aniž by se každá akce stala další položkou ve frontě na schválení.

Nasazení a nástroje pro řízení provozu

Dispatch se dodává formou softwarové licence spolu se službami implementace a běží na infrastruktuře, kterou si zvolí zákazník. Jeho modulární návrh podporuje stávající investice do umělé inteligence, agenty vyvinuté na míru i agenty třetích stran určené k plnění úkolů, aniž by zákazníci museli nahrazovat své současné technologie. Tento způsob dodání tvoří praktický základ přístupu nezávislého na dodavateli: ochranná opatření se uplatňují napříč různými agenty, zatímco základní systémy zůstávají beze změny.

Požadavky na hesla a klíče API se směrují přes Dispatch, takže agenti tyto přihlašovací údaje nemusí ukládat přímo. Společnost Leidos uvádí, že se tím snižuje riziko jejich odcizení útočníky. Provozovatelé mají k dispozici jednotný přehled činnosti, schválení a upozornění, takže mohou jednat, aniž by museli přecházet mezi různými nástroji.

Vývoj a federální politika

Vývoj dvou dalších funkcí stále probíhá: Experience by přizpůsobovala rozhraní provozovatelů jejich rolím a potřebám konkrétních úkolů, zatímco Intelligence by koordinovala agenty různých dodavatelů podle společných pravidel. Společnost Leidos také rozšiřuje Dispatch tak, aby jeho kontrolní mechanismy fungovaly i při zhoršení nebo výpadku síťového připojení. Do dalšího vývoje patří i související koncepty z informačních materiálů, včetně rozhraní přizpůsobených rolím, koordinace agentů napříč dodavateli a místních oprávnění s následným uvedením do souladu po obnovení připojení.

Společnost Leidos rovněž uvádí, že Dispatch může federálním úřadům pomoci při plnění požadavků dvou memorand Úřadu pro řízení a rozpočet vydaných 3. dubna 2025. Memorandum M-25-21, které se zabývá využíváním umělé inteligence ve federální správě, definuje umělou inteligenci s vysokým dopadem podle toho, zda její výstupy slouží jako hlavní podklad pro rozhodnutí nebo opatření s právními, materiálními, závaznými či významnými důsledky. Pro takové využití vyžaduje průběžné monitorování, pravidelné školení a hodnocení provozovatelů, lidský dohled, možnost zásahu a vyvození odpovědnosti a také vhodný mechanismus bezpečného selhání, je-li to proveditelné. Tyto povinnosti představují politický protějšek schvalovacích prahů platformy Dispatch, jednotného přehledu pro provozovatele, nástrojů pro zásah a auditní stopy.

Doprovodné akviziční memorandum M-25-22 se zabývá nákupem. Požaduje ochranu před závislostí na jediném dodavateli, včetně předávání znalostí, jasných pravidel pro přenositelnost dat a modelů a transparentních licenčních podmínek a cen. Vyžaduje také smluvní podmínky, které úřadům umožní průběžně monitorovat a vyhodnocovat výkon, rizika a účinnost. Infrastruktura zvolená zákazníkem a podpora agentů od více dodavatelů propojují návrh produktu Dispatch s tímto úsilím o přenositelnost a konkurenci.

Obě memoranda vylučují umělou inteligenci používanou jako součást systému národní bezpečnosti. Požadavky memoranda M-25-22 se nevztahují na složky zpravodajské komunity a stejné vyloučení platí i pro minimální postupy řízení rizik u umělé inteligence s vysokým dopadem stanovené memorandem M-25-21. Tím se omezuje rozsah, v němž lze srovnání s požadavky Úřadu pro řízení a rozpočet vztáhnout na nasazení v oblasti národní bezpečnosti a zpravodajských služeb.

Uvedení produktu na trh se v konečném důsledku týká nastavení hranic řízení pro agenty, které organizace již používá: co smějí dělat, kdy musejí přestat a vyžádat si schválení a jak lze zpětně rekonstruovat jejich rozhodnutí. Právě soužití s již nasazenými agenty tak propojuje technické řešení Dispatchu s argumentací společnosti Leidos ve prospěch federálních zakázek, zatímco širší vize orchestrace stále závisí na funkcích, které se teprve vyvíjejí.