Michael Majster, Partner ve společnosti Arthur D. Little – Interview Series

Michael Majster, Partner ve společnosti Arthur D. Little, je zkušený strategický a technologický konzultant s hlubokými znalostmi v oblasti digitální transformace, IT strategie a inovačního růstu. Se sídlem v Bruselu a pracující napříč regionem Benelux, přináší více než dvě desetiletí zkušeností s poradenskou činností pro CIO a seniorní manažery při řízení velkých změn a dosahování měřitelných obchodních výsledků. Předtím, než se připojil k Arthur D. Little, strávil 16 let v Accenture, kde zastával seniorní vedoucí pozice, včetně pozice Managing Director pro technologické zdroje ve Francii a Beneluxu, a rozvinul silné sektorové znalosti v oblasti energetiky, utilit, chemického průmyslu a přírodních zdrojů.

Arthur D. Little je jedna z nejstarších manažerských poradenských firem na světě, založená před více než 135 lety a široce uznávaná pro svůj zaměřený přístup na inovace, strategii a technologicky řízenou transformaci. Společnost spolupracuje s globálními organizacemi na řešení složitých obchodních výzev, kombinuje strategické vhledy s hlubokými znalostmi odvětví, aby podpořila oblasti, jako je digitální transformace, řízení inovací a provozní zlepšení. S důrazem na propojení strategie, technologie a realizace si Arthur D. Little vybudoval reputaci jako pomocník klientům při vývoji průlomových inovací a adaptaci na rychle se měnící tržní dynamiku.

Strávili jste více než 16 let v Accenture, nakonec vedl technologii a zdroje napříč BeNeLux a Francií, než jste se stal partnerem ve společnosti Arthur D. Little. Jak vám tato cesta změnila váš pohled na to, co organizace skutečně potřebují k přechodu od experimentování s umělou inteligencí k velkým operačním transformacím?

Během mého působení v Accenture jsem viděl, jak se společnost rozrostla z 30 000 na více než 500 000 zaměstnanců. Zažil jsem na vlastní kůži, jak lze IT dodávky industrializovat do extrémní míry, aby podporovaly velké transformace pro CIO.

Nicméně, v průběhu let se IT stalo stále více nedílnou součástí podnikání, což vede k potřebě organizací odcházet od přístupu, kdy se na ně pohlíží jako na komoditu.

Při přechodu do Arthur D. Little jsem chtěl prozkoumat, jak lze tyto strategické transformace jádra podnikání řešit z vnitřní perspektivy, jak mohou speciální řešení místo standardizovaných platforem lépe umožnit diferenciaci a jak může společná odpovědnost celé ExCo pomoci organizacím učinit skokový pokrok ve vytváření hodnoty.

V Ihrem nedávném názoru It’s not the agents, it’s the system, argumentujete, že multi-agent AI je méně o technologii a více o změně operačního modelu. Proč si myslíte, že tolik organizací stále přistupuje k AI primárně jako k problému nástrojů?

Organizace přistupují k AI jako k problému nástrojů, protože to zapadá do stávajících struktur, rozpočtů a vlastnictví, a vyhýbá se složitosti mezioborových změn. To umožňuje rychlé pilotní projekty a viditelný pokrok, ale často vede k iniciativám, které se nezdaří škálovat nebo přinést významný ROI. Mnozí lídři také spoléhají na mentální modely legacy softwaru, předpokládající, že AI lze nasadit podobně jako tradiční IT systémy, místo aby vyžadovaly přepracování pracovních postupů a rozhodnutí. Současně je odpovědnost za změnu operačního modelu rozptýlená a obtížněji se spravuje, což dělá technologicky vedené iniciativy lákavějšími. Jako výsledek, společnosti se uchylují k nástrojům, protože je to snazší a bezpečnější než konfrontace s hlubší transformací potřebnou k odemknutí plné hodnoty AI.

Mnohé podniky目前 experimentují s agentic AI, ale mají potíže se škálováním. Jaké jsou nejčastější strukturální bariéry, které brání organizacím v přechodu od pilotních projektů do produkční fáze?

Organizace mají potíže se škálováním agentic AI, protože se soustředí na izolované použití místo přepracování koncových procesů s jasným vlastnictvím. Operační modely jsou často neupravené, s nejasnými rolemi, rozhodovacími právy a nedostatečnou integrací lidsko-agentní spolupráce do denních pracovních postupů. Mnohé iniciativy také postrádají silné vazby na měřitelné obchodní výsledky, což způsobuje, že uvíznou v pilotních fázích bez prokázání ROI. Kromě toho, fragmentované údaje a legacy systémy omezují schopnost agentů fungovat bezproblémově napříč funkcemi. Nakonec, slabá změna řízení a nevyřešené otázky governance týkající se rizika a spolehlivosti dále zpomalují přijetí a brání škálování.

Vy zdůrazňujete, že orchestrace, nikoli jednotliví agenti, je místo, kde leží skutečná hodnota. Jak vypadá efektivní orchestrace ve skutečném podnikovém prostředí?

Efektivní orchestrace znamená navrhování AI kolem koncových obchodních procesů, nikoli jednotlivých nástrojů, s agenty přiřazenými jasnými rolemi napříč celým pracovním postupem. Více agentů spolupracuje jako tým – zpracovává intake, rozhodování, realizaci a dohled – koordinované prostřednictvím centrální vrstvy orchestrace. Tyto agenti jsou těsně integrováni s podnikovými systémy prostřednictvím API a zdrojů dat, umožňujících skutečné akce místo pouze přehledů. Vrstva orchestrace také spravuje sekvenci úkolů, výjimky a eskalaci na lidi, zajišťujících hladký a řízený provoz. Nakonec, silná governance, validační mechanismy a zpětné vazby jsou vloženy, aby zajistily spolehlivost a nepřetržitou zlepšování.

Jak organizace přepracovávají pracovní postupy kolem AI, jak by se měly vyvíjet rozhodovací práva mezi lidmi a autonomními systémy, aby se zabránilo jak nadměrné automatizaci, tak i úzkým místům?

Decizní práva by se měla vyvíjet do rizika-založeného modelu, kde nízko-rizika, vysoké-objem rozhodnutí jsou automatizována, zatímco rozhodnutí s vysokým dopadem nebo nejistotou zůstávají pod lidskou kontrolou. Agenti by měli zpracovávat vnímání, analýzu a realizaci, zatímco lidé by se měli soustředit na úsudky, výjimky a definování správných výsledků. Jasná eskalační pravidla jsou nezbytná, aby agenti věděli, kdy odložit rozhodnutí, místo aby překročili svou pravomoc. Aby se zabránilo úzkým místům, lidská účast by měla být selektivní a zaměřená na výjimky místo úplného dohledu nad každým krokem. Současně, silná ochranná opatření, validační mechanismy a monitorování zajišťují kontrolu a brání nadměrné automatizaci.

Jedna z vašich klíčových bodů je, že spolehlivost musí být navržena koncově. Jaké jsou největší selhání, které vidíte dnes, když společnosti nasazují multi-agent systémy bez dostatečných bezpečnostních opatření?

Klíčovým selháním je propagace chyb, kde malé chyby jednoho agenta se šíří systémem a stávají se zesílenými. Další problém je halucinace a falešná jistota, protože AI může generovat pravděpodobné, ale nesprávné výstupy bez signálu nejistoty. Organizace také bojují, když je agentům dána příliš velká autonomie ve vysokém-impaktových rozhodnutích bez řádné validace nebo schvalovacích bran. Slabá výjimková manipulace dále zhoršuje problém, s agenty, které selhávají při eskalaci nejasných nebo okrajových případů na lidi. Celkově, selhání nastávají, protože spolehlivost není navržena napříč celým systémem koordinace, verifikace a dohledu.

Governance je často považována za komplianční vrstvu místo designového principu. Jak by společnosti měly přehodnotit governance při budování AI-nativních operačních modelů?

Governance by se měla posunout z post-hoc komplianční vrstvy na jádro designového principu vloženého přímo do AI pracovních postupů. To znamená integraci ochranných opatření, validačních kroků a schvalovacích bran na klíčových rozhodovacích bodech místo přidání kontrol po nasazení. Společnosti by měly přijmout rizika-založený přístup, upravující úroveň autonomie a lidského dohledu v závislosti na dopadu rozhodnutí a nejistotě. Jasná odpovědnost a rozhodovací práva musí být definována, aby agenti věděli, kdy jednat a kdy eskalovat. Nakonec, nepřetržité monitorování, zpětné vazby a navržená spolehlivost jsou nezbytná pro udržení důvěry, výkonu a kontroly v měřítku.

Z vaší práce při poradenství CIO a CDO, co odlišuje organizace, které dosahují měřitelného ROI z AI, od těch, které zůstávají uvězněny v trvalém experimentování?

Organizace, které dosahují ROI, se soustředí na koncovou transformaci procesů místo izolovaných AI případů použití. Připojují iniciativy k jasným finančním KPI a vkládají AI do pracovních postupů, rolí a rozhodovacích struktur. Investují také do řízení změn, přijetí a governance, aby zajistily, že řešení škálovají efektivně. Naopak, organizace uvězněné v experimentování vedou nesouvisející piloty, soustředí se na nástroje místo procesů a postrádají jasnou vlastnictví a odpovědnost. Jako výsledek, selhávají v překladu AI do měřitelné obchodní hodnoty a zůstávají uvězněny v pilotní fázi.

Jak organizace myslí o pozorovatelnosti, monitorování a eskalaci, aby udržely důvěru v AI-řízená rozhodnutí, když se multi-agent systémy stávají složitějšími?

Organizace by měly považovat pozorovatelnost, monitorování a eskalaci za základní prvky navrhování systému, nikoli za následné myšlenky. To zahrnuje zajištění plné stopovatelnosti prostřednictvím protokolování, auditních stop a validačních kontrolních bodů, aby rozhodnutí mohla být pochopena a ověřena. Monitorování by se mělo soustředit nejen na výkon, ale také na kvalitu výsledků, chyby a to, jak se problémy šíří napříč agenty. Jasná eskalační pravidla jsou nezbytná, aby agenti odkázali na lidi v případech s vysokým rizikem nebo nejistotou bez vytváření úzkých míst. Nakonec, důvěra pochází ze systémů, které jsou transparentní, měřitelné a navržené pro lidský dohled výchozím nastavením.

Pohledem do budoucna, jak budete vidět, že se podnikové operační modely vyvíjí v průběhu následujících 3 až 5 let, když se multi-agent AI systémy stanou více zakořeněny v jádru obchodních procesů?

Podnikové operační modely se budou vyvíjet směrem k hybridním lidsko-AI pracovním silám, kde agenti fungují jako digitální zaměstnanci vloženi do jádra procesů. Organizace se přesunou z funkčních sil od procesně-orientovaných struktur s koncovou vlastníkem a orchestrací napříč pracovními postupy. Rozhodování se stane dynamičtějším, s rutinními úkoly automatizovanými a lidmi se soustředícími na výjimky a dohled. Mechanismy governance a spolehlivosti budou vloženy do denních operací místo toho, aby byly považovány za samostatné vrstvy. Nakonec, konkurenční výhoda bude záviset na tom, jak dobře společnosti přepracují své operační modely kolem AI, nikoli pouze na technologii samotné.

Děkuji za skvělý rozhovor, čtenáři, kteří chtějí se dozvědět více, by měli navštívit Arthur D. Little.