Cowbell uvádí pojištění odpovědnosti za škody související s AI pro firmy využívající agenty AI

Společnost Cowbell oznámila 10. listopadu 2026 uvedení pojištění Cowbell AI Liability Insurance, samostatné pojistky pro malé a střední podniky v USA, které nasazují agenty AI v zákaznickém servisu, platebním styku a klíčových provozních činnostech. Pojištění kombinuje krytí vlastních ztrát podniku s ochranou před nároky třetích stran.

Pojištění by mělo být dostupné od 1. ledna 2027, výhradně prostřednictvím velkoobchodních pojišťovacích makléřů. Je založeno na pojistné události označované jako „incident související s AI“ a je určeno pro agenty, kteří jednají jménem podniku, včetně situací, kdy do rozhodovacího procesu není zapojen žádný člověk.

Na jaké situace se vztahuje pojistná událost související s AI

Za incident související s AI se považuje situace, kdy nástroj překročí rozsah svého oprávnění, jedná bez požadovaného schválení, neoprávněně zpřístupní data, vytvoří nepřesný nebo nebezpečný výstup či nefunguje v rámci stanovených kontrolních mechanismů. Může jít také o nepřátelskou manipulaci, nestabilní chování, změnu vlastností modelu v čase nebo algoritmickou diskriminaci.

Krytí vlastních ztrát podniku může zahrnovat vyšetření a zvládnutí incidentu, izolaci zasaženého nástroje, uchování důkazů, opravu nebo stažení nepřesného či nebezpečného výstupu a informování jeho příjemců. Přímá transakční ztráta se týká prostředků, které se nepodařilo získat zpět a které byly ztraceny v důsledku manipulace, neschválených úkonů nebo selhání kontrolních mechanismů. Nekontrolované náklady zahrnují neoprávněné poplatky za využívání způsobené opakovanými cykly, stupňováním úloh nebo selháním limitů výdajů. Únos účtu LLM se týká poplatků vzniklých tím, že cizí osoby použijí odcizené přihlašovací údaje nebo klíče API.

Dokumentace k produktu uvádí také řešení případů úniku dat, obnovu poškozených systémů a pracovních postupů, krizové řízení při poškození pověsti a ušlý zisk i dodatečné náklady vzniklé přerušením provozu po uplynutí příslušné čekací doby. Forenzní účetnictví potřebné k přípravě nároku na náhradu škody z přerušení provozu vyžaduje souhlas pojistitele.

Nároky třetích stran a scénáře škod

Pojištění odpovědnosti vůči třetím stranám může hradit náklady na obhajobu a kryté škody či částky vyplacené v rámci vyrovnání nároků, které se týkají údajné algoritmické diskriminace, porušení autorských práv nebo práv k ochranné známce, újmy na zdraví či škody na majetku způsobené spoléháním na výstup AI nebo autonomním digitálním úkonem. Krytí se může vztahovat také na správní řízení a, pokud to právní předpisy dovolují nebo lze dané plnění pojistit, na některé pokuty, sankce, nápravu ve prospěch spotřebitelů a náhradu škody s represivní funkcí.

Příklady společnosti Cowbell ukazují, jak se tato ustanovení vztahují k provozním selháním. V jednom případě agent pro závazky vůči dodavatelům nesprávně vyhodnotí stav schválení a bez souhlasu člověka odešle duplicitní platby i platby za zrušené objednávky. Dodavatel poté vstoupí do likvidace a část prostředků se nepodaří získat zpět. V jiném případě agent pro tvorbu cenových nabídek opakuje své kroky, spouští další agenty a odesílá nesprávné nabídky, zatímco neúčinné kontroly výdajů umožní hromadění poplatků za používání. Podnik systém pozastaví, aby mohl situaci prošetřit a obnovit provoz.

Třetí příklad popisuje účetního agenta, který použije zastaralé daňové sazby a bez lidské kontroly podá daňová přiznání klientů. To vede k pokutám, úrokům, požadavkům na náhradu škody a žalobám proti firmě. Cowbell tyto příklady uvádí jako možná rizika, nikoli jako zaručený výsledek pojistného nároku. Krytí závisí na konkrétních okolnostech a na podmínkách, limitech, spoluúčastech a výlukách vydané pojistné smlouvy.

Posuzování rizik se zaměřuje na kontrolu agentů

Při posuzování rizik se vedle dalších informací využívají tři faktory Cowbell zaměřené specificky na AI. Sledovatelnost se zabývá tím, jak se monitoruje činnost AI, míra autonomie hodnotí oprávnění systémů samostatně rozhodovat a jednat a správa a řízení posuzují pravidla, bezpečnostní opatření a dohled, kterými se jejich používání řídí. Podniky získají přístup ke svým faktorům Cowbell zaměřeným na AI aktivací konektorů Cowbell pro nástroje, mezi něž patří Gemini, Claude a ChatGPT.

Obchodní ředitel Simon Hughes popsal souběh rizik takto: „Když se agent vymkne kontrole, může podnik současně čelit vlastním ztrátám i nárokům zákazníků a dalších osob.“

Přístup společnosti Cowbell propojuje posuzování rizik se způsobem, jakým jsou agenti monitorováni a kontrolováni. U podniků, které svěřují softwaru oprávnění provádět platby, pracovat s informacemi o zákaznících a podávat přiznání, ovlivňuje stejná míra autonomie, která umožňuje tyto činnosti vykonávat, také posouzení rizik i rozsah škod, jež může způsobit jediný incident.