Cowbell wprowadza ubezpieczenie odpowiedzialności związanej ze sztuczną inteligencją dla firm korzystających z agentów AI

Cowbell ogłosiła 10 listopada 2026 r. wprowadzenie Cowbell AI Liability Insurance — samodzielnej polisy dla małych i średnich firm w USA, które wdrażają agentów AI w obsłudze klienta, płatnościach i kluczowych obszarach działalności. Polisa łączy ochronę przed stratami własnymi firmy z ochroną przed roszczeniami osób trzecich.

Polisa ma być dostępna od 1 stycznia 2027 r., wyłącznie za pośrednictwem brokerów hurtowych. Jej podstawą jest zdarzenie określane jako „Incydent AI”; została opracowana z myślą o agentach działających w imieniu firmy, także w sytuacjach, gdy w procesie decyzyjnym nie uczestniczy człowiek.

Co obejmuje zdarzenie określane jako incydent AI

Incydent AI obejmuje sytuacje, w których narzędzie przekracza zakres przyznanych mu uprawnień, działa bez wymaganej zgody, ujawnia dane bez upoważnienia, generuje niedokładne lub niebezpieczne treści albo nie działa zgodnie z ustalonymi mechanizmami kontroli. Może również wiązać się z wrogą manipulacją, niestabilnym zachowaniem, dryfem modelu lub dyskryminacją algorytmiczną.

W przypadku strat własnych firmy ochrona może obejmować zbadanie incydentu i ograniczenie jego skutków, odizolowanie narzędzia, którego dotyczy problem, zabezpieczenie dowodów, skorygowanie lub wycofanie niedokładnych bądź niebezpiecznych treści oraz powiadomienie ich odbiorców. Bezpośrednia strata transakcyjna obejmuje nieodzyskane środki utracone wskutek manipulacji, niezatwierdzonych działań lub nieskutecznych mechanizmów kontroli. Koszty wymykające się spod kontroli dotyczą nieautoryzowanych opłat za korzystanie z narzędzi, wynikających z zapętlonych lub eskalujących zadań albo nieskutecznych limitów wydatków. LLMjacking oznacza natomiast opłaty naliczone za korzystanie z narzędzi przez osoby z zewnątrz, które posłużyły się skradzionymi danymi logowania lub kluczami API.

Dokumentacja produktu wymienia również reagowanie na przypadki ujawnienia danych, przywracanie uszkodzonych systemów i przepływów pracy, zarządzanie kryzysowe w przypadku szkód wizerunkowych, a także utracone zyski i dodatkowe koszty wynikające z przerwy w działalności po upływie odpowiedniego okresu oczekiwania. Przygotowanie roszczenia z tytułu przerwy w działalności z wykorzystaniem rachunkowości śledczej wymaga zgody ubezpieczyciela.

Roszczenia osób trzecich i scenariusze strat

Ochrona dotycząca roszczeń osób trzecich może obejmować koszty obrony oraz objęte ochroną odszkodowania lub kwoty ugód w przypadku roszczeń dotyczących dyskryminacji algorytmicznej, naruszenia praw autorskich lub praw do znaków towarowych, uszkodzenia ciała albo szkód w mieniu, jeśli wynikają one z polegania na treściach wygenerowanych przez AI lub autonomicznym działaniu cyfrowym. Może ona również obejmować postępowania regulacyjne, a tam, gdzie zezwala na to prawo lub gdzie jest to możliwe do ubezpieczenia, określone grzywny, kary, rekompensaty dla konsumentów i odszkodowania o charakterze karnym.

Przykładowe scenariusze Cowbell pokazują, jak te postanowienia odnoszą się do zakłóceń operacyjnych. W jednym z nich agent obsługujący zobowiązania wobec dostawców błędnie odczytuje statusy zatwierdzenia i bez zgody człowieka realizuje płatności za anulowane zamówienia oraz płatności podwójne; dostawca trafia następnie w stan likwidacji, przez co część środków pozostaje nieodzyskana. W innym agent przygotowujący wyceny zapętla się, uruchamia kolejne agenty i wysyła nieprawidłowe oferty, a nieskuteczne mechanizmy kontroli wydatków pozwalają na narastanie opłat za korzystanie z narzędzi. Firma zawiesza działanie systemu, aby zbadać sprawę i przywrócić działalność.

Trzeci przykład dotyczy agenta księgowego, który korzysta z nieaktualnych stawek podatkowych i składa zeznania klientów bez weryfikacji przez człowieka, co prowadzi do nałożenia kar i odsetek, żądań zwrotu kosztów oraz pozwów przeciwko firmie. Cowbell przedstawia te sytuacje jako potencjalne ryzyka, a nie gwarantowane wyniki postępowania w sprawie roszczenia; zakres ochrony zależy od okoliczności oraz warunków, limitów, udziałów własnych i wyłączeń określonych w wystawionej polisie.

Ocena ryzyka koncentruje się na kontroli agentów

W ramach oceny ryzyka wykorzystuje się trzy czynniki Cowbell dotyczące AI, a także inne informacje. Obserwowalność odnosi się do sposobu monitorowania aktywności AI, autonomia — do uprawnień systemów do podejmowania decyzji i samodzielnego działania, a ład korporacyjny — do oceny zasad, zabezpieczeń i nadzoru regulujących korzystanie z tych systemów. Firmy mogą uzyskać dostęp do dotyczących AI czynników Cowbell, aktywując Cowbell Connectors dla narzędzi takich jak Gemini, Claude i ChatGPT.

Simon Hughes, dyrektor ds. handlowych, opisał łączne ryzyko: „Gdy agent wymyka się spod kontroli, firma może jednocześnie ponieść własne straty i mierzyć się z roszczeniami klientów oraz innych osób”.

Cowbell wiąże ocenę ryzyka ze sposobem monitorowania agentów i sprawowania nad nimi kontroli. W przypadku firm, które powierzają oprogramowaniu uprawnienia do obsługi płatności, informacji o klientach i składania deklaracji, ta sama autonomia, która umożliwia wykonywanie zadań, wpływa zarówno na ocenę ryzyka, jak i na zakres strat, jakie może spowodować pojedynczy incydent.