Cowbell lancerer ansvarsforsikring for virksomheder, der bruger AI-agenter

Cowbell annoncerede Cowbell AI Liability Insurance den 10. november 2026, en selvstændig forsikringspolice for små og mellemstore amerikanske virksomheder, der anvender AI-agenter inden for kundeservice, betalinger og centrale driftsfunktioner. Den kombinerer dækning af virksomhedens egne tab med beskyttelse mod krav fra tredjeparter.

Forsikringen forventes at blive tilgængelig fra den 1. januar 2027, udelukkende gennem forsikringsmæglere på engrosmarkedet. Den er bygget op omkring en udløser for en »AI-hændelse« og er beregnet til agenter, der handler på virksomhedens vegne, også i situationer, hvor ingen mennesker indgår i beslutningskæden.

Hvad udløseren for en AI-hændelse dækker

En AI-hændelse omfatter, at et værktøj overskrider sit godkendte anvendelsesområde, handler uden den krævede godkendelse, videregiver data uden tilladelse, producerer unøjagtige eller usikre resultater eller ikke fungerer inden for de fastlagte kontrolrammer. Den kan også omfatte fjendtlig manipulation, ustabil adfærd, modeldrift eller algoritmisk diskrimination.

Dækningen af virksomhedens egne tab kan omfatte undersøgelse og begrænsning af en hændelse, isolering af det berørte værktøj, sikring af bevismateriale, rettelse eller tilbagetrækning af unøjagtige eller usikre resultater samt underretning af modtagere. Dækning af direkte transaktionstab omfatter midler, der ikke kan inddrives efter manipulation, handlinger uden godkendelse eller svigt i kontrolforanstaltninger. Løbsk forbrug dækker uautoriserede brugsomkostninger som følge af gentagne opgaver, opgaver, der eskalerer, eller mislykkede forbrugsgrænser, mens LLM-kapring vedrører omkostninger, der opstår, når uvedkommende bruger stjålne loginoplysninger eller API-nøgler.

Produktdokumentationen nævner også håndtering af dataeksponering, genoprettelse af beskadigede systemer og arbejdsgange, krisestyring ved omdømmeskade samt tabt fortjeneste og ekstraomkostninger som følge af driftsafbrydelse efter den gældende ventetid. Forsikringsselskabets samtykke er påkrævet, hvis der skal udføres retsmedicinsk regnskabsgennemgang med henblik på at udarbejde et krav om dækning af driftsafbrydelse.

Krav fra tredjeparter og eksempler på tab

Dækning for krav fra tredjeparter kan betale forsvarsomkostninger og dækkede erstatninger eller forlig i forbindelse med krav om algoritmisk diskrimination, krænkelse af ophavsret eller varemærkerettigheder, personskade eller tingsskade som følge af tillid til AI-resultater eller en autonom digital handling. Dækningen kan også omfatte myndighedssager og, hvor loven tillader det, eller hvor det kan forsikres, visse bøder, sanktioner, kompensation til forbrugere og pønalerstatning.

Cowbells eksempler viser, hvordan disse bestemmelser hænger sammen med driftsmæssige svigt. I ét tilfælde fejlfortolker en agent til håndtering af leverandørfakturaer godkendelsesstatusser og gennemfører betalinger for både dubletter og annullerede ordrer uden menneskelig godkendelse. Leverandøren går derefter i likvidation, og nogle af midlerne kan ikke inddrives. I et andet tilfælde går en tilbudsagent i ring, starter flere agenter og sender ukorrekte tilbud, mens ineffektive forbrugsbegrænsninger lader brugsomkostningerne vokse. Virksomheden suspenderer systemet for at undersøge hændelsen og genoprette driften.

Et tredje eksempel beskriver en bogføringsagent, der bruger forældede skattesatser og indsender klienters selvangivelser uden menneskelig gennemgang, hvilket fører til bøder, renter, krav om tilbagebetaling og retssager mod virksomheden. Cowbell præsenterer disse som potentielle risici, ikke som garanterede udfald af forsikringskrav; dækningen afhænger af omstændighederne og den udstedte polices vilkår, betingelser, dækningsgrænser, selvrisici og undtagelser.

Tegningsvurderingen fokuserer på agenternes kontrolforanstaltninger

Tegningsvurderingen tager udgangspunkt i tre AI-specifikke Cowbell-faktorer sammen med andre oplysninger. Observerbarhed handler om, hvordan AI-aktivitet overvåges, autonomi vurderer, hvilken beføjelse systemerne har til at træffe beslutninger og handle selvstændigt, og styring omfatter de politikker, sikkerhedsforanstaltninger og former for tilsyn, der regulerer brugen af systemerne. Virksomheder kan få adgang til deres AI-specifikke Cowbell-faktorer ved at aktivere Cowbell Connectors til værktøjer som Gemini, Claude og ChatGPT.

Chief Commercial Officer Simon Hughes beskrev de samlede risici: »Når en agent går amok, kan en virksomhed samtidig stå over for egne tab og krav fra kunder og andre.«

Cowbells tilgang knytter tegningsvurderingen til, hvordan agenter overvåges og kontrolleres. For virksomheder, der giver software beføjelse til at håndtere betalinger, kundeoplysninger og indberetninger, påvirker den samme autonomi, som gør arbejdet muligt, både vurderingen af forsikringsrisikoen og omfanget af de tab, én enkelt hændelse kan medføre.