Cowbell führt eine KI-Haftpflichtversicherung für Unternehmen ein, die KI-Agenten einsetzen

Cowbell gab bekannt, dass das Unternehmen am 10. November 2026 Cowbell AI Liability Insurance einführt – eine eigenständige Versicherungspolice für kleine und mittelständische US-Unternehmen, die KI-Agenten im Kundenservice, im Zahlungsverkehr und in zentralen Betriebsabläufen einsetzen. Sie verbindet den Schutz vor eigenen Verlusten eines Unternehmens mit der Absicherung gegen Ansprüche Dritter.

Die Verfügbarkeit ist ab dem 1. Januar 2027 ausschließlich über Großhandelsmakler vorgesehen. Die Police basiert auf dem Auslöser „KI-Vorfall“ und ist für Agenten konzipiert, die im Namen eines Unternehmens handeln – auch für Situationen, in denen kein Mensch in die Entscheidungskette eingebunden ist.

Was der Auslöser „KI-Vorfall“ abdeckt

Ein KI-Vorfall liegt unter anderem vor, wenn ein Tool seinen autorisierten Handlungsspielraum überschreitet, ohne die erforderliche Genehmigung handelt, Daten unbefugt offenlegt, ungenaue oder unsichere Ergebnisse liefert oder die festgelegten Kontrollen nicht einhält. Dazu können auch gezielte Manipulation, instabiles Verhalten, eine Verschiebung des Modellverhaltens oder algorithmische Diskriminierung zählen.

Bei eigenen Verlusten des Unternehmens kann die Deckung die Untersuchung und Eindämmung eines Vorfalls, die Isolierung des betroffenen Tools, die Sicherung von Beweismitteln, die Korrektur oder den Widerruf ungenauer oder unsicherer Ergebnisse sowie die Benachrichtigung der Empfänger umfassen. Die Deckung für direkte Transaktionsverluste betrifft nicht zurückerlangte Gelder infolge von Manipulation, nicht genehmigten Handlungen oder Kontrollversagen. Die Deckung für unkontrollierte Kosten betrifft unbefugte Nutzungsgebühren, die durch sich wiederholende oder eskalierende Aufgaben oder versagende Ausgabenlimits entstehen. LLMjacking bezeichnet Gebühren, die anfallen, wenn Außenstehende gestohlene Zugangsdaten oder API-Schlüssel verwenden.

In der Produktdokumentation sind außerdem Maßnahmen bei Datenoffenlegung, die Wiederherstellung beschädigter Systeme und Arbeitsabläufe, Krisenmanagement bei Rufschädigung sowie entgangene Gewinne und zusätzliche Kosten infolge einer Betriebsunterbrechung nach Ablauf der jeweils geltenden Wartezeit aufgeführt. Für eine Betriebsunterbrechungsforderung erforderliche forensische Buchhaltungsprüfungen bedürfen der Zustimmung des Versicherers.

Ansprüche Dritter und Verlustszenarien

Die Deckung für Ansprüche Dritter kann Verteidigungskosten sowie versicherte Schadenersatzleistungen oder Vergleiche bei Ansprüchen wegen algorithmischer Diskriminierung, Urheberrechts- oder Markenrechtsverletzungen, Körperverletzungen oder Sachschäden übernehmen, die daraus entstehen, dass sich jemand auf KI-Ergebnisse oder autonome digitale Handlungen verlässt. Sie kann sich auch auf aufsichtsrechtliche Verfahren und – soweit gesetzlich zulässig oder versicherbar – auf bestimmte Geldbußen, Strafen, Entschädigungen für Verbraucher und Strafschadenersatz erstrecken.

Cowbells Beispielszenarien verknüpfen diese Versicherungsleistungen mit betrieblichen Fehlern. In einem Fall interpretiert ein Agent für die Kreditorenbuchhaltung Genehmigungsstatus falsch und veranlasst ohne menschliche Freigabe doppelte Zahlungen sowie Zahlungen für stornierte Bestellungen. Der Lieferant geht daraufhin in Liquidation, sodass ein Teil der Gelder nicht zurückerlangt werden kann. In einem anderen Fall gerät ein Agent zur Angebotserstellung in eine Schleife, startet weitere Agenten und versendet fehlerhafte Angebote, während unwirksame Ausgabenkontrollen zu immer höheren Nutzungsgebühren führen. Das Unternehmen setzt das System aus, um den Vorfall zu untersuchen und den Betrieb wiederherzustellen.

Ein drittes Beispiel beschreibt einen Buchhaltungsagenten, der veraltete Steuersätze verwendet und Steuererklärungen für Mandanten ohne menschliche Prüfung einreicht. Dies führt zu Strafen, Zinsen, Erstattungsforderungen und Klagen gegen die Kanzlei. Cowbell stellt diese Szenarien als mögliche Risiken dar, nicht als garantierte Schadenregulierungen. Der Versicherungsschutz hängt von den jeweiligen Umständen sowie den Bedingungen, Einschränkungen, Deckungssummen, Selbstbehalten und Ausschlüssen der ausgestellten Police ab.

Bei der Risikoprüfung stehen die Kontrollen für Agenten im Mittelpunkt

Bei der Risikoprüfung fließen neben anderen Informationen drei speziell auf KI ausgerichtete Cowbell Factors ein. Bei der Beobachtbarkeit wird untersucht, wie die KI-Aktivitäten überwacht werden. Die Autonomie bewertet, welche Befugnisse Systeme haben, Entscheidungen zu treffen und eigenständig zu handeln. Die Governance prüft die Richtlinien, Schutzmaßnahmen und Aufsicht, die ihren Einsatz regeln. Unternehmen können ihre KI-spezifischen Cowbell Factors abrufen, indem sie Cowbell Connectors für Tools wie Gemini, Claude und ChatGPT aktivieren.

Chief Commercial Officer Simon Hughes beschrieb das kombinierte Risiko wie folgt: „Wenn ein Agent außer Kontrolle gerät, kann ein Unternehmen gleichzeitig eigene Verluste erleiden und mit Forderungen von Kunden und anderen konfrontiert sein.“

Cowbells Ansatz verknüpft die Risikoprüfung damit, wie Agenten überwacht und gesteuert werden. Wenn Unternehmen Software mit Befugnissen für Zahlungen, Kundendaten und Einreichungen ausstatten, prägt dieselbe Autonomie, die diese Aufgaben ermöglicht, sowohl die Risikobewertung als auch das Spektrum der Verluste, die ein einzelner Vorfall verursachen kann.