Vordenker
Wenn Ihr KI-Fakten erfindet: Das Unternehmensrisiko, das kein Anführer ignorieren kann
Unite.AI zu deinen bevorzugten Quellen auf Google hinzufügen
Es klingt richtig. Es sieht richtig aus. Es ist falsch. Das ist Ihre KI, wenn sie halluziniert. Das Problem ist nicht nur, dass die heutigen generativen KI-Modelle halluzinieren. Es ist, dass wir glauben, wenn wir genug Schutzmechanismen aufbauen, es feinjustieren, RAG anwenden und es irgendwie zähmen, dann werden wir in der Lage sein, es im Unternehmensumfeld einzusetzen.
| Studie | Bereich | Halluzinationsrate | Wichtige Ergebnisse |
|---|---|---|---|
| Stanford HAI & RegLab (Jan 2024) | Recht | 69%–88% | LLMs zeigten hohe Halluzinationsraten, wenn sie auf rechtliche Anfragen reagierten, oft ohne Selbstbewusstsein über ihre Fehler und verstärkten falsche rechtliche Annahmen. |
| JMIR-Studie (2024) | Akademische Referenzen | GPT-3.5: 90,6%, GPT-4: 86,6%, Bard: 100% | Von LLMs generierte Referenzen waren oft irrelevant, falsch oder nicht durch verfügbare Literatur unterstützt. |
| UK-Studie über KI-generierte Inhalte (Feb 2025) | Finanzen | Nicht spezifiziert | KI-generierte Fehlinformationen erhöhten das Risiko von Bankruns, wobei ein erheblicher Teil der Bankkunden erwog, ihr Geld zu verlagern, nachdem sie KI-generierte gefälschte Inhalte gesehen hatten. |
| World Economic Forum Global Risks Report (2025) | Globale Risikobewertung | Nicht spezifiziert | Fehlinformationen und Desinformation, die durch KI verstärkt wurden, rangierten als das größte globale Risiko über einen Zeitraum von zwei Jahren. |
| Vectara Hallucinations-Leaderboard (2025) | KI-Modellbewertung | GPT-4.5-Preview: 1,2%, Google Gemini-2.0-Pro-Exp: 0,8%, Vectara Mockingbird-2-Echo: 0,9% | Bewertete Halluzinationsraten über verschiedene LLMs, wobei erhebliche Leistungs- und Genauigkeitsunterschiede auftraten. |
| Arxiv-Studie über Halluzinationen (2024) | KI-Forschung | Nicht spezifiziert | Einführung von HaluEval 2.0, um Halluzinationen in LLMs systematisch zu untersuchen und zu erkennen, mit Fokus auf faktuelle Ungenauigkeiten. |
Halluzinationsraten reichen von 0,8% bis 88%
Ja, es hängt vom Modell, Bereich, Anwendungsfall und Kontext ab, aber diese Spanne sollte jeden Unternehmensentscheider beunruhigen. Diese sind keine Randfehler. Sie sind systemisch. Wie treffen Sie die richtige Entscheidung, wenn es um die Einführung von KI in Ihrem Unternehmen geht? Wo, wie, wie tief, wie breit?
Und Beispiele für reale Folgen davon kommen jeden Tag in Ihren Nachrichten vor. G20’s Financial Stability Board hat generative KI als Vektor für Fehlinformationen gekennzeichnet, die Marktcrashes, politische Instabilität und Schlimmeres – Flash-Crashes, Falschnachrichten und Betrug – verursachen könnten. In einer kürzlich veröffentlichten Geschichte gab die Anwaltskanzlei Morgan & Morgan ein Notfall-Memo an alle Anwälte aus: Reichen Sie keine von KI generierten Einreichungen ohne Überprüfung ein. Falsche Rechtsprechung ist ein “entlassenswertes” Vergehen.
Dies ist vielleicht nicht der beste Zeitpunkt, um auf Halluzinationsraten zu wetten, die bald gegen Null tendieren. Insbesondere in regulierten Branchen wie Recht, Life Sciences, Kapitalmärkten oder in anderen, in denen der Fehlerkosten hoch sein könnte, einschließlich der Veröffentlichung von höherer Bildung.
Halluzination ist kein Rundungsfehler
Dies geht nicht nur um eine gelegentliche falsche Antwort. Es geht um Risiko: Ruf, Recht, Betrieb.
Generative KI ist kein Reasoning-Engine. Es ist ein statistischer Vervollständiger, ein stochastischer Papagei. Es vervollständigt Ihre Anfrage auf die wahrscheinlichste Weise basierend auf Trainingsdaten. Sogar die wahr klingenden Teile sind Vermutungen. Wir nennen die absurdsten Stücke “Halluzinationen”, aber die gesamte Ausgabe ist eine Halluzination. Eine gut gestaltete. Sie funktioniert trotzdem – bis sie nicht mehr funktioniert.
KI als Infrastruktur
Und dennoch ist es wichtig zu sagen, dass KI für die Unternehmensweite Einführung bereit ist, wenn wir beginnen, sie wie Infrastruktur zu behandeln und nicht wie Magie. Und wo erforderlich, muss sie transparent, erklärbar und nachvollziehbar sein. Und wenn sie es nicht ist, dann ist sie einfach nicht bereit für die Unternehmensweite Einführung für diese Anwendungsfälle. Wenn KI Entscheidungen trifft, sollte sie auf dem Radar Ihres Vorstands sein.
Die EU-KI-Verordnung setzt hier den Ton. Hochrisikobereiche wie Justiz, Gesundheitswesen und Infrastruktur werden wie missionskritische Systeme reguliert. Dokumentation, Tests und Erklärbarkeit werden obligatorisch.
Was unternehmenssichere KI-Modelle tun
Unternehmen, die sich auf die Entwicklung unternehmenssicherer KI-Modelle spezialisieren, treffen eine bewusste Entscheidung, KI anders aufzubauen. In ihren alternativen KI-Architekturen werden die Sprachmodelle nicht auf Daten trainiert, sodass sie nicht mit unerwünschtem Inhalt “kontaminiert” sind, wie z. B. Voreingenommenheit, IP-Verletzungen oder der Neigung, zu erraten oder zu halluzinieren.
Solche Modelle “vollenden Ihren Gedanken” nicht – sie argumentieren aus dem Inhalt des Benutzers. Ihrer Wissensbasis. Ihren Dokumenten. Ihren Daten. Wenn die Antwort nicht da ist, sagen diese Modelle es. Das macht solche KI-Modelle erklärbar, nachvollziehbar, deterministisch und eine gute Option an Orten, an denen Halluzinationen inakzeptabel sind.
Ein 5-Schritte-Playbook für KI-Verantwortlichkeit
- Kartieren Sie das KI-Landschaft – Wo wird KI in Ihrem Unternehmen eingesetzt? Welche Entscheidungen beeinflusst sie? Welchen Wert legen Sie auf die Fähigkeit, diese Entscheidungen zurückzuverfolgen zu transparenter Analyse auf verlässlichem Quellenmaterial?
- Stellen Sie Ihre Organisation ein – Abhängig vom Umfang Ihrer KI-Einführung richten Sie Rollen, Ausschüsse, Prozesse und Audit-Praktiken ein, die so streng sind wie die für finanzielle oder Cybersicherheitsrisiken.
- Bringen Sie KI in die Vorstandsrisiken ein – Wenn Ihre KI mit Kunden oder Regulierungsbehörden spricht, gehört sie in Ihre Risikoberichte. Governance ist nicht ein Nebenspiel.
- Behandeln Sie Lieferanten wie Mitverantwortliche – Wenn die KI Ihres Lieferanten Dinge erfindet, sind Sie immer noch für die Folgen verantwortlich. Erweitern Sie Ihre KI-Verantwortlichkeitsprinzipien auf sie. Fordern Sie Dokumentation, Auditrechte und SLAs für Erklärbarkeit und Halluzinationsraten.
- Schulen Sie Skepsis – Ihre Mannschaft sollte KI wie einen Junior-Analysten behandeln – nützlich, aber nicht unfehlbar. Feiern Sie, wenn jemand eine Halluzination identifiziert. Vertrauen muss verdient werden.
Die Zukunft von KI im Unternehmen ist nicht größere Modelle. Was benötigt wird, ist mehr Präzision, mehr Transparenz, mehr Vertrauen und mehr Verantwortlichkeit.
