Wenn Ihre KI halluziniert, geben Sie der KI nicht die Schuld

KI-“Halluzinationen” – diese überzeugend klingenden, aber falschen Antworten – erregen viel mediale Aufmerksamkeit, wie im jüngsten New York Times-Artikel KI wird leistungsfähiger, aber ihre Halluzinationen werden schlimmer. Halluzinationen sind ein echtes Risiko, wenn man mit einem Consumer-Chatbot umgeht. Im Kontext von Geschäftsanwendungen von KI ist es ein noch ernsteres Anliegen. Glücklicherweise habe ich als Geschäftstechnologieführer mehr Kontrolle darüber. Ich kann sicherstellen, dass der Agent die richtigen Daten hat, um eine sinnvolle Antwort zu liefern.

Weil das das eigentliche Problem ist. In der Geschäftswelt gibt es keine Entschuldigung für KI-Halluzinationen. Hören Sie auf, der KI die Schuld zu geben. Geben Sie sich selbst die Schuld, weil Sie die KI nicht richtig verwenden.

Wenn generative KI-Tools halluzinieren, tun sie, was sie tun sollen – die beste Antwort liefern, die sie basierend auf den verfügbaren Daten liefern können. Wenn sie etwas erfinden und eine Antwort produzieren, die nicht auf der Realität basiert, ist es, weil sie die relevanten Daten vermissen, sie nicht finden können oder die Frage nicht verstehen. Ja, neue Modelle wie OpenAIs o3 und o4-mini halluzinieren mehr, sind sogar noch “kreativer”, wenn sie keine gute Antwort auf die gestellte Frage haben. Ja, leistungsfähigere Tools können mehr halluzinieren – aber sie können auch leistungsfähigere und wertvollere Ergebnisse produzieren, wenn wir sie zum Erfolg einrichten.

Wenn Sie nicht wollen, dass Ihre KI halluziniert, ernähren Sie sie nicht mit zu wenig Daten. Füttern Sie die KI mit den besten, relevantesten Daten für das Problem, das Sie lösen möchten, und sie wird nicht in Versuchung geraten, abzuschweifen.

Sogar dann, wenn Sie mit jedem KI-Tool arbeiten, empfehle ich, Ihre kritischen Denkfähigkeiten zu erhalten. Die Ergebnisse, die KI-Agents liefern, können produktiv und erfreulich sein, aber der Punkt ist nicht, Ihren Verstand auszuschalten und die Software alles Denken für Sie tun zu lassen. Stellen Sie Fragen. Wenn ein KI-Agent Ihnen eine Antwort gibt, hinterfragen Sie diese Antwort, um sicherzustellen, dass sie Sinn ergibt und durch Daten gestützt wird. Wenn ja, sollte das ein ermutigendes Zeichen sein, dass es sich lohnt, weitere Fragen zu stellen.

Je mehr Sie fragen, desto bessere Erkenntnisse werden Sie erhalten.

Warum Halluzinationen auftreten

Es ist kein Mysterium. Die KI versucht nicht, Sie zu belügen. Jedes große Sprachmodell (LLM) KI ist im Wesentlichen eine Vorhersage des nächsten Wortes oder der nächsten Zahl basierend auf Wahrscheinlichkeit.

Auf einer hohen Ebene geschieht hier, dass LLMs Sätze und Absätze Wort für Wort zusammenfügen, indem sie das nächste Wort vorhersagen, das in dem Satz auftreten sollte, basierend auf Milliarden anderer Beispiele in ihren Trainingsdaten. Die Vorfahren von LLMs (abgesehen von Clippy) waren Autocomplete-Prompts für Textnachrichten und Computercode, automatisierte menschliche Sprachübersetzungs-Tools und andere probabilistische linguistische Systeme. Mit zunehmender Rechenleistung und Training auf internetweiten Datenmengen wurden diese Systeme “intelligent” genug, um ein vollständiges Gespräch über Chat zu führen, wie die Welt mit der Einführung von ChatGPT lernte.

KI-Kritiker mögen darauf hinweisen, dass dies nicht dasselbe ist wie “echte” Intelligenz, sondern nur Software, die die in sie eingegebene menschliche Intelligenz destillieren und wiedergeben kann. Fragen Sie es, eine Datenzusammenfassung in einem schriftlichen Bericht zu erstellen, und es imitiert die Art und Weise, wie andere Autoren ähnliche Daten zusammengefasst haben.

Das erscheint mir als akademische Argumentation, solange die Daten korrekt sind und die Analyse nützlich ist.

Was passiert, wenn die KI keine Daten hat? Sie füllt die Lücken. Manchmal ist es lustig. Manchmal ist es ein totaler Mist.

Beim Aufbau von KI-Agents ist dies ein 10-fach höheres Risiko. Agents sollen handlungsfähige Erkenntnisse liefern, aber sie treffen mehr Entscheidungen auf dem Weg. Sie führen mehrschrittige Aufgaben aus, bei denen das Ergebnis von Schritt 1 die Schritte 2, 3, 4, 5, … 10 … 20 beeinflusst. Wenn die Ergebnisse von Schritt 1 falsch sind, wird der Fehler verstärkt, was das Ergebnis in Schritt 20 umso schlimmer macht. Insbesondere können Agents Entscheidungen treffen und Schritte überspringen.

Richtig gemacht, erreichen Agents mehr für das Unternehmen, das sie einsetzt. Doch als KI-Produktmanager müssen wir das größere Risiko erkennen, das mit der größeren Belohnung einhergeht.

Was unser Team getan hat. Wir haben das Risiko gesehen und angepackt. Wir haben nicht nur einen eleganten Roboter gebaut; wir haben sichergestellt, dass er auf den richtigen Daten läuft. Hier ist, was ich denke, wir richtig gemacht haben:

• Den Agent so aufbauen, dass er die richtigen Fragen stellt und überprüft, ob er die richtigen Daten hat. Stellen Sie sicher, dass der anfängliche Daten-Eingabeprozess des Agents tatsächlich deterministischer ist, weniger “kreativ”. Sie wollen, dass der Agent sagt, wenn er die richtigen Daten nicht hat und nicht zum nächsten Schritt übergeht, anstatt Daten zu erfinden.
• Ein Spielbuch für Ihren Agenten strukturieren – stellen Sie sicher, dass es nicht jeden Tag einen neuen Plan erfindet, sondern einen halbstrukturierten Ansatz hat. Struktur und Kontext sind extrem wichtig bei der Datenerfassung und -analyse. Sie können den Agenten lockerer und “kreativer” machen, wenn er die Fakten hat und bereit ist, die Zusammenfassung zu schreiben, aber erst müssen Sie die Fakten richtigstellen.
• Ein hochwertiges Tool zum Extrahieren der Daten aufbauen. Dies sollte mehr als nur ein API-Aufruf sein. Nehmen Sie sich die Zeit, den Code (den die Leute immer noch schreiben) zu schreiben, der die richtige Menge und Vielfalt der Daten ermittelt, die gesammelt werden sollen, und bauen Sie Qualitätskontrollen in den Prozess ein.
• Machen Sie den Agenten seine Arbeit zeigen. Der Agent sollte seine Quellen zitieren und auf die Stellen verweisen, an denen der Benutzer die Daten überprüfen und weiter erforschen kann. Keine Taschenspielertricks erlaubt!
• Schutzvorkehrungen: Denken Sie über das nach, was schiefgehen könnte, und bauen Sie Schutzvorkehrungen gegen die Fehler ein, die Sie absolut nicht zulassen können. In unserem Fall bedeutet das, dass der Agent, der mit der Analyse eines Marktes beauftragt ist, nicht einfach etwas erfindet, wenn er die Daten – meine ich unsere Similarweb-Daten, nicht irgendeine zufällige Datenquelle aus dem Web – nicht hat, ein wesentlicher Schutz ist. Es ist besser, wenn der Agent nicht in der Lage ist, eine Antwort zu geben, als wenn er eine falsche oder irreführende Antwort liefert.

Wir haben diese Grundsätze in unsere jüngste Veröffentlichung unserer drei neuen Agents integriert, mit mehr zu folgen. Zum Beispiel fragt unser AI-Meeting-Prep-Agent für Verkäufer nicht nur nach dem Namen des Zielunternehmens, sondern auch nach den Details des Meetings und mit wem es stattfindet, um eine bessere Antwort zu liefern. Er muss nicht raten, weil er eine Fülle von Unternehmensdaten, digitalen Daten und Executive-Profils verwendet, um seine Empfehlungen zu informieren.

Sind unsere Agents perfekt? Nein. Niemand erstellt noch perfekte KI, nicht einmal die größten Unternehmen der Welt. Aber das Problem anzugehen, ist ein hell von einem besser, als es zu ignorieren.

Möchten Sie weniger Halluzinationen? Geben Sie Ihrer KI einen schönen Brocken hochwertiger Daten.

Wenn es halluziniert, vielleicht ist es nicht die KI, die repariert werden muss. Vielleicht ist es Ihr Ansatz, diese leistungsfähigen neuen Fähigkeiten ohne die Zeit und den Aufwand, sie richtig zu nutzen, auszunutzen.