Ich baue AI-Systeme für den Lebensunterhalt. Hier ist, was die meisten Menschen falsch verstehen

Ich baue AI-Systeme für Unternehmens-Contact-Center.

Nicht Demos, Benchmarks oder Forschungsprojekte. Produktions-Systeme, die mit Kunden interagieren, Richtlinien navigieren, Informationen aus nicht verbundenen Unternehmensplattformen abrufen und in Umgebungen operieren, die von chaotischen Daten, widersprüchlichen Aufzeichnungen, Hintergrundgeräuschen und unvorhersehbarem menschlichem Verhalten geprägt sind.

Diese Erfahrung hat mir einen Platz in der ersten Reihe für eine der größten Diskrepanzen in der AI-Industrie gegeben. Die öffentliche Diskussion über AI wird oft von dem dominiert, was die Technologie vielleicht irgendwann werden könnte, während Organisationen versuchen, herauszufinden, wie sie sie erfolgreich einsetzen können. Das sind sehr unterschiedliche Gespräche.

Die Fragen, die ich mir die meiste Zeit beantworte, haben selten etwas mit künstlicher allgemeiner Intelligenz oder der Frage zu tun, ob Maschinen Menschen irgendwann ersetzen werden. Sie sind viel praktischer. Kann das System konsistent Kundenanfragen interpretieren? Kann es genaue Informationen über mehrere Unternehmensplattformen abrufen? Kann es sich erholen, wenn die Daten unvollständig sind? Kann es angemessen eskalieren, wenn das Vertrauen niedrig ist? Können Teams ihm vertrauen, um es im großen Maßstab einzusetzen?

Diese Fragen mögen weniger aufregend sein als die Schlagzeilen, aber sie sind diejenigen, die bestimmen, ob Unternehmens-AI erfolgreich ist. Im Laufe der Zeit bin ich zu der Überzeugung gelangt, dass die meisten Organisationen die Bedeutung des Modells selbst überschätzen und alles, was erforderlich ist, um das Modell innerhalb eines realen Unternehmens nützlich zu machen, unterschätzen.

Die Demo ist nicht die Bereitstellung

Jeder, der eng mit Unternehmens-AI zusammenarbeitet, versteht den Abstand zwischen einer kontrollierten Demonstration und einer Produktionsbereitstellung.

Wir stoßen ständig auf Beispiele dafür. Ein AI-System, mit dem wir gearbeitet haben, kämpft etwa die Hälfte der Zeit darum, eine gesprochene 16-stellige Bestellnummer, die in Wörter umgewandelt wurde, korrekt zu interpretieren. Diese Art von Fehlern ähnelt dem berühmten “Wie viele Rs sind im Wort Erdbeere?”-Problem, bei dem fortschrittliche Sprachmodelle mit einer Aufgabe kämpften, die für Menschen trivial schien. Die gleichen Modelle können außergewöhnlich gut auf Examen wie dem MCAT abschneiden. Dieser Kontrast zeigt etwas Wichtiges: Benchmark-Leistung und betriebliche Zuverlässigkeit sind nicht dasselbe.

Sobald AI in die Produktion geht, erbt es alle Komplexität der Umgebung um es herum. Unternehmenssysteme enthalten unvollständige Aufzeichnungen, widersprüchliche Informationen, veraltete Prozesse, nicht verbundene Anwendungen und Randfälle, die über Jahrzehnte hinweg angehäuft wurden. Kunden stellen vage Fragen. Richtlinien ändern sich. Die Datenqualität variiert. Menschliches Verhalten bleibt wunderbar unvorhersehbar.

Diese Realitäten prägen Ergebnisse viel mehr als Benchmark-Scores, weil AI nicht in einem Benchmark operiert. Es operiert innerhalb von Geschäftsprozessen, Systemen und Workflows, die Komplexität einführen, die das Modell nicht alleine lösen kann.

Unternehmens-AI hat eine Betriebsebene

Eine Lektion, die Menschen immer wieder überrascht, ist, wie schnell die Modellleistung aufhört, der limitierende Faktor zu sein. Sobald ein System die Produktion erreicht, werden operative Herausforderungen oft wichtiger als das Modell selbst. Erfolgreiche AI-Initiativen hängen von Prozessdesign, organisatorischer Ausrichtung, Datenqualität, Systemintegration, Beobachtbarkeit, Eskalationswegen, Governance und Vertrauen ab.

Teams benötigen klare Verfahren für die Behandlung von Fehlern. Sie benötigen Einblick in die Entscheidungsfindung von Systemen. Sie benötigen Vertrauen, dass Probleme identifiziert und gelöst werden können, bevor sie Kunden beeinträchtigen. Organisationen entdecken oft, dass die Arbeit um das AI-System herum genauso viel Aufmerksamkeit erfordert wie das AI-System selbst.

Diese Betriebsebene ist es, auf der viele Bereitstellungen letztendlich erfolgreich sind oder scheitern.

Kundenservice bleibt eines der härtesten Probleme

Die Kundenerfahrung bietet eines der deutlichsten Beispiele für diese Komplexität.

Einfache Interaktionen sind für AI-Systeme immer besser handhabbar geworden. Kontostand abfragen. Passwort zurücksetzen. Flugstatus überprüfen. Diese sind hoch strukturierte Aufgaben mit vorhersehbaren Ergebnissen.

Reale Kundenkonversationen bleiben selten so einfach.

Ein Kunde, der versucht, ein Problem mit Flugmeilen, Partnerfluggesellschaften, Erstattungsstreitigkeiten, Richtlinienausnahmen und mehreren vorherigen Interaktionen zu lösen, stellt eine sehr unterschiedliche Herausforderung dar. Der Kontext ist fragmentiert. Die Ziele mögen unklar sein. Die Richtlinien mögen widersprüchlich sein. Emotionen treten oft in die Konversation ein.

Diese Interaktionen stellen immer noch einen erheblichen Teil der Kundenservice-Arbeit dar und erfordern eine Argumentation über Systeme, Prozesse und Geschäftsregeln hinweg, die für AI immer noch schwierig sind. Der Fortschritt war bemerkenswert. Die Komplexität bleibt real.

Unternehmensdaten werden endlich nutzbar

Ein Bereich, in dem ich heute eine bedeutende Transformation sehe, betrifft Unternehmensdaten.

Die meisten Organisationen haben Jahre damit verbracht, Informationen über Dutzende oder Hunderte nicht verbundener Systeme zu sammeln. Wertvolles Wissen existiert, aber es zu lokalisieren und effektiv zu nutzen, war oft schwierig. AI macht diese Informationen zugänglicher.

Organisationen beginnen, Daten über Systeme hinweg zu synthetisieren, relevante Kontexte effizienter zu übermitteln und Mitarbeitern zu helfen, Informationen zu navigieren, die zuvor über mehrere Anwendungen und Repositorien verstreut waren. Diese Fähigkeit, Unternehmenswissen zu operationalisieren, könnte sich als transformierender erweisen als viele der Schlagzeilen-AI-Demonstrationen, die die öffentliche Diskussion dominieren.

Die nächste Herausforderung: AI arbeitet mit AI

Die nächste Welle der Innovation wird wahrscheinlich die Zusammenarbeit mehrerer AI-Systeme beinhalten.

Organisationen experimentieren bereits mit Workflows, bei denen Agenten Informationen austauschen, Aufgaben koordinieren und zu größeren Geschäftsprozessen beitragen. Dies schafft neue Herausforderungen um Accountability, Vertrauen, Eskalation, Kommunikation und Governance.

Menschen haben implizite Kollaborationsfähigkeiten über Jahrhunderte hinweg entwickelt. Wir verstehen, wie man um Hilfe bittet, Unsicherheit kommuniziert, Risiken eskaliert und aus Fehlern lernt. Diese Verhaltensweisen in AI-Systeme zu integrieren, ist eine viel neuere Disziplin.

Ein großer Teil des nächsten Kapitels von Unternehmens-AI wird darin bestehen, Systeme zu lehren, wie sie effektiv nebeneinander operieren, während sie mit organisatorischen Zielen ausgerichtet bleiben.

Was Unternehmens-AI tatsächlich erfordert

Nach Jahren des Aufbaus und der Bereitstellung von AI-Systemen bin ich zu der Überzeugung gelangt, dass Organisationen zu viel Zeit damit verbringen, die Modellintelligenz zu bewerten, und nicht genug Zeit damit, die Umgebung um sie herum vorzubereiten.

Die Intelligenz, die diese Modelle zeigen, kann bemerkenswert sein. Jedes Jahr werden sie fähiger, nützlicher und sophistizierter. Dennoch hängen erfolgreiche Bereitstellungen immer noch von Grundlagen ab: vertrauenswürdigen Daten, gut gestalteten Prozessen, sorgfältiger Governance, klarer Accountability und Menschen, die verstehen, wie man neue Technologie in bestehende Betriebe integriert.

Die Organisationen, die den größten Wert aus AI ziehen, achten genau auf diese Grundlagen. Denn Intelligenz allein schafft keine Transformation.

Transformation geschieht, wenn Technologie, Daten, Prozesse und Menschen zusammenarbeiten, um bessere Ergebnisse zu erzielen.