Vordenker
Wie ich mein Wissen in KI-Systeme übertrug, die tatsächlich wie menschliche Experten Entscheidungen treffen können
Unite.AI zu deinen bevorzugten Quellen auf Google hinzufügen
Als ich Microsoft verließ und weiterhin mit Unternehmen an ihren KI-Einsätzen arbeitete, stellte ich fest, dass die meisten KI-Systeme, über die die Menschen aufgeregt waren, tatsächlich keine Entscheidungen mit wahrem menschlichem Urteilsvermögen treffen konnten. Sie konnten zwar schreiben, zusammenfassen und erstaunlich flüssigen Text produzieren, der wie eine Entscheidung klang, aber wenn man diese Systeme in eine reale Betriebsumgebung einsetzte, in der es um Kompromisse, Unsicherheit, unvollständige Anweisungen und tatsächliche Konsequenzen ging, hatten sie schnell Schwierigkeiten. Dies deckt sich mit Daten des MIT-Projekts NANDA, die zeigen, dass, obwohl 60% der Unternehmen KI-Tools auswerteten, nur 20% die Pilotphase erreichten und nur 5% die Produktionsphase erreichten. Mit anderen Worten: Die Branche hat Schwierigkeiten, Systeme zu bauen, die tatsächlich in realen Workflows funktionieren.
In Unternehmensumgebungen, insbesondere in Bereichen wie Supply Chain, Fertigung und Betrieb, ist es nicht schwer, eine Antwort zu erhalten; es ist jedoch wichtig zu wissen, welche Antwort man vertrauen kann, welche Variablen am wichtigsten sind und was wahrscheinlich passieren wird, wenn man falsch liegt. In meinen Augen ist dies sowohl ein Experten- als auch ein Urteilsproblem.
Um klar zu sein, KI hat außergewöhnliche Fortschritte bei der Produktion besserer Ausgaben gemacht. Aber bessere Ausgaben sind nicht das gleiche wie bessere Entscheidungen. Diese sind zwei unterschiedliche Meilensteine, und ich denke, die Branche hat viel Zeit damit verbracht, sie als austauschbar zu behandeln.
Der Mangel an Expertenwissen und Urteilsvermögen ist der Grund, warum ich mich für den Bau von KI-Systemen interessierte, die von menschlichen Experten gelehrt werden können, um komplexe Entscheidungen auf die gleiche Weise zu treffen. KI sollte nicht nur darin bestehen, Aufgaben zu automatisieren, sondern auch darin, menschliches Urteilsvermögen effektiv und sicher in KI-Systeme zu übertragen, die auch in schwierigen Umgebungen funktionieren.
Große Sprachmodelle (LLMs) sprechen wie Entscheidungsträger, aber sie sind es nicht
Es gibt keinen Zweifel, dass LLMs nützlich sind, aber sie sind nicht von Natur aus Entscheidungssysteme. Sie sind Vorhersagemodelle, die in Sprache verpackt sind. Und Sprache ist überzeugend, was Teil des Problems ist. Wenn ein System sich selbst flüssig erklären kann, überschätzen wir leicht, was es versteht. Man stellt ihm eine Geschäftsfrage, und es gibt eine strukturierte Antwort mit Kompromissen, Vorbehalten und einer netten Zusammenfassung am Ende, was es intelligenter erscheinen lässt, als es ist. Klangvoll und operativ kompetent sind nicht das gleiche, und hier liegt der Fehler vieler Unternehmens-KI-Systeme. Modelle können einem sagen, wie eine gute Entscheidung klingt, ohne irgendeine Vorstellung davon zu haben, was eine Entscheidung unter Druck, über die Zeit oder im Kontext gut macht. Dies ist einer der Gründe, warum viele Unternehmen Schwierigkeiten haben, über Experimente hinauszukommen. Gartner fand heraus, dass mindestens 50% der generativen KI-Projekte nach dem Proof-of-Concept aufgegeben werden, lange bevor sie einen realen betrieblichen Einfluss haben, oft aufgrund unklarer Werte und Risikokontrollen.
Information ist nicht das gleiche wie Expertenwissen
Eine der einfachsten Fallen, in die man mit KI tappen kann, ist die Annahme, dass, wenn ein System genug Informationen hat, es wie ein Experte handeln sollte. Klingt vernünftig, aber wenn man darüber nachdenkt, ist es in unserem Alltag nicht so, dass mehr Informationen über etwas automatisch zu mehr Expertenwissen führen. Man kann jedes Handbuch der Luftfahrt lesen und dennoch nicht bereit sein, ein Flugzeug zu landen. Man kann sich an jede beste Praxis in der Lieferkette erinnern und dennoch einfrieren, wenn drei Dinge gleichzeitig schiefgehen.
Ich könnte fortfahren, aber der Punkt ist, dass Informationen nicht mit Fähigkeiten gleichzusetzen sind. Fähigkeiten kommen aus Erfahrung, insbesondere aus wiederholter Konfrontation mit schwierigen Situationen, in denen die Antwort nicht offensichtlich ist.
Jeden Tag sehe ich, dass die meisten heutigen KI-Systeme auf statischen Beispielen trainiert werden. Das ist hilfreich für Vorhersagen, aber das ist nur ein kleiner Teil der Entscheidungsfindung. Unternehmen haben nicht unbedingt einen Mangel an Daten, aber sie benötigen strukturierte Umgebungen für die Übung, was bedeutet, dass man ihnen Umgebungen gibt, in denen sie wiederholt:
- Reale Szenarien erleben
- Wahlen treffen
- Ergebnisse sehen
- Feedback erhalten
- Sich im Laufe der Zeit verbessern
KI kann mit Vorhersagealgorithmen trainiert werden, aber dieser Ansatz hat Grenzen. Was als Nächstes benötigt wird, ist KI, die in einer simulierten Umgebung mit menschlicher Aufsicht trainiert werden kann. Ich nenne dies Maschinenlernen, eine Methode, die komplexe Entscheidungen in Szenarien und Fähigkeiten aufbricht und eine Anleitung für menschliche Experten bietet, um KI durch Simulation zu unterrichten. Das resultierende Feedback und die Fehler ermöglichen es letztendlich den Agenten, zu lernen und mit realer Autonomie direkt von den Menschen zu handeln, die diese Prozesse aufgebaut haben.
Hören Sie auf, KI wie einen Monolithen zu behandeln
Ein weiterer Fehler, den ich oft sehe, ist die Annahme, dass ein großes Modell alles tun sollte. Kein Basketballteam besteht nur aus einer Person. Kein Werk wird von einem einzigen Menschen geführt. Komplexe Systeme funktionieren, weil unterschiedliche Komponenten unterschiedliche Aufgaben erfüllen, und es gibt eine Struktur, die sie zusammenhält.
KI sollte auf die gleiche Weise aufgebaut werden. Ich denke nicht, dass die langfristige Zukunft der Unternehmensentscheidung in einem riesigen Modell besteht, das in der Mitte des Unternehmens sitzt und so tut, als ob es allwissend wäre. Es ist viel wahrscheinlicher, dass es wie Teams von spezialisierten Agenten aussieht.
Ein Agent könnte ein Experte auf dem Gebiet der Datenabruf sein. Ein anderer ist besser darin, Szenarien zu bewerten. Ein anderer übernimmt die Planung. Einer überprüft die Einhaltung von Vorschriften oder erfasst Widersprüche. Ein anderer handelt mehr wie ein Vorgesetzter, der entscheidet, wann man eskalieren oder wann das Vertrauen zu niedrig ist, um fortzufahren. Die Teamarchitektur macht für mich viel mehr Sinn, da sie der Art und Weise entspricht, wie reale Organisationen tatsächlich funktionieren, und sich mit den umfassenderen Markttrends deckt. Die Ergebnisse von McKinsey bestätigen, dass Unternehmen den größten Nutzen aus KI ziehen, indem sie Workflows und Betriebsstrukturen um sie herum neu gestalten.
Nicht alle Entscheidungen werden auf die gleiche Weise getroffen, und oft nehmen wir an, dass das gleiche Modell, die gleichen Daten und die gleiche Art der Argumentation alle Entscheidungen treffen können. In Wirklichkeit erfordern unterschiedliche Entscheidungen unterschiedliche Mechanismen.
Die vier Arten, wie Entscheidungen tatsächlich getroffen werden
In meiner Erfahrung neigen die meisten Entscheidungen dazu, in einige Kategorien zu fallen:
- Steuerungssysteme (Regeln und Formeln): Entscheidungen werden getroffen, indem vordefinierte Gleichungen oder Regeln auf bekannte Eingaben angewendet werden. Wenn X passiert, mache Y.
- Suche und Optimierung: Entscheidungen werden getroffen, indem viele mögliche Optionen bewertet und die beste ausgewählt wird, basierend auf einem definierten Ziel.
- Bestärkendes Lernen (Trial und Error): Entscheidungen werden im Laufe der Zeit gelernt, indem man Handlungen ausführt, Ergebnisse beobachtet und basierend auf Belohnung oder Bestrafung anpasst.
- Übung und Erfahrung (menschliches Lernen): Entscheidungen werden durch wiederholte Konfrontation, geführtes Feedback und angesammeltes Urteilsvermögen in realen Szenarien geprägt.
Die meisten Unternehmens-KI-Systeme funktionieren gut in den ersten beiden Kategorien. Die dritte und vierte Kategorie sind für KI herausfordernder, da dies der Bereich ist, in dem menschliches Urteilsvermögen lebt.
Autonomie ohne Struktur ist Risiko
Wenn Menschen über autonome KI sprechen, teilt sich die Diskussion oft in zwei Extreme auf. Die eine Seite denkt, die Systeme seien im Grunde genommen Magie und bereit, alles zu steuern. Die andere Seite handelt, als ob sie nie mit etwas Bedeutungsvollem betraut werden sollten.
Ich denke, keine dieser Ansichten ist nützlich. Wir sollten uns auf Autonomie innerhalb einer Struktur konzentrieren, denn Autonomie ohne Aufsicht, Eskalationslogik, Grenzen oder Rechenschaftspflicht ist die Hauptquelle des Risikos. Risikobedenken treten jetzt auch in Gesprächen auf, die durch Bemühungen wie den Rahmen für das Risikomanagement von KI des National Institute of Standards and Technology geprägt sind, der zeigt, wie ernst Unternehmen Fragen der Aufsicht, Rechenschaftspflicht und betrieblichen Vertrauens nehmen.
Die Zukunft der Unternehmens-KI liegt in Teams von Agenten. Unternehmen, die den größten Nutzen aus KI ziehen, werden nicht diejenigen sein, die die meisten Wörter automatisieren. Sie sind diejenigen, die herausfinden, wie man reales Expertenwissen in Systeme überträgt, die auch in schwierigen Umgebungen funktionieren. Das, in meiner Meinung, ist der Unterschied zwischen KI, die beeindruckend aussieht, und KI, die wirklich nützlich wird und einen realen ROI produziert.
