KI braucht immer noch einen Coach und menschliche Aufsicht braucht ein Playbook

KI ist überall, wo man hinschaut, und der Profifußball ist keine Ausnahme.

Die NFL hat den Digital Athlete eingeführt, der Daten und KI nutzt, um Teams dabei zu helfen, Szenarien zu identifizieren, in denen Spieler einem erhöhten Verletzungsrisiko ausgesetzt sein könnten. Er kombiniert Video‑ und Trainings‑, Übungs‑ und Spieldaten mit Millionen von Simulationen und gibt allen 32 Teams Zugriff auf ligaweite Trendinformationen. Trainer und Trainingspersonal nutzen diese Informationen, um individualisierte Präventions‑, Trainings‑ und Erholungsprogramme zu entwickeln.

Während die Technologie das Spielfeld liest, sind Trainer nach wie vor für die Entscheidungen verantwortlich. Wenn Unternehmen den KI‑Einsatz über Geschäftsprozesse hinweg ausweiten, einschließlich Compliance und interner Untersuchungen, scheint das Automatisierungspotenzial grenzenlos. Doch welche Aufgaben soll KI übernehmen, unter welchen Bedingungen und mit welcher menschlichen Aufsicht?

Genau hier kann ein organisatorisches Playbook den Ton angeben: Es bietet Trainern die Möglichkeit, KI‑Werkzeuge zu nutzen, während die menschliche Aufsicht dort erhalten bleibt, wo sie zählt.

Geben Sie KI eine Position statt das gesamte Feld

Untersuchungen umfassen unterschiedliche Risikostufen. KI kann dabei helfen, Informationen aus ersten Meldungen zu organisieren und:

• Fehlende Details identifizieren
• Informationen zu einem Abschlussbericht zusammenfassen
• Zeitlinien erstellen
• Muster aufzeigen, die Ermittler weiter untersuchen möchten

Diese Anwendungsfälle können manuelles Sortieren reduzieren und Zeit freisetzen, um sich auf Arbeiten zu konzentrieren, die menschliches Urteilsvermögen erfordern.

Beachten Sie, dass KI eine Anschuldigung zusammenfassen kann, aber nicht entscheiden kann, ob sie glaubwürdig ist. KI kann eine Inkonsistenz erkennen, aber nicht bestimmen, warum sie besteht. Hier können Organisationen in Schwierigkeiten geraten, wenn sie KI ohne Leitplanken einsetzen.

Um Aufsicht zu gewährleisten, benötigt KI eine definierte Rolle. Organisationen sollten entscheiden:

• Die Aufgaben, die das System ausführen soll
• Die Informationen, auf die es zugreifen kann
• Die Grenzen dessen, was es darf
• Die Situationen, in denen eine Person die Kontrolle übernehmen muss

Das AI Risk Management Framework des National Institute of Standards and Technology bietet einen nützlichen Maßstab. NISTs Fahrplan beschreibt AI‑RMF‑Profile als Möglichkeit, zu zeigen, wie das Rahmenwerk auf bestimmte Sektoren, Technologien, Kontexte oder andere Settings angewendet werden kann. Anders ausgedrückt wird verantwortungsvolle KI‑Governance handhabbarer, wenn Organisationen breite Prinzipien in die Realität eines konkreten Anwendungsfalls übersetzen.

Ein KI‑Playbook kann auf operativer Ebene etwas Ähnliches leisten. Es definiert Rollen, Situationen und Handlungen mit Genauigkeit.

Menschliche Aufsicht ist ein System‑Design‑Problem

Der Ausdruck „human in the loop“ ist in Diskussionen über verantwortungsvolle KI zum Standard geworden. Doch die bloße Präsenz einer Person irgendwo im Arbeitsablauf macht ein KI‑System nicht automatisch gut gesteuert.

NIST hat human‑AI‑Teaming als wichtigen Bereich für Forschung und Leitlinien zum KI‑Risikomanagement identifiziert. Zu den hervorgehobenen Fragen gehören, wie Menschen KI‑generierte Ergebnisse interpretieren und wie Menschen KI‑Systeme in realen Umgebungen überwachen.

Menschliche Aufsicht sollte nicht als vorübergehende Lösung betrachtet werden, bis KI so ausgereift ist, dass sie eigenständig operieren kann. In vielen hochriskanten Umgebungen ist sie Teil der erforderlichen Architektur, um KI langfristig verantwortungsvoll einzusetzen.

Eine peer‑reviewte Untersuchung der menschlichen Aufsicht in der KI‑Governance stellt fest, dass menschliche Aufseher die Genauigkeit und Sicherheit verbessern sollen, um menschliche Werte zu wahren und Vertrauen aufzubauen. Allerdings sind Menschen nicht immer verlässliche Aufseher. Effektive Aufsicht hängt von Kompetenz, Anreizen und dem Design der Aufsichtsfunktion ab.

Für einen Ermittler reicht es nicht aus, aufgefordert zu werden, eine KI‑generierte Empfehlung zu genehmigen, wenn ihm die nötigen Informationen oder Befugnisse fehlen, um sie zu hinterfragen. Das Playbook muss nicht nur festlegen, dass ein Mensch beteiligt ist, sondern auch, wie und wann diese Person eingreifen kann.

Der Übergang ist genauso wichtig wie das Modell

Eine weitere Herausforderung besteht darin: Auch wenn ein Mensch die endgültige Autorität hat, kann die Art und Weise, wie KI Informationen präsentiert, die nachfolgende Entscheidung beeinflussen.

Eine Vorabveröffentlichung aus dem Jahr 2025 von Forschern der University of California, Santa Barbara, zeigt, warum das Design der Benutzeroberfläche wichtig ist. In einem kontrollierten Experiment mit 108 Teilnehmenden in einem gesundheitlichen Entscheidungsszenario testeten die Forschenden sechs Formen der KI‑Entscheidungsunterstützung. Sie stellten fest, dass Mechanismen wie KI‑Vertrauensinformationen, textuelle Erklärungen und Leistungsvisualisierungen die Genauigkeit von Mensch‑KI‑Entscheidungen in ihrem Experiment verbesserten.

Die Studie weist zudem auf das Risiko des Automatisierungsbias hin: Menschen können sich zu stark auf KI‑Vorschläge verlassen, auch wenn diese fehlerhaft sind.

Dieses Experiment zeigt, warum der Übergang zwischen Maschine und Mensch ein bewusstes Design und Tests erfordert.

Wenn wir dies weiter extrapolieren und das Konzept einer Untersuchung einführen, ergeben sich mehrere Fragen:

• Sieht ein Ermittler nur ein KI‑generiertes Fazit, oder kann er die zugrunde liegenden Informationen prüfen?

• Kann das System Unsicherheit kommunizieren?

• Ist ersichtlich, wenn Informationen fehlen?

• Können Ermittler ein Ergebnis ablehnen und begründen, warum?

Das sind ebenso Governance‑Fragen wie technische Fragen.

Fünf Fragen, die jedes KI‑Playbook beantworten sollte

Ein nützliches KI‑Playbook sollte abstrakte Prinzipien wie „verantwortliche KI“ und „menschliche Aufsicht“ in konkrete Betriebsregeln überführen.

1. Was darf die KI tun? Organisationen sollten spezifische Aufgaben autorisieren, anstatt eine breit gefächerte Erlaubnis zur Nutzung von KI im gesamten Arbeitsablauf zu erteilen.
2. Welche Informationen darf sie nutzen? Für Untersuchungen und Hinweisgebersysteme benötigen Organisationen klare Grenzen bezüglich der für ein KI‑System verfügbaren Informationen und deren Verarbeitung.
3. Wie werden Menschen ihre Ausgabe bewerten? Menschliche Prüfer benötigen ausreichend Kontext, um zu verstehen, was das System produziert hat, welche relevanten Einschränkungen bestehen und welche Informationen nötig sind, um das Ergebnis zu hinterfragen.
4. Wann muss ein Mensch eingreifen? Ein Playbook sollte Eskalationsauslöser festlegen, anstatt einzelne Mitarbeitende entscheiden zu lassen, wann KI zu weit gegangen ist.
5. Wo endet die Autorität der KI? Einige Entscheidungen sollten menschliches Urteil erfordern, und die dafür Verantwortlichen benötigen echte Befugnisse, um die Technologie zu ignorieren, zu überschreiben oder zu stoppen.

Diese Konzepte spiegeln sich in einem der weltweit bedeutendsten KI‑Regelwerke wider. Artikel 14 des EU‑KI‑Gesetzes legt Anforderungen an die menschliche Aufsicht für KI‑Systeme fest, die in die Hochrisikokategorie des Gesetzes fallen. Es besagt, dass Aufsichtsmaßnahmen im Verhältnis zu den Risiken, der Autonomie und dem Nutzungskontext des Systems stehen sollten. Außerdem wird gefordert, dass Aufsichtspersonen die relevanten Fähigkeiten und Grenzen verstehen, Ausgaben korrekt interpretieren, den Automatisierungsbias im Blick behalten, Ausgaben ignorieren oder überschreiben und in ein System eingreifen oder es stoppen können.

Das bedeutet nicht, dass jedes KI‑Werkzeug, das in einer Untersuchung eingesetzt wird, automatisch ein Hochrisikosystem ist. Das Rahmenwerk veranschaulicht ein wichtiges Prinzip der KI‑Governance. Menschliche Aufsicht muss Menschen mit sinnvollen Fähigkeiten ausstatten, nicht nur einen Platz im Arbeitsablauf.

KI ersetzt den Coach nicht. Sie verändert, was der Coach sehen kann.

Der Digital Athlete der NFL ist beeindruckend, nicht weil er zeigt, dass KI Trainer ersetzen kann, sondern weil er demonstriert, wie hochentwickelte Technologie die für erfahrene Fachleute verfügbare Informationsbasis erweitern kann.

KI kann Menschen dabei unterstützen, Informationen zu verarbeiten, das hervorzuheben, was Aufmerksamkeit verdient, und mehr Konsistenz bei wiederholbaren Aufgaben zu schaffen. Dennoch erfordern die entscheidendsten Momente einer Untersuchung häufig etwas anderes: Kontext, Skepsis, Interpretation und Verantwortlichkeit.

Die am besten positionierten Organisationen, um von KI zu profitieren, werden daher mehr fragen, als die Technologie automatisieren kann. Sie werden festlegen, was sie tun soll, was sie nicht tun soll und wie Menschen und KI zusammenarbeiten sollen.