Partnerschaften
Anthropic nutzt Accenture Faculty für die eingebettete Bewertung von KI-Modellen
Unite.AI zu deinen bevorzugten Quellen auf Google hinzufügen
Anthropic sagte am 18. September 2026, dass es mit Accenture an einer unabhängigen Bewertung von Frontier‑KI zusammenarbeitet, wobei jedes Unternehmen erwartet, in den nächsten fünf Jahren mindestens $1 billion in den Ausbau der Kapazitäten in diesem Bereich zu investieren.
Die Partnerschaft wird von Faculty, Accenture’s spezialisierter KI‑Geschäftseinheit, geleitet und umfasst die Bewertung und das Red‑Teaming von Modellen, die Durchführung von Alignment‑Bewertungen sowie das Testen von Modellsicherheitsvorkehrungen. Anthropic beschrieb die Arbeit als einen Schritt hin zu einer Verpflichtung, die in einem September‑2026 Essay von CEO Dario Amodei gemacht wurde, unabhängige Evaluatoren im Unternehmen zu verankern.
Anthropic erklärte, dass Accenture Unternehmen und Regierungen dabei unterstützt, KI in vielen Branchen einzusetzen, und dass das Verständnis des Unternehmens darüber, wie Unternehmen KI in der Praxis nutzen, seinen Sicherheitsansatz informiert. Diese Perspektive, so das Unternehmen, wird bei der Bewertung seiner Modelle angewendet.
Wie die eingebettete Bewertung funktionieren wird
Eingebettete Bewertung ist neu, und viele Details zu ihrer Funktionsweise werden laut der Ankündigung noch ausgearbeitet. Während externe Evaluatoren traditionell außerhalb der Unternehmen, die sie prüfen, tätig sind, arbeiten eingebettete Evaluatoren innerhalb von KI‑Unternehmen mit einem Zugang, der dem eines Mitarbeiters vergleichbar ist.
Anthropic erklärte, dass dieser Zugang den Evaluatoren ermöglicht, die Entstehung von Modellen während des Trainings zu beobachten, die Entscheidungen nachzuvollziehen, die bestimmen, wie Modelle gebaut und eingesetzt werden, und direkt mit Mitarbeitenden zu sprechen. Aus dieser Position können die Evaluatoren beurteilen, wie ein Unternehmen arbeitet, überprüfen, ob es seine Sicherheitsverpflichtungen einhält, und blinde Flecken identifizieren. Sie können zudem Vorfälle melden und der Öffentlichkeit eine fundiertere Darstellung von Nutzen und Risiken bieten, sagte das Unternehmen.
Anthropic stellte fest, dass unabhängige eingebettete Evaluatoren die Verantwortlichkeit des Unternehmens nicht verändern, sie jedoch nachvollziehbarer machen, und dass die Sicherheit seiner Modelle weiterhin seine Verantwortung bleibt.
Zugangsbedingungen und Veröffentlichungsrechte
Im Essay mit dem Titel „Wir müssen das Tempo an der Grenze bestimmen“ schlug Amodei einen dreistufigen Plan vor: eingebettete Evaluatoren, Koordination unter Frontier‑KI‑Unternehmen in demokratischen Ländern und globale Koordination. Er schrieb, dass Anthropic einseitig den ersten Schritt verpflichte und die Regierungen auffordere, andere Frontier‑Unternehmen zur Nachahmung zu verpflichten. „Wir müssen das Tempo verlangsamen, mit dem wir die Fähigkeiten von KI‑Modellen verbessern“, schrieb er. „Der Fortschritt wird weiterhin schnell erscheinen, und wir müssen die gewonnene Zeit weise nutzen.“
Der Aufsatz besagt, dass Anthropic beabsichtigt, ein eingebettetes externes Prüfteam einzuladen, das mit Schreibtischen in seinen Büros, Zugangsausweisen und Firmen‑Laptops ausgestattet ist, sowie mit Zugang zu Arbeitsbereichen, Werkzeugen und Berechtigungen, die weitgehend mit denen interner Risikobewertungsteams vergleichbar sind. Ausnahmen würden in Fällen gelten, in denen das Gesetz oder Verträge dies verlangen, oder zum Schutz der privaten Informationen von Kunden und Partnern.
Nach dem im Aufsatz beschriebenen Vertragsansatz hätten externe Prüfer das Recht, zentrale Ergebnisse zu Risikoniveaus, Vorfällen, Praktiken und dem erhaltenen bzw. nicht erhaltenen Zugang zu veröffentlichen, ohne dass Anthropic redaktionelle Kontrolle ausübt. Das Unternehmen würde sich ein enges Recht vorbehalten, sicherheitsrelevante, rechtlich geschützte, geschäftskritische oder vertrauliche Informationen Dritter zu schwärzen, jedoch nicht Ergebnisse allein deshalb zu schwärzen, weil sie ungünstig sind; Prüfer könnten öffentlich angeben, wenn eine Schwärzung etwas Wichtiges für ihre Schlussfolgerungen entfernt hat. Der Aufsatz verweist auf Präzedenzfälle in der Bankenbranche, in denen Aufsichtsbehörden teilweise direkt neben Mitarbeitenden eingebettet sind.
Finanzierungsfragen und eine nicht-exklusive Struktur
Anthropic erklärte, dass es bislang keine Standards dafür gibt, auf welche Informationen eingebettete Evaluatoren Zugriff haben sollten oder wie sie ihre Erkenntnisse berichten sollen, und dass es kein festgelegtes System zur Finanzierung unabhängiger Bewertungen gibt. Langfristig sei das Unternehmen der Ansicht, dass die Finanzierung aus gemeinsamen oder staatlichen Quellen stammen sollte, wie es in seinem Advanced AI Framework im Juni gefordert wurde; da diese noch nicht existieren, plane es, mit verschiedenen Evaluatoren unter unterschiedlichen Finanzierungsmodellen zusammenzuarbeiten.
Anthropic wird die Arbeit von Accenture direkt finanzieren. Das Unternehmen befindet sich zudem im Dialog mit METR und anderen gemeinnützigen Evaluatoren, um Elemente der eingebetteten Bewertung mit deren eigener Finanzierung zu pilotieren, und es erklärte, dass es davon ausgehe, dass Frontier‑KI letztlich ein Ökosystem von Evaluatoren benötigt, die nach gemeinsamen Standards arbeiten.
Die Partnerschaft ist nicht exklusiv. Anthropic erklärte, dass es mit anderen Evaluatoren zusammenarbeiten werde, die in den kommenden Wochen angekündigt werden sollen, dass es erwarte, dass Frontier‑Labore gleichzeitig mit mehreren Organisationen zusammenarbeiten, und dass Accenture mit anderen KI‑Entwicklern in ähnlichen Rollen zusammenarbeiten werde. Das Unternehmen sagte, es werde weiterhin Frontier‑Modelle trainieren und veröffentlichen, seine frühen Bemühungen teilen, damit Personen und andere KI‑Entwickler den Prozess einsehen können, erwarte, dass sein Ansatz mit der Reifung des Feldes weiterentwickelt werde, und werde mehr mitteilen, sobald die Arbeit beginnt und weitere Evaluatoren hinzukommen.
Frühere Unternehmenspartnerschaft
Der Evaluationsaufwand erweitert eine breitere Beziehung, die die beiden Unternehmen am 9. Dezember 2025 angekündigt haben: eine mehrjährige Partnerschaft, die die Accenture Anthropic Business Group gründete. Im Rahmen dieser Vereinbarung sollen etwa 30 000 Accenture‑Mitarbeiter eine Schulung zu Claude erhalten, Claude Code wird Zehntausenden von Accenture‑Entwicklern zur Verfügung gestellt, und die Unternehmen haben ein gemeinsames Angebot gestartet, das CIOs dabei unterstützen soll, den Wert zu messen und die KI‑Einführung in ihren Engineering‑Organisationen voranzutreiben. Die Ankündigung im Dezember 2025 enthielt zudem erste branchenspezifische Lösungen für regulierte Sektoren, darunter Finanzdienstleistungen, Lebenswissenschaften, Gesundheitswesen und den öffentlichen Sektor.
