Interviews

Stavros Gadinis, Berkeley-Law-Professor und Autor von Corporate Ordering – Interviewreihe

Antoine Tardif
Unite.AI zu deinen bevorzugten Quellen auf Google hinzufügen
Stavros Gadinis, George R. Johnson Professor of Law at UC Berkeley School of Law
Wichtige PunkteDie unternehmensinterne Regelsetzung beschreibt, wie Firmen Regeln aufstellen und sich…
Mehr anzeigen
  • Die unternehmensinterne Regelsetzung beschreibt, wie Firmen Regeln aufstellen und sich selbst überwachen, bevor Aufsichtsbehörden eingreifen.
  • KI-Sicherheitsbewertungen entbehren der Unabhängigkeit, wenn das Management seine eigenen externen Prüfer einstellt und entlassen kann.
  • Ein Sicherheitsrahmen, der niemals einen Marktstart verzögert hat, ist nicht von Öffentlichkeitsarbeit zu unterscheiden.

Stavros Gadinis ist Inhaber der George R. Johnson Professur für Recht an der UC Berkeley School of Law. In seiner Forschung beschäftigt er sich mit Corporate Governance, Finanzmarktregulierung und den internen Systemen, mit denen Unternehmen Entscheidungen treffen und überwachen. Bevor er in die Wissenschaft wechselte, praktizierte er in Europa als Unternehmensjurist.

Sein neues Buch Corporate Ordering: Wie Unternehmen mit gesellschaftlichen Konflikten umgehen, erschienen bei Cambridge University Press, untersucht, wie Unternehmen Governance-Systeme entwickeln, wenn die geltenden öffentlichen Regeln noch nicht feststehen. Anhand von Fällen aus den Bereichen Mitfahrdienste, ökologische Nachhaltigkeit und künstliche Intelligenz beleuchtet es, wie Unternehmen Regeln festlegen, ihre Befugnisse ausüben und ihr eigenes Handeln überwachen.

Ihre Laufbahn umfasst die anwaltliche Praxis im Gesellschaftsrecht in Europa sowie die Forschung zu Corporate Governance und Finanzmarktregulierung an der Berkeley Law. Wie hat dieser Hintergrund Ihr Denken geprägt, und was hat Sie dazu inspiriert, Corporate Ordering zu schreiben?

Ich begann meine Laufbahn als Unternehmensjurist in Europa und verbrachte anschließend viele Jahre an der Berkeley mit der Erforschung von Corporate Governance und Finanzmarktregulierung. Dazu gehörte auch die Frage, wie sich Regeln über Ländergrenzen hinweg verbreiten, wenn keine einzelne Regierung dafür zuständig ist. Wir neigen dazu, die Geschäftswelt und die Regulierungswelt als Gegensätze zu betrachten: Die eine sei auf schnelle Entscheidungen und hohe Gewinne aus, die andere auf bürokratische Verfahren und das Gemeinwohl bedacht. Sowohl die Praxis als auch die Forschung haben mir gezeigt, dass die Trennlinie viel unschärfer ist.

Das Buch entstand aus Gesprächen mit Chefjuristen und Führungskräften darüber, wie sie mit kontroversen Entscheidungen umgehen, bei denen Beschäftigte, Kunden, Gemeinschaften und Regierungen jeweils unterschiedliche Interessen verfolgen. Mich beeindruckte, wie sehr ihre Methoden denen einer guten Regulierungsbehörde ähneln. Sie sammeln Informationen, indem sie sich an die Betroffenen wenden, erläutern ihre Entscheidungen öffentlich und schaffen Verfahren, mit denen sich überprüfen lässt, ob diese Entscheidungen Bestand haben. Das sind weder ausschließlich regulatorische noch ausschließlich unternehmerische Praktiken. Es sind die Grundsätze guter Entscheidungsfindung in jeder Institution, die Macht über andere ausübt. Mit Corporate Ordering möchte ich diesen Mechanismus beschreiben, zeigen, wo er funktioniert und wo er versagt.

Was bedeutet „Corporate Ordering“, und wie hilft der Begriff zu erklären, wie KI-Unternehmen Regeln für Technologien festlegen, mit denen die Regulierung noch nicht Schritt halten kann?

Corporate Ordering bezeichnet die interne Governance-Infrastruktur, die Unternehmen aufbauen, um strittige Entscheidungen zu treffen, bevor das Gesetz ihnen vorgibt, was zu tun ist. Sie erfüllt drei Funktionen, die den Gewalten eines Staates entsprechen. Bei der Regelsetzung legt ein Unternehmen seine eigenen Grundsätze fest. Durch exekutives Handeln wendet es sie auf konkrete Entscheidungen an. Die Überwachung dient dazu, zu prüfen, ob das Unternehmen sie tatsächlich umgesetzt hat, und festzustellen, wenn dies nicht der Fall war.

Bei KI-Unternehmen lassen sich alle drei Funktionen beobachten. Die führenden KI-Labore verfassen Verfassungen, Modellspezifikationen und Sicherheitsrahmenwerke – das ist Regelsetzung. Sie entscheiden, ob ein Modell für die Einführung bereit ist, was es ablehnen soll und wer Zugang erhält – das ist exekutives Handeln. Außerdem beauftragen sie Red-Team-Tests, externe Evaluierungen und die Meldung von Vorfällen – das ist Überwachung. In meinem Buch zeichne ich nach, wie diese Funktionen in den großen Laboren ausgeprägt sind. Die Unterschiede sind real, doch ebenso deutlich ist eine bemerkenswerte Annäherung: Jedes Unternehmen erkennt, warum es alle Elemente braucht.

Eines möchte ich klarstellen, weil es oft missverstanden wird: Corporate Ordering ist kein Argument gegen Regulierung. Der Begriff beschreibt vielmehr das Material, auf dem Regulierung aufbauen wird. Wenn Abgeordnete tätig werden, greifen sie auf Konzepte zurück, die Unternehmen zuvor entwickelt haben. Die entscheidende Frage ist, ob dieser erste Entwurf sorgfältig genug ausgearbeitet wurde, um es zu verdienen, übernommen zu werden.

Ihr Buch befasst sich mit Mitfahrdiensten, ökologischer Nachhaltigkeit und der Governance von KI. Welche Erkenntnisse aus den ersten beiden Bereichen sind für KI besonders nützlich, und worin bestehen die grundlegend anderen Herausforderungen im Bereich KI?

Die Lehre aus den Bereichen Mitfahrdienste und Klima ist, dass Unternehmen sehr häufig den ersten Gesetzentwurf vorlegen. Uber und Lyft entwickelten Versicherungs- und Sicherheitsmeldeverfahren, bevor es dafür Vorschriften der Bundesstaaten gab. Auch ein Großteil der unternehmerischen CO₂-Bilanzierung beruht auf dem GHG Protocol, an dessen Entwicklung die Wirtschaft mitgewirkt hat. Die Regulierungsbehörden billigten diese Praktiken anschließend, ergänzten sie oder schrieben sie gesetzlich fest. Regulierung beginnt selten bei null. Und je gründlicher Unternehmen ihre Entscheidungen abwägen und je stärker sie die Betroffenen berücksichtigen, desto wahrscheinlicher ist es, dass diese Entscheidungen Eingang in die Regulierung finden.

KI unterscheidet sich in zweierlei Hinsicht. Erstens ist da das Tempo. Regulierungsbehörden hinken der Wirtschaft häufig einen Schritt hinterher, doch bei KI ist der Abstand viel größer. Sie werden darauf angewiesen sein, dass Unternehmen Standards und interne Verfahren entwickeln, und ihre eigenen Anstrengungen auf Aufsicht, Überprüfung und Durchsetzung konzentrieren müssen. Das macht ihre Rolle anders, aber nicht kleiner. Bei der Überprüfung kommt es besonders auf staatliche Befugnisse an, denn dort ist der Interessenkonflikt mit der Unternehmensführung am stärksten. Der zweite Unterschied ist die Reichweite. KI betrifft nahezu alle Bereiche des täglichen Lebens und ist zu einem bedeutenden Investitionsfeld für das Land insgesamt geworden. Die Auswirkungen auf das systemische Risiko sind ebenso unübersehbar wie schwer zu erfassen.

Welche Schutzvorkehrungen gewährleisten eine tatsächlich unabhängige Aufsicht, wenn ein KI-Unternehmen seine externen Sicherheitsprüfer selbst auswählt und bezahlt?

Dieser Interessenkonflikt ist aus der Finanzprüfung bekannt, und das Gesellschaftsrecht bietet bereits Instrumente, um damit umzugehen. Erstens geht es darum, wer die Prüfer bestellt und entlässt. Die Beziehung zum Prüfer sollte in der Verantwortung unabhängiger Mitglieder des Verwaltungsrats liegen, die keine sonstigen finanziellen Verbindungen zum Unternehmen haben – ähnlich wie der Prüfungsausschuss und nicht der CEO oder CFO die externe Abschlussprüfung beaufsichtigt. Die Geschäftsleitung sollte einen Prüfer nicht entlassen können, wenn dessen Ergebnisse unbequem sind.

Zweitens geht es um Zugang und Veröffentlichung. Der Prüfer muss einsehen können, was er einsehen möchte, und das Recht haben, seine Ergebnisse oder zumindest eine aussagekräftige Zusammenfassung ohne ein Veto des Unternehmens zu veröffentlichen. Das Reputationsrisiko verleiht einer Prüfung ihre Wirkung. Drittens braucht es einheitliche Prüfstandards, damit eine Bewertung bei allen Unternehmen dasselbe bedeutet und Prüfer nicht dadurch miteinander konkurrieren können, dass sie weniger streng sind. Viertens müssen Hinweisgeber geschützt und sogar belohnt werden, wenn sie verwertbare Informationen liefern, denn Menschen im Unternehmen erfahren oft als Erste, wenn eine Bewertung beeinflusst wurde.

Angenommen, ein externer Prüfer stellt kurz vor der Einführung eines bedeutenden Modells ein schwerwiegendes Sicherheitsproblem fest. Wer sollte von diesem Befund erfahren, und wer sollte befugt sein, die Einführung zu verzögern oder zu stoppen?

Der Befund sollte direkt an den Verwaltungsrat gehen, idealerweise an einen Ausschuss unabhängiger Mitglieder, der für Sicherheit zuständig ist, und nicht nur über die Geschäftsleitung, die auf die Einführung drängt. Die Geschäftsleitung kann und sollte Stellung nehmen, aber sie sollte nicht als Filter dienen. Die Befugnis, die Einführung zu verzögern oder zu stoppen, sollte beim Verwaltungsrat liegen, denn genau für solche Entscheidungen gibt es Verwaltungsräte: Entscheidungen mit hohem Einsatz, widerstreitenden Interessen und ohne offensichtlich richtige Antwort.

Noch wichtiger ist jedoch, dass die Entscheidung ausdrücklich getroffen und dokumentiert wird und sich auf die Personen zurückführen lässt, die sie getroffen haben. Beschließt der Verwaltungsrat trotz der Bedenken, fortzufahren, sollte aus den Aufzeichnungen hervorgehen, was ihm bekannt war, welche Aspekte er abgewogen hat und warum er das Risiko für vertretbar hielt. Eine solche Dokumentation schafft die Voraussetzungen für Haftung oder zumindest Reputationsschäden und bringt die Beteiligten dazu, zweimal nachzudenken. Gerichte erkennen zunehmend an, dass sich Software-Designentscheidungen auf die Nutzer auswirken. Ein Unternehmen, das ernsthafte, dokumentierte Bemühungen nachweisen kann, befindet sich daher in einer ganz anderen Lage als eines, das dies nicht kann.

Wie sollte ein glaubwürdiger Entscheidungsprozess im Verwaltungsrat aussehen, wenn Sicherheitsbedenken mit Umsatzzielen oder Wettbewerbsdruck kollidieren?

Ein glaubwürdiger Prozess beruht auf fundierten Informationen und hinterlässt eine Dokumentation. Der Verwaltungsrat sollte konkrete Informationen zu den Kosten einer Verzögerung, zur Art und Wahrscheinlichkeit des Sicherheitsproblems sowie zu den Möglichkeiten erhalten, es einzudämmen. Er sollte prüfen, ob die Tests ausreichend waren, und, falls nicht, weitere Tests veranlassen oder eine externe Prüfung einholen. Bleibt echte Unsicherheit bestehen, gibt es Alternativen zwischen Einführung und Zurückstellung, etwa eine begrenzte Freigabe, eine schrittweise Einführung oder eine Sandbox, die dem Unternehmen weitere Erkenntnisse ermöglichen, bevor es sich festlegt. Unabhängig von der Entscheidung des Verwaltungsrats müssen die öffentlichen Aussagen des Unternehmens zur Sicherheit des Modells zutreffend sein – hier liegt ein großer Teil des derzeitigen Prozessrisikos.

Anschließend sollte der Verwaltungsrat festhalten, was er entschieden hat und warum. Mit der Zeit entsteht so ein Präzedenzbestand: Die nächste schwierige Entscheidung wird an der vorherigen gemessen, und jeder, der das Unternehmen überprüft, kann sehen, ob es sich tatsächlich an seine erklärten Grundsätze hält. Microsoft hat damit begonnen, eine solche Entscheidungsdokumentation aufzubauen, und ich halte sie für eines der am meisten unterschätzten Instrumente der KI-Governance. Der Wettbewerbsdruck ist real, und ein Verwaltungsrat kann sich vernünftigerweise dafür entscheiden, fortzufahren. Was er nicht tun darf, ist, die Entscheidung einfach dem Lauf der Dinge zu überlassen.

In Ihrer Arbeit schlagen Sie einen Maßstab des „sozialen unternehmerischen Ermessens“ vor, um Entscheidungen von Verwaltungsräten zu bewerten. Wie würde dieser Maßstab auf ein KI-Unternehmen angewandt, das die Einführung eines profitablen Produkts wegen möglicher Schäden für die Öffentlichkeit verschiebt?

Nach geltendem Gesellschaftsrecht ist ein Verwaltungsrat, der die Einführung eines profitablen Produkts verschiebt, bereits gut geschützt. Gerichte räumen den unternehmerischen Entscheidungen der Verwaltungsratsmitglieder einen weiten Ermessensspielraum ein, und heute geringere Gewinne hinzunehmen, um morgen Schaden abzuwenden, fällt ohne Weiteres darunter. Schwieriger ist die umgekehrte Frage: Hat der Verwaltungsrat mögliche Schäden für die Öffentlichkeit überhaupt ernst genommen?

Der Maßstab des sozialen unternehmerischen Ermessens verlangt vom Verwaltungsrat, mögliche Schäden für die Öffentlichkeit wie jedes andere Geschäftsrisiko zu bewerten – wann immer möglich anhand konkreter, messbarer und spezifischer Kennzahlen. Im Mittelpunkt stehen das Verfahren und die gebotene Sorgfalt, nicht das Ergebnis. Ein Verwaltungsrat, der die richtigen Informationen einholt, Betroffene anhört und seine Überlegungen dokumentiert, verdient es, dass seine Entscheidung respektiert wird – unabhängig davon, ob er die Einführung verschiebt oder fortsetzt. Ein Verwaltungsrat, der nichts davon tut, verdient es nicht. Im beschriebenen Fall ist also nicht die Verschiebung an sich entscheidend. Entscheidend ist, ob der Verwaltungsrat darlegen kann, wie er zu dieser Entscheidung gelangt ist und ob er unter denselben Umständen erneut genauso entscheiden würde.

KI-Unternehmen veröffentlichen Sicherheitsrahmen und freiwillige Selbstverpflichtungen, doch Leser erfahren nur selten, wie sich diese Vorgaben auf einzelne Entscheidungen auswirken. Welche Belege würden zeigen, dass es sich um wirksame Governance und nicht bloß um eine PR-Maßnahme handelt?

Wenn Unternehmen Rahmenwerke veröffentlichen, fragt sich die Öffentlichkeit oft, ob diese tatsächlich konkrete Entscheidungen beeinflussen oder bloße Rhetorik bleiben, der das Unternehmen nie Taten folgen lässt. Die Antwort liegt in einer bestimmten Art der Offenlegung. Statt weitere Grundsatzerklärungen abzugeben, sollten Unternehmen über konkrete Entscheidungen berichten und darlegen, wie das Rahmenwerk diese geprägt hat: welche Produkteinführungen verschoben, welche Fähigkeiten zurückgehalten, welche Risikoschwellen überschritten wurden und welche Folgen sich daraus ergaben.

Am aussagekräftigsten ist eine Entscheidung, die das Unternehmen etwas gekostet hat. Ein Rahmenwerk, das noch nie ein Ergebnis verändert, eine Produkteinführung verzögert oder sich zulasten des Umsatzes ausgewirkt hat, lässt sich nur schwer von Öffentlichkeitsarbeit unterscheiden. Diese Offenlegungen müssen außerdem konkret genug sein, um überprüft werden zu können. Bei den folgenreichsten Fragen sollte ihre Richtigkeit von einer unabhängigen Stelle bestätigt werden, die befugt ist, dies öffentlich zu erklären.

Wo stößt die unternehmerische Selbstregulierung an ihre Grenzen? Welche Entscheidungen über ein akzeptables KI-Risiko erfordern öffentliche Regeln oder demokratische Aufsicht?

Die wichtigste Grenze betrifft Versäumnisse bei der Überwachung. Selbst ein wohlmeinendes und verantwortungsbewusstes Unternehmen kann in eine schwere Krise geraten; in einem solchen Moment nehmen die Interessenkonflikte zu. Beschäftigte halten möglicherweise Informationen zurück, die ihrem Arbeitsplatz oder ihren Bonuszahlungen schaden könnten. Führungskräfte unterdrücken womöglich schlechte Nachrichten, um öffentliche Kritik zu vermeiden. Die Angst vor Klagen kann das Unternehmen davon abhalten, offen zu sein. In früheren Unternehmenskrisen stammten entscheidende Informationen meist von Personen, die die Unternehmensführung nicht kontrollieren konnte: von externen Prüfern und Gutachtern, Betroffenen oder internen Hinweisgebern, die unabhängige Meldewege nutzten.

Hier sind öffentliche Regeln besonders wichtig. Bei der Regelsetzung kann das Gesetz relativ wenig bewirken, weil Gesetze ihre zentralen Konzepte meist von den Unternehmen übernehmen. Bei der Offenlegung kann es mehr erreichen, indem es auch Unternehmen erfasst, die nicht freiwillig Informationen veröffentlichen. Am meisten bewirkt es bei der Überprüfung, indem es unabhängige Prüfungen vorschreibt, Hinweisgeber schützt und externen Kontrollen echte Befugnisse verleiht.

Die andere Grenze ist kollektiver Art. Ein einzelnes Unternehmen kann höchstens sich selbst Einhalt gebieten. Seine Wettbewerber kann es nicht aufhalten. Entscheidungen über katastrophale Risiken, etwa darüber, ob die Entwicklung an der Spitze verlangsamt werden sollte, erfordern die Abstimmung zwischen Unternehmen und Regierungen – im eigenen Land wie international. Ein Modell, das ich vielversprechend finde, ist eine internationale Standardsetzungsorganisation nach dem Vorbild des ISSB für die Nachhaltigkeitsberichterstattung: unabhängig von Regierungen, aber beaufsichtigt von einem Kuratorium, dem auch Regierungsvertreter angehören. Eine unternehmensinterne Ordnung ist für diese Arbeit notwendig, denn die Zähmung dieser Modelle findet in den Unternehmen statt, die sie entwickeln. Doch sie allein kann diese Aufgabe nicht bewältigen.

Wenn Sie heute den Vorstand eines schnell wachsenden KI-Unternehmens beraten würden: Welche drei Änderungen an der Unternehmensführung hätten für Sie Vorrang, und nach welchen Belegen würden Sie ein Jahr später suchen, um festzustellen, ob sie gewirkt haben?

Erstens: Einbindung Betroffener in die Regelsetzung. Bevor das Unternehmen sein Sicherheitskonzept oder seine Nutzungsrichtlinien einführt oder überarbeitet, sollte es die Betroffenen – Nutzer, zivilgesellschaftliche Organisationen und Fachleute – konsultieren und veröffentlichen, was es dabei erfahren und wie es darauf reagiert hat. Zweitens: regelmäßige Berichterstattung über die Verantwortungsübernahme – ein jährlicher Bericht über die schwierigen Entscheidungen, die Vorstand und Geschäftsleitung im Rahmen des Konzepts getroffen haben, mit genügend Einzelheiten, um sie überprüfen zu können. Drittens: eine externe Kontrollinstanz, die von unabhängigen Mitgliedern des Aufsichtsgremiums beauftragt wird, an sie berichtet, umfassenden Zugang erhält und ihre Erkenntnisse veröffentlichen darf.

Ein Jahr später würde ich nach Belegen dafür suchen, dass jede dieser Maßnahmen tatsächlich Wirkung gezeigt hat. Bei der Einbindung Betroffener: mindestens eine Regel, die aufgrund der Rückmeldungen geändert wurde. Bei der Berichterstattung: offengelegte Entscheidungen, über die das Unternehmen lieber geschwiegen hätte, darunter auch solche, die Umsatz oder Zeit gekostet haben. Bei der Kontrollinstanz: Erkenntnisse, die dem Unternehmen nicht willkommen waren, und eine Dokumentation dessen, was der Vorstand dagegen unternommen hat. Wenn nach einem Jahr alles Berichtete gute Nachrichten sind, haben die Änderungen nicht gewirkt.

Vielen Dank für das großartige Interview. Leserinnen und Leser, die mehr über das Buch und die Kaufmöglichkeiten erfahren möchten, sollten die offizielle Website zu Unternehmensordnung besuchen.

Antoine ist eine visionäre Führungspersönlichkeit und Gründungspartner von Unite.AI. Ihn treibt eine unerschütterliche Leidenschaft an, die Zukunft von KI und Robotik zu gestalten und voranzubringen. Als Serienunternehmer ist er überzeugt, dass KI die Gesellschaft ebenso grundlegend verändern wird wie die Elektrizität. Er spricht häufig begeistert über das Potenzial bahnbrechender Technologien und künstlicher allgemeiner Intelligenz (AGI).

Als Futurist widmet er sich der Frage, wie diese Innovationen unsere Welt prägen werden. Darüber hinaus ist er Gründer von Securities.io, einer Plattform mit Schwerpunkt auf Investitionen in Spitzentechnologien, die die Zukunft neu definieren und ganze Branchen umgestalten.