Warum Silicon Valley nicht “Schnell handeln und Dinge brechen” kann, wenn es um KI geht

Die Leute sagen, dass Silicon Valley über die hitzköpfige Mentalität von “schnell handeln und Dinge brechen, dann später reparieren” hinausgewachsen ist und dass Unternehmen eine langsamere, verantwortungsvollere Herangehensweise an den Aufbau der Zukunft unserer Branche angenommen haben.

Leider erzählt die aktuelle Situation eine andere Geschichte.

Trotz der Lippenbekenntnisse hat sich die Art und Weise, wie Unternehmen Dinge bauen, noch nicht wirklich geändert. Tech-Startups laufen immer noch auf dem gleichen Code von Abkürzungen und falschen Versprechungen, und die sinkende Qualität der Produkte zeigt es. “Schnell handeln und Dinge brechen” ist immer noch das Credo von Silicon Valley – und selbst wenn es wirklich gestorben wäre, hat der KI-Boom es in voller Kraft wiederbelebt.

Die jüngsten Fortschritte in der KI transformieren bereits radikal die Art und Weise, wie wir arbeiten und leben. In nur den letzten paar Jahren ist die KI von dem Bereich der Computerwissenschaftler zu einem Haushaltsgerät geworden, dank der schnellen Verbreitung von generativen KI-Tools wie ChatGPT. Wenn Tech-Unternehmen “schnell handeln und Dinge brechen” mit KI, gibt es möglicherweise keine Option, “sie später zu reparieren”, besonders wenn Modelle auf sensiblen persönlichen Daten trainiert werden. Man kann den Bell nicht unläuten, und der Echo wird durch die Gesellschaft hallen, potenziell unheilbaren Schaden verursachend. Von böswilligen Deepfakes bis Betrugsversuchen bis Desinformationskampagnen sehen wir bereits die negative Seite der KI.

Zugleich hat diese Technologie jedoch die Macht, unsere Gesellschaft zum Besseren zu verändern. Die Einführung von KI in Unternehmen wird so revolutionär sein wie der Umstieg auf die Cloud; Unternehmen werden vollständig auf KI umstellen und werden aufgrund dessen unendlich produktiver und effizienter. Auf individueller Ebene wird die generative KI unser vertrauenswürdiger Assistent, der uns hilft, alltägliche Aktivitäten zu erledigen, kreativ zu experimentieren und neue Kenntnisse und Chancen zu entdecken.

Die KI-Zukunft kann eine helle sein, aber sie erfordert einen großen kulturellen Wandel an dem Ort, an dem diese Zukunft aufgebaut wird.

Warum “Schnell handeln und Dinge brechen” mit KI unvereinbar ist

“Schnell handeln und Dinge brechen” basiert auf zwei großen Annahmen: einerseits, dass alles, was nicht funktioniert, wenn es gestartet wird, in einem späteren Update gepatcht werden kann; und andererseits, dass wenn man “Dinge bricht”, es zu Durchbrüchen mit genügend kreativem Coden und außergewöhnlichem Denken führen kann. Und obwohl viele großartige Innovationen aus Fehlern entstanden sind, ist dies nicht Penicillin oder Coca-Cola. Künstliche Intelligenz ist eine außergewöhnlich mächtige Technologie, die mit äußerster Vorsicht behandelt werden muss. Die Risiken von Datenlecks und krimineller Missbrauch sind einfach zu hoch, um sie zu ignorieren.

Leider hat Silicon Valley eine schlechte Angewohnheit, die Unordnung des Entwicklungsprozesses zu verherrlichen. Unternehmen fördern immer noch einen unermüdlichen Einsatz, bei dem lange Arbeitszeiten und ein Mangel an Work-Life-Balance notwendig sind, um eine Karriere zu machen. Startups und ihre Aktionäre setzen unrealistische Ziele, die das Risiko von Fehlern und Abkürzungen erhöhen. Grenzen werden überschritten, wenn sie vielleicht nicht überschritten werden sollten. Diese Verhaltensweisen verschmelzen zu einer toxischen Industriekultur, die Hype-Chasing auf Kosten der Ethik fördert.

Das aktuelle Tempo der KI-Entwicklung kann nicht innerhalb dieser Kultur fortgesetzt werden. Wenn KI einige der dringendsten Probleme der Welt lösen soll, muss sie auf hochsensiblen Informationen trainiert werden, und Unternehmen haben die kritische Verantwortung, diese Informationen zu schützen.

Es gibt auch ein ernstes Risiko im Zusammenhang mit IP- und Urheberrechtsverletzungen, wie durch die verschiedenen Bundesklagen belegt, die im Zusammenhang mit KI und Urheberrecht anhängig sind. Ohne angemessene Schutzmaßnahmen gegen Urheberrechtsverletzungen und IP-Verletzungen sind die Lebensgrundlagen von Menschen gefährdet.

Für das KI-Startup, das durch die Entwicklung stürmen und auf den Markt kommen will, scheint dies viel zu berücksichtigen – und es ist es. Der Schutz von Menschen und Informationen erfordert harte Arbeit. Aber es ist unverhandelbare Arbeit, auch wenn es KI-Entwickler dazu zwingt, nachdenklicher zu sein. Tatsächlich würde ich argumentieren, dass dies der Vorteil ist. Lösungen für Probleme bevor sie auftreten, und Sie müssen nicht das reparieren, was auf dem Weg zusammenbricht.

Ein neues Credo: “Strategisch handeln, um unbrechbar zu sein”

Im Mai dieses Jahres hat die EU das weltweit erste umfassende KI-Gesetz, den Artificial Intelligence Act, zur Risikobewältigung durch umfassende Transparenzanforderungen und das Verbot von KI-Technologien, die als unannehmbares Risiko gelten, genehmigt. Das Gesetz spiegelt die historisch vorsichtige Herangehensweise der EU an neue Technologien wider, die ihre KI-Entwicklungsstrategien seit den ersten Anfängen des aktuellen Booms bestimmt hat. Anstatt auf einen Impuls zu handeln, alle Venture-Dollars und Ingenieurskapazitäten in den neuesten Trend ohne ordnungsgemäße Planung zu stecken, investieren diese Unternehmen ihre Bemühungen in die Schaffung von etwas, das von Dauer sein wird.

Dies ist nicht die vorherrschende Herangehensweise in den USA, trotz zahlreicher Regulierungsversuche. Auf der legislativen Ebene schlagen einzelne Staaten ihre eigenen Gesetze vor, die von völlig unzureichend bis massiv überreichend reichen, wie Kaliforniens vorgeschlagener SB-1047. Währenddessen intensiviert sich der KI-Wettlauf, und Silicon Valley beharrt auf seinen alten Wegen.

Risikokapitalgeber schüren das Problem nur noch. Wenn sie in neue Startups investieren, fragen sie nicht nach Schutzmaßnahmen und Sicherheitskontrollen. Sie wollen ein Minimum an funktionierendem Produkt so schnell wie möglich auf den Markt bringen, damit sie ihre Checks einlösen können. Silicon Valley ist zu einem Brutplatz für schnelle Reichtümer geworden, wo Menschen so viel Geld wie möglich in so kurzer Zeit wie möglich verdienen wollen, während sie so wenig Arbeit wie möglich leisten – und sie kümmern sich nicht um die Konsequenzen.

Für das Zeitalter der KI würde ich gerne ein Ersatz für “schnell handeln und Dinge brechen” vorschlagen: strategisch handeln, um unbrechbar zu sein. Es mag nicht den gleichen poetischen Schwung wie das vorherige haben, aber es spiegelt die Mentalität wider, die SV in der heutigen technologischen Landschaft benötigt.

Ich bin optimistisch, dass die Technologiebranche besser sein kann, und es beginnt mit der Annahme einer kundenorientierten, zukunftsorientierten Mentalität, die darauf abzielt, Produkte zu schaffen, die von Dauer sind, und diese Produkte auf eine Weise zu warten, die Vertrauen bei den Nutzern fördert. Ein bewussterer Ansatz wird Menschen und Organisationen das Vertrauen geben, KI in ihr Leben zu integrieren – und das klingt ziemlich profitabel für mich.

Auf dem Weg zu einer nachhaltigen Zukunft

Die Tech-Welt leidet unter dem überwältigenden Druck, der Erste zu sein. Gründer fühlen, dass wenn sie nicht auf das nächste große Ding springen, sie den Zug verpassen werden. Natürlich kann das Frühzeitige Handeln vielleicht die Chancen auf Erfolg erhöhen, aber “der Erste zu sein” sollte nicht auf Kosten von Sicherheit und Ethik gehen.

Wenn Ihr Ziel darin besteht, etwas zu bauen, das von Dauer ist, werdet Ihr Euch gründlicher um Risiken und Schwächen kümmern. Dies ist auch die Art und Weise, wie Ihr neue Chancen für Durchbrüche und Innovationen findet. Die Unternehmen, die Stärken in Schwächen umwandeln können, sind diejenigen, die morgen die Herausforderungen von heute lösen können.

Die Hype ist real, und das neue Zeitalter der KI ist es wert. Aber in unserer Begeisterung, die Macht dieser Technologie zu entfesseln, dürfen wir nicht die notwendigen Schutzmaßnahmen außer Acht lassen, die diese Produkte verlässlich und vertrauenswürdig machen. KI verspricht, unser Leben zum Besseren zu verändern, aber sie kann auch unermesslichen Schaden anrichten, wenn Sicherheit und Schutz nicht zum Kern des Entwicklungsprozesses gehören.

Für Silicon Valley sollte dies ein Weckruf sein: es ist Zeit, die Mentalität von “schnell handeln, Dinge brechen, dann später reparieren” hinter sich zu lassen. Denn es gibt kein “später”, wenn die Zukunft jetzt ist.