Kimberly Nevala, Director of Business Strategies at SAS – Interviewreihe

SAS ist ein globales Unternehmen für Analytics und KI, das Lösungen in den Bereichen Datenmanagement, Advanced Analytics und künstliche Intelligenz anbietet. Seine Flaggschiff-Plattform SAS Viya betont Geschwindigkeit, Skalierbarkeit und vertrauenswürdige Entscheidungsfindung für Organisationen in verschiedenen Branchen. Das Unternehmen präsentiert Einsatzbeispiele in der Betrugsbekämpfung, der Marketing-Optimierung, der IoT und des Risikomanagements und bietet kostenlose Testversionen, Schulungen und akademische Programme, um die weitverbreitete Nutzung von Analytics zu unterstützen.

Sie haben Ihre Karriere damit verbracht, Organisationen durch komplexe kulturelle, strategische und technische Transformationen zu führen – von der Managementberatung bis hin zur Leitung der Geschäftsstrategie bei SAS. Wie hat diese Reise Ihre Sicht auf das wahre Potenzial von Unternehmen, KI in einer sinnvollen und inklusiven Weise zu adoptieren, geprägt?

Trotz des umfassenden Umfangs der aufkommenden KI-Fähigkeiten und ihrer gleichwertigen seismischen Auswirkungen haben sich die grundlegenden Bausteine für die treibende technische Transformation nicht geändert. Obwohl die Auswirkungen für das Falschhandeln größer geworden sind.

Zunächst muss es eine klare Formulierung der Werte und Prioritäten der Organisation geben. Zusammen mit einem klaren Verständnis davon, wie diese Faktoren die Interaktion der Mitarbeiter oder Kunden mit der Marke beeinflussen. Als Nächstes muss es ein breites Verständnis der aufkommenden Technologie geben, einschließlich ihrer inhärenten Einschränkungen und Grenzen. Schließlich muss es Einblick in vorhersehbare Fähigkeitslücken und Barrieren für die Adoption aufgrund der oben genannten Punkte geben. Dies ist nicht nur auf technische Expertise beschränkt, sondern auch auf betriebswirtschaftliche Kenntnisse.

Alle diese Faktoren müssen dann durch robuste, aber adaptive Governance unterstützt werden. Untermauert, natürlich, durch gezielte, bewusste Investitionen in Menschen und Technologie.

Sie haben über die steigende Bedeutung von KI-Literacy als wesentliche Führungskompetenz wie strategisches Denken und finanzielle Kenntnisse gesprochen. Was sieht KI-Fluency in der Praxis für heutige Führungskräfte aus?

Der Test für praktische Fluency ist einfach. Haben Ihre Führungskräfte das notwendige Wissen, um eine vorgeschlagene KI-Lösung intelligent zu hinterfragen?

Dies bedeutet nicht, dass Führungskräfte tief in den Code eintauchen müssen. Vielmehr sollten Führungskräfte auf allen Ebenen kontextuelle Kompetenz demonstrieren. Das bedeutet, dass sie in den Faktoren ausgebildet sind, die ihre Urteilsfähigkeit über ein KI-System beeinflussen könnten. Diese Faktoren ändern sich je nach Rolle des Führungskräfts. Insbesondere je nach Umfang der Entscheidung, die sie treffen müssen.

Um es einfach auszudrücken: Der Test ist dieser: Können sie die richtigen Fragen stellen? Zum Beispiel kann ein leitender Angestellter die menschlichen und technischen Faktoren identifizieren, die den größten Einfluss auf die Machbarkeit und das Risikoprofil einer bestimmten KI-Lösung haben? Sowohl im Allgemeinen als auch in einem angewandten Kontext.

Noch besser: Verstehen sie die Grenzen der Technologie? PR und Marketing konzentrieren sich auf die Vorteile, während erfahrungsbasiertes Training die Grenzen aufzeigt. Diese Grenzen können die erforderlichen prozeduralen und technischen Schutzmechanismen für die gewinnbringende Bereitstellung einer bestimmten KI-Lösung diktieren. In diesem Zusammenhang ist der Umfang, in dem Führungskräfte diese Grenzen verstehen und identifizieren, oft der Unterschied zwischen sinnvoller Adoption und Misserfolg.

Warum ist Geschlechtergleichheit in der KI-Führung ein so entscheidendes Thema gerade jetzt – und welche Risiken laufen wir, wenn Frauen passive Nutzerinnen bleiben anstelle von aktiven Gestalterinnen der KI-Entwicklung und -Governance?

Ich habe das Privileg, mit Frauen zu arbeiten, zu sprechen und von ihnen zu lernen, die in allen Aspekten der KI tätig sind. Die Darstellung von Frauen als passive Nutzerinnen ist für mich irreführend und kindlich. Frauen sind aktiv an der Leitung von KI-Bemühungen beteiligt, wenn auch in geringerer Zahl als unsere gebildete Bevölkerung es anzeigen würde.

Geschlechterungleichheit in der Technologie ist ein vielschichtiges Problem, das der KI vorausgeht. Es gibt keine einzige Lösung, da es zahlreiche Faktoren gibt. Einige resultieren in weniger Finanzierung und/oder Anerkennung für Frauen im Bereich. Es ist bitter ironisch, dass Frauen, die breite Anerkennung erhalten, oft in verantwortungsvoller oder ethischer KI tätig sind. Zunächst als anti-KI etikettiert, wird ihre Arbeit nun neu bewertet, da die Einstellungen sich ändern.

Unabhängig davon riskieren wir ohne bewusste Intervention KI-Systeme, die bestehende Ungleichheiten in großem Umfang verschärfen. Wir sehen dies bei der Verwendung automatisierter HR-Screening- und Einstellungs-Systeme, die männliche Kandidaten aufgrund historischer Vorurteile in den Daten bevorzugen.

Ein Mangel an Vielfalt auf allen Ebenen bedeutet, dass Entscheidungen über die Art von KI-Systemen, die entwickelt werden, wie sie bereitgestellt werden, deren Perspektiven und Bedürfnisse sie ansprechen und deren nicht, von einer zunehmend isolierten Gruppe diktiert werden. Dies ist schlecht für jeden. Vielfältige Führungsteams erzielen bessere Geschäftsergebnisse. Vielfältige Produktteams liefern KI-Lösungen, die robuster, widerstandsfähiger und besser funktionieren.

Am Ende gibt es ohne die Einbeziehung vielfältiger Stimmen und die Durchsetzung von KI-Governance keine Anreize für die Adoption. Es sei denn, diese Systeme werden mit oder ohne unsere Teilnahme bereitgestellt. Durch die Einbeziehung vielfältiger Stimmen und die Durchsetzung von KI-Governance kann die Verheißung der KI eingelöst werden.

Wie denken Unternehmen mit den neuesten Innovationen von SAS – wie KI-Agenten innerhalb von SAS Viya, intelligenten Entscheidungsrahmen, synthetischen Daten-Tooling wie Data Maker und benutzerdefinierten KI-Modellen – ihre Führungs-Pipelines, um sowohl KI-Fluency als auch Gleichheit zu fördern?

Unternehmen erkennen, dass der Umfang und die Auswirkungen dieser Anwendungen die Kapazität eines einzelnen Entscheidungsträgers oder Tätigen übersteigen. Die erfolgreiche Bereitstellung von fortschrittlicher KI hängt von der Vertrauenswürdigkeit und Einbindung des “Dorfs” ab. Die potenziellen Probleme und Fallstricke sind zu umfassend, als dass ein einzelner Leiter sie effektiv angehen könnte.

Im Hinblick auf diese Realität neigen führende KI-Unternehmen dazu, partizipative Design- und Governance-Praktiken zu bevorzugen. In diesem Modell werden Fluency und Gleichheit nicht durch formale Literacy- und Schulungsprogramme oder durch HR-Initiativen allein gefördert. Sondern durch das Wissen teilen und die kollektive Entscheidungsfindung, die durch die Zusammenführung vielfältiger Perspektiven aus dem gesamten Unternehmensökosystem entsteht. Diese Zusammenarbeit ist nicht streng auf Entscheidungsträger beschränkt, sondern beinhaltet aktiv die Menschen, deren Arbeit von dem KI-System betroffen sein wird, das in Betracht gezogen wird. Obwohl dies hauptsächlich derzeit der Bereich von öffentlichen und staatlichen Agenturen ist, haben einige Organisationen externe Interessengruppen, einschließlich Kunden- und öffentlichen Interessengruppen, aktiv einbezogen.

Welche praktischen Schritte können sich aufdrängende Führungskräfte – insbesondere Frauen – heute unternehmen, um Glaubwürdigkeit und Handlungsfähigkeit in einem zunehmend von KI getriebenen Markt aufzubauen?

Erstens ist es wichtig zu erkennen, dass wir Handlungsfähigkeit besitzen. Jeder Einzelne hat die Gelegenheit, die Entwicklung von KI auf verschiedene Weise zu beeinflussen: durch die bewusste Nutzung und den Einsatz bestimmter KI-Tools; durch Lobbyarbeit und kollektive Teilnahme an Gemeinschaftsforen und lokalen Politik; durch die Teilnahme an Mitarbeiter-Interessengruppen oder Community-Champion-Netzwerken (und wenn diese nicht existieren, durch die Gründung einer solchen); und durch das Anbieten, um an KI-Programmen oder -Initiativen am Arbeitsplatz teilzunehmen.

Zweitens ist es ratsam, in die eigene Literacy zu investieren, auf welchem Niveau auch immer es für Sie sinnvoll ist. Es gibt zahlreiche Online-Ressourcen, die von Kursen über KI-Governance und -Ethik bis hin zu Online-Kursen reichen, die das gesamte Spektrum von KI-Fähigkeiten abdecken. Viele dieser Optionen werden kostenlos oder für einen nominalen Betrag angeboten.

Schließlich sollten Sie sich KI-Branchen- oder Spezialinteressen-Netzwerken anschließen und aktiv daran teilnehmen. Diese bieten die Gelegenheit, nicht nur Wissen zu teilen, sondern auch Beziehungen zu pflegen, die Mentorship, Allianzen und Glaubwürdigkeit bieten können, während Sie Ihre Expertise und Ihr Netzwerk aufbauen.

Sie haben sich immer auf kulturelle Transformation, Daten-Governance und verantwortungsvolle Technologie-Adoption konzentriert. Wie unterstützen diese grundlegenden Elemente die Entwicklung von KI-fähigen Führungskräften?

Die traditionelle Antwort ist, dass diese Grundlagen Führungskräften die Werkzeuge an die Hand geben, um Komplexität zu bewältigen, Risiken zu minimieren, Kosten zu senken und Produktivität zu steigern. All diese Ergebnisse sind wahr, jedoch ist der am wenigsten geschätzte Vorteil dieser Praktiken das Vertrauen.

Wenn diese richtig umgesetzt werden, schaffen sie eine Umgebung, in der Mitarbeiter mit Vertrauen experimentieren und innovieren können, innerhalb der Grenzen der ethischen, rechtlichen und geschäftlichen Grundlagen des Unternehmens.

Dies ist besonders wichtig, da verfügbare Lösungen von persönlichen Produktivitätstools bis hin zu in die Arbeitsabläufe integrierten Workflows reichen. Entscheidungen über die Nutzung von KI erfolgen nicht nur im Konferenzraum oder im Kontext eines formalen KI-Projekts. Von der Entwicklung bis hin zur Exploration, der Bereitstellung und darüber hinaus beeinflussen eine Vielzahl von Faktoren, wie das System funktioniert und wahrgenommen wird.

Responsives Leiten ermöglicht es Einzelpersonen und Teams auf allen Ebenen, aktiv zu experimentieren, zeitnahe Entscheidungen über die Fortsetzung von Lösungen zu treffen und innerhalb der Grenzen eines Systems von Vorschriften zu bauen.

Dieser direkte Zusammenhang zwischen verantwortungsvoller, adaptiver Innovation und Governance ist keine Hypothese mehr. IDC und SAS haben kürzlich eine Studie über den Zusammenhang zwischen verantwortungsvollen KI-Praktiken, Vertrauen und Wertrealisierung durchgeführt. Verantwortungsvolle Innovation ist kein theoretisches Gut, sondern zunehmend ein wirtschaftliches Gebot.

Aus Ihren Gesprächen auf Ihrem Pondering AI-Podcast, welche Erkenntnisse über verantwortungsvolle, inklusive Führung stehen als am wichtigsten für Organisationen, die sich einer KI-Transformation unterziehen?

Die Sprache der KI ist trickreich. Wir sprechen von KI-Systemen, die denken, halluzinieren und sogar falsch handeln. Wir konzeptualisieren KI-Systeme als Teammitglieder oder Kollegen. Als solche ist es verlockend, Annahmen und Erwartungen von Menschen auf KI zu übertragen. Damit verlieren wir den Fokus auf menschliche Verantwortung, Teilnahme und verantwortungsvolle Nutzung. Wir verdecken auch die Strenge, die erforderlich ist, um robuste, widerstandsfähige KI-Systeme zu liefern, die, wenn sie gut gemacht werden, einfach erscheinen.

Dies macht es kritisch, unser Verständnis von KI als ein inhärent menschliches Unterfangen zu zentrieren. Trotz anthropomorpher Erzählungen spiegeln KI-Systeme immer die Werte und Absichten ihrer Schöpfer wider: die Probleme, die wir lösen, die Techniken oder Modelle, die wir anwenden, die Daten, die wir für die Schulung verwenden, und wie Benutzer mit dem System interagieren. Jedes KI-System ist das Produkt dieser menschlichen Entscheidungen.

Vertrauen und Vertrauenswürdigkeit in KI-Systeme kommen nicht von der KI. Menschen entscheiden letztendlich, ob sie einen Menschen durch Automatisierung oder Ergänzung ersetzen. Es ist nicht das System, das bestimmt, welcher Genauigkeits- oder Erklärbarkeitsgrad ausreichend ist. Es ist nicht die KI, die bestimmt, welches Benutzerinteraktionsmodell am geeignetsten ist. Wenn ein Chatbot falsch handelt, hat es keine Auswirkungen auf die KI; es schädigt die Marke und den Gewinn des Unternehmens, das die KI einsetzt.

Humanzentrierte KI ist der Schlüssel.

Viele Organisationen haben fortschrittliche KI-Toolsets, aber kämpfen immer noch mit Kultur, Governance und Inklusion. Aus Ihrer Erfahrung, welche Eingriffe oder Denkweisen helfen Organisationen, diese Lücke effektiv zu überbrücken?

KI, wie viele aufkommende Technologien, unterliegt der gleichen Hype-Kurve wie ihre Vorgänger. Während der Ära von Big Data war es modern, datengetrieben zu sein. Wenige Organisationen haben ihre Vision umgesetzt. Diejenigen, die es taten, waren diszipliniert darin, identifizierbare Probleme zu lösen, wie z. B. die Reduzierung der Erfüllungszeiten für X oder die Ermöglichung von Selbstbedienung für Y. Es ist kein Zufall, dass viele dieser Unternehmen heute Branchenführer in der KI sind.

Bei der Identifizierung von KI-Initiativen sollten Sie mit klaren Geschäftszielen und messbaren Ergebnissen beginnen und dann identifizieren, welche verfügbaren KI-Techniken für den Zweck geeignet sind. Widerstehen Sie dem Drang, auffällig zu sein. Innovative Lösungen für langweilige Probleme bringen letztendlich Dividenden. Beschäftigen Sie sich mit langweiligen, wiederkehrenden Prozessen und Aufgaben, die im großen Maßstab auftreten.

Sie werden es nicht immer richtig machen. Aber durch die Konzentration Ihrer Aufmerksamkeit und Investitionen mit dem Geschäftsergebnis im Blick können Sie die höchste Wahrscheinlichkeit von Erfolg erzielen.

Wenn KI-Systeme autonomer und in die Entscheidungsfindung integrierter werden – durch Tools wie KI-Agenten und Co-Piloten-Assistenten – welche ethischen Schutzmechanismen oder Governance-Strukturen sind Ihrer Meinung nach unerlässlich, um Vertrauen, Transparenz und Gleichheit in der Führung aufrechtzuerhalten?

Bei SAS definieren wir KI-Governance durch die Linse von Aufsicht, Compliance, Betrieb und Kultur. Unabhängig davon, welches Framework Sie annehmen, möchte ich zwei Faktoren hervorheben.

Der erste ist, dass jede KI-Anwendung, auch wenn sie auf dem gleichen zugrunde liegenden Modell oder den gleichen Daten basiert, unabhängig und kontinuierlich bewertet werden muss. Was für das Marketing funktioniert, funktioniert möglicherweise nicht für die Finanzen. Ein akzeptabler Halluzinations- bzw. Fehlerrate für Mitarbeiter wird nicht für Kundeninteraktionen ausreichend sein. Darüber hinaus können sich aufgrund ihrer probabilistischen Natur Verschiebungen im Benutzerverhalten, im Datenfluss und in einer Vielzahl anderer Faktoren schnell zu einer Änderung des Verhaltens und der Ausgaben eines KI-Systems ändern.

Der zweite ist, dass KI-Ethik und -Governance nicht im Vakuum existieren. Die Natur dieser Lösungen erfordert die Zusammenarbeit mit Corporate Governance, rechtlicher und regulatorischer Compliance, Unternehmensrisikomanagement und Cybersicherheit. Durch die Nutzung und Erweiterung dieser Praktiken anstelle von Neuerfindung kann ein guter Start gewährleistet werden.

Wie sehen Sie die zukünftige Entwicklung der Führungskompetenzen in einer von KI getriebenen Welt – und welche Auswirkungen haben Organisationen, die diese neue Fluency nicht kultivieren?

Ich glaube, dass Voraussicht und Widerstandsfähigkeit immer wichtiger werden. Der schnelle Wandel erfordert, dass Führungskräfte kontinuierlich Geschäftsstrategien und -taktiken im Laufe der technologischen Entwicklung bewerten und anpassen. Führungskräfte müssen Wert, Machbarkeit und Risiko über verschiedene Zeithorizonte und Perspektiven hinweg bewerten. Angesichts der soziotechnischen Natur der KI müssen diese Perspektiven zunehmend nicht nur Aktionäre, sondern auch Kunden, Mitarbeiter und gelegentlich die Gesellschaft als Ganzes umfassen. Voraussicht ist erforderlich, um diese Landschaft zu navigieren.

Widerstandsfähigkeit ist auch ein Faktor in der KI. Wie Jordan Loewen-Colón eloquently in Bezug auf KI-Adoption und -Governance bemerkt: KI ist ein Prozess, kein Schalter. Die Fähigkeit, absichtlich zu lernen, sich anzupassen und kontinuierlich zu verbessern, während man den allgemeinen Kurs beibehält, wird Führungskräfte von den anderen unterscheiden.

Vielen Dank für das großartige Interview. Leser, die mehr erfahren möchten, sollten SAS besuchen.