Grace Yee, Senior Director of Ethical Innovation (AI Ethics and Accessibility) at Adobe – Interview Series

Grace Yee ist die Senior Director of Ethical Innovation (AI Ethics and Accessibility) bei Adobe, wo sie globale, organisationsweite Arbeiten im Bereich Ethik leitet und Prozesse, Tools, Schulungen und andere Ressourcen entwickelt, um sicherzustellen, dass Adobes branchenführende AI-Innovationen kontinuierlich im Einklang mit Adobes Kernwerten und ethischen Grundsätzen weiterentwickelt werden. Grace fördert Adobes Engagement für den verantwortungsvollen Aufbau und Einsatz von Technologie, indem sie Ethik und Inklusivität in all Adobes Arbeiten zur Entwicklung von KI in den Vordergrund stellt. Im Rahmen dieser Arbeit leitet Grace Adobes AI-Ethik-Komitee und -Prüfungsausschuss, der Empfehlungen gibt, um Adobes Entwicklungsteams zu unterstützen und neue KI-Funktionen und -Produkte zu überprüfen, um sicherzustellen, dass sie Adobes Grundsätzen von Rechenschaftspflicht, Verantwortung und Transparenz entsprechen. Diese Grundsätze helfen sicherzustellen, dass wir unsere KI-gestützten Funktionen auf den Markt bringen, während wir schädliche und voreingenommene Ergebnisse minimieren. Grace arbeitet zusätzlich mit dem Politikteam zusammen, um Lobbyarbeit zu betreiben und öffentliche Richtlinien, Gesetze und Vorschriften im Bereich KI zum Wohle der Gesellschaft zu gestalten.

Im Rahmen von Adobes Engagement für Barrierefreiheit stellt Grace sicher, dass Adobes Produkte für alle Benutzer zugänglich und inklusiv sind, damit jeder digitale Erfahrungen erstellen, interagieren und nutzen kann. Unter ihrer Führung arbeitet Adobe mit Regierungsgruppen, Branchenverbänden und Benutzergemeinschaften zusammen, um Richtlinien und Standards für Barrierefreiheit zu fördern und zu entwickeln, um branchenweite Lösungen mit großer Wirkung zu erzielen.

Können Sie uns über Adobes Reise in den letzten fünf Jahren im Bereich KI-Ethik berichten? Welche wichtigen Meilensteine haben diese Entwicklung geprägt, insbesondere angesichts der schnellen Fortschritte wie generative KI?

Vor fünf Jahren haben wir unseren KI-Ethik-Prozess formalisiert, indem wir unsere KI-Ethik-Grundsätze von Rechenschaftspflicht, Verantwortung und Transparenz festgelegt haben, die die Grundlage für unseren KI-Ethik-Regierungsprozess bilden. Wir haben ein diverses, cross-funktionales Team von Adobe-Mitarbeitern aus der ganzen Welt zusammengestellt, um handhabbare Grundsätze zu entwickeln, die der Zeit standhalten können.

Von dort aus haben wir einen robusten Überprüfungsprozess entwickelt, um potenzielle Risiken und Vorurteile frühzeitig im KI-Entwicklungszyklus zu identifizieren und zu mindern. Diese mehrteilige Bewertung hat uns geholfen, Funktionen und Produkte zu identifizieren und zu adressieren, die schädliche Vorurteile und Stereotypen verewigen könnten.

Als generative KI aufkam, haben wir unsere KI-Ethik-Bewertung an die neuen ethischen Herausforderungen angepasst. Dieser iterative Prozess hat es uns ermöglicht, potenzielle Probleme im Voraus zu erkennen und sicherzustellen, dass unsere KI-Technologien verantwortungsvoll entwickelt und eingesetzt werden. Unser Engagement für kontinuierliches Lernen und Zusammenarbeit mit verschiedenen Teams im Unternehmen war entscheidend, um die Relevanz und Wirksamkeit unseres KI-Ethik-Programms zu erhalten und letztendlich die Erfahrung zu verbessern, die wir unseren Kunden bieten, und Inklusivität zu fördern.

Wie übersetzen sich Adobes KI-Ethik-Grundsätze – Rechenschaftspflicht, Verantwortung und Transparenz – in den täglichen Betrieb? Können Sie Beispiele nennen, wie diese Grundsätze Adobes KI-Projekte geleitet haben?

Wir halten uns an Adobes KI-Ethik-Verpflichtungen in unseren KI-gestützten Funktionen, indem wir robuste Ingenieurspraktiken umsetzen, die verantwortungsvolle Innovation sicherstellen, und kontinuierlich Feedback von unseren Mitarbeitern und Kunden sammeln, um notwendige Anpassungen vorzunehmen.

Neue KI-Funktionen unterziehen wir einer gründlichen ethischen Bewertung, um potenzielle Vorurteile und Risiken zu identifizieren und zu mindern. Als wir Adobe Firefly, unsere Familie von generativen KI-Modellen, einführten, unterzogen wir es einer Bewertung, um zu verhindern, dass es Inhalte generiert, die schädliche Stereotypen verewigen könnten. Diese Bewertung ist ein iterativer Prozess, der auf der engen Zusammenarbeit mit Produktteams basiert und Feedback und Erkenntnisse einbezieht, um relevant und wirksam zu bleiben. Wir führen auch Risikobewertungen mit Produktteams durch, um die potenziellen Auswirkungen zu verstehen und geeignete Test- und Feedback-Mechanismen zu entwerfen.

Wie geht Adobe mit Bedenken im Zusammenhang mit Vorurteilen in KI um, insbesondere in Tools, die von einer globalen, vielfältigen Benutzerbasis verwendet werden? Können Sie ein Beispiel nennen, wie ein Vorurteil in einer bestimmten KI-Funktion identifiziert und gemindert wurde?

Wir entwickeln unsere KI-Ethik-Bewertung und -Überprüfungsprozesse kontinuierlich in enger Zusammenarbeit mit unseren Produkt- und Ingenieursteams weiter. Die KI-Ethik-Bewertung, die wir vor einigen Jahren hatten, ist anders als die, die wir jetzt haben, und ich erwarte weitere Veränderungen in der Zukunft. Dieser iterative Ansatz ermöglicht es uns, neue Erkenntnisse zu integrieren und aufkommende ethische Bedenken zu adressieren, während Technologien wie Firefly evolvieren.

Zum Beispiel, als wir Firefly multilinguale Unterstützung hinzufügten, stellte mein Team fest, dass es nicht die gewünschten Ergebnisse lieferte und einige Wörter unbeabsichtigt blockierte. Um dies zu mindern, arbeiteten wir eng mit unserem Internationalisierungsteam und muttersprachlichen Sprechern zusammen, um unsere Modelle zu erweitern und länderspezifische Begriffe und Konnotationen abzudecken.

Unser Engagement für die Weiterentwicklung unseres Bewertungsansatzes, während die Technologie fortschreitet, hilft Adobe, Innovation mit ethischer Verantwortung in Einklang zu bringen. Durch die Förderung eines inklusiven und responsiven Prozesses stellen wir sicher, dass unsere KI-Technologien den höchsten Standards von Transparenz und Integrität entsprechen und Kreatoren in die Lage versetzen, unsere Tools mit Vertrauen zu verwenden.

Mit Ihrem Engagement in der Gestaltung öffentlicher Richtlinien, wie navigiert Adobe die Schnittstelle zwischen sich schnell ändernden KI-Regulierungen und Innovation? Welche Rolle spielt Adobe bei der Gestaltung dieser Regulierungen?

Wir engagieren uns aktiv mit politischen Entscheidungsträgern und Branchenverbänden, um Richtlinien zu gestalten, die Innovation mit ethischen Überlegungen in Einklang bringen. Unsere Diskussionen mit politischen Entscheidungsträgern konzentrieren sich auf unseren Ansatz zur KI und die Bedeutung der Entwicklung von Technologie, um menschliche Erfahrungen zu verbessern. Regulierungsbehörden suchen nach praktischen Lösungen für aktuelle Herausforderungen, und indem wir Rahmenwerke wie unsere KI-Ethik-Grundsätze vorstellen – die gemeinsam entwickelt und konsistent in unseren KI-gestützten Funktionen angewendet werden -, fördern wir produktivere Diskussionen. Es ist entscheidend, konkrete Beispiele auf den Tisch zu bringen, die zeigen, wie unsere Grundsätze in der Praxis funktionieren, und reale Auswirkungen zu demonstrieren, anstatt abstrakte Konzepte zu diskutieren.

Welche ethischen Überlegungen priorisiert Adobe, wenn es um die Beschaffung von Trainingsdaten für seine KI-Modelle geht, und wie stellt das Unternehmen sicher, dass die verwendeten Datensätze ethisch und ausreichend robust für die Bedürfnisse der KI sind?

Bei Adobe priorisieren wir mehrere wichtige ethische Überlegungen, wenn es um die Beschaffung von Trainingsdaten für unsere KI-Modelle geht. Als Teil unseres Bemühens, Firefly so zu gestalten, dass es kommerziell sicher ist, trainierten wir es auf einem Datensatz lizenzierter Inhalte wie Adobe Stock und öffentlichen Inhalten, deren Urheberrechte abgelaufen sind. Wir konzentrierten uns auch auf die Vielfalt der Datensätze, um zu verhindern, dass unser Modell schädliche Vorurteile und Stereotypen verewigt. Um dies zu erreichen, arbeiten wir mit diversen Teams und Experten zusammen, um die Daten zu überprüfen und zu kuratieren. Durch die Einhaltung dieser Praktiken streben wir danach, KI-Technologien zu schaffen, die nicht nur leistungsfähig und effektiv sind, sondern auch ethisch und inklusiv für alle Benutzer.

Wie wichtig ist Transparenz, wenn es darum geht, den Benutzern zu erklären, wie Adobes KI-Systeme wie Firefly trainiert werden und welche Art von Daten verwendet wird?

Transparenz ist entscheidend, wenn es darum geht, den Benutzern zu erklären, wie Adobes generative KI-Funktionen wie Firefly trainiert werden, einschließlich der verwendeten Datentypen. Sie schafft Vertrauen und Vertrauen in unsere Technologien, indem sie sicherstellt, dass die Benutzer die Prozesse hinter unserer KI-Entwicklung verstehen. Durch die Offenlegung unserer Datenquellen, Trainingsmethoden und der ethischen Sicherheitsvorkehrungen, die wir getroffen haben, ermöglichen wir es den Benutzern, informierte Entscheidungen über ihre Interaktion mit unseren Produkten zu treffen. Diese Transparenz steht nicht nur im Einklang mit unseren Kern-KI-Ethik-Grundsätzen, sondern fördert auch eine partnerschaftliche Beziehung zu unseren Benutzern.

Wenn KI weiter skaliert, insbesondere generative KI, welche ethischen Herausforderungen werden Unternehmen wie Adobe in naher Zukunft am meisten gegenüberstehen?

Ich glaube, dass die wichtigsten ethischen Herausforderungen für Unternehmen wie Adobe darin bestehen, schädliche Vorurteile zu mindern, Inklusivität zu gewährleisten und das Vertrauen der Benutzer aufrechtzuerhalten. Die Möglichkeit, dass KI unbeabsichtigt Vorurteile verewigt oder schädliche und irreführende Inhalte generiert, ist eine Sorge, die kontinuierliche Wachsamkeit und robuste Sicherheitsvorkehrungen erfordert. Zum Beispiel ist es mit den jüngsten Fortschritten in der generativen KI leichter denn je für “schlechte Akteure”, täuschende Inhalte zu erstellen, Fehlinformationen zu verbreiten und die öffentliche Meinung zu manipulieren, was Vertrauen und Transparenz untergräbt.

Um dies zu adressieren, gründete Adobe 2019 die Content Authenticity Initiative (CAI), um ein vertrauenswürdigeres und transparenteres digitales Ökosystem für Verbraucher zu schaffen. Die CAI implementiert unsere Lösung, um Vertrauen im Internet aufzubauen – genannt Content Credentials. Content Credentials umfassen “Zutaten” oder wichtige Informationen wie den Namen des Erstellers, das Datum, an dem ein Bild erstellt wurde, die verwendeten Tools und alle vorgenommenen Bearbeitungen. Dies ermöglicht es den Benutzern, eine digitale Kette von Vertrauen und Authentizität zu schaffen.

Wenn generative KI weiter skaliert, wird es noch wichtiger, die weitverbreitete Akzeptanz von Content Credentials zu fördern, um Vertrauen in digitale Inhalte wiederherzustellen.

Welchen Rat würden Sie anderen Organisationen geben, die gerade beginnen, über ethische Rahmenbedingungen für die KI-Entwicklung nachzudenken?

Mein Rat wäre, mit der Festlegung klarer, einfacher und praktischer Grundsätze zu beginnen, die Ihre Bemühungen leiten können. Oft sehe ich Unternehmen oder Organisationen, die sich auf das konzentrieren, was in der Theorie gut aussieht, aber ihre Grundsätze sind nicht praktikabel. Der Grund, warum unsere Grundsätze der Zeit standgehalten haben, liegt darin, dass wir sie so gestaltet haben, dass sie handhabbar sind. Wenn wir unsere KI-gestützten Funktionen bewerten, wissen unsere Produkt- und Ingenieursteams, wonach wir suchen und welche Standards wir von ihnen erwarten.

Ich würde auch empfehlen, dass Organisationen in diesen Prozess eintreten, indem sie wissen, dass er iterativ sein wird. Ich weiß vielleicht nicht, was Adobe in fünf oder zehn Jahren erfinden wird, aber ich weiß, dass wir unsere Bewertung an die Innovationen und das Feedback anpassen werden, das wir erhalten.

Vielen Dank für das großartige Interview. Leser, die mehr erfahren möchten, sollten Adobe besuchen.