Grace Yee, Senior Director of Ethical Innovation (Künstliche Intelligenz-Ethik und Barrierefreiheit) bei Adobe – Interview-Serie

Grace Yee ist die Senior Director of Ethical Innovation (Künstliche Intelligenz-Ethik und Barrierefreiheit) bei Adobe (ADBE ), wo sie globale, unternehmensweite Arbeiten im Bereich Ethik leitet und Prozesse, Tools, Schulungen und andere Ressourcen entwickelt, um sicherzustellen, dass Adobes künstliche Intelligenz-Innovationen kontinuierlich im Einklang mit Adobes Kernwerten und ethischen Grundsätzen weiterentwickelt werden. Grace fördert Adobes Engagement für die verantwortungsvolle Entwicklung und Nutzung von Technologie, indem sie Ethik und Inklusivität in all Adobes Arbeiten zur Entwicklung von künstlicher Intelligenz in den Vordergrund stellt. Als Teil dieser Arbeit leitet Grace Adobes Künstliche Intelligenz-Ethik-Komitee und -Prüfungsausschuss, der Empfehlungen zur Unterstützung von Adobes Entwicklungsteams und zur Überprüfung neuer künstlicher Intelligenz-Features und -Produkte gibt, um sicherzustellen, dass diese Adobes Grundsätze von Rechenschaftspflicht, Verantwortung und Transparenz erfüllen. Diese Grundsätze helfen uns, unsere künstlichen Intelligenz-Features auf den Markt zu bringen, während wir schädliche und voreingenommene Ergebnisse minimieren. Grace arbeitet zusätzlich mit dem Politik-Team zusammen, um die Förderung von Advocacy zu unterstützen, um öffentliche Richtlinien, Gesetze und Vorschriften im Bereich künstlicher Intelligenz zum Wohl der Gesellschaft zu gestalten.

Als Teil von Adobes Engagement für Barrierefreiheit hilft Grace sicherzustellen, dass Adobes Produkte für alle Benutzer zugänglich und inklusiv sind, damit jeder digitale Erfahrungen erstellen, interagieren und nutzen kann. Unter ihrer Leitung arbeitet Adobe mit Regierungsgruppen, Branchenverbänden und Benutzergemeinschaften zusammen, um Barrierefreiheits-Richtlinien und -Standards zu fördern und zu entwickeln, um branchenweite Lösungen zu entwickeln.

Können Sie uns von Adobes Reise in den letzten fünf Jahren im Bereich Künstliche Intelligenz-Ethik erzählen? Welche wichtigen Meilensteine haben diese Entwicklung geprägt, insbesondere im Hinblick auf rasche Fortschritte wie generative künstliche Intelligenz?

Vor fünf Jahren haben wir unseren Künstliche Intelligenz-Ethik-Prozess formalisiert, indem wir unsere Künstliche Intelligenz-Ethik-Grundsätze von Rechenschaftspflicht, Verantwortung und Transparenz etabliert haben, die als Grundlage für unseren Künstliche Intelligenz-Ethik-Regierungsprozess dienen. Wir haben ein diverses, cross-funktionales Team von Adobe-Mitarbeitern aus der ganzen Welt zusammengestellt, um handhabbare Grundsätze zu entwickeln, die der Zeit standhalten können.

Danach haben wir einen umfassenden Überprüfungsprozess entwickelt, um potenzielle Risiken und Voreingenommenheiten frühzeitig im Künstliche Intelligenz-Entwicklungszyklus zu identifizieren und zu mindern. Diese mehrteilige Bewertung hat uns geholfen, Funktionen und Produkte zu identifizieren und zu adressieren, die schädliche Voreingenommenheiten und Stereotypen aufrechterhalten könnten.

Als generative künstliche Intelligenz aufkam, haben wir unsere Künstliche Intelligenz-Ethik-Bewertung an die neuen ethischen Herausforderungen angepasst. Dieser iterative Prozess hat es uns ermöglicht, potenzielle Probleme zuvorzukommen und sicherzustellen, dass unsere künstlichen Intelligenz-Technologien verantwortungsvoll entwickelt und eingesetzt werden. Unser Engagement für kontinuierliches Lernen und Zusammenarbeit mit verschiedenen Teams im Unternehmen war entscheidend, um die Relevanz und Wirksamkeit unseres Künstliche Intelligenz-Ethik-Programms aufrechtzuerhalten und letztendlich die Erfahrung, die wir unseren Kunden bieten, zu verbessern und Inklusivität zu fördern.

Wie übersetzen sich Adobes Künstliche Intelligenz-Ethik-Grundsätze – Rechenschaftspflicht, Verantwortung und Transparenz – in den täglichen Betrieb? Können Sie Beispiele nennen, wie diese Grundsätze Adobes Künstliche Intelligenz-Projekte geleitet haben?

Wir halten uns an Adobes Künstliche Intelligenz-Ethik-Verpflichtungen in unseren künstlichen Intelligenz-Features, indem wir robuste Ingenieurspraktiken umsetzen, die verantwortungsvolle Innovation sicherstellen, und kontinuierlich Feedback von unseren Mitarbeitern und Kunden sammeln, um notwendige Anpassungen vorzunehmen.

Neue künstliche Intelligenz-Features unterziehen wir einer gründlichen ethischen Bewertung, um potenzielle Voreingenommenheiten und Risiken zu identifizieren und zu mindern. Als wir Adobe Firefly, unsere Familie von generativen künstlichen Intelligenz-Modellen, einführten, unterzogen wir es einer Bewertung, um zu verhindern, dass es Inhalte generiert, die schädliche Stereotypen aufrechterhalten könnten. Diese Bewertung ist ein iterativer Prozess, der auf der engen Zusammenarbeit mit Produktteams basiert und Feedback und Erkenntnisse einbezieht, um relevant und effektiv zu bleiben. Wir führen auch Risiko-Entdeckungsübungen mit Produktteams durch, um die potenziellen Auswirkungen zu verstehen und geeignete Test- und Feedback-Mechanismen zu entwerfen.

Wie geht Adobe mit Bedenken im Zusammenhang mit Voreingenommenheit in künstlicher Intelligenz um, insbesondere in Tools, die von einem globalen, vielfältigen Benutzerkreis verwendet werden? Können Sie ein Beispiel nennen, wie Voreingenommenheit in einem bestimmten künstlichen Intelligenz-Feature identifiziert und gemindert wurde?

Wir entwickeln unsere Künstliche Intelligenz-Ethik-Bewertung und -Überprüfungsprozesse kontinuierlich in enger Zusammenarbeit mit unseren Produkt- und Ingenieursteams weiter. Die Künstliche Intelligenz-Ethik-Bewertung, die wir vor einigen Jahren hatten, unterscheidet sich von der, die wir jetzt haben, und ich erwarte weitere Veränderungen in der Zukunft. Dieser iterative Ansatz ermöglicht es uns, neue Erkenntnisse und aufkommende ethische Bedenken zu berücksichtigen, während Technologien wie Firefly sich weiterentwickeln.

Als Beispiel: Als wir Firefly mit multilingualer Unterstützung ausstatteten, stellte mein Team fest, dass es nicht die gewünschten Ergebnisse lieferte und einige Wörter unbeabsichtigt blockierte. Um dies zu mindern, arbeiteten wir eng mit unserem Internationalisierungsteam und muttersprachlichen Sprechern zusammen, um unsere Modelle zu erweitern und länderspezifische Begriffe und Konnotationen abzudecken.

Unser Engagement für die Weiterentwicklung unseres Bewertungsansatzes, während die Technologie fortschreitet, hilft Adobe, Innovation mit ethischer Verantwortung in Einklang zu bringen. Durch die Förderung eines inklusiven und reaktionsfähigen Prozesses stellen wir sicher, dass unsere künstlichen Intelligenz-Technologien den höchsten Standards von Transparenz und Integrität entsprechen und Kreatoren in die Lage versetzen, unsere Tools mit Vertrauen zu nutzen.

Wie navigiert Adobe die Schnittstelle zwischen rasch verändernden künstlichen Intelligenz-Regulierungen und Innovation? Welche Rolle spielt Adobe bei der Gestaltung dieser Regulierungen?

Wir engagieren uns aktiv mit politischen Entscheidungsträgern und Branchenverbänden, um Richtlinien zu gestalten, die Innovation mit ethischen Überlegungen in Einklang bringen. Unsere Diskussionen mit politischen Entscheidungsträgern konzentrieren sich auf unseren Ansatz zur künstlichen Intelligenz und die Bedeutung der Entwicklung von Technologie, um menschliche Erfahrungen zu verbessern. Regulierungsbehörden suchen nach praktischen Lösungen, um aktuelle Herausforderungen anzugehen, und indem wir Rahmenwerke wie unsere Künstliche Intelligenz-Ethik-Grundsätze vorstellen – die gemeinsam entwickelt und konsistent in unseren künstlichen Intelligenz-Features umgesetzt werden – fördern wir produktivere Diskussionen. Es ist entscheidend, konkrete Beispiele auf den Tisch zu bringen, die zeigen, wie unsere Grundsätze in der Praxis funktionieren und reale Auswirkungen haben, anstatt abstrakte Konzepte zu diskutieren.

Welche ethischen Überlegungen priorisiert Adobe bei der Beschaffung von Trainingsdaten, und wie stellt das Unternehmen sicher, dass die verwendeten Datensätze ethisch und ausreichend robust für die Bedürfnisse der künstlichen Intelligenz sind?

Bei Adobe priorisieren wir mehrere wichtige ethische Überlegungen bei der Beschaffung von Trainingsdaten für unsere künstlichen Intelligenz-Modelle. Als Teil unseres Bemühens, Firefly sicher und kommerziell einsetzbar zu machen, trainierten wir es auf einem Datensatz lizenzierter Inhalte wie Adobe Stock und öffentlich zugänglicher Inhalte, deren Urheberrechte abgelaufen sind. Wir konzentrierten uns auch auf die Vielfalt der Datensätze, um zu vermeiden, schädliche Voreingenommenheiten und Stereotypen in den Ausgaben unseres Modells zu verstärken. Um dies zu erreichen, arbeiten wir mit diversen Teams und Experten zusammen, um die Daten zu überprüfen und zu kuratieren. Durch die Einhaltung dieser Praktiken streben wir danach, künstliche Intelligenz-Technologien zu schaffen, die nicht nur leistungsfähig und effektiv, sondern auch ethisch und inklusiv für alle Benutzer sind.

Wie wichtig ist Transparenz bei der Kommunikation mit Benutzern darüber, wie Adobes künstliche Intelligenz-Systeme wie Firefly trainiert werden und welche Art von Daten verwendet wird?

Transparenz ist entscheidend, wenn es darum geht, Benutzern zu erklären, wie Adobes generative künstliche Intelligenz-Features wie Firefly trainiert werden, einschließlich der verwendeten Datentypen. Sie schafft Vertrauen und Zuversicht in unsere Technologien, indem sie Benutzern hilft, die Prozesse hinter unserer generativen künstlichen Intelligenz-Entwicklung zu verstehen. Durch die Offenheit über unsere Datenquellen, Trainingsmethoden und die ethischen Sicherheitsvorkehrungen, die wir getroffen haben, ermöglichen wir Benutzern, informierte Entscheidungen darüber zu treffen, wie sie mit unseren Produkten interagieren. Diese Transparenz steht nicht nur im Einklang mit unseren Kern-Künstliche Intelligenz-Ethik-Grundsätzen, sondern fördert auch eine kooperative Beziehung zu unseren Benutzern.

Was sind Ihrer Meinung nach die größten ethischen Herausforderungen, denen Unternehmen wie Adobe in naher Zukunft gegenüberstehen werden, insbesondere im Bereich generativer künstlicher Intelligenz?

Ich glaube, dass die größten ethischen Herausforderungen für Unternehmen wie Adobe die Minderung schädlicher Voreingenommenheiten, die Gewährleistung von Inklusivität und die Aufrechterhaltung des Vertrauens der Benutzer sind. Die Möglichkeit, dass künstliche Intelligenz unbeabsichtigt Stereotypen oder schädliche und irreführende Inhalte aufrechterhält, ist eine Sorge, die kontinuierliche Wachsamkeit und robuste Sicherheitsvorkehrungen erfordert. Zum Beispiel ermöglicht es die jüngste Entwicklung generativer künstlicher Intelligenz es “schlechten Akteuren”, täuschende Inhalte zu erstellen, Fehlinformationen zu verbreiten und die öffentliche Meinung zu manipulieren, was Vertrauen und Transparenz untergräbt.

Um dies zu adressieren, gründete Adobe 2019 die Content Authenticity Initiative (CAI), um ein vertrauenswürdigeres und transparenteres digitales Ökosystem für Verbraucher zu schaffen. Die CAI implementiert unsere Lösung, um Vertrauen online aufzubauen – genannt Content Credentials. Content Credentials umfassen “Zutaten” oder wichtige Informationen wie den Namen des Erstellers, das Datum der Erstellung, die verwendeten Tools und etwaige Bearbeitungen, die vorgenommen wurden. Dies ermöglicht Benutzern, eine digitale Kette von Vertrauen und Authentizität zu erstellen.

Wenn generative künstliche Intelligenz weiter skaliert, wird es noch wichtiger, die weitverbreitete Akzeptanz von Content Credentials zu fördern, um Vertrauen in digitale Inhalte wiederherzustellen.

Was würden Sie anderen Organisationen raten, die gerade beginnen, über ethische Rahmenbedingungen für die Entwicklung von künstlicher Intelligenz nachzudenken?

Mein Rat wäre, mit der Etablierung klarer, einfacher und praktischer Grundsätze zu beginnen, die Ihre Bemühungen leiten können. Oft sehe ich Unternehmen oder Organisationen, die sich auf das konzentrieren, was in der Theorie gut aussieht, aber deren Grundsätze nicht praktikabel sind. Der Grund, warum unsere Grundsätze der Zeit standgehalten haben, liegt darin, dass wir sie handhabbar gestaltet haben. Wenn wir unsere künstlichen Intelligenz-Features bewerten, wissen unsere Produkt- und Ingenieursteams, worauf wir achten und welche Standards wir von ihnen erwarten.

Ich würde auch empfehlen, dass Organisationen in diesen Prozess eintreten, wissend, dass er iterativ sein wird. Ich weiß vielleicht nicht, was Adobe in fünf oder zehn Jahren erfinden wird, aber ich weiß, dass wir unsere Bewertung anpassen werden, um diesen Innovationen und dem Feedback, das wir erhalten, gerecht zu werden.

Vielen Dank für das großartige Interview. Leser, die mehr erfahren möchten, sollten Adobe besuchen.