Grace Yee, Senior Director of Ethical Innovation (AI Ethics en Toegankelijkheid) bij Adobe – Interviewreeks

Grace Yee is de Senior Director of Ethical Innovation (AI Ethics en Toegankelijkheid) bij Adobe (ADBE ), waar ze wereldwijd, organisatiebrede werkzaamheden leidt op het gebied van ethiek en processen, tools, trainingen en andere bronnen ontwikkelt om ervoor te zorgen dat Adobe’s baanbrekende AI-innovaties voortdurend evolueren in overeenstemming met Adobe’s kernwaarden en ethische principes. Grace zet Adobe’s engagement voort om verantwoordelijk technologie te ontwikkelen en te gebruiken, met ethiek en inclusiviteit centraal in al het werk van het bedrijf bij de ontwikkeling van AI. Als onderdeel van dit werk, leidt Grace Adobe’s AI Ethics Committee en Review Board, die aanbevelingen doet om Adobe’s ontwikkelteams te helpen en nieuwe AI-functies en producten te beoordelen om ervoor te zorgen dat ze voldoen aan Adobe’s principes van verantwoordelijkheid, aansprakelijkheid en transparantie. Deze principes helpen ervoor zorgen dat we onze AI-gebaseerde functies op de markt brengen terwijl we schadelijke en bevooroordeelde resultaten mitigeren. Grace werkt ook samen met het beleidsteam om advocacy te stimuleren en helpt bij het vormgeven van het openbaar beleid, wetten en regelgeving rondom AI ten behoeve van de samenleving.

Als onderdeel van Adobe’s engagement voor toegankelijkheid, zorgt Grace ervoor dat Adobe’s producten inclusief en toegankelijk zijn voor alle gebruikers, zodat iedereen digitale ervaringen kan creëren, interactie hebben en engageren. Onder haar leiding werkt Adobe samen met overheidsinstanties, handelsverenigingen en gebruikersgemeenschappen om toegankelijkheidsbeleid en -normen te bevorderen en te ontwikkelen, waardoor impactvolle industrieoplossingen ontstaan.

Kunt u ons vertellen over Adobe’s reis van de afgelopen vijf jaar in het vormgeven van AI-ethiek? Wat zijn de belangrijkste mijlpalen die deze evolutie hebben gedefinieerd, vooral in het licht van snelle vooruitgang zoals generatieve AI?

Vijf jaar geleden hebben we ons AI-ethiekproces geformaliseerd door onze AI-ethiekprincipes van verantwoordelijkheid, aansprakelijkheid en transparantie vast te stellen, die dienen als de basis voor ons AI-ethiekbeleid. We hebben een diverse, cross-functionele team van Adobe-medewerkers van over de hele wereld samengesteld om actiegerichte principes te ontwikkelen die de tand des tijds kunnen doorstaan.

Van daaruit hebben we een robuust beoordelingsproces ontwikkeld om potentiële risico’s en bevooroordeeldheden vroeg in de AI-ontwikkelingscyclus te identificeren en te mitigeren. Deze meerdere beoordeling heeft ons geholpen om functies en producten te identificeren en aan te pakken die schadelijke bevooroordeeldheden en stereotypen kunnen versterken.

Toen generatieve AI opkwam, hebben we ons AI-ethiekbeoordelingsproces aangepast om nieuwe ethische uitdagingen aan te pakken. ​Deze iteratieve proces heeft ons in staat gesteld om vooruit te blijven op potentiële problemen, ervoor zorgend dat onze AI-technologieën verantwoordelijk worden ontwikkeld en ingezet. ​Ons engagement voor continue leren en samenwerking met diverse teams in het hele bedrijf is cruciaal geweest om de relevantie en effectiviteit van ons AI-ethiekprogramma te behouden, waardoor we de ervaring die we aan onze klanten bieden, verhogen en inclusiviteit bevorderen. ​

Hoe vertalen Adobe’s AI-ethiekprincipes—verantwoordelijkheid, aansprakelijkheid en transparantie—zich in de dagelijkse operaties? Kunt u enkele voorbeelden geven van hoe deze principes Adobe’s AI-projecten hebben geleid?

We houden ons aan Adobe’s AI-ethiekverplichtingen in onze AI-gebaseerde functies door robuuste ingenieurspraktijken te implementeren die verantwoordelijke innovatie waarborgen, terwijl we voortdurend feedback verzamelen van onze medewerkers en klanten om noodzakelijke aanpassingen mogelijk te maken.

Nieuwe AI-functies ondergaan een grondige ethische beoordeling om potentiële bevooroordeeldheden en risico’s te identificeren en te mitigeren. Toen we Adobe Firefly introduceerden, onze familie van generatieve AI-modellen, onderging het een evaluatie om te mitigeren tegen het genereren van inhoud die schadelijke stereotypen kan versterken. ​Deze evaluatie is een iteratief proces dat evolueert op basis van nauwe samenwerking met productteams, waarin feedback en inzichten worden geïntegreerd om relevant en effectief te blijven. We voeren ook risicovondst-oefeningen uit met productteams om de potentiële impact te begrijpen en passende test- en feedbackmechanismen te ontwerpen. ​

Hoe adresseert Adobe zorgen met betrekking tot bevooroordeeldheid in AI, vooral in tools die door een wereldwijd, divers gebruikersbestand worden gebruikt? Kunt u een voorbeeld geven van hoe bevooroordeeldheid werd geïdentificeerd en geminimaliseerd in een specifieke AI-functie?

We zijn voortdurend ons AI-ethiekbeoordelings- en beoordelingsproces aan het evolueren in nauwe samenwerking met onze product- en ingenieurs teams. ​De AI-ethiekbeoordeling die we een paar jaar geleden hadden, is anders dan die we nu hebben, en ik verwacht dat er in de toekomst nog meer veranderingen zullen komen. Deze iteratieve aanpak stelt ons in staat om nieuwe inzichten en opkomende ethische zorgen te integreren naarmate technologieën zoals Firefly evolueren.

Als voorbeeld, toen we meertalige ondersteuning toevoegden aan Firefly, merkte mijn team dat het niet de verwachte output leverde en sommige woorden onbedoeld werden geblokkeerd. Om dit te mitigeren, werkten we nauw samen met ons internationalisatieteam en moedertaalsprekers om onze modellen uit te breiden en landenspecifieke termen en connotaties te dekken. ​

Ons engagement om ons beoordelingsproces te laten evolueren naarmate de technologie vordert, is wat Adobe in staat stelt om innovatie te balanceren met ethische verantwoordelijkheid. Door een inclusief en responsief proces te bevorderen, waarborgen we dat onze AI-technologieën voldoen aan de hoogste normen van transparantie en integriteit, waardoor creators onze tools met vertrouwen kunnen gebruiken.

Met uw betrokkenheid bij het vormgeven van het openbaar beleid, hoe navigeert Adobe het snijvlak tussen snel veranderende AI-regelgeving en innovatie? Wat is de rol van Adobe bij het vormgeven van deze regelgeving?

We engageren ons actief met beleidsmakers en industriegroepen om te helpen bij het vormgeven van beleid dat innovatie met ethische overwegingen in evenwicht brengt. Onze discussies met beleidsmakers focussen op onze aanpak van AI en het belang van het ontwikkelen van technologie om menselijke ervaringen te verbeteren. Regulatoren zoeken naar praktische oplossingen voor actuele uitdagingen en door kaders zoals onze AI-ethiekprincipes te presenteren—ontwikkeld in samenwerking en consistent toegepast in onze AI-gebaseerde functies—bevorderen we productievere discussies. Het is cruciaal om concrete voorbeelden aan te dragen die demonstreren hoe onze principes in de praktijk werken en om reële impact te laten zien, in plaats van abstracte concepten te bespreken.

Welke ethische overwegingen prioriteert Adobe bij het verzamelen van trainingsgegevens, en hoe waarborgt het dat de gebruikte datasets zowel ethisch als voldoende robuust zijn voor de behoeften van de AI?

Bij Adobe prioriteren we verschillende sleutel ethische overwegingen bij het verzamelen van trainingsgegevens voor onze AI-modellen. ​ Als onderdeel van onze inspanning om Firefly te ontwerpen om commercieel veilig te zijn, hebben we het getraind op een dataset van gelicenceerde inhoud, zoals Adobe Stock, en openbare domeininhoud waarop het copyright is verlopen. We hebben ons ook gericht op de diversiteit van de datasets om te voorkomen dat onze modeluitvoer schadelijke bevooroordeeldheden en stereotypen versterkt. Om dit te bereiken, werken we samen met diverse teams en experts om de gegevens te beoordelen en te cureren. Door deze praktijken te volgen, streven we ernaar om AI-technologieën te creëren die niet alleen krachtig en effectief zijn, maar ook ethisch en inclusief voor alle gebruikers. ​

Hoe belangrijk is transparantie in de communicatie met gebruikers over hoe Adobe’s AI-systemen zoals Firefly getraind zijn en welke soort gegevens wordt gebruikt?

Transparantie is cruciaal wanneer het gaat om communicatie met gebruikers over hoe Adobe’s generatieve AI-functies zoals Firefly getraind zijn, inclusief de soorten gegevens die worden gebruikt. Het bouwt vertrouwen en vertrouwen in onze technologieën door ervoor te zorgen dat gebruikers de processen achter onze generatieve AI-ontwikkeling begrijpen. Door open te zijn over onze gegevensbronnen, trainingsmethoden en de ethische waarborgen die we hebben ingesteld, empoweren we gebruikers om geïnformeerde beslissingen te nemen over hoe ze onze producten gebruiken. Deze transparantie staat niet alleen in overeenstemming met onze kern AI-ethiekprincipes, maar bevordert ook een collaboratieve relatie met onze gebruikers.

Naarmate AI blijft groeien, vooral generatieve AI, wat denkt u dat de meest significante ethische uitdagingen zullen zijn die bedrijven zoals Adobe in de nabije toekomst zullen tegenkomen?

Ik geloof dat de meest significante ethische uitdagingen voor bedrijven zoals Adobe het mitigeren van schadelijke bevooroordeeldheden, het waarborgen van inclusiviteit en het behouden van gebruikersvertrouwen zijn. ​Het potentieel van AI om onbewust stereotypen te versterken of schadelijke en misleidende inhoud te genereren is een zorg die voortdurende waakzaamheid en robuuste waarborgen vereist. Bijvoorbeeld, met recente vooruitgang in generatieve AI, is het gemakkelijker dan ooit voor “slechte actoren” om misleidende inhoud te creëren, desinformatie te verspreiden en publieke opinie te manipuleren, waardoor vertrouwen en transparantie worden ondermijnd.

Om dit aan te pakken, heeft Adobe de Content Authenticity Initiative (CAI) opgericht in 2019 om een meer betrouwbaar en transparant digitaal ecosysteem voor consumenten te bouwen. De CAI implementeert onze oplossing om vertrouwen online te bouwen – genaamd Content Credentials. Content Credentials omvatten “ingrediënten” of belangrijke informatie, zoals de naam van de maker, de datum waarop een afbeelding is gemaakt, de tools die zijn gebruikt om een afbeelding te maken en eventuele bewerkingen die onderweg zijn gemaakt. Dit empoweren gebruikers om een digitale keten van vertrouwen en authenticiteit te creëren.

Naarmate generatieve AI blijft groeien, zal het nog belangrijker worden om de bredere adoptie van Content Credentials te bevorderen om vertrouwen in digitale inhoud te herstellen.

Wat is uw advies aan andere organisaties die net beginnen na te denken over ethische kaders voor AI-ontwikkeling?

Mijn advies zou zijn om te beginnen met het vaststellen van duidelijke, eenvoudige en praktische principes die uw inspanningen kunnen leiden. Vaak zie ik bedrijven of organisaties gefocust op wat er goed uitziet in theorie, maar hun principes zijn niet praktisch. De reden waarom onze principes de tand des tijds hebben doorstaan, is omdat we ze hebben ontworpen om actiegericht te zijn. Wanneer we onze AI-gebaseerde functies beoordelen, weten onze product- en ingenieurs teams wat we zoeken en welke normen we van hen verwachten.

Ik zou organisaties ook aanraden om te komen into dit proces met de wetenschap dat het iteratief zal zijn. Ik weet misschien niet wat Adobe over vijf of tien jaar zal uitvinden, maar ik weet dat we ons beoordelingsproces zullen laten evolueren om die innovaties en de feedback die we ontvangen te ontmoeten.

Bedankt voor het geweldige interview, lezers die meer willen leren, moeten Adobe bezoeken.