Thought leaders
Verklaarbaarheid kan elk industrieel AI-probleem aanpakken: het gebrek aan transparantie
Voeg Unite.AI toe aan je voorkeursbronnen op Google
Door: Migüel Jetté, VP van R&D Speech, Rev.
In de beginfase van AI kon het nog wel uitgaan van de nieuwheid. Het was okay dat machine learning langzaam leerde en een ondoorzichtige procedure had waarbij de berekening van de AI onmogelijk was voor de gemiddelde consument. Dat verandert. Naarmate meer industrieën zoals de gezondheidszorg, financiën en het strafrechtssysteem AI gaan gebruiken op manieren die een echte impact kunnen hebben op het leven van mensen, willen meer mensen weten hoe de algoritmes worden gebruikt, hoe de data wordt verzameld en hoe nauwkeurig de capaciteiten zijn. Als bedrijven aan de voorlopers van innovatie in hun markten willen blijven, moeten ze vertrouwen op AI die hun publiek vertrouwt. Verklaarbaarheid van AI is het belangrijkste ingrediënt om die relatie te verdiepen.
Verklaarbaarheid van AI verschilt van standaard AI-procedures omdat het mensen een manier biedt om te begrijpen hoe de machine learning-algoritmes output creëren. Verklaarbare AI is een systeem dat mensen potentieel resultaat en tekortkomingen kan bieden. Het is een machine learning-systeem dat de menselijke behoefte aan eerlijkheid, verantwoordelijkheid en respect voor privacy kan vervullen. Verklaarbare AI is essentieel voor bedrijven om vertrouwen op te bouwen met consumenten.
Terwijl AI zich uitbreidt, moeten AI-aanbieders begrijpen dat de black box niet kan. Black box-modellen worden rechtstreeks uit de data gecreëerd en vaak kan zelfs de ontwikkelaar die het algoritme heeft gemaakt niet identificeren wat de geleerde gewoonten van de machine heeft aangedreven. Maar de bewuste consument wil niet omgaan met iets zo ondoorzichtigs dat het niet verantwoordelijk kan worden gehouden. Mensen willen weten hoe een AI-algoritme tot een specifiek resultaat komt zonder de mysterie van de brondata en de gecontroleerde output, vooral wanneer de fouten van AI vaak te wijten zijn aan machinevooroordeel. Naarmate AI geavanceerder wordt, willen mensen toegang tot het machine learning-proces om te begrijpen hoe het algoritme tot zijn specifieke resultaat is gekomen. Leiders in elke industrie moeten begrijpen dat mensen vroeg of laat niet langer toegang tot deze informatie zullen prefereren, maar het zullen eisen als een noodzakelijk niveau van transparantie.
ASR-systemen zoals spraakgestuurde assistenten, transcriptietechnologie en andere diensten die menselijke spraak omzetten in tekst, zijn vooral geplaagd door vooroordeel. Wanneer de dienst wordt gebruikt voor veiligheidsmaatregelen, kunnen fouten als gevolg van accenten, leeftijd of achtergrond ernstige fouten zijn, dus het probleem moet serieus worden genomen. ASR kan effectief worden gebruikt in politiebodycams, bijvoorbeeld, om interacties automatisch op te nemen en te transcriberen – een record dat, als het nauwkeurig wordt getranscribeerd, levens kan redden. De praktijk van verklaarbaarheid zal vereisen dat de AI niet alleen vertrouwt op gekochte datasets, maar ook probeert te begrijpen welke kenmerken van de inkomende audio tot fouten kunnen leiden als die bestaan. Wat is het akoestische profiel? Is er ruis op de achtergrond? Is de spreker uit een niet-Engels-sprekend land of uit een generatie die een vocabulaire gebruikt die de AI nog niet heeft geleerd? Machine learning moet proactief zijn in het leren en kan beginnen met het verzamelen van data die deze variabelen kunnen aanpakken.
De noodzaak wordt steeds duidelijker, maar de weg naar de implementatie van deze methodologie zal niet altijd een gemakkelijke oplossing hebben. Het traditionele antwoord op het probleem is om meer data toe te voegen, maar een meer geavanceerde oplossing zal nodig zijn, vooral wanneer de gekochte datasets die veel bedrijven gebruiken, inherent vooroordeel bevatten. Dit komt omdat het historisch gezien moeilijk is geweest om een specifiek besluit te verklaren dat door de AI is genomen en dat komt door de complexiteit van de eind-tot-eind-modellen. Maar we kunnen nu, en we kunnen beginnen door te vragen hoe mensen het vertrouwen in AI zijn verloren.
Onvermijdelijk zal AI fouten maken. Bedrijven moeten modellen bouwen die zich bewust zijn van potentieel tekortkomingen, identificeren wanneer en waar de problemen optreden, en voortdurende oplossingen creëren om sterker AI-modellen te bouwen:
- Wanneer er iets misgaat, zullen ontwikkelaars moeten uitleggen wat er is gebeurd en een onmiddellijk plan ontwikkelen om het model te verbeteren om toekomstige, soortgelijke fouten te verminderen.
- Om de machine te laten weten of het goed of fout was, moeten wetenschappers een feedbacklus creëren zodat AI zijn tekortkomingen kan leren en evolueren.
- Een andere manier voor ASR om vertrouwen op te bouwen terwijl de AI nog steeds in ontwikkeling is, is een systeem te creëren dat vertrouwensscores kan bieden en redenen kan geven waarom de AI minder vertrouwt. Bijvoorbeeld, bedrijven genereren scores van nul tot honderd om hun eigen AI-onvolkomenheden weer te geven en transparantie te creëren met hun klanten. In de toekomst kunnen systemen post-hoc verklaringen bieden voor waarom de audio moeilijk was door meer metadata over de audio te bieden, zoals het waargenomen geluidsniveau of een minder begrepen accent.
Extra transparantie zal resulteren in betere menselijke toezicht op AI-training en -prestaties. Hoe meer we open zijn over waar we moeten verbeteren, hoe meer verantwoordelijk we zijn om actie te ondernemen om die verbeteringen door te voeren. Bijvoorbeeld, een onderzoeker wil weten waarom foutieve tekst is gegenereerd zodat hij het probleem kan mitigeren, terwijl een transcriptie-expert bewijs wil hebben waarom ASR de input verkeerd heeft geïnterpreteerd om te helpen bij de beoordeling van de validiteit. Mensen in de lus houden kan enkele van de meest voor de hand liggende problemen die optreden wanneer AI ongecontroleerd wordt, mitigeren. Het kan ook de tijd die nodig is voor AI om zijn fouten te corrigeren, te verbeteren en uiteindelijk zelf te corrigeren in real-time, versnellen.
AI heeft de capaciteit om het leven van mensen te verbeteren, maar alleen als mensen het zo bouwen dat het correct functioneert. We moeten niet alleen deze systemen verantwoordelijk houden, maar ook de mensen achter de innovatie. AI-systemen in de toekomst zullen moeten voldoen aan de principes die door mensen zijn vastgesteld, en alleen dan zullen we een systeem hebben dat mensen vertrouwen. Het is tijd om de basis te leggen en te streven naar die principes nu, terwijl het uiteindelijk nog steeds mensen zijn die zichzelf dienen.
