Förklarbarhet kan lösa varje branschs AI-problem: bristen på transparens

Av: Migüel Jetté, VP of R&D Speech, Rev.

I sina tidiga skeden kunde AI kanske vila på sina läror av nyhet. Det var okej för maskinlärande att lära sig långsamt och upprätthålla en ogenomskinlig process där AI:s beräkning var omöjlig för den genomsnittlige konsumenten att tränga igenom. Det håller på att förändras. När allt fler branscher, såsom hälsovård, finans och rättssystem, börjar använda AI på sätt som kan ha verklig inverkan på människors liv, vill allt fler veta hur algoritmerna används, hur data samlas in och hur exakta deras förmågor är. Om företag vill förbli i framkanten av innovation i sina marknader, måste de förlita sig på AI som deras publik kommer att lita på. AI-förklarbarhet är den viktigaste ingrediensen för att fördjupa den relationen.

AI-förklarbarhet skiljer sig från standard-AI-förfaranden eftersom den erbjuder människor ett sätt att förstå hur maskinlärandealgoritmerna skapar utdata. Förklarbar AI är ett system som kan ge människor potentiella resultat och brister. Det är ett maskinlärande system som kan uppfylla det mänskliga begäret efter rättvisa, ansvar och respekt för integritet. Förklarbar AI är avgörande för företag för att bygga förtroende med konsumenter.

Medan AI utvecklas, måste AI-leverantörer förstå att den svarta lådan inte kan. Svarta lådor skapas direkt från data och ofta kan inte ens utvecklaren som skapade algoritmen identifiera vad som drev maskinens inlärda vanor. Men den medvetna konsumenten vill inte engagera sig i något så otillgängligt att det inte kan hållas ansvarigt. Människor vill veta hur en AI-algoritm kommer fram till ett specifikt resultat utan mystiken kring källdata och kontrollerad utdata, särskilt när AI:s fel oftast beror på maskinbias. När AI blir mer avancerad, vill människor ha tillgång till maskinlärandeprocessen för att förstå hur algoritmen kom fram till sitt specifika resultat. Ledare inom varje bransch måste förstå att människor så småningom inte längre kommer att föredra den här tillgången, utan kräva den som en nödvändig nivå av transparens.

Taligenkänningssystem, såsom röstaktiverade assistenter, transkriptionsteknik och andra tjänster som omvandlar mänskligt tal till text, är särskilt drabbade av bias. När tjänsten används för säkerhetsåtgärder, kan misstag på grund av accenter, en persons ålder eller bakgrund vara allvarliga misstag, så problemet måste tas på allvar. Taligenkänning kan användas effektivt i polisskottkameror, till exempel, för att automatiskt spela in och transkribera interaktioner — och hålla en post som, om den transkriberas korrekt, kunde rädda liv. Förklarbarhetspraxis kommer att kräva att AI inte bara förlitar sig på inköpta datamängder, utan försöker förstå egenskaperna hos den inkommande ljudet som kan bidra till fel om några finns. Vad är den akustiska profilen? Finns det bakgrundsljud? Är talaren från ett land där engelska inte är första språk eller från en generation som använder ett ordförråd som AI inte har lärt sig än? Maskinlärande måste vara proaktivt i att lära sig snabbare och kan börja med att samla in data som kan hantera dessa variabler.

Nödvändigheten blir alltmer uppenbar, men vägen till att implementera denna metodik kommer inte alltid att ha en enkel lösning. Det traditionella svaret på problemet är att lägga till mer data, men en mer sofistikerad lösning kommer att krävas, särskilt när de inköpta datamängder som många företag använder är inbyggt biased. Detta beror på att det historiskt sett har varit svårt att förklara ett visst beslut som togs av AI och det beror på komplexiteten i ändpunktsmodellerna. Men vi kan nu, och vi kan börja med att fråga oss hur människor förlorade förtroendet för AI från början.

Det är oundvikligt att AI kommer att göra misstag. Företag måste bygga modeller som är medvetna om potentiella brister, identifiera när och var problemen uppstår och skapa löpande lösningar för att bygga starkare AI-modeller:

1. När något går fel, måste utvecklare förklara vad som hände och utveckla en omedelbar plan för att förbättra modellen för att minska framtida, liknande misstag.
2. För att maskinen faktiskt ska veta om den var rätt eller fel, måste forskare skapa en återkopplingsloop så att AI kan lära sig sina brister och utvecklas.
3. En annan väg för taligenkänning att bygga förtroende medan AI fortfarande förbättras är att skapa ett system som kan ge förtroendepoäng och erbjuda skäl till varför AI är mindre säker. Till exempel genererar företag vanligtvis poäng från noll till hundra för att återspegla sina egna AI:s ofullkomligheter och etablera transparens med sina kunder. I framtiden kan system tillhandahålla efterföljande förklaringar till varför ljudet var utmanande genom att erbjuda mer metadata om ljudet, såsom upplevd ljudnivå eller ett mindre förstått accent.

Ytterligare transparens kommer att resultera i bättre mänsklig övervakning av AI-träning och prestanda. Ju mer vi är öppna med var vi behöver förbättra, desto mer ansvariga är vi för att vidta åtgärder för att förbättra. Till exempel kan en forskare vilja veta varför felaktig text producerades så att de kan mildra problemet, medan en transkriberare kan vilja bevis för varför taligenkänning missförstod indata för att hjälpa till med deras bedömning av dess giltighet. Att hålla människor i loopet kan mildra några av de mest uppenbara problemen som uppstår när AI lämnas oövervakad. Det kan också påskynda den tid som krävs för AI att upptäcka sina fel, förbättra och slutligen korrigera sig i realtid.

AI har förmågan att förbättra människors liv, men bara om människor bygger det för att producera korrekt. Vi måste hålla inte bara dessa system ansvariga utan också de människor som står bakom innovationen. AI-system i framtiden förväntas följa de principer som fastställs av människor, och först då kommer vi att ha ett system som människor litar på. Det är dags att lägga grunden och sträva efter dessa principer nu medan det fortfarande är människor som tjänar oss själva.