Att överbrygga AI-förtroendegapet

AI-användningen når en kritisk vändpunkt. Företag omfamnar entusiastiskt AI, driven av dess löfte att uppnå ordentliga förbättringar av operativa effektiviteter.

En nylig Slack-undersökning fann att AI-användningen fortsätter att accelerera, med användning av AI på arbetsplatser som har ökat med 24% och 96% av de tillfrågade cheferna tror att “det är bråttom att integrera AI i hela företaget.”

Det finns dock ett växande gap mellan nyttan av AI och den växande oron för dess potentiella negativa effekter. Bara 7% av skrivbordsarbetare tror att utdata från AI är tillräckligt pålitliga för att hjälpa dem med arbetsrelaterade uppgifter.

Detta gap är tydligt i den skarpa kontrasten mellan chefernas entusiasm för AI-integrering och anställdas skepticism relaterad till faktorer som:

• Bias och rättvisa: AI-system kan perpetuera eller till och med förvärra befintliga bias, vilket leder till orättvisa resultat.
• Integritet och säkerhet: Anställda är oroliga för hur deras personuppgifter samlas in, lagras och används av AI-system.
• Ogenomskinlig beslutsfattning: AI-system fungerar ofta som “svarta lådor”, vilket gör det svårt för människor att förstå eller förklara.
• Automatiseringsångest: Det finns en utbredd rädsla för att AI kommer att ersätta mänskliga jobb, vilket leder till arbetslöshet och ekonomisk instabilitet.

Lagstiftningens roll i att bygga förtroende

För att hantera dessa mångfacetterade förtroendeproblem ses lagstiftningsåtgärder alltmer som ett nödvändigt steg. Lagstiftning kan spela en avgörande roll i att reglera AI-utveckling och -distribution, vilket förbättrar förtroendet. Viktiga lagstiftningsåtgärder inkluderar:

• Dataskydd och integritetslagar: Införande av stränga dataskyddslagar säkerställer att AI-system hanterar personuppgifter på ett ansvarsfullt sätt. Lagar som den allmänna dataskyddsförordningen (GDPR) i Europeiska unionen sätter ett prejudikat genom att kräva transparens, dataminimering och användarsamtycke. I synnerhet artikel 22 i GDPR skyddar datasubjekt från de potentiella negativa effekterna av automatiserad beslutsfattning. Nyliga beslut från EU-domstolen bekräftar en persons rätt att inte utsättas för automatiserad beslutsfattning. I fallet Schufa Holding AG, där en tysk medborgare nekades en banklån på grund av ett automatiserat kreditbeslutsfattningssystem, fastställde domstolen att artikel 22 kräver att organisationer inför åtgärder för att skydda integritetsrättigheter i samband med användningen av AI-teknik.
• AI-regleringar: Europeiska unionen har antagit EU:s AI-lag (EU AIA), som syftar till att reglera användningen av AI-system baserat på deras risknivåer. Lagen innehåller obligatoriska krav för högrisk-AI-system, som omfattar områden som datakvalitet, dokumentation, transparens och mänsklig tillsyn. En av de primära fördelarna med AI-regleringar är främjandet av transparens och förklarbarhet av AI-system. Dessutom etablerar EU AIA tydliga ansvarsramar, som säkerställer att utvecklare, operatörer och till och med användare av AI-system är ansvariga för sina handlingar och resultaten av AI-distributionen. Detta inkluderar mekanismer för rättelse om ett AI-system orsakar skada. När individer och organisationer hålls ansvariga, byggs förtroendet att AI-system hanteras på ett ansvarsfullt sätt.

Initiativ för att främja en kultur av pålitlig AI

Företag behöver inte vänta på att nya lagar antas för att fastställa om deras processer följer etiska och pålitliga riktlinjer. AI-regleringar fungerar i tandem med framväxande AI-standardsinitiativ som ger organisationer möjlighet att implementera ansvarsfull AI-styrning och bästa praxis under hela livscykeln för AI-system, från design till avveckling.

National Institute of Standards and Technology (NIST) i USA har utvecklat en AI-riskhanteringsram för att vägleda organisationer i att hantera AI-relaterade risker. Ramverket är strukturerat kring fyra kärnfunktioner:

• Att förstå AI-systemet och sammanhanget i vilket det fungerar. Detta inkluderar att definiera syftet, intressenterna och de potentiella effekterna av AI-systemet.
• Att kvantifiera riskerna som är förknippade med AI-systemet, inklusive tekniska och icke-tekniska aspekter. Detta innebär att utvärdera systemets prestanda, tillförlitlighet och potentiella bias.

• Att implementera strategier för att mildra identifierade risker. Detta inkluderar att utveckla policys, förfaranden och kontroller för att säkerställa att AI-systemet fungerar inom acceptabla risknivåer.
• Att etablera styrstrukturer och ansvarsmechanismer för att övervaka AI-systemet och dess riskhanteringsprocesser. Detta innebär regelbundna översyner och uppdateringar av riskhanteringsstrategin.

Som svar på framstegen inom generativ AI-teknik publicerade NIST även Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile, som ger vägledning för att mildra specifika risker som är förknippade med grundläggande modeller. Sådana åtgärder omfattar skydd mot skadliga användningar (t.ex. desinformation, nedbrytande innehåll, hatprat) och etiska tillämpningar av AI som fokuserar på mänskliga värderingar som rättvisa, integritet, informationssäkerhet, immateriella rättigheter och hållbarhet.

Dessutom har International Organization for Standardization (ISO) och International Electrotechnical Commission (IEC) gemensamt utvecklat ISO/IEC 23894, en omfattande standard för AI-riskhantering. Denna standard ger en systematisk tillvägagångssätt för att identifiera och hantera risker under hela AI-livscykeln, inklusive riskidentifiering, bedömning av riskens allvar, åtgärder för att mildra eller undvika den, och kontinuerlig övervakning och översyn.

AI:s framtid och allmänhetens förtroende

I framtiden kommer AI:s framtid och allmänhetens förtroende sannolikt att bero på flera viktiga faktorer som alla organisationer måste följa:

• Att genomföra en omfattande riskbedömning för att identifiera potentiella regelefterlevnadsproblem. Utvärdera de etiska implikationerna och de potentiella biasen i era AI-system.
• Att etablera en tvärfunktionell grupp som inkluderar juridiska, regelefterlevnads-, IT- och data science-proffs. Denna grupp bör vara ansvarig för att övervaka regelförändringar och säkerställa att era AI-system följer nya regler.
• Att implementera en styrstruktur som inkluderar policys, förfaranden och roller för att hantera AI-initiativ. Säkerställ transparens i AI-åtgärder och beslutsprocesser.
• Att genomföra regelbundna interna revisioner för att säkerställa regelefterlevnad. Använd övervakningsverktyg för att spåra AI-systemets prestanda och regelefterlevnad.
• Att utbilda anställda om AI-etik, regelefterlevnadskrav och bästa praxis. Ge kontinuerliga utbildningssessioner för att hålla personalen informerad om förändringar i AI-regler och regelefterlevnadsstrategier.
• Att upprätthålla detaljerade register över AI-utvecklingsprocesser, dataanvändning och beslutsfattandekriterier. Var beredd att generera rapporter som kan lämnas in till tillsynsmyndigheter om det behövs.
• Att bygga relationer med tillsynsmyndigheter och delta i offentliga samråd. Ge feedback på föreslagna regler och sök klarhet när det behövs.

Att kontextualisera AI för att uppnå pålitlig AI

Till slut beror pålitlig AI på integriteten hos data. Generativ AI:s beroende av stora datamängder motsvarar inte nödvändigtvis tillförlitligheten hos utdata; om något är det tvärtom. Retrieval Augmented Generation (RAG) är en innovativ teknik som “kombinerar statiska LLM med kontextspecifik data. Och det kan ses som en högt kompetent medarbetare. En som matchar kontext för frågan med specifik data från en omfattande kunskapsbas.” RAG möjliggör för organisationer att leverera kontextspecifika applikationer som följer förväntningarna på integritet, säkerhet, tillförlitlighet och precision. RAG förbättrar tillförlitligheten hos genererade svar genom att hämta relevant information från en kunskapsbas eller dokumentarkiv. Detta tillåter modellen att basera sin generering på korrekt och uppdaterad information.

RAG ger organisationer möjlighet att bygga specialbyggda AI-applikationer som är högt precisa, kontextmedvetna och anpassningsbara för att förbättra beslutsfattandet, förbättra kundupplevelser, effektivisera verksamheten och uppnå betydande konkurrensfördelar.

Att överbrygga AI-förtroendegapet innebär att säkerställa transparens, ansvar och etisk användning av AI. Medan det inte finns något enda svar på att upprätthålla dessa standarder, har företag strategier och verktyg till sitt förfogande. Att implementera robusta dataskyddsåtgärder och följa regleringsstandarder bygger användarfortroende. Att regelbundet granska AI-system för bias och felaktigheter säkerställer rättvisa. Att komplettera stora språkmodeller (LLM) med specialbyggd AI skapar förtroende genom att integrera egna kunskapsbaser och datakällor. Att engagera intressenter om AI:s förmågor och begränsningar skapar också förtroende och acceptans

Pålitlig AI är inte lätt att uppnå, men det är ett viktigt åtagande för vår framtid.