Öppna den svarta lådan för AI-förklarbarhet

Artificiell intelligens (AI) har blivit en integrerad del av nästan alla aspekter av våra dagliga liv, från personliga rekommendationer till kritiska beslut. Det är ett faktum att AI kommer att fortsätta utvecklas, och med det, kommer hoten som är förknippade med AI också att bli mer sofistikerade. När företag inför AI-aktiverade försvar som svar på den växande komplexiteten, är nästa steg mot att främja en organisationsomfattande kultur av säkerhet att förbättra AI:s förklarbarhet.

Medan dessa system erbjuder imponerande funktioner, fungerar de ofta som “svarta lådor” – producerar resultat utan tydlig insikt i hur modellen kom fram till den slutsats den gjorde. Problemet med AI-system som gör falska uttalanden eller tar falska åtgärder kan orsaka betydande problem och potentiella affärsavbrott. När företag gör misstag på grund av AI, kräver deras kunder och konsumenter en förklaring och snart därefter, en lösning.

Men vad är skulden? Ofta används dåliga data för utbildning. Till exempel är de flesta offentliga GenAI-teknologier utbildade på data som är tillgängliga på internet, som ofta är overifierade och felaktiga. Medan AI kan generera snabba svar, beror noggrannheten i dessa svar på kvaliteten på de data som används för utbildning.

AI-fel kan uppstå i olika situationer, inklusive skriptgenerering med felaktiga kommandon och falska säkerhetsbeslut, eller att en anställd nekas tillgång till företagets system på grund av falska anklagelser som gjorts av AI-systemet. Allt detta har potentialen att orsaka betydande affärsavbrott. Detta är bara ett av de många skälen till varför det är viktigt att säkerställa transparens för att bygga förtroende för AI-system.

Bygga förtroende

Vi lever i en kultur där vi inpräglar förtroende i alla slags källor och information. Men samtidigt kräver vi bevis och validering alltmer, och behöver ständigt validera nyheter, information och påståenden. När det gäller AI, sätter vi vårt förtroende till ett system som har potentialen att vara felaktigt. Mer viktigt är det omöjligt att veta om de åtgärder som AI-systemen vidtar är korrekta utan någon insikt i de beslut som fattas. Vad händer om ditt cybersäkerhetssystem stänger av maskiner, men det gjorde ett misstag när det tolkade signalerna? Utan insikt i den information som ledde systemet till att fatta det beslutet, finns det ingen möjlighet att veta om det fattade rätt beslut.

Medan avbrott i affärsverksamheten är frustrerande, är en av de mer betydande problemen med AI-användning datasekretess. AI-system, som ChatGPT, är maskinlärningsmodeller som hämtar svar från de data de får. Därför, om användare eller utvecklare av misstag tillhandahåller känslig information, kan maskinlärningsmodellen använda den informationen för att generera svar till andra användare som avslöjar konfidentiell information. Dessa misstag har potentialen att allvarligt störa ett företags effektivitet, lönsamhet och, framför allt, kundförtroende. AI-system är avsedda att öka effektiviteten och förenkla processer, men om kontinuerlig validering är nödvändig eftersom utdata inte kan lita på, slösar organisationer inte bara bort tid, utan öppnar också dörren för potentiella sårbarheter.

Utbilda team för ansvarsfull AI-användning

För att skydda organisationer från de potentiella riskerna med AI-användning, har IT-proffs det viktiga ansvaret att utbilda sina kollegor tillräckligt för att säkerställa att AI används på ett ansvarsfullt sätt. Genom att göra detta, hjälper de till att hålla sina organisationer säkra från cyberattacker som hotar deras livskraft och lönsamhet.

Men innan utbildning av team, måste IT-ledare först samordna internt för att bestämma vilka AI-system som passar för organisationen. Att skynda sig in i AI kommer bara att slå tillbaka senare, så istället, börja med små steg, fokusera på organisationens behov. Se till att de standarder och system du väljer är kompatibla med organisationens nuvarande teknikstack och företagsmål, och att AI-systemen uppfyller samma säkerhetsstandarder som andra leverantörer du väljer.

När ett system har valts, kan IT-proffs sedan börja ge sina team exponering för dessa system för att säkerställa framgång. Börja med att använda AI för små uppgifter och se var det fungerar bra och var det inte gör det, och lära sig vilka potentiella faror eller valideringar som behöver tillämpas. Sedan kan du introducera användningen av AI för att förbättra arbetet, möjliggöra snabbare självbetjäning, inklusive enkla “hur man”-frågor. Från där kan du lära ut hur man sätter valideringar på plats. Detta är värdefullt eftersom vi kommer att se fler jobb bli mer om att sätta gränser och valideringar, och redan sett i jobb som att använda AI för att hjälpa till att skriva programvara.

Förutom dessa praktiska steg för utbildning av teammedlemmar, är det också viktigt att initiera och uppmuntra diskussioner. Uppmuntra öppna, data-drivna samtal om hur AI tjänar användarnas behov – löser det problem korrekt och snabbt, driver vi produktivitet för både företaget och slutanvändaren, ökar vår kund-NPS-poäng på grund av dessa AI-drivna verktyg? Var tydlig med avkastningen på investeringen (ROI) och håll den i fokus. Tydlig kommunikation kommer att tillåta medvetenhet om ansvarsfull användning att växa, och när teammedlemmar får en bättre förståelse för hur AI-systemen fungerar, är de mer benägna att använda dem på ett ansvarsfullt sätt.

Hur man uppnår transparens i AI

Även om utbildning av team och ökad medvetenhet är viktigt, är det för att uppnå transparens i AI avgörande att det finns mer kontext kring de data som används för att utbilda modellerna, och säkerställa att endast kvalitetsdata används. Förhoppningsvis kommer det att finnas ett sätt att se hur systemet resonerar så att vi kan fullständigt lita på det. Men tills dess, behöver vi system som kan arbeta med valideringar och skyddsräcken och bevisa att de följer dem.

Medan full transparens kommer oundvikligen att ta tid att uppnå, är den snabba tillväxten av AI och dess användning gör det nödvändigt att arbeta snabbt. När AI-modeller fortsätter att öka i komplexitet, har de potentialen att göra en stor skillnad för mänskligheten, men konsekvenserna av deras fel ökar också. Som ett resultat, är det extremt värdefullt och nödvändigt att förstå hur dessa system kommer fram till sina beslut för att förbli effektiva och trovärdiga. Genom att fokusera på transparenta AI-system, kan vi säkerställa att tekniken är lika användbar som den är tänkt att vara, samtidigt som den förblir opartisk, etisk, effektiv och korrekt.