Åbning af den sorte kasse på AI-forklarbarhed

Kunstig intelligens (AI) er blevet en integreret del af næsten alle aspekter af vores daglige liv, fra personlige anbefalinger til kritiske beslutninger. Det er en given kendsgerning, at AI vil fortsætte med at udvikle sig, og med det, vil truslerne forbundet med AI også blive mere sofistikerede. Mens virksomheder implementerer AI-baserede forsvar som svar på den øgede kompleksitet, er det næste skridt mod at fremme en organisationsspecifik kultur af sikkerhed at forbedre AI’s forklarbarhed.

Selvom disse systemer tilbyder imponerende funktioner, fungerer de ofte som “sorte kasser” – producerer resultater uden klart indsigt i, hvordan modellen nåede til den konklusion, den gjorde. Problemet med AI-systemer, der udsender falske udsagn eller tager falske handlinger, kan forårsage betydelige problemer og potentielle forretningsafbrud. Når virksomheder begår fejl på grund af AI, kræver deres kunder og forbrugere en forklaring og snart efter, en løsning.

Men hvad er skylden? Ofte er det dårlige data, der bruges til træning. For eksempel er de fleste offentlige GenAI-teknologier trænet på data, der er tilgængelige på internettet, som ofte er uverificerede og upræcise. Mens AI kan generere hurtige svar, afhænger nøjagtigheden af disse svar af kvaliteten af de data, det er trænet på.

AI-fejl kan optræde i forskellige situationer, herunder scriptgenerering med forkerte kommandoer og falske sikkerhedsbeslutninger, eller afvisning af en medarbejder fra at arbejde på virksomhedens systemer på grund af falske anklager, der er fremsat af AI-systemet. Alle disse har potentialet til at forårsage betydelige forretningsafbrud. Dette er blot én af de mange grunde til, at det er vigtigt at sikre gennemsigtighed for at opbygge tillid til AI-systemer.

Opbygning af tillid

Vi eksisterer i en kultur, hvor vi indstiller tillid til alle slags kilder og informationer. Men på samme tid kræver vi bevis og validering mere og mere, og har brug for at konstant validere nyheder, informationer og påstande. Når det kommer til AI, stoler vi på et system, der har potentialet til at være upræcist. Endnu vigtigere er det umuligt at vide, om handlingerne, AI-systemerne tager, er præcise, uden nogen gennemsigtighed i, hvilken basis beslutningerne tages på. Hvis dit cybersikkerhedssystem lukker maskiner ned, men det har begået en fejl ved at fortolke tegnene? Uden indsigt i, hvilke informationer førte systemet til at træffe den beslutning, er der ingen måde at vide, om det tog den rigtige beslutning.

Selvom forstyrrelser af forretningen er frustrerende, er en af de mere betydelige bekymringer ved brug af AI, datasikkerheden. AI-systemer, som ChatGPT, er maskinelæringmodeller, der henter svar fra de data, de modtager. Derfor, hvis brugere eller udviklere utilsigtet tilbyder følsomme oplysninger, kan maskinelæringmodellen bruge disse data til at generere svar til andre brugere, der afslører fortrolige oplysninger. Disse fejl har potentialet til at forårsage betydelige forstyrrelser af virksomhedens effektivitet, lønsomhed og, mest betydningsfuldt, kundetillid. AI-systemer er designet til at øge effektiviteten og lette processerne, men i tilfælde, hvor konstant validering er nødvendig, fordi output ikke kan tillides, spilder organisationerne ikke kun tid, men åbner også døren for potentielle sårbarheder.

Træning af hold for ansvarlig AI-brug

For at beskytte organisationer mod de potentielle risici ved AI-brug, har IT-fagfolk det vigtige ansvar at træne deres kolleger til at sikre, at AI bruges ansvarligt. Ved at gøre dette, hjælper de med at holde deres organisationer sikre fra cyberangreb, der truer deres levedygtighed og lønsomhed.

Men før træning af hold, skal IT-ledere indstille internt for at bestemme, hvilke AI-systemer der vil være en god fit for deres organisation. At skynde sig ind i AI vil kun have negative konsekvenser senere, så i stedet skal man starte småt, fokusere på organisationens behov. Sørg for, at standarderne og systemerne, der vælges, er i overensstemmelse med organisationens nuværende teknologi og virksomhedsmaal, og at AI-systemerne opfylder samme sikkerhedsstandarder som andre leverandører, der vælges.

Når et system er valgt, kan IT-fagfolk derefter begynde at give deres hold indsigt i disse systemer for at sikre succes. Start med at bruge AI til små opgaver og se, hvor det fungerer godt og hvor det ikke gør, og lære, hvilke potentielle farer eller valideringer der skal anvendes. Derefter kan det læres, hvordan man anvender AI til at supplere arbejdet, hvilket muliggør hurtigere selvbetjening og løsning af simple “hvordan”-spørgsmål. Fra der kan det læres, hvordan man sætter valideringer i gang. Dette er værdifuldt, da vi vil begynde at se flere job, der handler om at sætte grænsebetingelser og valideringer sammen, og allerede set i job som at bruge AI til at hjælpe med at skrive software.

Ud over disse håndgribelige skridt til træning af teammedlemmer er det også vigtigt at initiere og opmuntre diskussioner. Opfordr til åbne, data-drevne diskussioner om, hvordan AI tjener brugerbehov – løser det problemerne præcist og hurtigt, driver det produktiviteten for både virksomheden og slutbrugeren, og stiger vores kundetilfredsheds-score (NPS) på grund af disse AI-drevne værktøjer? Vær klar på, hvilken avkastning på investeringen (ROI) der er, og hold det i fokus. Klart kommunikation vil tillade, at bevidstheden om ansvarlig brug vokser, og da teammedlemmerne får en bedre forståelse af, hvordan AI-systemerne fungerer, er de mere sandsynligt at bruge dem ansvarligt.

Hvordan opnå gennemsigtighed i AI

Selvom træning af hold og øget bevidsthed er vigtigt, er det for at opnå gennemsigtighed i AI afgørende, at der er mere kontekst omkring de data, der bruges til at træne modellerne, og at sikre, at kun kvalitetsdata bruges. Forhåbentlig vil der en dag være en måde at se, hvordan systemet resonnerer, så vi kan fuldt ud stole på det. Men indtil da har vi brug for systemer, der kan arbejde med valideringer og sikkerhedsforanstaltninger og bevise, at de overholder dem.

Selvom fuld gennemsigtighed vil uundgåeligt tage tid at opnå, er den hurtige vækst af AI og dens brug gør det nødvendigt at arbejde hurtigt. Da AI-modeller fortsætter med at øge i kompleksitet, har de magten til at gøre en stor forskel for menneskeheden, men konsekvenserne af deres fejl vokser også. Som resultat er det ekstremt værdifuldt og nødvendigt at forstå, hvordan disse systemer når til deres beslutninger, for at forblive effektive og troværdige. Ved at fokusere på gennemsigtige AI-systemer kan vi sikre, at teknologien er lige så nyttig, som den er ment til at være, samtidig med at den forbliver upartisk, etisk, effektiv og præcis. lso vokser. Som resultat er det ekstremt værdifuldt og nødvendigt at forstå, hvordan disse systemer når til deres beslutninger, for at forblive effektive og troværdige. Ved at fokusere på gennemsigtige AI-systemer kan vi sikre, at teknologien er lige så nyttig, som den er ment til at være, samtidig med at den forbliver upartisk, etisk, effektiv og præcis.