AI-først betyder sikkerhed-først

Køb et barn en ny cykel, og cyklen får al opmærksomhed – ikke den skinnende hjelm, der følger med. Men forældre værdsætter hjelmen.

Jeg er bange for, at mange af os i dag er mere som børn, når det kommer til AI. Vi er fokuseret på, hvor fedt det er, og hvor hurtigt vi kan køre med det. Ikke så meget på, hvad vi kan gøre for at holde os sikre, mens vi bruger det. Det er en skam, fordi man ikke kan have fordelene af det ene uden det andet.

Det er simpelt sagt, at anvende AI uden at planlægge sikkerheden først, er ikke bare risikabelt. Det er en direkte vej ud over en klippe.

Hvad betyder AI-sikkerhed overhovedet?

AI-sikkerhed indebærer en række skridt. Men måske det vigtigste element er når man tager dem. For at være effektiv, skal AI-sikkerhed være ved design.

Det betyder, at vi overvejer, hvordan vi kan forhindre skade, før vi tager det ud for en testkørsel. Vi finder ud af, hvordan vi kan sikre, at AI fungerer og genererer resultater i overensstemmelse med vores værdier og sociale forventninger først – og ikke efter, at vi får nogle forfærdelige resultater.

At designe for AI-sikkerhed indebærer også at tænke over, hvordan man kan gøre det robust, eller i stand til at fungere forudsigeligt, selv i ugunstige situationer. Det betyder at gøre AI gennemsigtig, så beslutningerne AI tager er forståelige, gennemgangne og upartiske.

Men det indebærer også at se på den verden, hvor AI skal fungere. Hvad institutionelle og lovmæssige sikkerhedsforanstaltninger har vi brug for, især for at overholde gældende regler? Og jeg kan ikke overbetone menneskekomponenten: Hvad vil virkningen af AI-brug være på de mennesker, der interagerer med det?

Sikkerhed ved design betyder at indbygge AI-sikkerhed i alle vores processer, arbejdsprocesser og operationer, før vi skriver vores første prompt.

Risikoen overstiger bekymringen

Ikke alle er enige. Når de hører “sikkerhed først”, hører nogle “gå så forsigtigt og langsomt, at du bliver efterladt”. Selvfølgelig er det ikke, hvad sikkerhed først betyder. Det behøver ikke at kvæle innovation eller langsommeliggøre tid-til-marked. Og det betyder ikke en endeløs strøm af pilotprojekter, der aldrig skalerer. Tværtimod.

Det betyder at forstå risikoen for ikke at indbygge sikkerhed i AI. Overvej blot følgende.

• Deloittes Center for Financial Services forudser, at GenAI kan være ansvarlig for svindelstab på 40 milliarder dollars i USA alene i 2027, fra 12,3 milliarder dollars i 2023, en stigning på 32% om året.
• Forudindtagne beslutninger. Sager dokumenterer forudindtagen medicinsk behandling på grund af AI, der var trænet på forudindtagne data.
• Dårlige beslutninger, der inspirerer til flere dårlige beslutninger. Værre end en initial dårlig beslutning, der blev fremmet af fejlbehæftet AI, viser studier, at disse fejlbehæftede beslutninger kan blive en del af, hvordan vi tænker og træffer fremtidige beslutninger.
• Reelle konsekvenser. AI, der giver dårlig medicinsk rådgivning, har været ansvarlig for dødelige patientresultater. Juridiske problemer er opstået som følge af, at man har citeret en AI-hallucination som retslig præcedens. Og softwarefejl, der skyldes, at en AI-assistent giver forkert information, har besmittet virksomhedens produkter og rygte og ført til omfattende brugerutilfredshed.

Og tingene er ved at blive endnu mere interessante.

Introduktionen og hurtig optagelse af agens AI, AI, der kan fungere selvstændigt for at træffe beslutninger, baseret på beslutninger, det har truffet, vil forstærke betydningen af at designe for AI-sikkerhed.

En AI-agent, der kan handle på din vegne, kan være utrolig nyttig. I stedet for at fortælle dig om de bedste fly til en rejse, kan det finde dem og booke dem til dig. Hvis du vil returnere et produkt, kan virksomhedens AI-agent ikke kun fortælle dig om returneringspolitikken og hvordan du kan returnere, men også håndtere hele transaktionen for dig.

Godt – så længe agenten ikke hallucinerer et fly eller misligholder din finansielle information. Eller får virksomhedens returneringspolitik forkert og nægter gyldige returneringer.

Det er ikke svært at se, hvordan de nuværende AI-sikkerhedsrisici let kan kaskade med en række AI-agenter, der løber rundt og træffer beslutninger og handler, især da de sandsynligvis ikke vil handle alene. Meget af den virkelige værdi i agens AI kommer fra agenthold, hvor enkeltagenter håndterer dele af opgaver og samarbejder – agent til agent – for at få arbejdet gjort.

Så hvordan kan man omfavne AI-sikkerhed ved design uden at hæmme innovation og dræbe dens potentiale værdi?

Sikkerhed ved design i praksis

Ad hoc-sikkerhedstjek er ikke svaret. Men integration af sikkerhedspraksis i hver fase af en AI-implementering er.

Start med data. Sørg for, at data er mærket, annoteret hvor nødvendigt, fri for bias og af høj kvalitet. Dette er især sandt for træningsdata.

Træn dine modeller med menneskelig feedback, da menneskelig dømmekraft er afgørende for at forme modeladfærd. Forstærkning med menneskelig feedback (RLHF) og andre lignende teknikker tillader annotatorer at bedømme og vejlede svar, hvilket hjælper LLM’er med at generere output, der er sikre og i overensstemmelse med menneskelige værdier.

Derefter, før du frigiver en model, stress-test den. Red teams, der forsøger at fremkalde usikker adfærd ved at bruge modstridende prompts, randtilfælde og forsøg på at bryde ud, kan afsløre sårbarheder. At få dem fikset, før de når offentligheden, holder tingene sikre, før der er et problem.

Mens denne test sikrer, at dine AI-modeller er robuste, overvåg dem med et øje på nye trusler og justeringer, der måske er nødvendige for modellerne.

På samme måde overvåg jævnligt indholdskilder og digitale interaktioner efter tegn på svindel. Kritisk set skal man bruge en hybrid AI-menneskelig tilgang, hvor AI-automatisering tager sig af den enorme mængde data, der skal overvåges, og dygtige mennesker håndterer gennemgang for at sikre nøjagtighed.

At anvende agens AI kræver endnu mere omhu. En grundlæggende krav: træn agenten til at kende sine begrænsninger. Når den møder usikkerhed, etiske dilemmata, nye situationer eller særligt høje indsatsbeslutninger, skal den vide, hvordan den kan bede om hjælp.

Og design sporbarhed ind i dine agenter. Dette er især vigtigt, så deres interaktioner kun finder sted med verificerede brugere, for at undgå, at svindelagtige aktører påvirker en agents handlinger.

Hvis de synes at fungere effektivt, kan det være fristende at slippe dem løs og lade dem gøre deres ting. Vores erfaring siger, at man skal overvåge dem og de opgaver, de udfører, for at holde øje med fejl eller uventet adfærd. Brug både automatiserede kontroller og menneskelig gennemgang.

I virkeligheden er et afgørende element i AI-sikkerhed regelmæssig menneskelig indblanding. Mennesker skal være bevidst engageret, hvor kritisk dømmekraft, empati eller nuance og tvetydighed er involveret i en beslutning eller handling.

Igen, for at være tydelig, er disse alle praksis, som man bygger ind i AI-implementeringen på forhånd, ved design. De er ikke resultatet af, at noget går galt, og så skynde sig for at finde ud af, hvordan man kan minimere skaden.

Fungerer det?

Vi har anvendt en AI-sikkerhedsfilosofi og “ved design”-ramme med vores kunder hele vejen igennem opkomsten af GenAI og nu på den hurtige bane til agens AI. Vi finder ud af, at modsat bekymringer om, at det langsommeliggør tingene, hjælper det faktisk med at accelerere dem.

Agens AI har potentialet for at reducere kundesupportomkostningerne med 25-50%, mens det øger kundetilfredshed. Men det afhænger af tillid.

Mennesker, der bruger AI, må stole på det, og kunderne, der interagerer med AI-aktiverede menneskelige agenter eller med virkelige AI-agenter, kan ikke opleve en enkelt interaktion, der undergraver deres tillid. En dårlig oplevelse kan udslette tillid til et brand.

Vi stoler ikke på, hvad der ikke er sikret. Så når vi bygger sikkerhed ind i hvert lag af AI, vi er ved at rulle ud, kan vi gøre det med tillid. Og når vi er klar til at skalerer det, kan vi gøre det hurtigt – med tillid.

At sætte AI-sikkerhed først i praksis kan synes overvældende, men du er ikke alene. Der er mange eksperter, der kan hjælpe, og partnere, der kan dele, hvad de har lært og er i gang med at lære, så du kan udnytte værdien af AI på en sikker måde uden at langsommeliggøre dig.

AI har været en spændende tur indtil nu, og da turen accelererer, finder jeg det ophidsende. Men jeg er også glad for, at jeg har min hjelm på.