AI-First betyder säkerhet först

Köp en helt ny cykel till ett barn, så får cykeln all uppmärksamhet – inte den glänsande hjälmen som följer med. Men föräldrar uppskattar hjälmen.

Jag är rädd att många av oss idag är mer som barn när det gäller AI. Vi fokuserar på hur coolt det är och hur snabbt vi kan använda det. Inte så mycket på vad vi kan göra för att vara säkra som på hur vi använder det. Det är synd, för man kan inte dra nytta av det ena utan det andra.

Enkelt uttryckt är det inte bara riskabelt att tillämpa AI utan att noggrant planera för säkerheten först. Det är en rak väg utför en klippa.

Vad betyder AI-säkerhet ens?

AI-säkerhet innefattar en mängd steg. Men kanske den viktigaste delen är när att ta dem. För att vara effektiv måste AI-säkerhet vara efter design.

Det betyder att vi funderar över hur vi kan förebygga skada innan vi testar den. Vi tar reda på hur vi kan se till att AI:n fungerar och genererar resultat i linje med våra värderingar och sociala förväntningar först – inte efter att vi fått några hemska resultat.

Att designa för AI-säkerhet innebär också att tänka på hur man kan göra den robust, eller att den kan fungera förutsägbart även i ogynnsamma situationer. Det innebär att göra AI transparent, så att de beslut AI fattar är förståeliga, granskningsbara och opartiska.

Men det inkluderar också att titta på den värld där AI:n kommer att fungera. Vilka institutionella och rättsliga skyddsåtgärder behöver vi, särskilt för att följa gällande myndighetsregler? Och jag kan inte nog betona människokomponenten: Vilken inverkan kommer användningen av AI att ha på de människor som interagerar med den?

Säkerhet genom design innebär att integrera AI-säkerhet i alla våra processer, arbetsflöden och verksamheter innan vi skriver vår första prompt.

Riskerna överväger oron

Alla håller inte med. När de hör ”säkerhet först” hör vissa ”gå så försiktigt och långsamt att du blir efter”. Det är förstås inte vad säkerhet först betyder. Det behöver inte hämma innovation eller fördröja tiden till marknaden. Och det betyder inte en oändlig ström av pilotprojekt som aldrig skalas upp. Tvärtom.

Det innebär att förstå riskerna med inte designa säkerhet i AI. Ta bara några exempel.

• Deloittes center för finansiella tjänster förutspår att GenAI kan vara ansvarigt för bedrägerier som når 40 miljarder USD enbart i USA år 2027, från 12.3 miljarder USD år 2023, en årlig tillväxttakt på 32 %.
• Partiska beslut. Falldokument partisk medicinsk vård på grund av AI som hade tränats på partisk data.
• Dåliga beslut som inspirerar till fler dåliga beslut. Värre än ett initialt dåligt beslut sporrat av felaktig AI, studier indikerar att dessa felaktiga beslut kan bli en del av hur vi tänker och fattar framtida beslut.
• Verkliga konsekvenser. AI som ger dåliga medicinska råd har varit ansvarig för dödliga patientresultat. Rättsliga problem har uppstått genom att en AI:s hallucinationer har åberopats som prejudikat. Och programvarufel som uppstått på grund av att en AI-assistent har lämnat felinformation har skadat företagsprodukter och deras rykte och lett till utbrett missnöje hos användarna.

Och saker och ting kommer att bli ännu mer intressanta.

Adventen och snabb implementering av agent AI, AI som kan fungera autonomt för att vidta åtgärder baserat på fattade beslut, kommer att förstärka vikten av att designa för AI-säkerhet.

En AI-agent som kan agera för din räkning kan vara oerhört användbar. Istället för att berätta om de bästa flygen för en resa kan den hitta dem och boka dem åt dig. Om du vill returnera en produkt kan ett företags AI-agent inte bara berätta om returpolicyn och hur du gör en retur, utan också hantera hela transaktionen åt dig.

Utmärkt – så länge agenten inte hallucinerar en flygresa eller missköter din ekonomiska information. Eller missbrukar företagets returpolicy och vägrar giltiga returer.

Det är inte alltför svårt att se hur de nuvarande AI-säkerhetsriskerna lätt skulle kunna kaskadföras med en mängd AI-agenter som springer runt och fattar beslut och agerar, särskilt eftersom de sannolikt inte kommer att agera ensamma. Mycket av det verkliga värdet i agentbaserad AI kommer att komma från team av agenter, där enskilda agenter hanterar delar av uppgifter och samarbetar – agent till agent – ​​för att få arbete gjort.

Så hur kan man omfamna AI-säkerhet genom design utan att hämma innovation och döda dess potentiella värde?

Säkerhet genom design i praktiken

Ad hoc-säkerhetskontroller är inte lösningen. Men att integrera säkerhetsrutiner i varje fas av en AI-implementering är det.

Börja med data. Se till att data är märkta, kommenterade där det behövs, fria från bias och av hög kvalitet. Detta gäller särskilt för träningsdata.

Träna dina modeller med mänsklig feedback, eftersom mänskligt omdöme är avgörande för att forma modellens beteende. Förstärkningsinlärning med mänsklig feedback (RLHF) och andra liknande tekniker gör det möjligt för annotatörer att betygsätta och vägleda svar, vilket hjälper LLM:er att generera resultat som är säkra och i linje med mänskliga värderingar.

Stresstesta sedan en modell innan du släpper den. Röda team som försöker provocera fram osäkert beteende genom att använda kontradiktoriska uppmaningar, edge-fall och försök till jailbreak kan avslöja sårbarheter. Att åtgärda dem innan de når allmänheten håller saker säkra innan det uppstår ett problem.

Medan dessa tester säkerställer att dina AI-modeller är robusta, fortsätt övervaka dem med ett öga på nya hot och justeringar som kan behövas av modellerna.

På liknande sätt bör innehållskällor och digitala interaktioner regelbundet övervakas för tecken på bedrägerier. Använd en hybridstrategi mellan AI och människa, där AI-automation hanterar den enorma mängd data som ska övervakas, och skickliga människor hanterar granskningar för att säkerställa noggrannhet.

Att tillämpa agentbaserad AI kräver ännu mer omsorg. Ett grundläggande krav: träna agenten att känna till sina begränsningar. När den stöter på osäkerhet, etiska dilemman, nya situationer eller särskilt viktiga beslut, se till att den vet hur man ber om hjälp.

Se också till att dina agenter kan spåras. Detta är särskilt viktigt så att interaktionerna endast sker med verifierade användare, för att undvika att bedrägliga aktörer påverkar agentens handlingar.

Om de verkar fungera effektivt kan det vara frestande att släppa loss agenterna och låta dem göra sitt. Vår erfarenhet säger att man bör fortsätta övervaka dem och de uppgifter de utför för att hålla utkik efter fel eller oväntat beteende. Använd både automatiserade kontroller och mänsklig granskning.

Faktum är att en viktig del av AI-säkerhet är regelbunden mänsklig medverkan. Människor bör medvetet engageras där kritisk bedömning, empati eller nyanser och tvetydighet är inblandade i ett beslut eller en handling.

Återigen, för att vara tydlig, detta är alla metoder som du bygger in i AI-implementeringen i förväg, genom designDe är inte resultatet av att något går fel och man sedan rusar för att lista ut hur man minimerar skadan.

Fungerar det?

Vi har tillämpat en AI Safety First-filosofi och ett "by design"-ramverk med våra kunder under hela GenAI:s framväxt och nu på snabbspåret mot agentbaserad AI. Vi upptäcker att det, i motsats till oron för att det saktar ner saker och ting, faktiskt hjälper till att accelerera dem.

Agentic AI har potential att sänka kostnaden för kundsupport med 25–50 %, till exempel, samtidigt som kundnöjdheten ökar. Men allt beror på förtroende.

Människor som använder AI måste lita på den, och kunder som interagerar med AI-aktiverade mänskliga agenter eller med faktiska AI-agenter får inte uppleva en enda interaktion som skulle undergräva deras förtroende. En dålig upplevelse kan utplåna förtroendet för ett varumärke.

Vi litar inte på det som inte är säkert. Så när vi bygger in säkerhet i varje lager av den AI vi ska lansera kan vi göra det med tillförsikt. Och när vi är redo att skala upp det kan vi göra det snabbt – med tillförsikt.

Även om det kan verka överväldigande att omsätta AI Safety First i praktiken, är du inte ensam. Det finns många experter som kan hjälpa till och partners som kan dela med sig av vad de har lärt sig och lär sig så att du kan utnyttja värdet av AI på ett säkert sätt utan att sakta ner dig.

AI har varit en spännande resa hittills, och allt eftersom färden accelererar blir det upplyftande. Men jag är också glad att jag har hjälmen på mig.