Flyt snabbt, men bryt ingenting: Hur man balanserar ansvarsfull AI-antagande och innovation

Enligt en nyligen global undersökning från McKinsey, använder 78% av organisationerna AI i minst en affärsfunktion, men endast 13% har anställt AI-kompatibilitetsspecialister och bara 6% har AI-etikspecialister på sin personal.

Detta är, ärligt talat, vårdslöst beteende.

Även om jag i min inte alltför avlägsna förflutna var en stor anhängare av “flyt snabbt och bryt saker” -etosen i Silicon Valley, kan vi inte vara så vårdslösa med AI – en teknik som är kraftfullare än något vi tidigare har sett och som växer i en rasande takt.

Antagande av AI utan några meningsfulla skyddsräcken är exakt den typen av snabb och hörnskärning som garanterat kommer att backa och riskera att bryta allt. Det krävs bara ett tillfälle av AI-fördom eller missbruk för att förstöra år av varumärkesbyggande.

Och även om många CIO:er och CTO:er är medvetna om dessa risker, verkar de att verka under antagandet att regulatorerna så småningom kommer att träda in och rädda dem från att etablera sina egna ramar, vilket resulterar i en hel del prat om risker med mycket lite faktisk tillsyn.

Medan jag inte har några tvivel på att regleringar så småningom kommer, är jag mindre säker på att de kommer att etableras inom en snar framtid. ChatGPT introducerades för ungefär tre år sedan, och vi ser nu saker som Senatens justitieutskott om chatbots och säkerhetsrisker äger rum. Verkligheten är att det kan ta år innan vi ser någon meningsfull reglering.

I stället för att ta detta som en ursäkt för att skjuta upp den interna styrningen, borde detta föranleda företagen att ta en mer proaktiv approach. Särskilt med tanke på att när regleringar slutligen anländer, kommer företag utan egna ramar att kämpa för att anpassa sig till efterlevnaden. Detta var exakt vad som hände när GDPR och CCPA trädde i kraft.

Precis som de strävsamma startup-företagen i början av 2000-talet nu hålls till högre standarder som de corporate-tech-jättar de har vuxit till, måste vi kollektivt mogna i vår approach till ansvarsfull AI-antagande.

Det finns inget “köp nu, betala senare” med ansvarsfulla AI-distributioner – börja nu

Det första steget i en mer ansvarsfull approach till AI är att sluta vänta på regulatorerna och etablera egna regler. Den eventuella försprång du tror att du vinner genom att undvika skyddsräcken idag kommer bara att komma tillbaka och bita dig i framtiden när du står inför den extremt dyra och störande processen att anpassa efterlevnaden.

Förstås är problemet för många att de inte vet var de ska börja. Mitt företag genomförde nyligen en undersökning bland 500 CIO:er och CTO:er på stora företag och nästan hälften (48%) angav “att bestämma vad som utgör ansvarsfull användning eller distribution av AI” som en utmaning för att säkerställa etisk AI-användning.

En enkel plats att börja är att utöka fokus bortom bara de funktioner som möjliggörs av AI och överväga de möjliga riskerna. Till exempel, även om AI-användning kan spara tid för anställda, öppnar det också upp möjligheten för stora mängder personligt identifierbar information (PII) eller affärshemligheter som delas med olicensierade och ogodkända LLM:er.

Varje digitalt företag idag är bekant med livscykeln för programvaruutveckling (SDLC), som tillhandahåller en ram för att bygga kvalitetsprodukter. AI-styrningsbästa praxis bör införlivas i den dagliga arbetsflödet för att säkerställa att ansvarsfullt beslutsfattande blir en del av rutinen, inte en eftertanke.

En styrande kropp, som en etikkommité eller styrningsstyrelse, bör etableras som definierar standarder för vad AI-tillämpningarna faktiskt ser ut inom organisationen och likaså definierar måtten för att övervaka och upprätthålla den standarden. Funktionellt ser detta ut som AI-verktyg och modellstyrning, lösningstillstånd, riskhantering, reglerings- och standardjustering och transparent kommunikation. Även om det tekniskt sett kan vara en “ny” process, är det inte så olika från data-bästa praxis och underhåll av cybersäkerhet och kan automatiseras för att säkerställa tidig upptäckt av eventuella problem.

Förstås behöver inte alla risker samma nivå av uppmärksamhet, så det är också viktigt att utveckla en nivåindelad riskhanteringsprocess så att ditt team kan fokusera på det som har definierats som högprioriterat.

Slutligen, och mest avgörande, är tydlig och transparent kommunikation om styrningspraxis både internt och externt av största vikt. Detta inkluderar att upprätthålla levande dokument för styrningsstandarder och tillhandahålla kontinuerlig utbildning för att hålla teamen uppdaterade.

Sluta behandla styrning som en hot mot innovation

Det är mycket möjligt att det verkliga hotet mot ansvarsfull AI är tron att styrning och innovation är oförenliga. Vår undersökning visade att hela 87% av CIO:er och CTO:er trodde att för mycket reglering skulle begränsa innovation.

Men styrning bör behandlas som en strategisk partner, inte som en broms på innovation.

En anledning till att styrning ses som en kraft som bromsar innovation är att den ofta lämnas till slutet av produktutvecklingen, men skyddsräcken bör vara en del av processen. Som nämnts ovan kan styrning införlivas i sprint-cykler så att en produktgrupp kan flytta snabbt, medan automatiserade kontroller för rättvisa, fördom och efterlevnad körs parallellt. Långsiktigt betalar detta av sig eftersom kunder, anställda och regulatorer känner sig mer säkra när de ser ansvar byggt in från början.

Och detta har visat sig ge finansiella belöningar. Forskning har visat att organisationer med välgenomförd data- och AI-styrningsram har en förbättring av finansiell prestanda med 21-49%. En brist på att etablera dessa ramar kommer också med sina egna konsekvenser. Enligt samma studie kommer en majoritet av organisationerna (60%) att “misslyckas med att förverkliga den förväntade värdet av sina AI-användningsfall på grund av oförenliga etiska styrningsramar”.

En reservation till argumentet att styrning inte behöver komma på bekostnad av innovation är att juridiska team som engagerar sig i dessa samtal tenderar att sakta ner saker. I min erfarenhet är att etablera ett Governance, Risk och Compliance (GRC)-team går långt i att hålla saker och ting rullande och snabbt genom att fungera som en bro mellan de juridiska och produktteamen.

När det hanteras väl, bygger GRC-teamet positiva relationer med det juridiska teamet, fungerar som deras ögon på marken och ger dem de rapporter de behöver, samtidigt som de samarbetar med utvecklingsteamet för att mildra framtida risker för stämningar och böter. Detta förstärker ytterligare att investeringar i styrning tidigt är det bästa sättet att säkerställa att det inte stör innovation.

Skapa tillsyns- och styrningssystem som kan skalas

Trots att så många av de tillfrågade CIO:er och CTO:er trodde att regleringar kunde begränsa innovation, förväntade sig en lika stor andel (84%) att deras företag skulle öka AI-tillsynen under de kommande 12 månaderna. Med tanke på sannolikheten att AI-integrationer fortsätter att expandera och skalas över tiden, är det lika viktigt att styrningssystem kan skalas tillsammans med dem.

Något jag ser ofta i de tidiga stadierna av AI-implementeringar inom företag är att olika enheter inom företaget arbetar i silos så att de kör olika distributioner samtidigt och med olika visioner för vad “ansvarsfull AI” innebär. För att undvika dessa inkonsekvenser vore det klokt för företagen att etablera ett dedikerat AI Center of Excellence som kombinerar teknisk, efterlevnads- och affärsexpertis.

AI Center of Excellence skulle etablera både företagsomfattande standarder och nivåindelade godkännandeprocesser där det finns en glidebana för lågriskanvändningsfall. Detta bibehåller hastighet samtidigt som det säkerställer att högriskdistributioner går genom mer formella säkerhetskontroller. Likaså bör centret för excellens också fastställa AI-säkerhetsnyckeltal för toppchefer så att ansvar inte förloras i den dagliga affärsverksamheten.

Men för att göra detta till verklighet behöver chefer förbättrad synlighet i styrningsindikatorspårning. Instrumentpaneler som visar realtidsdata för dessa indikatorer vore mycket mer effektiva än den nuvarande normen för statiska efterlevnadsrapporter som är omedelbart föråldrade och ofta olästa. Idealiskt sett skulle företagen också bygga AI-riskregister, på samma sätt som de redan spårar cybersäkerhetsrisker, samt hålla revisionsledningar som återspeglar vem som byggde en ML/AI-implementering, hur den testades och hur den presterar över tiden.

Den viktigaste slutsatsen här är att ansvarsfull AI kräver att styrning är en pågående process. Det handlar inte bara om godkännanden vid lansering, utan kontinuerlig övervakning under modellens livscykel. Utbildning är nyckeln. Utvecklare, tekniker och affärsledare bör utbildas i ansvarsfulla AI-praxis så att de kan upptäcka problem tidigt och upprätthålla höga standarder för styrning när system utvecklas. Genom att göra detta kommer AI-distributioner att bli mer tillförlitliga, effektiva och lönsamma – utan att behöva bryta någonting i processen.