Flyt dig hurtigt, men bræk ikke noget: Hvordan man balancerer ansvarlig AI-adopterings- og innovationsstrategi

Ifølge en ny global undersøgelse fra McKinsey, selv om 78% af organisationerne nu bruger AI i mindst én forretningsfunktion, har kun 13% ansat AI-sammenhængsspecialister, og kun 6% har AI-etikspecialister på lønningslisten.

Dette er, ærligt talt, uforsvarligt adfærd.

Selv om jeg i min ikke-så-fjern fortid var en stor tilhænger af “flyt dig hurtigt og bræk noget”-etosen fra Silicon Valley, kan vi ikke tillade os at være så uforsvarlige med AI – en teknologi, der er mere kraftfuld end noget, vi har set før, og som vokser med lysfart.

Adoptering af AI uden nogen meningsfulde sikkerhedsforanstaltninger er præcis den type hurtigbevægelser og hjørneklipning, der er garanteret til at til sidst gå galt og risikere at ødelægge alt. Det kræver kun ét tilfælde af AI-forvrængning eller misbrug til at ødelægge års anstrengelser for at opbygge en god rygte.

Og selv om mange CIO’er og CTO’er er bekendt med disse risici, synes de at operere under antagelsen, at regulatorerne til sidst vil træde ind og redde dem fra at etablere deres egne rammer, hvilket resulterer i en hel del snak om risiko med meget lidt faktisk tilsyn.

Selv om jeg ikke har nogen tvivl om, at reguleringer til sidst vil komme, er jeg mindre sikker på, at de vil blive etableret på noget tidspunkt snart. ChatGPT blev introduceret for cirka tre år siden, og vi er kun lige begyndt at se ting som Senate Judiciary Meeting on chatbots og sikkerhedsrisici finde sted. Realiteten er, at det kunne tage år, før vi ser nogen meningsfuld regulering.

I stedet for at bruge dette som en undskyldning for at udsætte internt tilsyn, bør dette opmuntre virksomhederne til at tage en mere proaktiv tilgang. Især når man tager i betragtning, at når reguleringer til sidst kommer, vil virksomheder uden deres egne rammer være i færd med at tilpasse sig for at opfylde kravene. Dette var præcis, hvad der skete, da GDPR og CCPA blev vedtaget.

Lige som de små startups fra begyndelsen af 2000’erne nu er underlagt højere standarder som de store teknologivirksomheder, de er vokset til, må vi kollektivt modne i vores tilgang til ansvarlig AI-adopteringsstrategi.

Der er ingen “køb nu, betal senere” med ansvarlig AI-udvikling – start nu

Det første skridt i en mere ansvarlig tilgang til AI er at stoppe med at vente på regulatorerne og selv sætte reglerne. Den fordel, du måske tror, du får ved at undgå sikkerhedsforanstaltninger i dag, vil kun komme tilbage for at bidde dig i fremtiden, når du står over for den meget dyre og ødelæggende proces at tilpasse sig efterfølgende.

Selvfølge, for mange, er problemet ikke at vide, hvor man skal starte. Mit firma har nylig gennemført en undersøgelse af 500 CIO’er og CTO’er i store virksomheder, og næsten halvdelen (48%) nævnte “at bestemme, hvad der udgør ansvarlig brug eller udvikling af AI” som en udfordring for at sikre etisk AI-brug.

Et let sted at starte er at udvide fokus fra kun de funktioner, der gøres mulige af AI, til også at overveje de mulige risici. For eksempel, selv om AI-brug kan spare ansatte tid, åbner det også muligheden for, at enorme mængder af personfølsomme oplysninger (PII) eller erhvervshemmeligheder deles med ulicenserede og ikke-godkendte LLM’er.

Ethvert digitalt firma i dag er bekendt med Software Development Life Cycle (SDLC), der giver en ramme for at bygge kvalitetsprodukter. AI-styringsbedstepraksis bør være integreret i denne dag-til-dag-arbejdsgang for at sikre, at ansvarlig beslutningstagning bliver en del af rutinen, ikke en eftertanke.

En styringsenhed, såsom en etikkomité eller en styringsgruppe, bør etableres for at definere standarderne for, hvordan AI-anvendelserne ser ud inden for virksomheden, og lignende definere målene for at overvåge og opretholde denne standard. Funktionelt set ligner dette AI-værktøjer og modelstyring, løsningsgodkendelser, risikostyring, regulering og standardtilpasning samt åben kommunikation. Selv om det teknisk set kan være en “ny” proces, er det ikke meget forskelligt fra data-bedstepraksis og opretholdelse af cybersikkerhed og kan automatiseres for at sikre tidlig opdækkelse af eventuelle problemer.

Selvfølge, ikke alle risici kræver samme niveau af opmærksomhed, så det er også vigtigt at udvikle en trinvis risikostyringsproces, så dit team kan fokusere på, hvad der er defineret som høj prioritetsområder.

Til sidst, og mest kritisk, er åben og transparent kommunikation om styringspraksis både internt og eksternt af største betydning. Dette inkluderer vedligeholdelse af levende dokumenter for styringsstandarder og kontinuerlig træning for at holde teamene opdateret.

Stop med at behandle styring som en trussel mod innovation

Det er meget muligt, at den virkelige trussel mod ansvarlig AI er overbevisningen om, at styring og innovation er modsatrettede. Vores undersøgelsesdata viste, at 87% af CIO’er og CTO’er følte, at for meget regulering ville begrænse innovationen.

Men styring bør behandles som en strategisk partner, ikke som en slags innovationsbremse.

En grund til, at styring betragtes som en kraft, der bremser innovationen, er, at den ofte overlades til slutningen af produktudviklingen, men sikkerhedsforanstaltninger bør være en del af processen. Som nævnt ovenfor kan styring integreres i sprint-cykler, så produktteamet kan flytte hurtigt, mens automatiserede kontroller for retfærdighed, forvrængning og overensstemmelse køres i parallel. På længere sigt betaler dette sig, da kunder, ansatte og regulatorer føler sig mere sikre, når de ser ansvarlighed bygget ind fra starten.

Og dette er blevet bevist at give finansielle gevinster. Forskning har vist, at organisationer med godt implementerede data- og AI-styringsrammer oplever en forbedring af 21-49% i finansielle præstationer. En manglende etablering af disse rammer kommer dog også med sine egne konsekvenser. Ifølge samme studie vil en majoritet af organisationerne (60%) “ikke opnå den forventede værdi af deres AI-brug tilfælde på grund af inkohærente etiske styringsrammer”.

En klausul til argumentet om, at styring ikke behøver at komme på bekostning af innovation, er, at juridiske hold, der kommer ind i disse diskussioner, tenderer til at langsommeliggøre tingene. I min erfaring kan etablering af et Governance, Risk and Compliance (GRC)-hold dog gå langt i at holde tingene i gang og hurtigt ved at fungere som en bro mellem det juridiske og produktteamet.

Når det håndteres godt, bygger GRC-holdt positive relationer med det juridiske hold, fungerer som deres øjne på jorden og får dem de rapporter, de har brug for, mens de også samarbejder med udviklingsteamet for at mindske fremtidige risici for sagsanlæg og bøder. Dette understreger yderligere, at investering i styring fra starten er den bedste måde at sikre, at det ikke kommer i vejen for innovation på.

Opret tilsyns- og styringsystemer, der kan skaleres

Trods så mange af de adspurgte CIO’er og CTO’er følte, at reguleringer kunne begrænse innovationen, var en tilsvarende stor procentdel (84%) enige om, at deres virksomhed ville øge AI-tilsyn i de næste 12 måneder. Under betragtning af, at AI-integrationer sandsynligvis vil fortsætte med at udvide og skaleres over tid, er det lige så vigtigt, at styringssystemer kan skaleres sammen med dem.

Noget, jeg ofte ser i de tidlige faser af AI-implementeringer inden for virksomheder, er, at forskellige enheder inden for virksomheden arbejder i siloer, sådan at de kører forskellige installationer samtidigt og med forskellige visioner for, hvad “ansvarlig AI” indebærer. For at undgå disse inkonsistenser ville virksomhederne være kloge at etablere et dedikeret AI Center of Excellence, der kombinerer teknisk, compliance- og forretningskompetence.

AI Center of Excellence ville etablere både virksomhedsomfattende standarder og trinvis godkendelsesprocesser, hvor der er en glidebane for lav-risiko-brugstilfælde. Dette opretholder samtidig hastighed, mens det også sikrer, at høj-risiko-installationer går igennem mere formelle sikkerhedstjek. Ligeledes bør Center of Excellence også fastsætte AI-sikkerheds-KPI’er for topchefer, så ansvarlighed ikke går tabt i dag-til-dag-forretningsfunktionerne.

Men for at gøre dette til virkelighed har cheferne brug for forbedret indsigt i styringsindikatorer. Dashboard, der viser realtidsdata for disse indikatorer, ville være langt mere effektive end den nuværende norm for statiske overensstemmelsesrapporter, der straks er forældede og ofte ikke læses. Ideelt set ville virksomhederne også bygge AI-risikoregister, på samme måde som de allerede sporer cybersikkerhedsrisici, samt opretholde revisionsstier, der afspejler, hvem der byggede en ML/AI-implementering, hvordan den blev testet og hvordan den opfører sig over tid.

Det vigtigste at tage med her er, at ansvarlig AI kræver, at styring er en løbende proces. Det handler ikke kun om godkendelser ved lancering, men om kontinuerlig overvågning hele livscyklussen igennem. Som sådan er træning afgørende. Udviklere, teknologer og forretningsledere bør trænes i ansvarlige AI-praksis, så de kan spotte problemer tidligt og opretholde høje standarder for styring, mens systemerne udvikler sig. Ved at gøre dette vil AI-installationer være mere troværdige, effektive og profitable – uden at skulle bryde noget i processen.