Flytt raskt, men ikke bryt ting: Hvordan balansere ansvarlig AI-adopterings- og innovasjonsstrategi

Ifølge en ny global undersøkelse fra McKinsey, selv om 78% av organisasjonene nå bruker AI i minst en forretningsfunksjon, har bare 13% ansatt AI-samsvarsspesialister, og bare 6% har AI-etiske spesialister på lønningslisten. 

Dette er, åpenhjertig, en urealistisk holdning.

Selv om jeg i min ikke så fjerne fortid var en stor tilhenger av “flytt raskt og bryt ting”-etosen i Silicon Valley, kan vi ikke tillate oss å være like uansvarlige med AI – en teknologi som er mer kraftfull enn noe vi har sett før og vokser i lysskyndighet.

Å adoptere AI uten noen meningfulle sikkerhetstiltak er nettopp den type hurtigbevegelige hjørne-kuttende som er garantert til å til slutt gå galt og risikere å bryte alt. Det tar bare ett tilfelle av AI-forvrengning eller misbruk til å ødelegge år med bygging av omdømme. 

Og selv om mange CIO-er og CTO-er er klar over disse risikoene, ser det ut til at de opererer under antagelsen at regulatorer til slutt vil gripe inn og redde dem fra å etablere sine egne rammer, noe som resulterer i mye snakk om risiko med svært liten faktisk tilsyn. 

Selv om jeg ikke har noen tvil om at reguleringer til slutt vil komme, er jeg mindre sikker på at de vil bli etablert noen gang snart. ChatGPT ble introdusert for omtrent tre år siden, og vi er nå bare begynt å se ting som Senatets justis-møte om chatboter og sikkerhetsrisiko finner sted. Realiteten er at det kan ta år før vi ser noen meningfulle reguleringer. 

I stedet for å bruke dette som en unnskyldning for å utsette internt styre, burde dette oppmuntre bedrifter til å ta en mer proaktiv tilnærming. Spesielt når man tar i betraktning at når reguleringer til slutt kommer, vil selskaper uten sine egne rammer være i ferd med å tilpasse seg etterlevelse. Dette var nøyaktig hva som skjedde da GDPR og CCPA ble vedtatt. 

Akkurat som de skrappe startupene i begynnelsen av 2000-tallet nå er underlagt høyere standarder som de korporative teknologigigantene de har vokst inn i, må vi kollektivt modne i vår tilnærming til å adoptere AI ansvarlig. 

Det finnes ingen “kjøp nå, betal senere” med ansvarlig AI-utplassering – start nå

Det første skrittet i en mer ansvarlig tilnærming til AI er å slutte å vente på regulatorer og sette sine egne regler. Hva som helst forsprang du måtte tro du får ved å unngå sikkerhetstiltak i dag, vil bare komme tilbake og bite deg i fremtiden når du står overfor den svært dyre og disruptive prosessen med å tilpasse etterlevelse. 

Selvfølgelig er problemet for mange å ikke vite hvor de skal starte. Mitt selskap har nylig undersøkt 500 CIO-er og CTO-er i store bedrifter, og nesten halvparten (48%) nevnte “å bestemme hva som utgjør ansvarlig bruk eller utplassering av AI” som en utfordring for å sikre etisk AI-bruk. 

En enkel plass å starte er å utvide fokusen din utenfor bare funksjonene som muliggjøres av AI og vurdere de mulige risikoene. For eksempel, selv om AI-bruk kan spare ansatte tid, åpner det også opp for muligheten for store mengder personlig identifiserbar informasjon (PII) eller bedriftshemmeligheter som deles med ulisensiert og godkjent LLM. 

Enhver digital bedrift i dag er kjent med Software Development Life Cycle (SDLC), som gir en ramme for å bygge kvalitetsprodukter. AI-styret beste praksis bør være innbygget i denne dag-til-dag-arbeidsflyten for å sikre at ansvarlig beslutningstaking blir en del av rutinen, ikke en ettertanke. 

En styreorgan, som en etisk komité eller styre, bør etableres for å definere standarder for hva AI-applikasjonene faktisk ser ut som innen organisasjonen, og definere målene for å overvåke og opprettholde denne standarden. Funksjonelt sett ser dette ut som AI-verktøy og modellstyre, løsningsgodkjenning, risikostyring, regulatorisk og standardjustering, og åpen kommunikasjon. Selv om dette teknisk sett kan være en “ny” prosess, er det ikke så forskjellig fra data beste praksis og å opprettholde cybersikkerhet, og kan automatiseres for å sikre tidlig oppdaging av eventuelle problemer. 

Selvfølgelig trenger ikke alle risikoene samme nivå av oppmerksomhet, så det er også viktig å utvikle en trinnvis risikostyringsprosess så teamet ditt kan fokusere de fleste av sine anstrengelser på hva som er definert som høy prioritert. 

Til slutt, og mest kritisk, er åpen og transparent kommunikasjon om styrepraksis både internt og eksternt av største betydning. Dette inkluderer å opprettholde levende dokumenter for styrestandarder og å gi kontinuerlig opplæring for å holde teamene oppdatert. 

Slutt å behandle styre som en trussel mot innovasjon

Det er svært mulig at den virkelige trusselen mot ansvarlig AI er overbevisningen om at styre og innovasjon er i konflikt med hverandre. Våre undersøkelsesdata viste at hele 87% av CIO-er og CTO-er følte at for mye regulering ville begrense innovasjon.

Men styre bør behandles som en strategisk partner, ikke noen type innovasjonsbremse. 

En årsak til at styre ofte sees på som en kraft som bremser innovasjon, er at det ofte blir behandlet som en ettertanke, men sikkerhetstiltak bør være en del av prosessen. Som nevnt ovenfor, kan styre bygges inn i sprint-sykluser så at et produktteam kan flytte raskt, mens automatiserte sjekker for rettferdighet, forvrengning og overholdelse kjøres parallelt. Langsiktige lønninger betaler seg ut som kunder, ansatte og regulatorer føler seg mer trygge når de ser ansvar bygges inn fra starten.

Og dette har vært bevist å gi finansielle gevinster. Forskning har vist at organisasjoner med godt implementerte data- og AI-styre rammer opplever en 21-49% forbedring i finansiell ytelse. En manglende etablering av disse rammer kommer også med sine egne konsekvenser. Ifølge samme studie vil majoriteten av organisasjonene (60%) “ikke realisere den forventede verdien av sine AI-brukstilfeller på grunn av ukoherente etiske styre rammer” innen 2027. 

En forbehold til argumentet om at styre ikke behøver å komme på bekostning av innovasjon, er at juridiske team som blir involvert i disse samtaler, tenderer til å sakke ting ned. I min erfaring, etablerer imidlertid en Governance, Risk, and Compliance (GRC)-enhet langt i å holde ting gående jevnt og raskt ved å fungere som en bro mellom det juridiske og produktteamene. 

Når det styres godt, bygger GRC-teamet positive relasjoner med det juridiske teamet, som fungerer som deres øyne på bakken og får dem rapportene de trenger, samtidig som de samarbeider med utviklingsteamet for å minimere fremtidige risikoer for søksmål og bøter. Dette styrker ytterligere at investering i styre tidlig er den beste måten å sikre at det ikke forstyrer innovasjon på. 

Opprett tilsyns- og styresystemer som kan skaleres

Til tross for at så mange av de undersøkte CIO-er og CTO-er følte at reguleringer kunne begrense innovasjon, var en like stor prosent (84%) enige om at deres selskap ville øke AI-tilsyn i de neste 12 månedene. Med tanke på sannsynligheten for at AI-integrasjoner fortsetter å utvide og skalerer over tid, er det like viktig at styresystemer kan skaleres sammen med dem. 

Noe jeg ser ofte i de tidlige fasene av AI-implementeringer innen bedrifter, er at ulike enheter innen bedriften arbeider i siloer, slik at de kjører ulike utplasseringer samtidig og med ulike visjoner for hva “ansvarlig AI” innebærer. For å unngå disse inkonsistensene, ville det være klokt for selskaper å etablere en dedikert AI-senter for utmerkethet som kombinerer teknisk, overholdelses- og forretningskompetanse. 

AI-senteret for utmerkethet ville etablere både selskapsomfattende standarder og trinnvis godkjenningsprosesser hvor det er en glidebane for lavrisiko-brukstilfeller. Dette sikrer hastighet samtidig som det garanterer at høyrisiko-utplasseringer går gjennom mer formelle sikkerhetssjekker. Liksom senteret for utmerkethet også bør sette AI-sikkerhets-KPI-er for toppledere, så ansvar ikke blir tapt i dag-til-dag-forretningsfunksjoner. 

Men for å gjøre dette til virkelighet, trenger ledere forbedret syn på styreindikatorer. Dashboards som gir sanntidsdata på disse indikatorene ville være langt mer effektive enn den nåværende normen av statiske overholdelsesrapporter som umiddelbart er utdaterte og ofte går ubleste. Ideelt sett burde selskaper også bygge AI-risikoregister, på samme måte som de allerede sporer cybersikkerhetsrisiko, i tillegg til å holde audit-spor som reflekterer hvem bygde en ML/AI-implementering, hvordan den ble testet og hvordan den utfører seg over tid. 

Det viktigste takeaway her er at ansvarlig AI krever at styre er en pågående prosess. Det handler ikke bare om godkjenninger ved lansering, men kontinuerlig overvåking gjennom hele modellens livssyklus. Som sådan er opplæring nøkkel. Utviklere, teknologer og forretningsledere burde bli opplært i ansvarlige AI-praksiser så de kan oppdage problemer tidlig og opprettholde høye standarder for styre når systemer utvikler seg. Ved å gjøre dette, er AI-utplasseringer garantert å bli mer pålitelige, effektive og lønnsomme – uten å måtte bryte noe i prosessen.