Liiku nopeasti, mutta älä riko asioita: Kuinka tasapainottaa vastuullinen tekoälyominaisuudet ja innovaatio

McKinsey-nimisen yrityksen tekemän tuoreen globaalin tutkimuksen mukaan, vaikka 78 %:lla organisaatioista on jo käytössä tekoäly ainakin yhdessä liiketoimintafunktiossa, vain 13 %:lla on palkattu tekoäly-yhdenmukaisuusasiantuntijoita ja vain 6 %:lla on tekoäly-eettisiä asiantuntijoita henkilöstössään.

Tämä on, rehellisesti sanottuna, huolimaton käyttäytyminen.

Vaikka olin aiemmin vakuuttunut “liiku nopeasti ja riko asioita” -etoksen sielunmaisemasta, emme voi olla niin huolimattomia tekoälyssä – teknologiassa, joka on voimakkaampi kuin mitä olemme aiemmin nähneet ja joka kasvaa valonnopeudella.

Tekoälyn omaksuminen ilman merkittäviä varotoimia on juuri sellaista nopeasti liikkuva kulku, joka lopulta takuuvarmasti takaiskuu ja riski rikkoa kaiken. Riittää, että yksi tekoälyn harha- tai väärinkäytön tapaus voi mitätöidä vuosien ajan rakennetun maineen.

Vaikka monet CIO:t ja CTO:t tietävät näistä riskeistä, he vaikuttavat toimivan oletuksella, että sääntelijät lopulta astuvat esiin ja pelastavat heidät omien kehyksien perustamisesta, mikä johtaa paljon puhumiseen riskeistä, mutta hyvin vähäiseen todelliseen valvontaan.

Vaikka olen varma, että säännökset lopulta tulevat, en ole yhtä varma, että ne toteutetaan millään aikaisella ajankohtana. ChatGPT:stä on kulunut noin kolme vuotta, ja vasta nyt alamme nähdä asioita, kuten Senate Judiciary Meetingin chatbotien ja turvallisuusriskien käsittely. Todellisuus on, että voi kestää vuosia, ennen kuin näemme minkäänlaista merkittävää sääntelyä.

Sen sijaan, että ottaisimme tämän tekosyyksi viivästelyyn sisäisessä hallinnossa, tämä pitäisi rohkaista yrityksiä ottamaan enemmän proaktiivista lähestymistapaa. Erityisesti ottaen huomioon, että kun säännökset lopulta saavuttavat, yritykset ilman omia kehyksiä joutuvat kiirehtimään sopeuttamaan noudattamista. Tämä oli tarkalleen se, mitä tapahtui, kun GDPR ja CCPA toteutettiin.

Niin kuin varhaisen 2000-luvun ahkerat startup-yritykset, jotka nyt ovat kasvaneet corporate-tech-jäteksi, meidän on yhdessä kasvettava lähestymistapaamme tekoälyn vastuulliseen omaksumiseen.

Ei ole “osta nyt, maksa myöhemmin” -vaihtoehtoa vastuullisissa tekoälykäyttöönotoissa – aloita nyt

Vastuullisen lähestymistavan ensimmäinen askel tekoälyyn on lopettaa odottaminen sääntelijöiden toimia ja asettaa omat säännöt. Mikä tahansa etu, jonka luulet saavuttavasi välttämällä turvallisuutta tänään, tulee vain takaiskuksi tulevaisuudessa, kun sinun on käsiteltävä hyvin kallista ja häiritsevää prosessia sopeuttamalla vanhat järjestelmät uusiin vaatimuksiin.

Tietysti monille ongelmaksi muodostuu se, ettei tiedetä, mihin suuntaan mennä. Yritykseni teki äskettäin tutkimuksen, jossa 500 CIO:ta ja CTO:ta suurista yrityksistä osallistui, ja lähes puolet (48 %) mainitsi “määrittämisen, mitä tekoälyn vastuullinen käyttö tai käyttöönotto tarkoittaa” haasteeksi tekoälyn eettisen käytön varmistamiselle.

Yksi helppo aloituskohta on laajentaa fokuksesi tekoälyn mahdollistamien ominaisuuksien ulkopuolelle ja ottaa huomioon mahdolliset riskit. Esimerkiksi, vaikka tekoälyn käyttö voi säästää työntekijöiden aikaa, se myös avaa mahdollisuuden suurten määrien henkilökohtaisten tunnistetietojen (PII) tai kaupallisten salaisuuksien jakamiselle luvattomille ja hyväksymättömille LLM:ille.

Mikä tahansa digitaalinen yritys tänään on tuttu ohjelmistokehityksen elinkaaren (SDLC) käsitteelle, joka tarjoaa kehyksen laadukkaiden tuotteiden luomiseksi. Tekoälyn hallinnon parhaat käytännöt tulisi sisällyttää päivittäiseen työskentelyyn, jotta vastuullinen päätöksenteko tulisi osaksi rutiinia, ei jälkikäteen.

Hallinnollinen elin, kuten eettinen komitea tai hallintoneuvosto, tulisi perustaa, joka määrittää tekoälyn soveltamisen standardit organisaatiossa ja määrittää miten standardin mukaisuutta valvotaan ja ylläpidetään. Toiminnallisesti tämä näyttää tekoälytyökalujen ja mallien hallinnolta, ratkaisujen hyväksymiseltä, riskien hallinnalta, sääntely- ja standardiyhdenmukaisuudelta sekä avoimelta viestinnältä. Vaikka teknisesti tämä voi olla “uusi” prosessi, se ei ole kovin erilainen kuin datan parhaat käytännöt ja kyberTurvallisuuden ylläpito, ja se voidaan automatisoida varhaisen ongelman havaitsemisen varmistamiseksi.

Tietysti ei kaikki riskit vaadi samanlaista huomiota, joten on myös tärkeää kehittää portaikko-riskien hallintaprosessi, jotta tiimisi voi kohdistaa pääasiassa huomiota määriteltyihin korkean prioriteetin asioihin.

Lopulta, ja ennen kaikkea, selkeä ja avoin viestintä hallintokäytännöistä sekä sisäisesti että ulkoisesti on olennainen. Tämä sisältää elävien asiakirjojen ylläpitämisen hallintostandardeista ja jatkuvan koulutuksen tarjoamisen tiimien päivittämiseksi.

Lopeta hallinnon käsittely uhkana innovaatiolle

On mahdollista, että todellinen uhka vastuulliselle tekoälylle on usko, että hallinto ja innovaatio ovat toisensa vastakohtia. Tutkimusdatamme osoitti, että 87 %:lla CIO:ista ja CTO:ista oli sellainen mielipide, että liiallinen sääntely rajoittaisi innovaatiota.

Hallintoa tulisi kuitenkin kohdella strategisena kumppanina, ei innovaation jarruna.

Yksi syy, miksi hallintoa pidetään kitka-voimana, joka hidastaa etenemistä, on se, että se usein jätetään tuotekehityksen loppuvaiheeseen, mutta varotoimet tulisi ottaa osaksi prosessia. Kuten mainittiin aiemmin, hallinto voidaan sisällyttää sprint-kausien yhteydessä, jotta tuotejoukkue voi edetä nopeasti, samalla kun automaattiset tarkastukset reiluudesta, harhauttamisesta ja noudattamisesta suoritetaan rinnakkain. Pitkällä tämä maksaa, koska asiakkaat, työntekijät ja sääntelijät tuntevat itsensä enemmän varmoiksi, kun he näkevät vastuullisuuden rakennettuna alusta alkaen.

Ja tämä on osoittautunut tuottavan taloudellisia hyötyjä. Tutkimus on osoittanut, että organisaatiot, joilla on hyvin toteutetut data- ja tekoälyhallinnon kehykset, kokevat 21-49 %:n parannuksen taloudellisessa suorituskyvyssä. Hallinnon kehysten puute johtaa kuitenkin omiin seuraamuksiinsa. Saman tutkimuksen mukaan 60 %:lla organisaatioista ei onnistu toteuttamaan odotettua arvoa tekoälyn käytöstä vuoteen 2027 mennessä johtuen epäkoherentista eettisistä hallintokehyksistä.

Yksi varoitus argumenttiin, että hallinto ei välttämättä tule innovaation kustannuksella, on se, että lakiryhmien osallistuminen näihin keskusteluihin hidastaa asioita. Kokemukseni perusteella kuitenkin hallinnon, riskien ja noudattamisen (GRC) tiimin perustaminen auttaa pitämään asiat sujuvasti ja nopeasti toimimalla silkkana lakiryhmien ja tuotejoukkueiden välillä.

Kun GRC-tiimiä hallitaan hyvin, se rakentaa myönteisiä suhteita lakiryhmiin, toimien heidän silminään maassa ja antaen heille tarvittavat raportit, samalla kun se tekee yhteistyötä kehitystiimin kanssa tulevien oikeudellisten riskien ja sakkojen vähentämiseksi. Lopulta tämä vahvistaa, että hallinnon sijoittaminen alkuvaiheessa on paras tapa varmistaa, ettei se häiritse innovaatiota.

Luo valvontaa ja hallintajärjestelmiä, jotka voivat skaalautua

Vaikka moni tutkituista CIO:ista ja CTO:ista koki, että sääntely voisi rajoittaa innovaatiota, samansuuruinen osuus (84 %) odotti, että heidän yrityksensä lisäisi tekoälyn valvontaa seuraavien 12 kuukauden aikana. Ottaen huomioon, että tekoälyn integraatiot todennäköisesti laajenevat ja skaalautuvat ajan myötä, on yhtä tärkeää, että hallintajärjestelmät pystyvät skaalautumaan niiden mukana.

Jotain, mitä näen usein tekoälyn toteutuksen alkuvaiheessa yrityksissä, on se, että eri yksiköt yrityksessä toimivat erillään, jolloin he ajavat eri käyttöönottoja rinnakkain ja eri näkemyksillä siitä, mitä “vastuullinen tekoäly” tarkoittaa. Yritykset voisivat olla viisaita perustamaan omat tekoälyosaamiskeskuksensa, joka yhdistää teknisen, noudattamisen ja liiketoimintatiedon.

Tekoälyosaamiskeskuksessa tulisi määritellä sekä yrityksen laajuiset standardit että portaikko-hyväksymisprosessit, joissa on liukkausraja matalan riskin käyttötapauksille. Tämä ylläpitää nopeutta samalla, kun se takaa, että korkean riskin käyttöönotot menevät läpi muodollisia turvallisuustarkastuksia. Samoin keskuksessa tulisi asettaa tekoälyn turvallisuuden KPI:t johtajille, jotta vastuu ei häviä päivittäisissä liiketoimintafunktioissa.

Mutta voidakseen tehdä tämän todeksi, johtajien on parannettava näkyvyyttään hallintaindikatorien seuraamisessa. Dashboardit, jotka palvelevat reaaliaikaisia tietoja näistä osoittimista, olisivat paljon tehokkaampia kuin nykyinen normi staattisille noudattamisraporteille, jotka ovat välittömästi vanhentuneita ja usein lukemattomia. Ihannetapauksessa yritykset myös rakentaisivat tekoälyriskirekisterit, samalla tavoin kuin he jo seuraavat kyberTurvallisuuden riskejä, sekä ylläpitäisivät audit-rajaa, joka heijastaa, kuka rakensi ML/tekoälytoteutuksen, miten se testattiin ja miten se suorittaa ajan myötä.

Tärkein asia tässä on, että vastuullinen tekoäly edellyttää, että hallinto on jatkuva prosessi. Se ei ole vain hyväksymisiä käyttöönoton aikana, vaan jatkuva seuranta koko mallin elinkaaren ajan. Kehittäjien, teknologisten ja liiketoimintajohtajien on opittava vastuullisia tekoälykäytäntöjä, jotta he voivat havaita ongelmat aikaisin ja ylläpitää korkeita hallintostandardeja, kun järjestelmät kehittyvät. Näin tekoälykäyttöönotot ovat varmasti luotettavampia, tehokkaampia ja kannattavampia – ilman, että mitään rikkoa tarvitsee.