Kun AI:n “tietäminen” on 50 vuoden vanha: Yhdenmukaisuusriski, jota et voi jättää huomiotta

Virheellisten AI-näkymien ongelma on kiireellinen haaste, kun yritykset lisäävät generatiivisten työkalujen käyttöä. Huolimatta laajasta AI-adoptiosta, on myös voimakas arvostelun virta. Kriittiset kommentaattorit usein viittaavat näennäisesti satunnaisiin, arvaamattomiin epätarkkuuksiin AI:n tulosteissa, jotka heikentävät sen arvoa – ja voivat jopa aiheuttaa oikean vahingon ihmisille, erityisesti terveydenhuolto- ja liikennetoimialoilla, joilla virheelliset tulosteet voivat teoreettisesti johtaa kaikenlaisiin ongelmien, kuten väärään reseptiin tai junien törmäykseen.

Usein nämä epätarkkuudet on pantu AI:n “hallusinaatioiden” tilille – tapauksiin, joissa AI generoi “parhaan arvauksen” vastauksen, joka esitetään samalla varmuudella kuin “aito” vastaus, sen sijaan, että ilmoittaisi käyttäjälle tiedon puutteesta tai rajoitteista. Hallusinaatiot voivat olla hankalia havaita ensi silmäyksellä – mutta on olemassa hiljaisempi, yhtä vakava ongelma, joka on vielä vaikeampi havaita.

Tietojen laadun velka: AI:n akillesjalka

Kun AI-järjestelmät käyttävät vanhentunutta, epätäydellistä tai virheellistä tietoa, virheelliset tulosteet ilmenevät, mutta ne ovat vähemmän heti havaittavissa. Esimerkiksi voit kysyä AI:ltä tietyn sairauden oireita ja saada vastauksen, joka perustuu 50 vuoden vanhaan tutkimukseen, eikä nykyiseen tutkimukseen. Tuloksena on epätodennäköistä, että se näyttäisi selvästi, naurettavan väärältä – mutta tämä alkuinen uskottavuuden kerros aiheuttaa oikean riskin sekä potilaalle että terveydenhuollon tarjoajalle.

Sama pätee kaikille toimialoille – jos AI-malliin syötettävät tiedot sisältävät vanhentunutta, vanhentunutta tai osittaisia tietoja, on suuri riski virheellisistä tulosteista. Ja kun yritykset integroivat AI:n liiketoimintakriittisiin prosesseihin, virheellisten johtopäätösten riski huonosti johdetuista tiedoista kasvaa.

Tarkkuus sääntelijöille

Tämä ei ole vain päivittäisten toimien ongelma – se on myös merkittävä yhdenmukaisuushaaste. Sääntelyvaatimukset kehittyvät nopeasti osoittamaan huolta virheellisestä AI:sta. Esimerkiksi useat varhaiset sääntelytoimet AI:sta ovat tapahtuneet; erityisesti kun Italia kielsi tilapäisesti ChatGPT:n yksityisyyden suojelun vuoksi, ja EU:n tietosuojalautakunta perusti omistajan tehtävän valvomaan mahdollisia toimia ChatGPT:ä vastaan.

Yksi merkittävimmistä sääntelymuutoksista on EU:n AI-lain hyväksyminen, maailman ensimmäinen kattava lakisääteinen kehykset AI:lle. Laki asettaa velvollisuuksia AI-järjestelmien riskitasoon perustuen, “hyväksymättömän riskin” järjestelmistä, jotka on kielletty, “korkean riskin” järjestelmiin, jotka kohtaavat tiukat vaatimukset avoimuuden, tietojen laadun, hallinnon ja ihmisen valvonnan suhteen.

EU:n AI-lain merkitys ei olekaan sen kunnianhimoisessa laajuudessa, vaan tärkeästi siinä, että se luo esimerkin. Sääntelijät tekevät selväksi, että AI on alainen sitoville, voimaanpaneville säännöille, ja että organisaatioiden on käsiteltävä yhdenmukaisuutta ja avoimuutta siitä, missä ja miten AI:ta käytetään, olennaisena osana AI-adoptiota, eikä jälkikäteen.

Laki on laaja, ja sillä on potentiaalinen vaikutus suurelle osalle AI-kehityksestä. Sen ytimessä on tehdä AI:sta turvallinen kunnioittaen perusarvoja ja -oikeuksia. Tässä uudessa periaatteellisessa ekosysteemissä diagnosoidaan mahdollisia lähteitä AI:n epätarkkuuksille, mukaan lukien tiedot ja tietokannat, joita mallit syöttävät, mallien epäselvyys ja pääsy, sekä järjestelmän suunnittelu ja käyttö. AI-ratkaisut ovat kaikkien näiden kolmen konstruktio. On ongelmia, jos joku niistä on negatiivinen. Lisäksi tiedot, jotka ovat mukana AI-järjestelmien suunnittelussa, mallien kehityksessä, käyttöönotossa ja toiminnassa, ovat todennäköisesti pääasiassa liiketoimintatietoja, jotka ovat itsekin alttiina erilaisille yhdenmukaisuusvaatimuksille.

Toisin sanoen AI:n ympärillä oleva sääntelyympäristö muuttuu yhä tiukemmaksi – ja se on yhtä totta tietojen syötölle kuin tietojen tulostukselle, vaikka jälkimmäinen saa enemmän otsikoita.

Videttä vaiheittaista prosessia syöttämään AI:lle yhdenmukaisia, ajantasaisia ja merkityksellisiä tietoja

Tämän kaksinkertaisen haasteen – varmistamaan sekä yhdenmukainen tietojen käsittely että korkealaatuinen syöttötieto, joka mahdollistaa korkealaatuista tulostetta – ratkaisemiseksi yritysten on hallittava koulutus- ja päätöksentekotietoja. Valitettavasti monilla yrityksillä tämä puuttuu edelleen.

Yritysten on sovellettava laajempia yhdenmukaisuus- ja hallintohjelmiaan AI-aloitteisiinsa. Heidän on aloitettava Asianomaisen tiedon tallentaminen ja ylläpitäminen AI-malleille syötettävistä tiedoista, mallien ja järjestelmien suunnittelusta sekä AI:n kautta tehtyjen päätösten ja sisällön tuottamisesta.

Kuitenkin on myös tärkeää, että yritykset menevät askelen eteenpäin ja varmistavat, että heillä on täysi hallinta kaikista tiedoista, jotka voivat käytännössä olla mukana AI-käyttöönotoissa, olipa se alku- tai “live”-työ. Tämä vaatii korkealaatuisen tietojen hallinnan ja tallennusstrategian, joka varmistaa, että kaikki asiaankuuluvat tiedot kerätään älykkäästi, puhdistetaan, tallennetaan, luokitellaan ja oikeutetaan. Tämän saavuttamiseksi yritysten on harkittava neljää tärkeää askelta:

1. Tietojen polku ja alkuperä

Tämä sisältää tiedon lähteen, alkuperän, omistajuuden ja mahdollisten metatietojen muutosten ylläpitämisen koko elinkaaren ajan. Se tarkoittaa myös rikkaan metatiedon ja kaikkien asiakirjojen tai artefaktien ylläpitämistä, joista se on johdettu.

2. Tietojen aitoutta

Tämä vaatii selkeän hallinnan kaikista tiedoista, tallentaa objekteja alkuperäisessä muodossa ja salata objekteja vastaanotettaessa, jotta voidaan osoittaa, että tieto on muuttumaton. Lisäksi yritysten on ylläpidettävä kattava audit-historia kullekin objektille ja kaikille toimille ja tapahtumille, jotka liittyvät muutoksiin.

3. Tietojen luokittelu

On tärkeää määritellä tietojen luonne. Yritysten on kyettävä hallitsemaan rakenteisia tietoja, puolirakenteisia tietoja ja rakenteisia tietojoukkoja. Antamalla kullekin luokalle yksilöllisen skeeman voidaan hallita monimuotoinen tietojoukko ilman yhdenmukaista, joustamatonta ontologiaa – välttäen, että tiedot muutetaan tarpeettomasti, jotta ne voitaisiin pakottaa joustamattomaan tietorakenteeseen.

4. Tietojen normalisointi

On tärkeää määritellä yhteiset määritelmät ja muodot metatiedoille, joita voidaan käyttää analytiikassa ja AI-ratkaisuissa. Selkeästi määritellyt skeemat ovat tärkeitä, samoin kuin työkalut, jotka voivat muuttaa tai kartoittaa tietoja, jotta voidaan ylläpitää johdonmukaisia, normalisoituja näkymiä liittyvistä tiedoista.

5. Tietojen oikeudet

Yritysten on oltava hienojakoinen oikeuksien hallinta, myös objektin tai kentän tasolla, perustuen käyttäjän tai järjestelmän profiileihin. Tämä tarkoittaa, että oikeat tiedot ovat käytettävissä käyttäjille ja järjestelmille, joilla on oikeus pääsyyn, kun taas pääsy on rajoitettu tai rajoitettu niille, joilla ei ole.

Näiden tärkeiden elementtien ollessa paikallaan yritykset ovat parhaiten asemissa varmistamaan, että AI-malleille syötettävät tiedot ovat sekä korkealaatuisia että yhdenmukaisia. AI tuo parannuksia ja tehokkuutta eri toimialoille – mutta tämän toteutumiseksi on tarpeen vankka tietopohja.