Tekoälyn avoimuus ja avoimen lähdekoodin mallien tarve

Suojellakseen ihmisiä tekoälyn mahdollisilta haitoilta jotkin Yhdysvaltojen ja Euroopan unionin sääntelyviranomaiset kannattavat yhä enemmän avoimen lähdekoodin tekoälymallien vallan valvontaa ja sitä tasapainottavia mekanismeja. Tätä motivoi osittain suuryritysten halu hallita tekoälyn kehitystä ja ohjata sitä itseään hyödyttävään suuntaan. Viranomaiset ovat myös huolissaan kehityksen nopeudesta: tekoäly voi kehittyä niin nopeasti, ettei sen pahantahtoisen käytön estämiseen tarvittavia suojatoimia ehditä ottaa käyttöön.

Yhdysvaltojen AI Bill of Rights -oikeusjulistus ja NIST AI Risk Management Framework -riskienhallintakehys sekä EU:n tekoälysäädös tukevat tarkkuuden, turvallisuuden, syrjimättömyyden, tietoturvan, avoimuuden, vastuuvelvollisuuden, selitettävyyden, tulkittavuuden ja tietosuojan kaltaisia periaatteita. Sekä EU että Yhdysvallat odottavat lisäksi kansallisten tai kansainvälisten standardointiorganisaatioiden olevan keskeisessä asemassa tekoälyä koskevien ohjeiden laatimisessa.

Tässä tilanteessa on välttämätöntä tavoitella tulevaisuutta, jossa korostuvat avoimuus sekä mahdollisuus tarkastaa ja valvoa tekoälyjärjestelmiä. Näin kehittäjät kaikkialla maailmassa voisivat tutkia, analysoida ja parantaa tekoälyä perusteellisesti keskittyen erityisesti koulutusaineistoihin ja -prosesseihin.

Tekoälyn avoimuuden toteuttamiseksi meidän on ymmärrettävä sen päätöksenteon perustana olevat algoritmit ja avattava sen ”mustan laatikon” toimintatapaa. Avoimen lähdekoodin ja tarkastettavat mallit ovat tässä olennaisia, sillä niiden taustalla oleva koodi, järjestelmäarkkitehtuuri ja koulutusdata ovat tutkittavissa ja auditoitavissa. Avoimuus edistää yhteistyötä ja innovaatioita sekä suojaa monopolisoitumiselta.

Tämän vision toteuttaminen edellyttää politiikkamuutoksia, ruohonjuuritason aloitteita sekä kaikkien sidosryhmien, kuten kehittäjien, yritysten, hallitusten ja yleisön, aktiivisen osallistumisen kannustamista.

Tekoälyn nykytila: vallan keskittyminen ja hallinta

Tekoälyn kehitys, erityisesti suurten kielimallien eli LLM-mallien kehitys, on nykyisin pääasiassa keskittynyt suuryrityksille ja niiden hallintaan. Vallan keskittyminen herättää huolta väärinkäytöksistä sekä kysymyksiä oikeudenmukaisesta pääsystä tekoälyyn ja sen edistysaskelten hyötyjen tasapuolisesta jakamisesta.

Etenkin suosittujen LLM-mallien koulutusprosessista puuttuu avoimen lähdekoodin vaihtoehtoja tarvittavien valtavien laskentaresurssien vuoksi, sillä ne ovat yleensä vain suuryritysten saatavilla. Vaikka tilanne ei muuttuisi, koulutusaineistojen ja -prosessien avoimuus on tärkeää tarkastelun ja vastuuvelvollisuuden mahdollistamiseksi.

OpenAI:n hiljattain käyttöön ottama lisenssijärjestelmä tietyille tekoälytyypeille on herättänyt huolta sääntelyvallan kaappaamisesta, koska se voisi vaikuttaa tekoälyn kehityssuunnan lisäksi laajempiin yhteiskunnallisiin, taloudellisiin ja poliittisiin kysymyksiin.

Avoimen tekoälyn tarve

Kuvittele luottavasi teknologiaan, joka tekee ihmisten henkilökohtaiseen elämään merkittävästi vaikuttavia päätöksiä mutta ei jätä jälkeä päätöksenteostaan eikä selitä johtopäätöstensä perusteita. Tässä avoimuudesta tulee välttämätöntä.

Ennen kaikkea avoimuus on keskeistä luottamuksen rakentamisessa. Kun tekoälymallien toimintaa voidaan havainnoida, niiden luotettavuuteen ja tarkkuuteen voidaan luottaa paremmin. Avoimuus myös lisää huomattavasti kehittäjien ja organisaatioiden vastuuta algoritmiensa tuloksista.

Toinen keskeinen näkökohta on algoritmisten vinoumien tunnistaminen ja vähentäminen. Vinoumia voi päätyä tekoälymalleihin useilla tavoilla.

• Ihmistekijä: datatieteilijät voivat siirtää omia vinoumiaan malleihin.
• Koneoppiminen: vaikka tutkijat loisivat täysin objektiivista tekoälyä, mallit olisivat edelleen hyvin alttiita vinoumille. Koneoppiminen alkaa määritellystä aineistosta, minkä jälkeen malli päästetään omaksumaan uutta dataa sekä muodostamaan uusia oppimispolkuja ja johtopäätöksiä. Tulokset voivat olla tahattomia, vinoutuneita tai epätarkkoja, kun malli pyrkii kehittymään itsenäisesti niin sanotun datan ajautumisen eli data driftin kautta.

Nämä mahdolliset vinoumien lähteet on tärkeää tuntea, jotta ne voidaan tunnistaa ja niitä voidaan vähentää. Yksi keino on auditoida mallin koulutuksessa käytetty data ja etsiä syrjintään tai epäoikeudenmukaisuuteen viittaavia kuvioita. Toinen keino on käyttää vinoumien vähentämiseen tarkoitettuja menetelmiä, jotka voivat poistaa tai vähentää mallin vinoumia. Avoimuus vinoumien mahdollisuudesta ja niiden vähentämiseksi tehtävät toimet auttavat varmistamaan tekoälyn oikeudenmukaisen ja vastuullisen käytön.

Avoimet tekoälymallit mahdollistavat koulutusaineistojen tarkastelun, vinoumien tunnistamisen ja korjaavat toimet. Päätöksenteon näkyvyys auttaa tavoittelemaan oikeudenmukaisuutta ja estämään syrjivien käytäntöjen leviämistä. Avoimuutta tarvitaan mallin koko elinkaaren ajan datan ajautumisen, vinoumien ja väärää tietoa tuottavien tekoälyhallusinaatioiden estämiseksi. Hallusinaatiot ovat erityisen yleisiä suurissa kielimalleissa, mutta niitä esiintyy kaikentyyppisissä tekoälytuotteissa. Tekoälyn havaittavuus auttaa myös varmistamaan mallien suorituskyvyn ja tarkkuuden sekä luomaan turvallisempaa ja luotettavampaa tekoälyä, joka tekee vähemmän virheitä ja aiheuttaa harvemmin tahattomia seurauksia.

Avoimuuden saavuttamiseen liittyy kuitenkin haasteita. Tietosuojaa, tietoturvaa ja immateriaalioikeuksia koskevat huolenaiheet vaativat huolellista tasapainottamista. Tämä edellyttää yksityisyyttä suojaavia menetelmiä, arkaluonteisten tietojen anonymisointia sekä vastuullista avoimuutta edistäviä toimialastandardeja ja sääntelyä.

Avoimen tekoälyn toteuttaminen

Tekoälyn tarkastettavuuden mahdollistavien työkalujen ja teknologioiden kehittäminen on keskeistä tekoälymallien avoimuuden ja vastuuvelvollisuuden edistämisessä.

Teknologinen kehitys voi työkalujen lisäksi edistää avoimuutta rakentamalla tekoälyn ympärille avoimuuden kulttuuria. Yritysten ja organisaatioiden kannustaminen kertomaan avoimesti tekoälyn käytöstään auttaa rakentamaan luottamusta. Mallien tarkastamisen helpottaminen ja avoimuuden kulttuuri voivat auttaa varmistamaan tekoälyn oikeudenmukaisen ja vastuullisen käytön.

Teknologisella kehityksellä voi olla myös päinvastainen vaikutus. Jos teknologiayritykset esimerkiksi kehittävät suljettuja algoritmeja, joita yleisö ei voi tarkastella, niiden toiminnan ymmärtäminen sekä mahdollisten vinoumien ja riskien tunnistaminen vaikeutuvat. Sen varmistaminen, että tekoäly hyödyttää koko yhteiskuntaa eikä vain harvoja, edellyttää laajaa yhteistyötä.

Tutkijat, päätöksentekijät ja datatieteilijät voivat laatia sääntöjä ja standardeja, jotka tasapainottavat avoimuuden, yksityisyyden ja tietoturvan tukahduttamatta innovaatioita. Näin voidaan luoda tiedon jakamista kannustavia puitteita, joissa huomioidaan riskit ja määritellään kriittisten järjestelmien avoimuutta ja selitettävyyttä koskevat odotukset.

Kaikkien tekoälyn kehittämiseen ja käyttöönottoon osallistuvien tulisi painottaa avoimuutta dokumentoimalla päätöksentekoprosessinsa, julkaisemalla lähdekoodin ja omaksumalla avoimuuden tekoälyjärjestelmien kehittämisen ydinperiaatteeksi. Tämä antaa kaikille mahdollisuuden osallistua algoritmien tulkittavuutta parantavien menetelmien tutkimiseen sekä monimutkaisten mallien ymmärtämistä ja selittämistä helpottavien tekniikoiden kehittämiseen.

Myös yleisön osallistuminen on tärkeää. Lisäämällä tietoisuutta ja julkista keskustelua tekoälyn avoimuudesta voidaan varmistaa, että yhteiskunnan arvot näkyvät tekoälyjärjestelmien kehittämisessä ja käyttöönotossa.

Johtopäätös

Tekoälyn sulautuessa yhä useammille elämänalueille sen avoimuus ja avoimen lähdekoodin mallien käyttö nousevat keskeisiksi kysymyksiksi. Tarkastettavan tekoälyn omaksuminen tukee oikeudenmukaisuutta ja vastuuvelvollisuutta sekä edistää innovaatioita, estää vallan keskittymistä ja parantaa tasapuolista pääsyä tekoälyn edistysaskeliin.

Painottamalla avoimuutta, mahdollistamalla tekoälymallien tarkastelun ja edistämällä yhteistyötä voimme yhdessä rakentaa kaikkia hyödyttävää tekoälytulevaisuutta sekä käsitellä tämän mullistavan teknologian eettisiä, yhteiskunnallisia ja teknisiä haasteita.