Tutkijat kehittävät algoritmeja, joiden tavoitteena on estää huono käyttäytyminen tekoälyssä

Kaiken edistymisen ja hyödyllisyyden ohella, mitä tekoäly on näyttänyt tähän asti, on myös raportoitu epätoivottavista sivuvaikutuksista, kuten rodullisesta ja sukupuolittaisesta harhaisuudesta tekoälyssä. Niinpä sciencealert.com asettaa kysymyksen “miten tutkijat voivat varmistaa, että edistyneet ajattelijärjestelmät voivat olla reiluja, tai jopa turvallisia?”

Vastaus saattaa olla raportissa, jonka tutkijat Stanfordin ja Massachusettsin Amherstin yliopistosta ovat laatineet, ja jonka otsikko on Estää tekoälyjärjestelmien epätoivottava käyttäytyminen. Kuten eurekaalert.org huomauttaa raportissa, tekoäly on nyt alkamassa käsitellä herkkäitä tehtäviä, joten “päättäjät vaativat, että tietokoneiden tutkijat tarjoavat takuun, että automaattiset järjestelmät on suunniteltu vähentämään, ellei kokonaan välttämään, ei-toivottuja lopputuloksia, kuten liiallista riskiä tai rodullista ja sukupuolittaisuutta.”

Raportissa esitetty tutkimusryhmä esittää “uuden tekniikan, joka kääntää epämääräisen tavoitteen, kuten sukupuolittaisuuden välttämisen, tarkkaan matemaattiseen kriteeriin, joka mahdollistaisi koneoppimisalgoritmin kouluttamisen tekoälysovelluksen välttämään kyseistä käyttäytymistä.”

Tarkoituksena oli, kuten Emma Brunskill, Stanfordin tietotieteen apulaisprofessori ja tutkimuksen pääkirjoittaja, korostaa “edistää tekoälyä, joka kunnioittaa ihmiskäyttäjien arvoja ja oikeuttaa luottamuksemme autonomisiin järjestelmiin.”

Ideana oli määritellä “turvattomat” tai “epäreilut” lopputulokset tai käyttäytymisen matemaattisesti. Tämä mahdollistaisi, tutkijoiden mukaan, “luoda algoritmeja, jotka voivat oppia tietojen avulla välttämään nämä ei-toivotut tulokset korkealla luottamuksella.”

Toinen tavoite oli “kehittää joukko tekniikoita, jotka tekevät siitä helppoa käyttäjille määritellä, mitä ei-toivottuja käyttäytymisen muotoja he haluavat rajoittaa, ja mahdollistavat koneoppimisen suunnittelijoiden ennustaa luottamuksella, että järjestelmä, joka on koulutettu aiemmin kerättyjen tietojen avulla, voidaan luottaa siihen, kun se sovelletaan todellisissa maailman tilanteissa.”

ScienceAlert kertoo, että tutkimusryhmä nimesi tämän uuden järjestelmän  ‘Seldonian’ algoritmeiksi, Isaac Asimovin kuuluisan Foundation -tieteisromaaniin perustuen. Philip Thomas, Massachusettsin Amherstin yliopiston tietotieteen apulaisprofessori ja tutkimuksen ensimmäinen kirjoittaja, toteaa, “Jos käytän Seldonian algoritmia diabeteksen hoitoon, voin määritellä, että epätoivottava käyttäytyminen tarkoittaa vaarallisen alhaista verensokeria tai hypoglykemiaa.”

“Voin sanoa koneelle, ‘Kun yrität parantaa insuliinipumppua, älä tee muutoksia, jotka lisäisivät hypoglykemiaan johtavan käyttäytymisen todennäköisyyttä.’ Useimmat algoritmit eivät tarjoa tätä tyyppistä rajoitusta; sitä ei ollut sisällytetty alkuperäisiin suunnitelmiin.”

Thomas lisää, että “tämä Seldonian viitekehys tekee siitä helpomman koneoppimisen suunnittelijoille rakentaa käyttäytymisen välttämistä ohjeita kaikenlaisiin algoritmeihin, jotta he voivat arvioida todennäköisyyttä, että koulutetut järjestelmät toimivat oikein todellisessa maailmassa.”

Emma Brunskill toteaa myös, että “on tärkeää miettiä, miten voimme luoda algoritmeja, jotka parhaiten kunnioittavat arvoja, kuten turvallisuutta ja reiluutta, kun yhteiskunta riippuu yhä enemmän tekoälystä.”