Tekoäly voi välttää tiettyjä ei-toivottuja käyttäytymisiä uusien algoritmien avulla

Kun tekoälyalgoritmit ja -järjestelmät kehittyvät yhä monimutkaisemmiksi ja ottavat vastuun suuremmista tehtävistä, on tärkeää varmistaa, että tekoälyjärjestelmät välttävät vaarallista, ei-toivottua käyttäytymistä. Hiljattain Massachusettsin yliopiston ja Stanfordin tutkijaryhmä julkaisi tutkimuksen, jossa osoitetaan, miten tiettyä tekoälykäyttäytymistä voidaan välttää käyttämällä menetelmää, joka antaa tarkat matemaattiset ohjeet, joita voidaan käyttää tekoälyn käyttäytymisen säätelyyn.

TechXploren mukaan tutkimus perustui oletukseen, että epärehelliset/epäturvatut käyttäytymiset voidaan määritellä matemaattisilla funktioilla ja muuttujilla. Jos tämä on totta, tutkijoiden pitäisi pystyä kouluttamaan järjestelmiä välttämään näitä tiettyjä käyttäytymisiä. Tutkijaryhmän tavoitteena oli kehittää työkalu, jonka avulla tekoälyn käyttäjät voivat määritellä, mitä käyttäytymisiä he haluavat tekoälyn välttävän, ja mahdollistaa tekoälyinsinöörien luotettava koulutus järjestelmälle, joka välttää ei-toivottuja toimia käytännön tilanteissa.

Phillip Thomas, tutkimuksen ensimmäinen tekijä ja Michiganin yliopiston apulaisprofessori, selitti, että tutkijaryhmän tavoitteena on osoittaa, että koneoppimisen algoritmien suunnittelijat voivat tehdä helpommaksi tekoälyn käyttäjille kuvata ei-toivottuja käyttäytymisiä ja varmistaa, että tekoälyjärjestelmä välttää kyseisiä käyttäytymisiä.

Tutkijaryhmä testasi menetelmäänsä soveltamalla sitä yleiseen ongelmaan data-tieteessä, sukupuolipuolueellisuuteen. Tutkijaryhmä pyrki tekemään algoritmeista, joita käytetään yliopiston opiskelijoiden GPA:n ennustamiseen, reilummaksi vähentämällä sukupuolipuolueellisuutta. Tutkijaryhmä käytti kokeellista aineistoa ja ohjasi tekoälyjärjestelmäänsä välttämään mallien luomista, jotka aliarvioivat/ylivertailivat GPA:ta yhdelle sukupuolelle. Tutkijoiden ohjeiden seurauksena algoritmi loi mallin, joka ennusti opiskelijoiden GPA:ta tarkemmin ja oli merkittävästi vähemmän sukupuolipuolueellinen kuin aiemmat mallit. Aiemmat GPA-ennustemallit kärsivät puolueellisuudesta, koska puolueellisuuden vähentämismallit olivat usein liian rajoittuneita ollakseen hyödyllisiä, tai puolueellisuuden vähentämistä ei käytetty lainkaan.

Tutkijaryhmä kehitti myös toisen algoritmin. Tämä algoritmi toteutettiin automaattisessa insuliinipumpussa, ja algoritmi oli tarkoitettu tasapainottamaan sekä suorituskykyä että turvallisuutta. Automaattiset insuliinipumput tarvitsevat päätöksen siitä, kuinka suuren insuliiniannoksen potilas saa. Syönnin jälkeen pumppu toimittaa ihanteellisesti insuliiniannoksen, joka on tarpeeksi suuri pitämään verensokeritason hallinnassa. Insuliiniannokset, jotka toimitetaan, eivät saa olla liian suuria tai liian pieniä.

Koneoppimisalgoritmit ovat jo osaavia tunnistamaan kuvioita yksilön reaktioissa insuliiniannoksiin, mutta nämä olemassa olevat analyysimenetelmät eivät salli lääkäreiden määritellä tuloksia, joita tulisi välttää, kuten alhaiset verensokerikraatit. Sen sijaan tutkijaryhmä kehitti menetelmän, joka voitiin kouluttaa toimittamaan insuliiniannoksia, jotka pysyvät kahden ääripään välillä, estäen sekä alidoosauksen että yliannostuksen. Vaikka järjestelmä ei ole vielä valmis testattavaksi oikeilla potilailla, tällaisen lähestymistavan perustuva tekoäly voisi parantaa elämänlaatua diabeteksen sairastaville.

Tutkimuspaperissa tutkijat viittaavat algoritmiin “Seledonian” algoritmina. Tämä viittaa Isaac Asimovin kuuluisiin robotiikan kolmeen lakiin. Viittaus on siihen, että tekoälyjärjestelmä “ei saa vahingoittaa ihmistä tai antaa toimettomuuden kautta päästää ihmisen vaaraan”. Tutkijaryhmä toivoo, että heidän kehittämänsä viitekehyksen avulla tekoälytutkijat ja -insinöörit voivat luoda monia algoritmeja ja järjestelmiä, jotka välttävät vaarallista käyttäytymistä. Emma Brunskill, tutkimuksen vanhempi tekijä ja Stanfordin apulaisprofessori tietojenkäsittelytieteessä, selitti TechXplorelle:

“Halumme edistää tekoälyä, joka kunnioittaa ihmiskäyttäjien arvoja ja oikeuttaa luottamuksemme itseohjautuviin järjestelmiin.”