Uusi tutkimus osoittaa, että ihmiset voivat oppia tunnistamaan koneella generoidun tekstin

Tekoälynhän (AI) lisääntynyt monimutkaisuus ja saavutettavuus ovat herättäneet pitkään olemassa olleita huolia sen vaikutuksista yhteiskuntaan. Viimeisimmän sukupolven chatbotit ovat vain lisänneet näitä huolia, ja niiden ympärillä vallitsee pelkoja työmarkkinoiden eheysyydestä ja väärän tiedon ja disinformaation leviämisestä. Näiden huolenaiheiden valossa Pennsylvanian yliopiston insinööritieteellisessä ja soveltavassa tiedekunnassa työskentelevä tutkijaryhmä pyrki antamaan teknologiaa käyttäville ihmisille mahdollisuuden lieventää näitä riskejä.

Opettele tunnistamaan AI-teksti

Heidän vertaisarvioitu tutkimus, joka esiteltiin helmikuussa 2023 tekoälynhän edistämisen yhdistyksen kokouksessa, tarjoaa näyttöä siitä, että ihmiset voivat oppia tunnistamaan eron koneella generoidun ja ihmisten kirjoittaman tekstin välillä.

Tutkimus, jonka johtajana toimi Chris Callison-Burch, apulaisprofessori tietojenkäsittely- ja informaatiotieteiden laitoksessa (CIS), yhdessä tohtorikoulutettavien Liam Duganin ja Daphne Ippoliton kanssa, osoittaa, että AI-generoitu teksti on havaittavissa.

“Olemme osoittaneet, että ihmiset voivat opettaa itsensä tunnistamaan koneella generoidut tekstit”, sanoo Callison-Burch. “Ihmiset aloittavat tietyn joukon oletuksia siitä, minkälaisia virheitä kone voisi tehdä, mutta nämä oletukset eivät välttämättä ole oikein. Ajan myötä, riittävän monien esimerkkien ja eksplisiittisen ohjauksen myötä, voimme oppia havaitsemaan virheet, joita koneet tekevät tällä hetkellä.”

Tutkimus käyttää dataa, joka on kerätty “Oikea vai väärä teksti?” -nimisellä web-pohjaisella koulutuspelillä. Tämä koulutuspeli muuttaa standardin eksperimentaalisen menetelmän havaintotutkimuksiin tarkemmin siten, miten ihmiset käyttävät tekoälyä tekstin generoimiseen.

Tutkimuksen tulokset

Tutkimuksen tulokset osoittavat, että osallistujat saavuttivat merkittävästi paremman tuloksen kuin satunnainen valinta, mikä antaa näyttöä siitä, että AI-luotu teksti on jossain määrin havaittavissa. Tutkimus ei ainoastaan piirrä rohkaisevaa, jopa innostavaa tulevaisuudenkuvaa suhteemme tekoälyyn, vaan tarjoaa myös näyttöä siitä, että ihmiset voivat opettaa itsensä tunnistamaan koneella generoidun tekstin.

“Ihmiset ovat huolissaan tekoälystä perustelluista syistä”, sanoo Callison-Burch. “Tutkimuksemme antaa näyttöä, joka lievittää näitä huolia. Kun pystymme hyödyntämään tekoälytekstien generoimiseen liittyvää optimismiamme, voimme omistaa huomiomme näiden työkalujen kykyyn auttaa meitä kirjoittamaan mielikuvituksellisempia, mielenkiintoisempia tekstejä.”

Dugan lisää, “On olemassa jännittäviä myönteisiä suuntia, jonne voimme ohjata tämän teknologian. Ihmiset ovat kiinnostuneita huolestuttavista esimerkeistä, kuten plagiaatista ja väärästä uutisoinnista, mutta nyt tiedämme, että voimme opettaa itsellemme olemaan parempia lukijoita ja kirjoittajia.”

Tutkimus tarjoaa tärkeän ensimmäisen askeleen koneella generoidun tekstin riskejä lievittämiseksi. Kun tekoäly jatkaa kehittymistään, meidän on myös kehitettävä kykyämme havaita ja navigoida sen vaikutuksia. Opettelemalla tunnistamaan eron ihmisten kirjoittaman ja koneella generoidun tekstin välillä voimme hyödyntää tekoälyn voimaa luovien prosessiemme tukemiseen samalla, kun lievitetään sen riskejä.