Kamppailu Estää AI:ta Petkutemasta Testeissä

Uusimman Kiinalaisen yliopiston tutkimustulokset antavat näyn siitä, miksi generatiiviset luonnollisen kielen prosessointimallit, kuten GPT-3, taipuvat “pettämään” vaikeissa kysymyksissä ja tuottavat vastauksia, jotka saattavat olla teknisesti oikein, mutta ilman todellista ymmärrystä siitä, miksi vastaus on oikein; ja miksi ne osoittavat vähän tai ei lainkaan kykyä selittää loogista perustaa “helppien” vastaustensa taustalla. Tutkijat ehdottavat myös uusia menetelmiä, joilla järjestelmiä voidaan “opettaa” työskentelemään kovemmin koulutusvaiheessa.

Ongelma on kaksiosainen: ensinnäkin, suunnittelemme järjestelmiä, jotka pyrkivät saavuttamaan tulokset nopeasti ja resursseja säästäen. Vaikka GPT-3:n resurssit ovatkin huomattavasti suuremmat kuin keskivertaisen NLP-tutkimushankkeen, tämä tuloksia ohjaava optimointikulttuuri hallitsee edelleen menetelmää, koska se on vakiintunut akateemiseksi konventioksi.

Seurausena, koulutusarkkitehtuurimme palkitsee malleja, jotka suppenevat nopeasti ja tuottavat näennäisesti sopivia vastauksia kysymyksiin, vaikka NLP-malli ei myöhemmin kykene perustelemaan vastaustaan tai osoittamaan, miten se saavutti johtopäätöksensä.

Varhainen Taipumus Petkutukseen

Tämä johtuu siitä, että malli oppii “pikavastauksia” paljon aikaisemmin koulutuksessa kuin se oppii monimutkaisempia tietojen hankintatapoja. Koska lisääntynyt tarkkuus usein palkitaan melko epäselektiivisesti koulutuksen aikana, malli priorisoi jokaisen lähestymistavan, joka sallii sen vastata kysymyksiin “sujuvasti” ja ilman todellista oivallusta.

Koska pikavastauksen oppiminen edustaa luonnollisesti ensimmäisiä onnistumisia koulutuksessa, istunto luonnollisesti etääntyy vaikeammasta tehtävästä, joka on saavuttaminen hyödyllisestä ja täydellisemmästä tietoteoreettisesta näkökulmasta, joka voi sisältää syvempiä ja oivaltavampia kerroksia attribuutioista ja loogisista johdonmukaisuuksista.

Ruokkimalla AI:ta “Helppien” Vastauksin

Toinen ongelma on, että vaikka viimeaikaiset tutkimushankkeet ovat tutkineet AI:n taipumusta “pettää” tällä tavoin ja ovat tunnistaneet “pikavastauksen” ilmiön, ei ole toistaiseksi tehty pyrkimyksiä luokitella “pikavastauksia” mahdollistavia aineistoja, jotka olisivat looginen ensimmäinen askel kohti ongelman ratkaisemista, joka voi osoittautua perustavanlaatuiseksi arkkitehtuurivirheeksi koneen lukemisen ymmärtämisjärjestelmissä (MRC).

Uusi tutkimus, joka on yhteistyö Wangxuan Institute of Computer Technologyn ja Pekingin yliopiston MOE Key Laboratory of Computational Linguisticsin välillä, testaa eri kielen malleja uudella merkityillä aineistoilla, joka sisältää luokittelut “helppien” ja “vaikeiden” ratkaisujen mahdollisiin kysymyksiin.

Lähde: https://arxiv.org/pdf/2106.01024.pdf

Aineisto käyttää parafrasiaa kriteerinä monimutkaisempien ja syvempien vastausten osalta, koska semanttinen ymmärrys on välttämätön, jotta voidaan uudelleenmuotoilla saatuja tietoja. Toisaalta “pikavastaukset” voivat käyttää tokenien kaltaisia tietorakenteita, kuten päivämääriä ja muita sisällyttäviä avainsanoja, tuottaakseen vastauksen, joka on tosiasiallisesti oikein, mutta ilman mitään kontekstia tai perustelua.

Pikavastauksen osa merkinnöistä sisältää kysymysanan vastaamisen (QWM) ja yksinkertaisen vastaamisen (SpM). QWM:ssä malli käyttää aineistosta saatujen entiteettien poistamista ja kontekstin hylkäämistä; SpM:ssä malli tunnistaa yhteensopivuuden vastauslauseiden ja kysymysten välillä, jotka molemmat ovat saatavilla koulutusaineistossa.

Pikavastausaineistot Lähes “Viraalisia” Vaikutuksessaan Aineistoihin

Tutkijat väittävät, että aineistot sisältävät suuren osan pikavastauskysymyksiä, jotka saavat koulutetut mallit turvautumaan pikavastauskeinoihin.

Kokeissa käytettiin kahta mallia: BiDAF ja Google’n BERT-perus. Tutkijat huomauttavat, että vaikka mallit on koulutettu aineistovarianteilla, joissa on suurempi osuus “vaikeita” kysymyksiä, molemmat mallit suorittavat edelleen paremmin pikavastauskysymyksissä kuin vaikeampien parafrasioiduissa kysymyksissä, vaikka esimerkkejä aineistoissa on vähän.

Tämä esittää “pikavastausaineistot” lähes viruksen kaltaisessa kontekstissa – siinä, että vain vähän tällaista aineistoa tarvitaan aineistoon, jotta se otettaisiin käyttöön ja priorisoitaisiin koulutuksessa perinteisten NLP-käytäntöjen mukaisesti.

Todisteita Petkutuksesta

Yksi tutkimuksen menetelmä, jolla todistetaan pikavastauksen hauraus, on korvata “helppo” entiteettisana poikkeuksellisella sanalla. Jos pikavastausmenetelmää on käytetty, “petetyn” vastauksen logiikkaa ei voida tarjota; mutta jos vastaus on saatu syvemmästä kontekstista ja semanttisesta arviointia laajemmasta tekstivalikoimasta, järjestelmä voi purkaa virheen ja rakentaa uudelleen oikean vastauksen.

Korvaamalla ‘Beyoncé’ (ihminen) ‘Amerikka’ (sijainti), paljastuu, onko mallilla taustalogiikkaa vastaukselleen.

Pikavastaukset Taloudellisen Imperatiivin Seurauksena

Jotkut arkkitehtuuriset syyt, miksi pikavastaukset ovat niin priorisoituja NLP-koulutusvirroissa, ovat seuraavat: “MRC-mallit voivat oppia pikavastauskeinot, kuten QWM, vähemmällä laskentaresursseilla kuin ymmärtämishaasteet, kuten parafrasoinnin tunnistaminen”.

Tämä voi olla tahaton seuraus standardioptimointi- ja resursseja säästävistä filosofioista lähestymistavoissa koneen lukemiseen, ja paine saada tulokset rajoitetuilla resursseilla tiukassa aikatauluissa.

Tutkijat huomauttavat myös:

‘[Koska] pikavastauskeino voidaan käyttää useimpien koulutuskysymysten vastaamiseen oikein, rajatut ratkaisemattomat kysymykset eivät välttämättä motivoi malleja tutkimaan monimutkaisia ratkaisuja, jotka vaativat haastavia taitoja.’

Jos tutkimuksen tulokset vahvistuvat myöhemmin, näyttäisi siltä, että laaja ja jatkuvasti kasvava data-esikäsittelyn ala saattaa joutua ottamaan “piilotettujen apuvälineiden” ongelman datassa huomioon pitkällä aikavälillä, tai muuttaa NLP-arkkitehtuureja priorisoimaan haastavampia reittejä data-ingestioon.