Att få NLP att utmana missinformade frågor

Vissa frågor är obesvarbara eftersom de innehåller felaktig information – antaganden som den som hör frågan måste filtrera och avsäga sig. Det förutsätter, naturligtvis, att lyssnaren har tillräckligt med korrekt information för att utmana frågan, snarare än att använda frågan själv som en källa till (felaktig) information.

Det är en utmaning för system för naturlig språkbehandling (NLP) som GPT-3, som har en tendens att “hallucinera” information för att upprätthålla dialogen.

När man frågar GPT-3 “När uppfann Marie Curie uran?” kommer man troligen att få svaret “Marie Curie uppfann uran 1898”.

Källa: https://beta.openai.com/playground (Da Vinci instruct beta).

I själva verket upptäcktes uran 1789 av den tyske kemisten Martin Heinrich Klaproth, medan Curies upptäckt 1898 var isoleringen av radium.

Problemet med att NLP-system ignorerar felaktiga antaganden har kommit i fokus i flera publicitetsutspel i år, inklusive hur Googles AI-assisterade sökresultat kommer att ignorera felaktig information i frågan “När satte Neil Armstrong sin fot på Mars?” – ett fel som fortfarande visas vid tidpunkten för skrivandet av den här artikeln, och som likaså gäller för Toy Storys Buzz Lightyear, som tydligen landade på månen den 21 juli 1969.

Tom Hanks, en annan Toy Story-alumn, tillskrivs också av Google att ha landat på månen 1970, trots att hans Apollo 13-karaktär, astronauten Jim Lovell, är mest känd för att inte ha uppnått detta.

Att hantera antagandeproblem i NLP-samtal

Nu undersöker Google Research, tillsammans med forskare från John Hopkins University och Brown University, nya maskinlärningsmetoder som kan göra det möjligt för NLP-system att utmana faktiskt felaktiga frågor på samma sätt som det är nödvändigt för mänskliga lärare att göra under samtal med elever.

Den nyliga artikeln Vilken lingvist uppfann glödlampan? Antagande-verifiering för fråga-svar beskriver en samordnad insats för att utveckla ett nytt system som kan identifiera antaganden och kontrollera deras sanning innan samtalet fortsätter.

Algoritmen förbehandlar frågor innan den återgår till samtalet, och bryter ner “autentiseringen” av frågan i en tre-delad process.

Det vänstra “vägspärren” som uppstår även när ett avancerat NLP-system har kunnat identifiera att frågan inte har någon mening. Till höger, en nedbrytning av en föreslagen algoritm som försöker åtgärda källfelet. Källa: https://arxiv.org/pdf/2101.00391.pdf

Även om det verkar vara en enkel verifieringsrutin som borde ha byggts in i kunskapssystem från början, lär sig de flesta NLP-baserade utbildningsrutiner information med en oproportionerlig tillit till källdata, inklusive diskurs (såsom falska nyheter) som kan ha publicerats på tidigare “pålitliga” kanaler.

Därför är ett nyckelproblem att identifiera en tillförlitlig källa till fakta i en klimat där spridningen av felaktig “information” genom sociala medier skulle, som standard, ge den auktoritet under maskinlärningens logik. Den senare har tenderat att använda mängden eller upprepningen av data som en proxy för noggrannhet, åtminstone tills fenomenet med falska nyheter blev ett kritiskt område av intresse inom området under de senaste åren.

Att bestämma den bästa metoden för obesvarbara frågor

För att bestämma en lämplig metod för att lösa en fråga som innehåller felaktig information, körde forskarna 100 sådana frågor genom fyra olika Q&A-modeller, och bad mänskliga testpersoner att välja det bästa eller minst problematiska svaret som modellerna genererade.

De fyra möjliga arkitektoniska resultaten för den “dåliga” frågan var: ‘Obesvarbar’ – där ett slutet Q&A-system effektivt stänger av förfrågan utan ytterligare förklaring; ‘Antagandefel-baserad förklaring’ – där systemet inte kunde verifiera det felaktiga antagandet, effektivt ett “obesvarbart” svar, med en tillagd förklaring; ‘Extraktiv förklaring’ – där systemet hämtar en topiskt relaterad Wikipedia-citat och lägger till den till den inledande “Denna fråga är obesvarbar eftersom…”; och ‘Öppen domän-omskrivning’ – där ett konkurrenskraftigt system söker efter ytterligare källor från Wikipedia.

Detta exempel på fyra möjliga svar på en tydligen ‘obesvarbar’ fråga visar komplexiteten i att försöka hitta en konkurrenskraftig lösning på problemet.

Under testerna föredrog de fem deltagarna (rekryterade på en intern Google-krowsourcing-plattform) antagande-baserade svar, vilket ledde forskarna att utveckla en ny ram för att bryta ner och verifiera frågor.

I det nya systemet erhålls lingvistiska utlösare från frågan av en regelbaserad generator som bryter ner meningen i påstådda fakta. Om flera antaganden härrör från frågan, undersöks var och en och kommer att bidra till det slutliga svaret om de hanterar felaktiga antaganden från den ursprungliga frågan.

Datamängder

De antaganden som genererades i den första fasen ändrades manuellt för att skapa en verifieringsdatamängd med “guld”-antaganden. Alla antaganden som uppstod från grenen av förfrågan, men som inte fanns i de ursprungliga frågorna, togs bort.

Två av artikelförfattarna annoterade sedan manuellt 462 antaganden i termer av ja/nej-verifierbarhet, baserat på en relevant Wikipedia-sida associerad med varje fråga. Fall av oenighet löstes i efterföljande diskussion innan de fastställdes i datamängden.

Forskarna använde zero-shot NLI, en premis/hypotes-klassificeringsuppgift som krävde nedbrytning av Wikipedia-artiklar relaterade till frågorna. Eftersom denna process resulterar i många fler par än frågan kan omfatta eller modellen stödjer, filtrerades resultaten sedan och märktes.

Resultat och svarsformulering

De mest effektiva resultaten erhölls av den mest arbetsintensiva lösningen: en finare, regelbaserad/NLI-hybrid genererad från ALBERT QNLI med Wiki-satser och antaganden.

Prestandan för verifieringsmodellerna, där ‘Wiki-satser’ använder satser erhållna från frågerelaterade Wikipedia-artiklar, och ‘Wiki-antaganden’ är genererade antaganden från dessa satser.

Med denna formulering utvecklade forskarna ett mallsystem där en negativ faktum från Wikipedia bifogades till “Denna fråga är obesvarbar eftersom…” och liknande fraser. Även om det inte är en idealisk lösning, föreslår författarna att svar baserade på overifierbarhet sannolikt kommer att minska förekomsten av falska negativa svar.

Systemet implementerades slutligen i en utvidgad transformer-konstruktion (ETC)-modell.

Konsekvenser

Beroende på dess slutliga prestanda i den verkliga världen, kan det hävdas att denna hela tillvägagångssätt kan leda till att “overifierbar” ersätter “obesvarbar” i fall där det stödjande forskningssystemet inte kan utvärdera en användbar korrektion för en frågas felaktiga antagande. Effektivt verkar det som att det lägger grunden för framtida och bättre verifieringssystem.

Forskarna medger redan att kostnaden för token-baserade API-förfrågningar är en begränsande faktor när det gäller att formulera de längre svaren som detta system kommer att generera, och det måste antas att den extra belastningen av “live”-forskning i en fråga sannolikt kommer att lägga till latency, även till stora system som GPT-3, eftersom responsiviteten hos sådana system hittills har berott på den allmänna inkorporeringen av kunskap vid tränings tid, snarare än omfattande, nätverksbaserade verifieringsrutiner.

Forskarna noterar dessutom att systemet för närvarande har begränsningar relaterade till parsing av semantiska aspekter av texten:

Till exempel, vem tror pip är Estellas mamma har ett inbäddat possessivt under ett icke-faktiskt verb tro, men vår generator skulle ändå generera ‘Estella’ har ‘mamma’.

Likväl ser teamet för sig nya och mer flexibla fråga-svar-system som kommer att utvecklas på basis av denna forskning:

I framtiden planerar vi att bygga vidare på detta arbete genom att föreslå QA-system som är mer robusta och samarbetsvilliga. Till exempel kunde olika typer av antagandefel hanteras av mer flexibla svarsstrategier – t.ex. kan brott mot unikhetstantaganden hanteras bättre genom att tillhandahålla alla möjliga svar, snarare än att ange att unikhetstantagandet kränktes.