Nei Etude weist d'Leit kënne léiere Maschinn-generéiert Text ze gesinn

Déi ëmmer méi Raffinesséierung an Accessibilitéit vu kënschtlecher Intelligenz (AI) huet laangjäreg Bedenken iwwer hiren Impakt op d'Gesellschaft opgeworf. Déi lescht Generatioun vu Chatbots huet dës Bedenken nëmmen verschäerft, mat Ängscht iwwer Aarbechtsmaart Integritéit an d'Verbreedung vu falschen Neiegkeeten a falsch Informatioun. Am Liicht vun dëse Bedenken, huet en Team vu Fuerscher an der University of Pennsylvania School of Engineering and Applied Science probéiert Tech Benotzer z'erméiglechen dës Risiken ze reduzéieren.

Training selwer fir AI Text ze erkennen

hir peer-reviewed Pabeier, presentéiert op der Versammlung vum Februar 2023 vun der Association for the Advancement of Artificial Intelligence, liwwert Beweiser datt d'Leit léiere kënnen den Ënnerscheed tëscht Maschinn-generéierten a mënschlech geschriwwenen Text ze gesinn.

D'Etude, gefouert vum Chris Callison-Burch, Associé Professer am Departement fir Computer an Informatiounswëssenschaften (CIS), zesumme mat Ph.D. Studenten Liam Dugan an Daphne Ippolito, weist datt AI-generéierten Text erkannt ass.

"Mir hu gewisen datt d'Leit sech selwer trainéiere kënnen fir Maschinn-generéiert Texter ze erkennen", seet de Callison-Burch. "D'Leit fänken un mat engem bestëmmte Set vun Viraussetzungen iwwer wéi eng Zort vu Feeler eng Maschinn géif maachen, awer dës Viraussetzungen sinn net onbedéngt richteg. Mat der Zäit, genuch Beispiller an explizit Instruktioune ginn, kënne mir léieren d'Zorte vu Feeler opzehuelen déi Maschinnen am Moment maachen.

D'Studie benotzt Daten gesammelt mat "Real or Fake Text?", En originellt webbaséiert Trainingsspill. Dëst Trainingsspill transforméiert d'Standard experimentell Method fir Detektiounsstudien an eng méi genee Erhuelung vu wéi d'Leit AI benotzen fir Text ze generéieren.

Am Standard Methoden, sinn Participanten opgefuerdert an engem Jo-oder-Nee Moud unzeginn ob eng Maschinn e bestëmmten Text produzéiert huet. De Penn Modell verfeinert d'Standarderkennungsstudie an eng effektiv Trainingsaufgab andeems se Beispiller weisen, déi all als mënschlech schrëftlech ufänken. All Beispill geet dann an generéierten Text iwwer, a freet d'Participanten ze markéieren wou se gleewen datt dësen Iwwergank ufänkt. Stagiairen identifizéieren a beschreiwen d'Features vum Text, déi Fehler uginn an e Score kréien.

Resultater vun der Etude

D'Etude Resultater weisen datt d'Participanten wesentlech besser geschoss hunn wéi zoufälleg Chance, déi Beweiser ubidden datt AI erstallt Text, zu engem gewësse Mooss, erkannt ass. D'Etude skizzéiert net nëmmen eng berouegend, souguer spannend, Zukunft fir eis Bezéiung mat AI, awer bitt och Beweiser datt d'Leit sech selwer trainéiere kënnen fir Maschinn-generéiert Text z'entdecken.

"D'Leit si besuergt iwwer AI aus gültege Grënn", seet de Callison-Burch. "Eis Studie gëtt Beweiser fir dës Besuergnëss ze entlaaschten. Wa mir eisen Optimismus iwwer AI Textgeneratoren ausnotzen kënnen, kënne mir fäeg sinn op d'Kapazitéit vun dësen Tools opmierksam ze maachen fir eis ze hëllefen méi imaginativ, méi interessant Texter ze schreiwen.

Den Dugan füügt derbäi: "Et gi spannend positiv Richtungen, déi Dir dës Technologie drécke kënnt. D'Leit si fixéiert op déi beonrouegend Beispiller, wéi Plagiat a Fake News, awer mir wëssen elo datt mir eis kënne trainéieren fir besser Lieser a Schrëftsteller ze sinn."

D'Etude bitt en entscheedende éischte Schrëtt fir d'Risiken am Zesummenhang mat Maschinn-generéierten Text ze reduzéieren. Wéi AI sech weider entwéckelt, muss och eis Fäegkeet fir hiren Impakt z'entdecken an ze navigéieren. Andeems mir eis trainéieren fir den Ënnerscheed tëscht mënschlech geschriwwenen a Maschinn-generéierten Text z'erkennen, kënne mir d'Kraaft vun der AI notzen fir eis kreativ Prozesser z'ënnerstëtzen, wärend seng Risiken reduzéieren.