Νέα Μελέτη Δείχνει ότι οι Άνθρωποι Μπορούν να Μάθουν να Αναγνωρίζουν Κείμενο που Γεννιέται από Μηχανές

Η αυξανόμενη εξευγενισμός και προσιτότητα του εξομοιωτή νοημοσύνης (AI) έχει αυξήσει τις μακροχρόνιες ανησυχίες σχετικά με την επίδρασή του στην κοινωνία. Η πιο πρόσφατη γενιά chatbot έχει μόνο ενισχύσει αυτές τις ανησυχίες, με φόβους σχετικά με την ακεραιότητα της αγοράς εργασίας και τη διάδοση ψευδών ειδήσεων και παραπληροφόρησης. Σε light αυτών των ανησυχιών, μια ομάδα ερευνητών στο Πανεπιστήμιο της Πενσυλβάνια Σχολή Μηχανικής και Εφαρμοσμένων Επιστημών προσπάθησε να ενδυναμώσει τους χρήστες της τεχνολογίας να μειώσουν αυτούς τους κινδύνους.

Εκπαίδευση του Εαυτού σας για Αναγνώριση Κειμένου AI

Η επιθεωρημένη εργασία, που παρουσιάστηκε στη συνάντηση Φεβρουαρίου 2023 της Ένωσης για την Προώθηση της Τεχνητής Νοημοσύνης, παρέχει στοιχεία ότι οι άνθρωποι μπορούν να μάθουν να αναγνωρίζουν τη διαφορά μεταξύ μηχανικής γεννημένου και ανθρωπίνου γραπτού κειμένου.

Η μελέτη, με ηγεσία του Chris Callison-Burch, Αναπληρωτή Καθηγητή στο Τμήμα Πληροφορικής και Επιστημών (CIS), μαζί με τους Ph.D. φοιτητές Liam Dugan και Daphne Ippolito, αποδεικνύει ότι το κείμενο που παράγεται από μηχανές είναι ανιχνεύσιμο.

“Έχουμε δείξει ότι οι άνθρωποι μπορούν να εκπαιδεύσουν τον εαυτό τους για αναγνώριση κειμένου που γεννιέται από μηχανές,” λέει ο Callison-Burch. “Οι άνθρωποι ξεκινούν με ένα συγκεκριμένο σύνολο υποθέσεων σχετικά με το είδος των λαθών που θα κάνει μια μηχανή, αλλά αυτές οι υποθέσεις δεν είναι απαραίτητα σωστές. Με τον καιρό, με αρκετά παραδείγματα και ρητή οδηγία, μπορούμε να μάθουμε να αναγνωρίζουμε τα είδη των λαθών που οι μηχανές κάνουν τώρα.”

Η μελέτη χρησιμοποιεί δεδομένα που συλλέχθηκαν χρησιμοποιώντας το “Πραγματικό ή Ψεύτικο Κείμενο;”, ένα πρωτότυπο διαδικτυακό παιχνίδι εκπαίδευσης. Αυτό το παιχνίδι εκπαίδευσης μετατρέπει την τυπική πειραματική μέθοδο για μελέτες ανίχνευσης σε μια πιο ακριβή αναπαράσταση του τρόπου με τον οποίο οι άνθρωποι χρησιμοποιούν τη νοημοσύνη για να γεννήσουν κείμενο.

Στις τυπικές μεθόδους, οι συμμετέχοντες ζητούν να υποδείξουν με ένα ναι ή όχι εάν μια μηχανή έχει παραγάγει ένα δεδομένο κείμενο. Το μοντέλο του Πενν αναπτύσσει την τυπική μελέτη ανίχνευσης σε μια αποτελεσματική εργασία εκπαίδευσης, δείχνοντας παραδείγματα που αρχίζουν όλα ως ανθρωπινό γραπτό. Κάθε παράδειγμα στη συνέχεια μεταβαίνει σε γεννημένο κείμενο, ζητώντας από τους συμμετέχοντες να υποδείξουν πού πιστεύουν ότι αρχίζει αυτή η μετάβαση. Οι εκπαιδευόμενοι αναγνωρίζουν και περιγράφουν τα χαρακτηριστικά του κειμένου που υποδεικνύουν λάθος και λαμβάνουν ένα σκορ.

Αποτελέσματα της Μελέτης

Τα αποτελέσματα της μελέτης δείχνουν ότι οι συμμετέχοντες σημείωσαν σημαντικά καλύτερα από την τυχαία ευκαιρία, παρέχοντας στοιχεία ότι το κείμενο που δημιουργείται από μηχανές είναι, σε κάποιο βαθμό, ανιχνεύσιμο. Η μελέτη δεν μόνο περιγράφει ένα ανακουφιστικό, ακόμη και ενθαρρυντικό, μέλλον για τη σχέση μας με τη νοημοσύνη, αλλά επίσης παρέχει στοιχεία ότι οι άνθρωποι μπορούν να εκπαιδεύσουν τον εαυτό τους για ανίχνευση κειμένου που γεννιέται από μηχανές.

“Οι άνθρωποι είναι ανήσυχοι για τη νοημοσύνη για έγκυρες αιτίες,” λέει ο Callison-Burch. “Η μελέτη μας παρέχει σημεία στοιχείων για να ηρεμήσουμε αυτές τις ανησυχίες. Μόλις μπορούμε να εκμεταλλευτούμε τον οπτιμισμό μας για τις γεννήτριες κειμένου της νοημοσύνης, θα μπορούμε να αφιερώσουμε προσοχή στη δυνατότητα αυτών των εργαλείων να μας βοηθήσουν να γράψουμε πιο φανταστικά, πιο ενδιαφέροντα κείμενα.”

Ο Dugan προσθέτει, “Υπάρχουν ενθαρρυντικά θετικά κατευθύνσεις που μπορείτε να πιέσετε αυτή τη τεχνολογία. Οι άνθρωποι είναι εστιασμένοι στα ανησυχητικά παραδείγματα, όπως η πλαγίατωση και οι ψεύτικες ειδήσεις, αλλά τώρα γνωρίζουμε ότι μπορούμε να εκπαιδεύουμε τον εαυτό μας για να γίνουμε καλύτεροι αναγνώστες και συγγραφείς.”

Η μελέτη παρέχει ένα κρίσιμο πρώτο βήμα στην μείωση των κινδύνων που συνδέονται με το κείμενο που γεννιέται από μηχανές. Όσο η νοημοσύνη συνεχίζει να εξελίσσεται, così πρέπει και η ικανότητά μας να ανιχνεύουμε και να πλοηγούμαστε την επίδρασή της. Εκπαιδεύοντας τον εαυτό μας για αναγνώριση της διαφοράς μεταξύ ανθρωπίνου γραπτού και μηχανικής γεννημένου κειμένου, μπορούμε να εκμεταλλευτούμε τη δύναμη της νοημοσύνης για να υποστηρίξουμε τις δημιουργικές μας διαδικασίες ενώ μειώνουμε τους κινδύνους της.