Νέα Μελέτη Δείχνει ότι οι Άνθρωποι Μπορούν να Μάθουν να Αναγνωρίζουν Κείμενο που Γεννήθηκε από Μηχάνημα

Η αυξανόμενη εξευρεσιμότητα και προσιτότητα της τεχνητής νοημοσύνης (AI) έχει αναβιώσει παλιές ανησυχίες σχετικά με την επίδρασή της στην κοινωνία. Η πιο πρόσφατη γενιά chatbot έχει εντείνει αυτές τις ανησυχίες, με φόβους σχετικά με την ακεραιότητα της αγοράς εργασίας και τη διάδοση ψευδών ειδήσεων και παραπληροφόρησης. Στο φως αυτών των ανησυχιών, μια ομάδα ερευνητών στο Πανεπιστήμιο της Πενσυλβάνια Σχολή Μηχανικής και Εφαρμοσμένων Επιστημών προσπάθησε να ενδυναμώσει τους χρήστες της τεχνολογίας για να μετριάσει αυτούς τους κινδύνους.

Εκπαίδευση του Εαυτού σας για Αναγνώριση Κειμένου AI

Το peer-reviewed paper, που παρουσιάστηκε στη συνάντηση του Φεβρουαρίου 2023 της Ένωσης για την Πρόοδο της Τεχνητής Νοημοσύνης, παρέχει αποδείξεις ότι οι άνθρωποι μπορούν να μάθουν να αναγνωρίζουν τη διαφορά μεταξύ μηχανικής και ανθρώπινης γραφής.
Η μελέτη, με ηγεσία του Chris Callison-Burch, Αναπληρωτή Καθηγητή στο Τμήμα Πληροφορικής και Επιστημών (CIS), μαζί με τους φοιτητές Ph.D. Liam Dugan και Daphne Ippolito, αποδεικνύει ότι το κείμενο που παράγεται από AI είναι ανιχνεύσιμο.
“Έχουμε δείξει ότι οι άνθρωποι μπορούν να εκπαιδεύσουν τον εαυτό τους για αναγνώριση κειμένου που παράγεται από μηχάνημα”, λέει ο Callison-Burch. “Οι άνθρωποι ξεκινούν με ένα συγκεκριμένο σύνολο υποθέσεων σχετικά με το είδος των λαθών που θα έκανε μια μηχανή, αλλά αυτές οι υποθέσεις δεν είναι απαραίτητα σωστές. Με τον καιρό, με αρκετά παραδείγματα και ρητές οδηγίες, μπορούμε να μάθουμε να αναγνωρίζουμε τα είδη των λαθών που κάνουν οι μηχανές τώρα”.
Η μελέτη χρησιμοποιεί δεδομένα που συλλέχθηκαν χρησιμοποιώντας το “Πραγματικό ή Ψευδές Κείμενο;”, ένα πρωτότυπο διαδικτυακό παιχνίδι εκπαίδευσης. Αυτό το παιχνίδι εκπαίδευσης μετατρέπει την τυποποιημένη πειραματική μέθοδο για μελέτες ανίχνευσης σε μια πιο ακριβή αναπαράσταση του τρόπου με τον οποίο οι άνθρωποι χρησιμοποιούν την AI για να παράγουν κείμενο.
Στις τυποποιημένες μεθόδους, οι συμμετέχοντες ζητούν να υποδείξουν με τρόπο ναι ή όχι αν μια μηχανή έχει παράγει ένα δεδομένο κείμενο. Το μοντέλο της Πενσυλβάνια βελτιώνει τη τυποποιημένη μελέτη ανίχνευσης σε μια αποτελεσματική εργασία εκπαίδευσης, δείχνοντας παραδείγματα που αρχίζουν όλα ως ανθρώπινα γραμμένα. Κάθε παράδειγμα μεταβαίνει στη συνέχεια σε κείμενο που παράγεται από μηχάνημα, ζητώντας από τους συμμετέχοντες να σημειώσουν πού πιστεύουν ότι αρχίζει αυτή η μετάβαση. Οι εκπαιδευόμενοι αναγνωρίζουν και περιγράφουν τα χαρακτηριστικά του κειμένου που υποδεικνύουν λάθος και λαμβάνουν ένα σκορ.

Αποτελέσματα της Μελέτης

Τα αποτελέσματα της μελέτης δείχνουν ότι οι συμμετέχοντες πέτυχαν σημαντικά καλύτερα από τυχαία ευκαιρία, παρέχοντας αποδείξεις ότι το κείμενο που δημιουργείται από AI είναι, σε κάποιο βαθμό, ανιχνεύσιμο. Η μελέτη δεν μόνο περιγράφει ένα ανακουφιστικό, ακόμη και ενθαρρυντικό, μέλλον για τη σχέση μας με την AI, αλλά επίσης παρέχει αποδείξεις ότι οι άνθρωποι μπορούν να εκπαιδεύσουν τον εαυτό τους για ανίχνευση κειμένου που παράγεται από μηχάνημα.
“Οι άνθρωποι είναι αγχωμένοι για την AI για έγκυρες αιτίες”, λέει ο Callison-Burch. “Η μελέτη μας δίνει σημεία αποδείξεων για να ανακουφίσει αυτές τις αγωνίες. Μόλις μπορέσουμε να εκμεταλλευτούμε τον οπτιμισμό μας για την AI γεννήτρια κειμένου, θα είμαστε σε θέση να αφιερώσουμε προσοχή στη δυνατότητα αυτών των εργαλείων για να μας βοηθήσουν να γράψουμε πιο φανταστικά, πιο ενδιαφέροντα κείμενα”.
Ο Dugan προσθέτει, “Υπάρχουν ενθαρρυντικά θετικά κατευθύνσεις που μπορείτε να πιέσετε αυτή τη τεχνολογία. Οι άνθρωποι είναι προσηλωμένοι στα ανησυχητικά παραδείγματα, όπως η πλαγίαρηση και οι ψευδείς ειδήσεις, αλλά τώρα ξέρουμε ότι μπορούμε να εκπαιδεύσουμε τον εαυτό μας για να γίνουμε καλύτεροι αναγνώστες και συγγραφείς”.
Η μελέτη παρέχει ένα κρίσιμο πρώτο βήμα στη μείωση των κινδύνων που σχετίζονται με το κείμενο που παράγεται από μηχάνημα. Όσο η AI συνεχίζει να εξελίσσεται, così πρέπει και η ικανότητά μας να ανιχνεύουμε και να πλοηγούμαστε την επίδρασή της. Εκπαιδεύοντας τον εαυτό μας για αναγνώριση της διαφοράς μεταξύ ανθρώπινου και μηχανικού κειμένου, μπορούμε να εκμεταλλευτούμε τη δύναμη της AI για να υποστηρίξουμε τις δημιουργικές μας διαδικασίες ενώ μετριάζουμε τους κινδύνους της.