Νέα μελέτη δείχνει ότι οι άνθρωποι μπορούν να μάθουν να εντοπίζουν κείμενο που δημιουργείται από μηχανή

Η αυξανόμενη πολυπλοκότητα και η προσβασιμότητα της τεχνητής νοημοσύνης (AI) έχει εγείρει μακροχρόνιες ανησυχίες σχετικά με τον αντίκτυπό της στην κοινωνία. Η πιο πρόσφατη γενιά chatbot έχει επιδεινώσει αυτές τις ανησυχίες, με φόβους για την ακεραιότητα της αγοράς εργασίας και τη διάδοση ψεύτικων ειδήσεων και παραπληροφόρησης. Υπό το φως αυτών των ανησυχιών, μια ομάδα ερευνητών στη Σχολή Μηχανικών και Εφαρμοσμένων Επιστημών του Πανεπιστημίου της Πενσυλβάνια προσπάθησε να ενδυναμώσει τους χρήστες τεχνολογίας για να μετριάσουν αυτούς τους κινδύνους.

Εκπαιδεύστε τον εαυτό σας στην αναγνώριση κειμένου AI

Τους έγγραφο με αξιολόγηση από ομοτίμους, που παρουσιάστηκε στη συνάντηση του Συνδέσμου για την Προώθηση της Τεχνητής Νοημοσύνης τον Φεβρουάριο του 2023, παρέχει στοιχεία που αποδεικνύουν ότι οι άνθρωποι μπορούν να μάθουν να εντοπίζουν τη διαφορά μεταξύ του κειμένου που δημιουργείται από μηχανή και του ανθρώπινου γραπτού κειμένου.

Η μελέτη, με επικεφαλής τον Chris Callison-Burch, Αναπληρωτή Καθηγητή στο Τμήμα Επιστήμης Υπολογιστών και Πληροφοριών (CIS), μαζί με τον Ph.D. Οι μαθητές Liam Dugan και Daphne Ippolito, αποδεικνύει ότι το κείμενο που δημιουργείται από AI είναι ανιχνεύσιμο.

«Δείξαμε ότι οι άνθρωποι μπορούν να εκπαιδεύονται να αναγνωρίζουν κείμενα που δημιουργούνται από μηχανή», λέει η Callison-Burch. «Οι άνθρωποι ξεκινούν με ένα συγκεκριμένο σύνολο υποθέσεων σχετικά με το τι είδους λάθη θα έκανε ένα μηχάνημα, αλλά αυτές οι υποθέσεις δεν είναι απαραίτητα σωστές. Με την πάροδο του χρόνου, δίνοντας αρκετά παραδείγματα και σαφείς οδηγίες, μπορούμε να μάθουμε να εντοπίζουμε τους τύπους σφαλμάτων που κάνουν αυτή τη στιγμή οι μηχανές».

Η μελέτη χρησιμοποιεί δεδομένα που συλλέχθηκαν χρησιμοποιώντας το «Πραγματικό ή Ψεύτικο Κείμενο;», ένα πρωτότυπο εκπαιδευτικό παιχνίδι βασισμένο στο διαδίκτυο. Αυτό το εκπαιδευτικό παιχνίδι μετατρέπει την τυπική πειραματική μέθοδο για μελέτες ανίχνευσης σε μια πιο ακριβή αναπαράσταση του τρόπου με τον οποίο οι άνθρωποι χρησιμοποιούν την τεχνητή νοημοσύνη για τη δημιουργία κειμένου.

Στις τυπικές μεθόδους, οι συμμετέχοντες καλούνται να υποδείξουν με έναν τρόπο ναι ή όχι εάν μια μηχανή έχει δημιουργήσει ένα δεδομένο κείμενο. Το μοντέλο Penn βελτιώνει την τυπική μελέτη ανίχνευσης σε μια αποτελεσματική εργασία εκπαίδευσης, δείχνοντας παραδείγματα που όλα ξεκινούν ως γραμμένα από τον άνθρωπο. Στη συνέχεια, κάθε παράδειγμα μεταβαίνει σε κείμενο που δημιουργείται, ζητώντας από τους συμμετέχοντες να σημειώσουν πού πιστεύουν ότι ξεκινά αυτή η μετάβαση. Οι εκπαιδευόμενοι εντοπίζουν και περιγράφουν τα χαρακτηριστικά του κειμένου που υποδηλώνουν σφάλμα και λαμβάνουν βαθμολογία.

Αποτελέσματα της Μελέτης

Τα αποτελέσματα της μελέτης δείχνουν ότι οι συμμετέχοντες σημείωσαν σημαντικά καλύτερη βαθμολογία από την τυχαία πιθανότητα, παρέχοντας αποδείξεις ότι το κείμενο που δημιουργήθηκε από AI είναι, σε κάποιο βαθμό, ανιχνεύσιμο. Η μελέτη όχι μόνο σκιαγραφεί ένα καθησυχαστικό, ακόμη και συναρπαστικό, μέλλον για τη σχέση μας με την τεχνητή νοημοσύνη, αλλά παρέχει επίσης στοιχεία ότι οι άνθρωποι μπορούν να εκπαιδεύονται για να ανιχνεύουν κείμενο που δημιουργείται από μηχανή.

«Οι άνθρωποι ανησυχούν για την τεχνητή νοημοσύνη για βάσιμους λόγους», λέει η Callison-Burch. «Η μελέτη μας δίνει στοιχεία για να κατευνάσει αυτές τις ανησυχίες. Μόλις μπορέσουμε να εκμεταλλευτούμε την αισιοδοξία μας για τη δημιουργία κειμένων τεχνητής νοημοσύνης, θα είμαστε σε θέση να αφιερώσουμε προσοχή στην ικανότητα αυτών των εργαλείων να μας βοηθήσουν να γράφουμε πιο ευφάνταστα, πιο ενδιαφέροντα κείμενα».

Ο Dugan προσθέτει, "Υπάρχουν συναρπαστικές θετικές κατευθύνσεις που μπορείτε να προωθήσετε αυτήν την τεχνολογία. Οι άνθρωποι είναι προσηλωμένοι στα ανησυχητικά παραδείγματα, όπως η λογοκλοπή και οι ψεύτικες ειδήσεις, αλλά γνωρίζουμε τώρα ότι μπορούμε να εκπαιδεύσουμε τους εαυτούς μας για να γίνουμε καλύτεροι αναγνώστες και συγγραφείς."

Η μελέτη παρέχει ένα κρίσιμο πρώτο βήμα για τον μετριασμό των κινδύνων που σχετίζονται με το κείμενο που δημιουργείται από μηχανή. Καθώς η τεχνητή νοημοσύνη συνεχίζει να εξελίσσεται, το ίδιο ισχύει και για την ικανότητά μας να ανιχνεύουμε και να περιηγούμαστε τον αντίκτυπό της. Εκπαιδεύοντας τους εαυτούς μας να αναγνωρίζουν τη διαφορά μεταξύ κειμένου που έχει γραφτεί από ανθρώπους και κειμένου που δημιουργείται από μηχανή, μπορούμε να αξιοποιήσουμε τη δύναμη της τεχνητής νοημοσύνης για να υποστηρίξουμε τις δημιουργικές μας διαδικασίες, μετριάζοντας τους κινδύνους της.