Η γραφή που παράγεται από το AI δεν “κουράζεται” ποτέ και έτσι αποκαλύπτεται

Η γραφή τύπου ChatGPT αποκαλύπτεται από την αύξηση της συνεκτικότητας, ενώ η ανθρώπινη γραφή παραμένει ανώμαλη καθ’ όλη τη διάρκεια.

Το περιορισμένο παράθυρο контέxt των περισσότερων καταναλωτικών Μεγάλων Μοντέλων Γλώσσας (LLMs) είναι ένας από τους παράγοντες που possono κάνουν να λησμονήσουν ή να ανακαλέσουν λανθασμένα προηγούμενα μέρη των συνομιλιών των χρηστών – λάθη ανακαλέσεως που possono σταδιακά μετατρέψουν την έξοδο σε πλήρη ανοησία – ή, χειρότερα, δελεαστικά συνεπή κείμενο που περιέχει λεπτές λάθη.

Καθώς αυτές οι περιστάσεις οδηγούν σε οπτασίες, και既然 οι οπτασίες είναι ακόμη το μεγαλύτερο εμπόδιο στην πλήρη προώθηση της αγοράς του AI, έχουν καταβληθεί πολλές ερευνητικές προσπάθειες για τη δημιουργία γενετικών συστημάτων AI που possono δημιουργήσουν μεγαλύτερα αλλά πολύ πιο συνεκτικά τμήματα κειμένου.

Πράγματι, τόσο μεγάλη πρόοδος έχει επιτευχθεί που η αναγνώριση περιεχομένου μεγάλης μορφής AI (δηλαδή, περιεχομένου που παράγεται αποκλειστικά από το AI, με – προφανώς – ελάχιστη ή μηδενική ανθρώπινη φροντίδα) θεωρείται ένα αυξανόμενο πρόβλημα.

Βγάζοντας τον AI από την κρυψώνα

Παρόλα αυτά, πρόσφατες εμπειρικές μελέτες υποστηρίζουν ότι όσο περισσότερη έξοδος παράγει το AI σε μια εκτόξευση, τόσο ευκολότερο είναι να καθορίσετε εάν το κείμενο γράφτηκε από άνθρωπο ή όχι. Αλλά η αποδεκτή σοφία σχετικά με αυτό το “άγκυρα” ανίχνευσης έχει υποθέσει ότι το AI μπορεί να διακριθεί επειδή ό, τι κάνει διαφορετικά από τους ανθρώπους, έχει την ευκαιρία να το κάνει περισσότερο σε μεγαλύτερες εκτάσεις.

Δεν existουν υποθέσεις σχετικά με τη κατανομή αυτών των “σημάτων” στο κείμενο.

Για να προκληθεί αυτό και να επεκταθεί το πρόβλημα, μια ενδιαφέρουσα πρόσφατη μελέτη από την Κίνα προσφέρει einen νέο τρόπο διάκρισης των νέων γενεών γενετικών μοντέλων περιεχομένου από πραγματικούς ανθρώπινους συγγραφείς. Οι ερευνητές πίσω από το έργο ισχυρίζονται ότι η λεξή φύση με την οποία το κείμενο AI παράγεται γίνεται πιο συνεκτικό με μεγαλύτερο μήκος, ενώ οι ιδιοσυγκρασίες των ανθρώπων δεν μειώνονται με το μήκος.

Μέθοδος

Για να καταγράψουν την αυξανόμενη ομαλότητα στο κείμενο AI, οι ερευνητές σχεδίασαν δύο μετρήσεις που εστιάζουν μόνο στο δεύτερο μισό ενός πέρασματος. Αυτές βασίζονται σε βαθμολογίες log-probability από ένα τυπικό μοντέλο γλώσσας και δεν απαιτούν κανένα εύρος, επαναπαίδευση ή πρόσθετα δείγματα.

Η πρώτη μέτρηση, που ονομάζεται Διασπορά Παράγωγου (DD), παρακολουθεί πόσο δραματικά αλλάζει η εμπιστοσύνη του μοντέλου από μια λέξη στην επόμενη. Το κείμενο AI τείνει να εμβαθύνει σε einen ρυθμό, οπότε αυτές οι αλλαγές γίνονται μικρότερες και πιο προβλέψιμες στο δεύτερο μισό. Αντίθετα, η ανθρώπινη γραφή παραμένει “ανομοιόμορφη”.

Η δεύτερη μέτρηση, Τοπική Ευστάθεια (LV), εξετάζει πόσο πολύ “πηδάει” η εμπιστοσύνη του μοντέλου μέσα σε ένα μικρό παράθυρο κειμένου. Πάλι, το AI τείνει να γίνεται πιο σταθερό με το χρόνο, ενώ οι επιλογές των ανθρώπων παραμένουν πιο απρόβλεπτες και λιγότερο συνεπείς.

Δεδομένα και Τεστ

Οι συγγραφείς διεξήγαγαν τεστ σε δύο συναφείς συνόλους δεδομένων: EvoBench περιέχει 32.000 ζευγάρια ανθρώπινου/AI κειμένου που παράγονται σε επτά οικογένειες μοντέλων, συμπεριλαμβανομένων GPT-4.

Ανταγωνιστές

Η νέα μέθοδος δοκιμάστηκε ενάντια σε eine σειρά από ανιχνευτές zero-shot που χρησιμοποιούν το ίδιο μοντέλο. Πιθανοτητα, Εντροπία, Κατάταξη και Log-Κατάταξη (DetectGPT) μετρούν στατιστικά στοιχεία σε επίπεδο λεξήματος σε ολόκληρο το πέρασμα.

Εφαρμογή και Αποτελέσματα

Όλες οι μεθόδους ανίχνευσης εκτελέστηκαν χρησιμοποιώντας Llama-3-8B-Instruct ως κοινό μοντέλο. Η περιοχή κάτω από την καμπύλη του δέκτη-λειτουργικού χαρακτηριστικού (AUROC) ήταν το πρωτεύον μετρικό αξιολόγησης.

Συμπέρασμα

Ένας аспект που δεν αντιμετωπίζεται άμεσα στην νέα εργασία είναι η τάση των ανθρώπινων συγγραφέων να επαναλαμβάνουν το έργο τους μέσω της σύνταξης και των διαφόρων επιπέδων εποπτείας – đôi khi συμπεριλαμβανομένων εξωτερικών επιπέδων εποπτείας, όπως η εισροή των συντακτών και των επιμελητών, καθώς και πιθανές προτεινόμενες αλλαγές από νομικά τμήματα, ανάλογα με το контέxt.

Η πολλαπλή συμμετοχή σε έγγραφα τόσο απλά όσο ένα καλά κρυμμένο άρθρο εφημερίδας μπορεί να εξαφανίσει τις ιδιοσυγκρασίες που η νέα προτεινόμενη μέθοδος βασίζεται και,事實上, αποτελεί一种 “αναλογική” εκδοχή μιας διαδικασίας σύνταξης με τη βοήθεια του AI.

Μια weitere και αντίθετη σκέψη είναι ότι το περιεχόμενο κειμένου στο οποίο έχουν συμβάλλει πολλά άτομα μπορεί επίσης να είναι μεταξύ των πιο θραυσματικών, ελαττωματικών και επαναλαμβανόμενων κομματιών κειμένου που εισέρχονται σε ένα σύνολο δεδομένων,既然 αυτά συχνά δεν θα έχουν το όφελος μιας τελικής ενοποιημένης φωνής, αφήνοντας την θραυσματική φύση της ανάπτυξής τους εμφανή στο κείμενο.

* Authors’ original text-styling reproduced from the paper; not my emphases.

^† The authors state ‘primary’, while listing no other evaluation metrics.

First published Monday, 26 Ιανουαρίου 2026