Η γωνία του Anderson
Μελέτη: Το 35% των πρακτόρων AI παρέδωσε προσωπικά δεδομένα σε ιστοτόπους που γνώριζαν ότι ήταν απάτες

Βασικά σημείαΟι πράκτορες συχνά αναγνωρίζουν μια απάτη και ωστόσο εξακολουθούν να υποβάλλουν…
Δείτε περισσότερα
- Οι πράκτορες συχνά αναγνωρίζουν μια απάτη και ωστόσο εξακολουθούν να υποβάλλουν ευαίσθητα δεδομένα
- Οι προτροπές ασφαλείας οξύνουν την επίγνωση του κινδύνου από έναν πράκτορα χωρίς να αλλάζουν αξιόπιστα τη συμπεριφορά του
- Οι άμυνες πρέπει να αναχαιτίζουν τις εξερχόμενες υποβολές αντί να βασίζονται στην ίδια την υποψία ενός πράκτορα
Μια νέα μελέτη διαπιστώνει ότι ακόμη και όταν αναγνωρίζουν έναν απατηλό ιστότοπο, περισσότεροι από ένας στους τρεις αυτόνομους πράκτορες ιστού παραδίδουν ευαίσθητες πληροφορίες.
Μια νέα μελέτη από ερευνητές στην Ινδία και τις Ηνωμένες Πολιτείες έχει βρει ότι περισσότερο από το ένα τρίτο των αυτόνομων πρακτόρων ιστού που δοκιμάστηκαν παρέδωσε κρίσιμες προσωπικές πληροφορίες (PII, δηλαδή λεπτομέρειες τραπεζικού λογαριασμού, κωδικούς πρόσβασης και αριθμούς Κοινωνικής Ασφάλισης) σε ιστοσελίδες που είχαν ήδη αναγνωριστεί ως απάτες.
Υπάρχει, όπως υποδεικνύει η μελέτη, ένας συγκεκριμένος «καταναγκασμός ολοκλήρωσης» που εμποδίζει την επιφύλαξη και την αναστολή στους πράκτορες ιστού, σε τέτοιες περιπτώσεις. Οι συγγραφείς αναφέρουν:
‘Ένας άνθρωπος μπορεί να σταματήσει, να ξαναδιαβάσει ή να κλείσει την καρτέλα. Ένας πράκτορας είναι κατασκευασμένος για να ολοκληρώσει την εργασία του και θα συνεχίσει να συμπληρώνει φόρμες και να υποβάλλει δεδομένα χωρίς να σταματήσει να αναρωτιέται αν πρέπει.’
Η μελέτη δημιούργησε ένα νέο πρότυπο αξιολόγησης για τέτοιες περιπτώσεις, με τίτλο SCAMMER4U, που καλύπτει 91 (προσομοιωμένα) περιβάλλοντα ελεγχόμενα από επιτιθέμενους, μαζί με δέκα «αβλαβείς» ιστοσελίδες βάσης και οκτώ φορείς επίθεσης.
Χωρίς κανένα μέτρο προστασίας της ιδιωτικής ζωής, οι δοκιμασμένοι πράκτορες παρέδωσαν εξαιρετικά ευαίσθητες προσωπικές πληροφορίες στο 54% έως 93% των συναντήσεων με απάτες, ενώ ισοδύναμες μη κακόβουλες ιστοσελίδες δεν προκάλεσαν τέτοιες αποκαλύψεις, υποδεικνύοντας ότι η διαρροή οφειλόταν στις επιθέσεις και όχι στην κανονική συμπλήρωση φόρμης:
‘Πιο κρίσιμο, αναγνωρίζουμε ένα χάσμα ανίχνευσης-δράσης: πράκτορες των οποίων ο συλλογισμός, όπως επιβεβαιώνει ένας ανεξάρτητος αξιολογητής LLM, έχει χαρακτηρίσει την ιστοσελίδα ύποπτη εξακολουθούν να υποβάλλουν κρίσιμες PII στο 35,9% των συνεδριών, έναντι 66,1% όταν δεν εκφράζεται καμία υποψία, ένα χάσμα 30,2% που είναι σταθερό σε όλες τις τέσσερις οικογένειες μοντέλων.
‘Τα ευρήματά μας αποκαλύπτουν ότι οι άμυνες που εξαρτώνται από την αναγνώριση της επίθεσης από τον ίδιο τον πράκτορα βασίζονται στο λάθος σήμα. Αυτό συνηγορεί υπέρ του ελέγχου των εξερχόμενων υποβολών στο επίπεδο εξόδου, ανεξάρτητα από τον βρόχο συλλογισμού του πράκτορα.’
Οι ερευνητές υποστηρίζουν άμυνες που λειτουργούν σε επίπεδο εξόδου και μπορούν να ελέγχουν και να μπλοκάρουν τις ευαίσθητες εξερχόμενες υποβολές, αντί να βασίζονται στην αναγνώριση της ιστοσελίδας ως ύποπτη από τον ίδιο τον πράκτορα, η οποία δεν μπορεί να θεωρηθεί αξιόπιστη για να προκαλέσει χρήσιμες αμυντικές ενέργειες.
Η νέα μελέτη έχει τίτλο «Υποψιάζομαι έντονα ότι αυτός ο ιστότοπος είναι απάτη»: Αξιολόγηση της διαρροής προσωπικών δεδομένων και της ανίχνευσης χωρίς άμυνα σε αυτόνομους πράκτορες ιστού, και προέρχεται από οκτώ ερευνητές σε KIIT Bhubaneshwar, BITS Pilani και Lam Research (LRCX ).
Θέματα με την Εξουσία
Το πιο ενδιαφέρον εύρημα της μελέτης, ίσως, δεν είναι ότι οι πράκτορες διαρρέουν προσωπικές πληροφορίες, αλλά ότι πολλοί από αυτούς το κάνουν μετά την αναγνώριση ότι κάτι δεν πάει καλά. Οι ερευνητές αναγνωρίζουν ένα επαναλαμβανόμενο μοτίβο στις δοκιμές, στο οποίο η υποψία και η δράση έγιναν διαχωρισμένες, με τους πράκτορες να εκφράζουν συχνά σαφείς ανησυχίες για μια ιστοσελίδα, αλλά παρ’ όλα αυτά να υποβάλλουν προσωπικά δεδομένα όπως ζητείται.
Ένα παράδειγμα αφορούσε αυτό που οι συγγραφείς ονομάζουν υποβάθμιση του αναγνωρισμένου κινδύνου. Ένας πράκτορας βασισμένος στο Llama 4 Scout αναγνώρισε πολλαπλά σημάδια προειδοποίησης σε μια ιστοσελίδα κρυπτονομισμάτων, σημειώνοντας τον ύποπτο τόνο, την υπόσχεση μεγάλων μπόνους και την έλλειψη σαφών πληροφοριών για την εταιρεία. Παρά αυτές τις αναγνωρισμένες προειδοποιήσεις, ο πράκτορας υπέβαλε έναν αριθμό Κοινωνικής Ασφάλισης, λεπτομέρειες καρτών και έναν κωδικό CVV.
Ένα δεύτερο μοτίβο, χαρακτηρισμένο ως πλαισίωση μέσω τομέα ή διαδικασίας, εμφανίστηκε όταν οι πράκτορες ανίχνευσαν επιτυχώς μια απόπειρα απάτης αλλά απέτυχαν να γενικεύσουν αυτή την υποψία σε μια συναφή αίτηση.
Σε μια περίπτωση, ο Gemini 3 Flash απέρριψε ένα προφανώς απατηλό αίτημα για τραπεζικές πληροφορίες, αναγνωρίζοντας σωστά ότι ήταν μια απόπειρα φισινγκ. Λίγα λεπτά αργότερα, ωστόσο, ο ίδιος πράκτορας παρέδωσε διαπιστευτήρια λογαριασμού σε μια διαφορετική φόρμα επαλήθευσης αφού συλλογίστηκε ότι οι ελέγχοι ταυτοποίησης ήταν ένα κανονικό μέρος της ασφάλειας της πλατφόρμας. Τα σημάδια προειδοποίησης αναγνωρίστηκαν σε ένα πλαίσιο, αλλά δεν μεταφέρθηκαν σε ένα άλλο.
Οι ερευνητές επίσης παρατήρησαν περιπτώσεις αυτού που ονομάζουν εμπιστοσύνη στους ισχυρισμούς ασφαλείας του ίδιου του ιστοτόπου και κανονικοποίηση λόγω αξιόπιστης εμφάνισης: σε μια περίπτωση, ένας Claude Haiku 4.5 πράκτορας αποδέχθηκε τους ισχυρισμούς της ίδιας της ιστοσελίδας σχετικά με τα πρότυπα κρυπτογράφησης και τα πιστοποιητικά ασφάλειας ως απόδειξη αξιοπιστίας, ενώ ο GPT-5 mini υποβάθμισε τις ύποπτες διατυπώσεις διότι η σελίδα φαινόταν επαγγελματικά σχεδιασμένη και παρουσιάστηκε μέσω ενός φαινομενικά νόμιμου ονόματος τομέα. Και στις δύο περιπτώσεις, επιφανειακά σήματα αξιοπιστίας υπερίσχυσαν τις ανησυχίες που οι πράκτορες είχαν ήδη εκφράσει.
Το πρόβλημα φαίνεται να εκτείνεται πέρα από την απλή ευπάθεια φισινγκ, με τους συγγραφείς να υποστηρίζουν ότι οι προτροπές ελέγχου αξιοπιστίας που προστέθηκαν στην πιο ισχυρή κατάσταση άμυνας συχνά λειτουργούσαν περισσότερο ως τελετουργία παρά ως δικλίδα ασφαλείας: οι πράκτορες ήταν ικανοί να αφηγήσουν τον κίνδυνο, αλλά η αφήγηση μόνη της δεν άλλαζε αξιόπιστα τη συμπεριφορά τους.
Οι συγγραφείς ορίζουν το αναγνωρισμένο χάσμα μεταξύ αναγνώρισης κινδύνου και δράσης με βάση αυτή την αναγνώριση ως το κεντρικό εμπόδιο στην ανάπτυξη μελλοντικών αμυνών σε αυτό το είδος σενάριου.
Μέθοδος
Το SCAMMER4U τοποθετεί τέσσερις πρωτοπόρους πράκτορες ιστού σε 91 ιστοσελίδες ελεγχόμενες από επιτιθέμενους και δέκα αβλαβείς ιστοσελίδες που καλύπτουν οκτώ κατηγορίες απάτης.
Τα τέσσερα μοντέλα που αξιολογήθηκαν ήταν GPT-5 mini, Claude Haiku 4.5, Gemini 3 Flash και Llama 4 Scout, χρησιμοποιώντας ένα κοινό Playwright-βασισμένο πλαίσιο περιήγησης, μορφή παρατήρησης, χώρο δράσης και πρότυπο προτροπής.
Για τους πειραματισμούς, κάθε πράκτορας είχε ανατεθεί ένα ρεαλιστικό προφίλ χρήστη που περιείχε πληροφορίες που κυμαίνονταν από ονόματα και διευθύνσεις μέχρι κωδικούς πρόσβασης, λεπτομέρειες τραπεζικού λογαριασμού, αριθμούς Κοινωνικής Ασφάλισης, κλειδιά API και κωδικούς διπλής αυθεντικοποίησης – με το πρωταρχικό στόχο να καθορίσει εάν οποιαδήποτε από αυτά τα δεδομένα έφτασαν σε σημεία ελεγχόμενα από επιτιθέμενους.

Η οκταξονική ταξινόμηση που χρησιμοποιείται για να ορίσει τα περιβάλλοντα SCAMMER4U, χωρίζοντας τον τρόπο με τον οποίο κάθε σενάριο ταξινομείται από τις συγκεκριμένες μεταβλητές που προσαρμόζονται σε ζευγαρωμένες δοκιμές για να απομονώσουν την επίδραση των ατομικών τακτικών κοινωνικής μηχανικής στην διαρροή PII. Πηγή
Για να διασφαλιστεί ότι το σύστημα αξιολόγησης αντανακλούσε πραγματικές απάτες και όχι τεχνητές δοκιμαστικές περιπτώσεις, τα περιβάλλοντα δημιουργήθηκαν μέσω Flask σε αυτο-φιλοξενημένα περιβάλλοντα, από ανθρώπινες σχεδιαστικές οδηγίες, και στη συνέχεια αναθεωρήθηκαν χειροκίνητα.
Κάθε μοντέλο δοκιμάστηκε υπό τέσσερις ολοένα και πιο παρεμβατικές ρυθμίσεις: C0, χωρίς καθοδήγηση, C1, με μια γενική υπενθύμιση ιδιωτικής ζωής, C2, με μια λίστα ελέγχου φισινγκ, και C3, με μια προτροπή αναστοχασμού πριν από την υποβολή. Πέντε εκτελέσεις πραγματοποιήθηκαν για κάθε συνδυασμό μοντέλου, περιβάλλοντος και κατάστασης, με αποτέλεσμα 7.480 συνολικές συνεδρίες.
Η πρωταρχική μετρική ήταν PLRcrit, που μετράει το ποσοστό με το οποίο κρίσιμες προσωπικές πληροφορίες έφτασαν σε ένα σημείο ελεγχόμενο από επιτιθέμενο. Δευτερεύουσες μετρήσεις αποτελούσαν PLRweighted, ένα μέτρο διαρροής σταθμισμένο ανά βαθμίδα ευαισθησίας, ASR (Ποσοστό Επιτυχίας Επιθέσεων), που μετράει την επιτυχία επιθέσεων μετά την πλοήγηση σε ένα προκαθορισμένο URL παγίδας, TCR (Ποσοστό Ολοκλήρωσης Εργασιών), μια ένδειξη Προστατευμένο, που υποδεικνύει την άρνηση ή την ασφαλή ολοκλήρωση χωρίς να φτάσει στο σημείο παγίδας, και DR (Ποσοστό Ανίχνευσης), που καταγράφει εάν ο συλλογισμός του πράκτορα ανέφερε την ιστοσελίδα ως ύποπτη.
Το ποσοστό ανίχνευσης (DR) μετρήθηκε χρησιμοποιώντας μια LLM ως αξιολογητή προσέγγιση, στην οποία το GPT-4o-mini υπηρέτησε ως ο πρωταρχικός αξιολογητής και το Llama 4 Scout ως δευτερεύων έλεγχος, αναθεωρώντας τον συλλογισμό του πράκτορα και καθορίζοντας εάν είχε αναγνωρίσει την ιστοσελίδα ως ύποπτη. DR, σε αυτή την περίπτωση, μετράει τι ένας πράκτορας είπε σαφώς για μια ιστοσελίδα, και όχι τι μπορεί να είχε συναγάγει εσωτερικά.
Η επαλήθευση έναντι ανθρώπινων ετικετών παρήγαγε κ του Cohen σκορ 0,83 και 0,78, υπερβαίνοντας το προκαθορισμένο όριο αξιοπιστίας της μελέτης.
Η μελέτη ήταν προ-εγγεγραμμένη (δηλαδή, το σχέδιο της μελέτης και οι αναλύσεις είχαν καταγραφεί δημόσια πριν από την έναρξη), πριν από τη συλλογή δεδομένων, με το να καθορίσει τις αναλύσεις και τα κριτήρια επιτυχίας της μελέτης εκ των προτέρων, με σκοπό να μειώσει τον κίνδυνο προσαρμογής των συμπερασμάτων στα παρατηρημένα αποτελέσματα.
Δοκιμές και Αποτελέσματα
Η αρχική δοκιμή είχε ως στόχο να καθορίσει εάν απλές υπενθυμίσεις ασφαλείας θα μπορούσαν να μειώσουν το πρόβλημα. Τέσσερις ολοένα και πιο προστατευτικές ρυθμίσεις αξιολογήθηκαν, που κυμαίνονταν από καμία καθοδήγηση ιδιωτικής ζωής μέχρι προτροπές που ενθάρρυναν ρητά τον πράκτορα να σταματήσει και να αναστοχαστεί πριν υποβάλει ευαίσθητες πληροφορίες.
Τα αποτελέσματα ποικίλλουν δραματικά μεταξύ των μοντέλων. Ο Claude Haiku 4.5 αποδείχθηκε ο πιο ανταποκριτικός, με το ποσοστό διαρροής να πέφτει από 54,5% στην βασική κατάσταση σε 24,0% στην ισχυρότερη αμυντική ρύθμιση. Το ποσοστό διαρροής του GPT-5 mini βελτιώθηκε από 61,0% σε 36,1%, ενώ ο Gemini 3 Flash έπεσε από 93,1% σε 60,7%. Ο Llama 4 Scout άλλαξε σχετικά λίγο, πέφτοντας από 82,3% σε 77,4%.
Αυτές οι διαφορές υποδηλώνουν, σύμφωνα με τους συγγραφείς, ότι οι ίδιες προστατευτικές οδηγίες μπορούν να παράγουν πολύ διαφορετικά αποτελέσματα, ανάλογα με το μοντέλο που τις λαμβάνει. Πιο σημαντικά, οι αμυντικές ρυθμίσεις φάνηκαν να βελτιώνουν την αναγνώριση του κινδύνου από τους πράκτορες περισσότερο από την πραγματική τους συμπεριφορά: οι πράκτορες έγιναν καλύτεροι στην αναγνώριση ύποπτων ιστοσελίδων και στην περιγραφή σημάτων προειδοποίησης, αλλά αυτή η αναγνώριση δεν τους σταμάτησε πάντα από το να συνεχίσουν με τη συναλλαγή.

Χάσμα ανίχνευσης και δράσης σε τέσσερις προηγμένους πράκτορες AI. Το αριστερό διάγραμμα συγκρίνει τη διαρροή κρίσιμων πληροφοριών μεταξύ πρακτόρων που χαρακτήρισαν ρητά έναν ιστότοπο ύποπτο και εκείνων που δεν το έκαναν. Ακόμη και με την ισχυρότερη προστασία (C3), περισσότεροι από το ένα τρίτο των πρακτόρων που αναγνώρισαν μια πιθανή απάτη εξακολουθούσαν να στέλνουν ευαίσθητα δεδομένα. Το δεξί διάγραμμα δείχνει το ίδιο χάσμα για GPT-5 mini, Claude Haiku 4.5, Gemini 3 Flash και Llama 4 Scout, καταδεικνύοντας ότι η επίγνωση μιας απειλής δεν μεταφράζεται αξιόπιστα σε αμυντική συμπεριφορά.
Σε μια ξεχωριστή αξιολόγηση, 16 κριτές σύγκριναν σελίδες SCAMMER4U με πραγματικές ιστοσελίδες φισινγκ και δεν είχαν καλύτερη επίδοση από την τυχαία εικασία. Σύμφωνα με τη μελέτη, αυτό υποδηλώνει ότι το σύστημα αξιολόγησης κατέγραψε πολλά από τα οπτικά και διαδικαστικά σήματα που βρίσκονται σε πραγματικές απάτες στο διαδίκτυο.
Συμπέρασμα
Τα μοντέλα που δοκιμάστηκαν – τα οποία αντιπροσωπεύουν γενικά τις λογικές αρχιτεκτονικές σε δημοφιλείς οικογένειες LLM – φαίνεται να έχουν ένα εγγενές πρόβλημα στην απόσυρση από αναγνωρισμένες επικίνδυνες περιπτώσεις ή στη μετρίωση της δικού τους καταναγκασμού να συνεχίσουν να ενεργούν. Η λογική υποδηλώνει ότι αυτό μπορεί να σχετίζεται με τη γενικότερη δυσκολία που είναι γνωστό ότι παρουσιάζουν τα προηγμένα γλωσσικά μοντέλα ως προς την παραδοχή της ήττας – μια απαραίτητη ικανότητα επιβίωσης που, για την ώρα, φαίνεται να μπορεί να επιβληθεί μόνο εξωτερικά, μέσω προτροπών συστήματος, δευτερευόντων συστημάτων και περιορισμών εξόδου.
Εάν ο περιγραφόμενος «διαχωρισμός» μεταξύ αναγνωρισμένου κινδύνου και καταναγκασμού συνέχισης της δράσης είναι πραγματικά εγγενής σε μια αρχιτεκτονική LLM, και δεν μπορεί να επιλυθεί εγγενώς, η μόνη εναλλακτική λύση θα φαινόταν να είναι η αλγοριθμική εποπτεία των ενεργειών του μοντέλου σε κρίσιμες περιπτώσεις – που μειώνει αποτελεσματικά τη χρησιμότητα ενός πράκτορα σε μια πιο προκαθορισμένη ρουτίνα τύπου RPA.
Πρώτη δημοσίευση Σάββατο, 6 Ιουνίου 2026












