Η τεχνητή νοημοσύνη μπορεί να μας βοηθήσει να βρούμε αληθινούς ανθρώπους, όχι να τους αντικαταστήσει

Μια ψεύτικη εικόνα εξαπατά ακόμη και τα πιο οξυδερκή μάτια, αλλά η ψεύτικη συμπεριφορά που η πλατφόρμα παρατηρεί δεν πρέπει.

Τους τελευταίους είκοσι χρόνια, η βιομηχανία διαδικτυακών γνωριμιών δίδαξε την ασφάλεια των χρηστών ως μια απλή λίστα ελέγχου. Συμβουλεύαμε τους χρήστες να εξετάζουν προσεκτικά τη φωτογραφία, να ελέγχουν τη συνέπεια της ιστορίας του ατόμου, ή να απαιτούν μια βιντεοκλήση πριν συμφωνήσουν να συναντηθούν. Αυτή η καθοδήγηση, που κάποτε ήταν το χρυσό πρότυπο της ψηφιακής ασφάλειας, είναι εντελώς ξεπερασμένη σήμερα.Η οριστική απόδειξη ήρθε σε μια μελέτη του Φεβρουαρίου 2025 από την iProov, ένας κορυφαίος προμηθευτής βιομετρικών. Οι ερευνητές ζήτησαν από 2.000 άτομα στο Ηνωμένο Βασίλειο και τις ΗΠΑ να ταξινομήσουν διάφορα στοιχεία — χρησιμοποιώντας τόσο εικόνες όσο και βίντεο — ως πραγματικά ή συνθετικά. Τα αποτελέσματα ήταν εκπληκτικά: μόνο δύο άτομα δεν έκαναν κανένα λάθος. Αυτό αντιστοιχεί σε μόλις 0,1 τοις εκατό των ελεγχθέντων, πράγμα που σημαίνει ότι τα άλλα 1.998 έκαναν τουλάχιστον ένα σφάλμα. Η υψηλή εμπιστοσύνη συνδυασμένη με υψηλό ποσοστό σφαλμάτων είναι ένας επικίνδυνος συνδυασμός για τους καταναλωτές. Και οι απατεώνες είναι περισσότερο από έτοιμοι να το εκμεταλλευτούν.Σύμφωνα με το Entrust 2026 Έκθεση Απάτης Ταυτότητας, τα deepfakes τώρα αντιπροσωπεύουν ένα στις πέντε προσπάθειες βιομετρικής απάτης. Τα deepfaked selfies αυξήθηκαν κατά 58 τοις εκατό το 2025, και οι επιθέσεις ένεσης αυξήθηκαν κατά 40 τοις εκατό χρόνο με το χρόνο. Η προσδοκία ότι ένας καθημερινός χρήστης θα ξεπεράσει ένα εξαιρετικά προηγμένο μοντέλο γενετικής AI στην οπτική αντίληψη αποτελεί παραίτηση από την ευθύνη· μεταφέρει τον κίνδυνο άμεσα από την πλατφόρμα στον πελάτη.

Η απάτη δεν αφορά πλέον την εύρεση ψεύτικων εικόνων

Η πραγματικότητα είναι ότι τα τρέχοντα εργαλεία ανίχνευσης αποτυγχάνουν επειδή εκτελούν δοκιμές επιπέδου αντικειμένου ένα προς ένα. Μία δοκιμή ερωτάται αν μια συγκεκριμένη εικόνα δημιουργήθηκε από AI. Μια άλλη ερωτάται αν ένα έγγραφο είναι πλαστογραφημένο, ενώ μια τρίτη ερωτάται αν το κείμενο σε ένα μήνυμα γράφτηκε από μηχανή. Το πρόβλημα είναι ότι κάθε μία από αυτές τις δοκιμές φθείρεται γρήγορα. Καθώς η πρόοδος των γενετικών μοντέλων αυξάνει συνεχώς την ποιότητα των αποτελεσμάτων, οι προηγούμενες απαντήσεις και μέθοδοι ανίχνευσης γίνονται παλιές ή ξεπερασμένες σχεδόν άμεσα.

Μια πολύ καλύτερη προσέγγιση αντικαθιστά την εμφάνιση ενός μόνο σήματος με τη συνδυασμένη προσαρμογή πολλών σημάτων. Η μέθοδός μας αξιολογεί τις σχέσεις μεταξύ διαφόρων διαστάσεων της παρουσίας ενός χρήστη. Μία διάσταση του σήματος είναι η εμφάνιση της συσκευής στο σύστημά μας. Μια άλλη είναι η προέλευση της συνεδρίας του χρήστη. Μια τρίτη είναι ο τρόπος με τον οποίο συμπεριφέρεται ο λογαριασμός. Όλα αυτά οδηγούν σε ανθρώπινη αξιολόγηση όταν το σύστημα επισημαίνει δείκτες πιθανής απάτης.

Το Γραφείο των Ηνωμένων Εθνών για τα Ναρκωτικά και το Έγκλημα, στη Αξιολόγηση Απειλής Διεθνούς Οργανωμένου Εγκλήματος για τη Νοτιοανατολική Ασία 2026, εκτίμησε τις ζημιές από διαδικτυακές απάτες το 2025 μεταξύ US$88.3 δισεκατομμυρίων και US$114.1 δισεκατομμυρίων μόνο στις αναφερόμενες περιοχές. Η βιομηχανική απάτη σε αυτήν την κλίμακα λειτουργεί με ταχύτητα και όγκο. Κάθε μεμονωμένο κομμάτι πληροφορίας μπορεί να πλαστογραφηθεί εύκολα, αλλά η πλαστογράφηση όλων από αυτών σταθερά — σε πολλαπλούς λογαριασμούς που συνεχώς καταρρίπτονται από την πλατφόρμα — γίνεται πολύ δύσκολο να διατηρηθεί. Κάθε επίπεδο τριβής που εισάγουμε αυξάνει το κόστος ανά λογαριασμό της επιχείρησης απάτης μέχρι το περιθώριο κέρδους τους να φτάσει στο μηδέν.

Εδώ είναι που η AI πραγματικά αποδεικνύει την αξία της. Ενώ η ανίχνευση πλαστών έχει βελτιωθεί με τις νέες τεχνολογίες, η ενισχυμένη ικανότητα να εντοπίζονται ταυτόχρονοι παράγοντες που υποδεικνύουν απάτη — και οδηγούν σε πρώιμη παρέμβαση — είναι πολύ πιο ωφέλιμη για τους χρήστες μας. Όταν οι δείκτες ενός χρήστη διαφωνούν, η πραγματική του πρόθεση εκτίθεται. Ένα ειλικρινές μέλος, ένας απατεώνας και ένας επισκέπτης με διαφορετικό σκοπό μπορεί να μοιράζονται τις ίδιες φωτογραφίες και σχεδόν τα ίδια αρχικά μηνύματα. Οι συνδυασμένοι τους δείκτες, ωστόσο, θα διαφέρουν και θα πουν μια εντελώς διαφορετική ιστορία. Ο τρόπος που απαντούν οι άνθρωποι, πόσο γρήγορα ανταποκρίνονται, πώς κλιμακώνουν τη συζήτηση, τι ρωτούν, και ποιες συνομιλίες εγκαταλείπουν, όλα δημιουργούν μια εικόνα. Η ταυτότητα μπορεί να είναι ένα άψογο παραγόμενο ψέμα, αλλά η συμπεριφορά θα αποκαλύψει πάντα κακές προθέσεις.

Ασυμμετρία Πληροφοριών: Οι Πλατφόρμες Γνωρίζουν Πράγματα που οι Χρήστες Δεν Μπορούν

Η Federal Trade Commission ανέφερε το 2026 ότι οι απώλειες από ρομαντικές απάτες το 2025 αυξήθηκαν κατά 22 τοις εκατό σε σχέση με το 2024, φτάνοντας περίπου $1.5 δισεκατομμύρια. Μεταξύ εκείνων που ανέφεραν πώς επικοινωνήθηκε μαζί τους, περίπου το 60 τοις εκατό δήλωσαν ότι η αρχική τους επαφή έγινε σε μια πλατφόρμα κοινωνικής δικτύωσης.

Υπάρχει ένα τεράστιο χάσμα πληροφοριών στον κλάδο μας. Οι πλατφόρμες βλέπουν τις ίδιες κατηγορίες σήματος, αλλά σίγουρα μπορούν επίσης να δουν τη χώρα σύνδεσης και την ηλικία του λογαριασμού, για παράδειγμα. Ό,τι βλέπουν όλα τα μέλη είναι ένα χαμόγελο και μια προσεκτικά διατυπωμένη παράγραφο που έξυπνα ενσωματώνει κάτι από το προφίλ τους. Οι πλατφόρμες έχουν τη δυνατότητα να ενεργούν πάνω σε αυτά τα κρυφά δεδομένα, χρησιμοποιώντας τα για να δημιουργήσουν ένα πιο ασφαλές περιβάλλον, ή να τα αποκαλύψουν ώστε τα μέλη να μπορούν να αντιδράσουν ανάλογα. Δυστυχώς, η πλειονότητα του κλάδου δεν κάνει κανένα από τα δύο.

Η αδράνεια του κλάδου συχνά οφείλεται στις πολύπλοκες ανταλλαγές μεταξύ προστασίας της ιδιωτικότητας των χρηστών. Το ακριβό μισό αυτής της εξίσωσης είναι η λήψη δράσης. Υπάρχουν δύο δρόμοι για την οικοδόμηση εμπιστοσύνης: ο αργός δρόμος είναι η φήμη, και ο γρήγορος δρόμος είναι η επαλήθευση. Η επαλήθευση δημιουργεί τριβή. Ο κλάδος επιδιώκει κυρίως ταχύτητα, όγκο και χαμηλή τριβή, κάτι που εξηγεί την χρόνια έλλειψη επαλήθευσης.

Ωστόσο, εμφανίζονται λύσεις. Μια προπρόσθετη έκδοση του Αυγούστου 2024 στο arXiv πρότεινε «πιστοποιητικά προσωπικότητας». Οι 32 συγγραφείς από ιδρύματα όπως η OpenAI, η Microsoft, το MIT, το Oxford και το Harvard πρότειναν ένα πιστοποιητικό προστασίας απορρήτου που επιτρέπει σε κάποιον να αποδείξει σε μια υπηρεσία ότι είναι πραγματικό άτομο χωρίς να αποκαλύψει την υποκείμενη ταυτότητά του. Το επιχείρημά τους είναι ότι τα CAPTCHA είναι ανεπαρκή και η ανίχνευση ανωμαλιών εξαλείφεται γρήγορα από ικανή AI. Έχουν δίκιο. Η γνωριμία είναι ένας από τους τομείς όπου οι συνέπειες αυτής της εξάλειψης είναι πιο σκληρές, επειδή το βασικό προϊόν που πωλείται είναι η ίδια η εμπιστοσύνη.

Κατασκευή ενός Καλύτερου Προτύπου Κοινότητας

Τα ίδια σήματα που βοηθούν στην ταυτοποίηση πιθανής εγκληματικής συμπεριφοράς μπορούν επίσης να βοηθήσουν στην ταυτοποίηση άλλων τύπων κακών ενεργειών. Η ανάγνωση προθέσεων εκτείνεται πολύ πέρα από το απλό σταμάτημα της απάτης. Δεν είναι κάθε κακός δράστης σε έναν ιστότοπο εγκληματίας. Ένας χρήστης που είναι δυσάρεστος μπορεί να μην παραβιάζει το νόμο, και μια σχέση που αντιμετωπίζεται ως συναλλαγή μπορεί να μην είναι απάτη. Η αντιμετώπιση των ανθρώπων με περιφρόνηση δεν οδηγεί σε ομοσπονδιακή κατηγορία. Αλλά αυτές οι συμπεριφορές υποβαθμίζουν βαθιά την κοινότητα. Χειρότερα, είναι συχνά αόρατες για συστήματα που βασίζονται αποκλειστικά στις αναφορές μελών για τα προγράμματα επιβολής τους.

Η βιομηχανία παραδοσιακά έθεσε το όριο στην παράνομη δραστηριότητα: εντοπίζει απάτες και ανήλικους, αφαιρεί ό,τι απαιτεί αυστηρά το νόμο, και θεωρεί το υπόλοιπο ως θέμα μεταξύ ενήλικων που συναινούν. Δεν γνωρίζω άλλη ιστοσελίδα γνωριμιών που να χρησιμοποιεί AI για την ταυτοποίηση συναλλακτικής συμπεριφοράς και να την σταματά ενεργά. Η λειτουργία μας Stop@Send αξιολογεί το εξερχόμενο μήνυμα του αποστολέα καθώς αποστέλλεται. Αναζητά βαθύτερο νόημα αντί να συγκρίνει απλώς το περιεχόμενο με μια στατική λίστα λέξεων-κλειδιών. Στις περισσότερες περιπτώσεις, η απάντηση είναι μια εξήγηση που παραδίδεται στον αποστολέα, λέγοντάς του ακριβώς γιατί το μήνυμα είναι ακατάλληλο για την κοινότητα.

Αυτό δεν είναι δωρεάν, φυσικά. Η διακοπή των συνομιλιών των μελών δημιουργεί τριβή, κάτι που, όπως θα περίμενε κανείς, είναι κόστος που επιλέγουμε ενεργά να απορροφήσουμε. Αλλά τα πρότυπά μας καθορίζονται καλύτερα από το τι συμπεριφορά επιτρέπεται πραγματικά στην πλατφόρμα μας, όχι από ό,τι δημοσιεύεται σε μια αχρησιμοποίητη σελίδα κατευθυντήριων οδηγιών κοινότητας. Μια πλατφόρμα που δεν ενοχλεί έναν κακό δράστη δεν έχει δικαίωμα να αυτοαποκαλείται κοινότητα.

Η Πρόκληση για τη Βιομηχανία

Η αγορά αυτή τη στιγμή τρέχει να κάνει την AI να αντικαταστήσει τους ανθρώπους: βλέπουμε την άνοδο των AI συντρόφων, των AI-δημιουργημένων προφίλ και των πρακτόρων φλερτ. Πιστεύω ακράδαντα ότι αυτή η κατεύθυνση είναι αδιέξοδο. Βελτιστοποιεί αποκλειστικά για δέσμευση αλλά δεν προσφέρει τίποτα άλλο. Η προσέγγισή μας είναι θεμελιωδώς διαφορετική. Χρησιμοποιούμε AI για να απαλλαγούμε από τους κακούς δράστες, να κρατήσουμε τα μέλη υπεύθυνα μεταξύ τους και να τους βοηθήσουμε να αντιμετωπίζουν ο ένας τον άλλο με τρόπους που είναι πιο πιθανό να οδηγήσουν σε ουσιαστικές, πραγματικές σχέσεις.

Οι λίστες με κόκκινες σημαίες προς αποφυγή έχουν χάσει την αξία τους. Τα σήματα που παλαιότερα αποκάλυπταν τους απατεώνες είναι ακριβώς τα χαρακτηριστικά που τα γενετικά μοντέλα έχουν μάθει να εξαλείψουν, δημιουργώντας έναν αγώνα όπλων στον οποίο είμαστε συνεχώς παγιδευμένοι. Εκτός από τον Πρώτο Κανόνα — μην στέλνετε ποτέ χρήματα σε κανέναν που δεν γνωρίζετε και δεν έχετε συναντήσει προσωπικά, που όλοι πρέπει να ακολουθούν — το κεντρικό ερώτημα δεν αφορά πλέον τη φωτογραφία. Αφορά την πλατφόρμα, και τι κάνουν με ό,τι γνωρίζουν οι χρήστες τους δεν γνωρίζουν.

Μια πλατφόρμα που έχει καλές απαντήσεις σε αυτήν την πρόκληση σχεδιάζει ενεργά την εμπιστοσύνη. Μια πλατφόρμα που δεν το κάνει ζητά από τα μέλη της να κάνουν περισσότερη δουλειά με ποσοστό επιτυχίας 0,1 τοις εκατό μόνο για να προστατευτούν.

Θέτω αυτήν την πρόκληση σε κάθε πλατφόρμα, συμπεριλαμβανομένης της δικής μου. Αναμένω οι απαντήσεις να είναι ειλικρινείς και πλήρεις. Η τεχνολογία για να κλείσει αυτό το χάσμα υπάρχει ήδη. Η απάτη παραμένει επειδή η διακοπή της σημαίνει παράδοση της τεράστιας ανάπτυξης που προέρχεται από τη γιγαντιαία πύλη της άμεσης εγγραφής. Αυτό είναι επιχειρηματική απόφαση και όχι τεχνικός περιορισμός. Και οι πλατφόρμες που αποφασίζουν σωστά κατέχουν το μοναδικό περιουσιακό στοιχείο που μετράει σε αυτή τη συζήτηση: την εμπιστοσύνη των μελών τους.