Ποιος Θα Μας Προστατεύσει Από τις Ψευδείς Πληροφορίες που Γεννώνται από το AI;

Το γεννητικό AI έχει περάσει από το μηδέν στο εκατό σε λιγότερο από ένα χρόνο. Ενώ είναι ακόμη νωπό, έχει δείξει το δυναμικό του να μεταμορφώσει τις επιχειρήσεις. Αυτό στο οποίο συμφωνούμε όλοι. Το σημείο στο οποίο διαφωνούμε είναι στο πώς να περιορίσουμε τους κινδύνους που προκαλεί.

Για να είμαι σαφής, είμαι υπέρ της καινοτομίας και μακράν δεν είμαι φοβημένος. Αλλά η πρόσφατη αύξηση των ψευδών πληροφοριών – κυρίως με στόχο την πόλωση γύρω από αμφιλεγόμενα ζητήματα της στιγμής – έχει κάνει σαφές ότι, αν αφεθεί ανεξέλεγκτο, το γεννητικό AI θα μπορούσε να προκαλέσει καταστροφές στις κοινωνίες.

Τους έχουμε δει αυτήν την ταινία πριν με τα μέσα κοινωνικής δικτύωσης, αλλά χρειάστηκαν χρόνια και δύσκολα μαθήματα για να ξυπνήσουμε στα λάθη τους. Έχουμε (πρεσβεύοντας) μάθει κάτι. Το ερώτημα σήμερα είναι ποιος θα βοηθήσει να περιορίσει την πορεία της παραμόρφωσης της πραγματικότητας από το γεννητικό AI, και πώς;

Προβλέψιμα, οι κυβερνήσεις αρχίζουν να ενεργούν. Η Ευρώπη είναι στην πρώτη γραμμή, όπως έχουν δείξει όλο και περισσότερο στην ρύθμιση της τεχνολογίας. Οι Ηνωμένες Πολιτείες είναι ακριβώς πίσω, με τον Πρόεδρο Biden να εκδίδει μια εκτελεστική εντολή τον περασμένο Οκτώβριο.

Αλλά θα χρειαστεί μια παγκόσμια κοινότητα που ενεργεί μαζί για να «διατηρήσει το γεννητικό AI ειλικρινές». Και πριν η κυβέρνηση μπορέσει να βοηθήσει, πρέπει να κατανοήσει τους περιορισμούς των διαθέσιμων προσεγγίσεων.

Το πρόβλημα της ταυτότητας έχει γίνει πολύ χειρότερο

Σε αυτό τον νέο κόσμο, η αλήθεια γίνεται το βελόνι σε ένα άχυρο από γνώμες που παρουσιάζονται ως γεγονότα. Γνωρίζοντας ποιος είναι ο δημιουργός του περιεχομένου έχει μεγαλύτερη σημασία από ποτέ.

Και δεν είναι τόσο εύκολο όσο να διατάξει ότι κάθε λογαριασμός στα μέσα κοινωνικής δικτύωσης πρέπει να είναι επικυρωμένος. Υπάρχει έντονη αντίθεση σε αυτό, και σε ορισμένες περιπτώσεις η ανωνυμία είναι απαραίτητη για να προστατεύσει τους κατόχους του λογαριασμού. Επιπλέον, πολλοί καταναλωτές του χειρότερου περιεχομένου δεν ενδιαφέρονται αν είναι αξιόπιστοι, ούτε από πού προέρχονται.

Παρά αυτές τις επιφυλάξεις, ο πιθανός ρόλος της ταυτότητας στην αντιμετώπιση του γεννητικού AI είναι υποτιμημένος. Σκεπτικιστές, ακούστε με.

Ας φανταστούμε ότι η ρύθμιση ή η κοινωνική συνείδηση προκαλούν τις πλατφόρμες να δώσουν σε κάθε κατόχο λογαριασμού αυτές τις επιλογές:

1. Επικύρωση της ταυτότητας ή όχι, και
2. Δημόσια αποκάλυψη της επικυρωμένης ταυτότητας, ή απλώς να επισημανθεί ως «Επικυρωμένη Ταυτότητα»

Τότε το κοινό των μέσων κοινωνικής δικτύωσης μπορεί να αποφασίσει καλύτερα ποιος είναι αξιόπιστος. Ιδιαίτερα σημαντικό, αν όχι περισσότερο, η ταυτότητα υποστηρίζει την ευθύνη. Οι πλατφόρμες μπορούν να αποφασίσουν για δράσεις που πρέπει να ληφθούν εναντίον των επαναλαμβανόμενων «ψευδούς πληροφοριών» και των κακοποιών του περιεχομένου που παράγεται από το AI, ακόμη και αν εμφανίζονται με διαφορετικά ονόματα λογαριασμού.

Με το γεννητικό AI να αυξάνει τα στοιχήματα, πιστεύω ότι η ταυτότητα – γνωρίζοντας ακριβώς ποιος δημοσίευσε τι— είναι κρίσιμη. Ορισμένοι θα αντιταχθούν, και η ταυτότητα δεν είναι μια ολοκληρωμένη απάντηση. Στην πραγματικότητα, καμία λύση δεν θα ικανοποιήσει όλους τους ενδιαφερόμενους. Αλλά αν η ρύθμιση υποχρεώνει τις πλατφόρμες να προσφέρουν επικύρωση ταυτότητας σε όλους τους λογαριασμούς, είμαι πεπεισμένος ότι η επίδραση θα είναι τεράστια.

Το δίλημμα της μεσολάβησης

Η μεσολάβηση του περιεχομένου – αυτοματοποιημένη και ανθρώπινη – είναι η τελευταία γραμμή άμυνας ενάντια στο ανεπιθύμητο περιεχόμενο. Η ανθρώπινη μεσολάβηση είναι ένα δύσκολο έργο, με κίνδυνο ψυχολογικής βλάβης από την έκθεση στο χειρότερο που μπορεί να προσφέρει η ανθρωπότητα. Είναι επίσης ακριβό και συχνά κατηγορείται για την προκατειλημμένη λογοκρισία που οι πλατφόρμες προσπαθούν να μειώσουν.

Η αυτοματοποιημένη μεσολάβηση ξεπερνά την ανθρώπινη ικανότητα να αντιμετωπίσει τις πλειάδες του νέου περιεχομένου, αλλά αποτυγχάνει να κατανοήσει το контέκστ (τα meme είναι ένα κοινό παράδειγμα) και τις πολιτιστικές νюανς. Και οι δύο μορφές μεσολάβησης είναι απαραίτητες και αναγκαίες, αλλά είναι μόνο μέρος της απάντησης.

Η συχνά ακουγόμενη, συμβατική συνταγή για τον έλεγχο του γεννητικού AI είναι: «Η συνεργασία μεταξύ των ηγετών της τεχνολογίας, της κυβέρνησης και της κοινωνίας της πολιτικής είναι απαραίτητη.» Βέβαια, αλλά τι συγκεκριμένα;

Οι κυβερνήσεις, για το μέρος τους, μπορούν να πιέσουν τις πλατφόρμες κοινωνικών μέσων και των μέσων μαζικής ενημέρωσης να προσφέρουν επικύρωση ταυτότητας και να την εμφανίζουν προεξέχουσα σε όλες τις δημοσιεύσεις. Οι ρυθμιστές μπορούν επίσης να ανοίξουν το δρόμο για μετρήσεις πιστότητας που θα βοηθήσουν να αξιολογηθεί αν μια πηγή είναι αξιόπιστη. Η συνεργασία είναι απαραίτητη για την ανάπτυξη καθολικών προτύπων που θα δώσουν συγκεκριμένες οδηγίες και κατεύθυνση, ώστε ο ιδιωτικός τομέας να μην πρέπει να μαντέψει.

Τέλος, πρέπει να είναι παράνομο να δημιουργούνται κακόβουλα αποτελέσματα AI; Η νομοθεσία που απαγορεύει το περιεχόμενο που προορίζεται για παράνομες δραστηριότητες θα μπορούσε να μειώσει τον όγκο του τοξικού περιεχομένου και να ελαφρύνει το φορτίο των μεσολαβητών. Δεν βλέπω τη ρύθμιση και τους νόμους ως ικανούς να νικήσουν τις ψευδείς πληροφορίες, αλλά είναι απαραίτητοι στην αντιμετώπιση της απειλής.

Η ηλιόλουστη πλευρά του δρόμου: καινοτομία

Η υπόσχεση της καινοτομίας με κάνει οπτιμιστά εδώ. Δεν μπορούμε να περιμένουμε από τους πολιτικούς ή τους ιδιοκτήτες των πλατφορμών να προστατεύσουν πλήρως από τις ψευδείς πληροφορίες που παράγονται από το AI. Αφήνουν ένα μεγάλο κενό, και αυτό είναι ακριβώς αυτό που θα激励σει την εφεύρεση νέας τεχνολογίας για την αυθεντικοποίηση του περιεχομένου και την ανίχνευση της ψευδούς πληροφόρησης.

Αφού τώρα γνωρίζουμε την πλευρά του κακού των μέσων κοινωνικής δικτύωσης,เรา έχουμε γρήγορα συνειδητοποιήσει ότι το γεννητικό AI θα μπορούσε να αποδειχθεί ένα τεράστιο καθαρό αρνητικό για την ανθρωπότητα, με την ικανότητά του να πολωθεί και να παραπλανήσει.

Οπτιμιστικά, βλέπω οφέλη από τις πολυμερείς προσεγγίσεις όπου οι μεθόδους ελέγχου λειτουργούν μαζί, πρώτα στην πηγή, περιορίζοντας τη δημιουργία περιεχομένου που προορίζεται για παράνομες χρήσεις. Στη συνέχεια, πριν από τη δημοσίευση, επικυρώνοντας την ταυτότητα εκείνων που αρνούνται την ανωνυμία. Επόμενο, σαφής επισήμανση για να δείξει τις βαθμολογίες πιστότητας και την ταυτότητα του δημοσιεύοντα ή την έλλειψη αυτής. Τέλος, η αυτοματοποιημένη και ανθρώπινη μεσολάβηση μπορούν να φιλτράρουν κάποιο από το χειρότερο. Θα περίμενα नई τεχνολογία αυθεντικοποίησης να έρθει σύντομα.

Προσθέστε όλα αυτά και θα έχουμε μια πολύ καλύτερη, αν και ποτέ τέλεια, λύση. Εν τω μεταξύ, πρέπει να χτίσουμε το σετ δεξιοτήτων μας για να κατανοήσουμε τι είναι αληθινό, ποιος λέει την αλήθεια και ποιος προσπαθεί να μας εξαπατήσει.