Γιατί η απαγόρευση του AI αυξάνει τους κινδύνους ασφαλείας και πώς οι ιδρύματα πρέπει να ανταποκριθούν

Σε ολόκληρη την Αμερική, οι σχολικές επιτροπές και οι δημόσιες οργανώσεις προσπαθούν να περιορίσουν ή να αποκλείσουν την πρόσβαση σε τεχνολογίες γεννητικού AI (GenAI) ή σε συγκεκριμένα εργαλεία. Στο Κολοράντο, η σχολική επιτροπή Boulder Valley απαγόρευσε πρόσφατα το ChatGPT στα σχολικά δίκτυα, επικαλούμενη ανησυχίες σχετικά με την κακοποίηση, την ασφάλεια και την ακαδημαϊκή ακεραιότητα.

Ο ενστικτικός προγραμματισμός για μείωση της έκθεσης σε περιστατικά ασφαλείας ή κακοποίησης δεδομένων είναι κατανοητός. Πλατφόρμες με αδύναμους φραγμούς ή ασαφείς δεσμεύσεις ιδιωτικότητας, όπως το DeepSeek, αξίζουν περιορισμούς και έλεγχο. Αλλά η απαγόρευση της πρόσβασης σε εργαλεία GenAI δεν μειώνει σημαντικά τον κίνδυνο· συχνά απλώς τον μεταφέρει σε περιβάλλοντα όπου η εποπτεία εξαφανίζεται.

Μια ερευνητική μελέτη του College Board βρήκε ότι το 84% των μαθητών του λυκείου ανέφερε ότι χρησιμοποιούν GenAI για σχολικά έργα, ακόμη και αν το 45% των διευθυντών ανέφερε τουλάχιστον κάποιους περιορισμούς στην πρόσβαση στο AI στο σχολείο. Παρόμοια, μια αναφορά της IBM βρήκε ότι το 80% των εργαζομένων χρησιμοποιούν AI, αλλά μόνο το 22% βασίζονται αποκλειστικά σε εργαλεία που παρέχονται από τον εργοδότη.

Οι πολιτικές πρόσβασης μόνοι τους δεν καθορίζουν τη συμπεριφορά. Οι μαθητές μπορούν να βγάλουν τα κινητά τους τηλέφωνα και να χρησιμοποιήσουν οποιοδήποτε εργαλείο AI μέσω του κινητού δικτύου δεδομένων, ή να χρησιμοποιήσουν την πλατφόρμα ενώ βρίσκονται στο σπίτι ή σε δημόσιο wifi. Μπορούν επίσης να χρησιμοποιήσουν VPN, απομακρυσμένες επιφάνειες εργασίας και πρόσθετα για να παρακάμψουν τους περιορισμούς. Οι εργαζόμενοι μπορούν να κάνουν το ίδιο για να παρακάμψουν τους ελέγχους εργασίας.

Οι οργανώσεις πρέπει να υποθέτουν ότι όταν υπάρχει θέληση να χρησιμοποιηθεί το AI, υπάρχει τρόπος. Όταν η τεχνολογία περιορίζεται με τρόπο που ωθεί τη χρήση πέρα από την ορατότητα του ιδρύματος, ο κίνδυνος του σκιώδους AI αυξάνεται. Δεν υπάρχει εποπτεία για τις πληροφορίες που εισάγονται στις προτροπές ή για τα δεδομένα που διατηρούνται από το μοντέλο. Οποιαδήποτε έλεγχος της ασφάλειας εξαφανίζεται αμέσως.

Πέρα από τον κίνδυνο του σκιώδους AI, οι απαγορεύσεις δημιουργούν einen κενό γνώσεων, αφήνοντας τους μαθητές πλήρως απροετοίμαστους να χρησιμοποιήσουν την τεχνολογία που θα αποτελέσει einen μεγάλο μέρος του μέλλοντός τους. Αυτά τα εργαλεία είναι όλο και περισσότερο ενσωματωμένα σε μηχανές αναζήτησης, επιχειρηματικές πλατφόρμες, σουίτες παραγωγικότητας και προσωπικές συσκευές. Μια έρευνα του Pew Research βρήκε ότι το 62% των ενηλίκων στις ΗΠΑ λέει ότι αλληλεπιδρούν με AI τουλάχιστον beberapa φορές την εβδομάδα. Είναι σχεδόν βέβαιο ότι οι μαθητές και οι εργαζόμενοι θα συναντήσουν συστήματα GenAI ανεξάρτητα από τις πολιτικές του ιδρύματος.

Σε αυτό το περιβάλλον, η εκπαίδευση είναι το πιο αξιόπιστο εχέγγυο ενάντια στις ανησυχίες σχετικά με την κακοποίηση ή την ασφάλεια, και για να διασφαλιστεί ότι οι μαθητές και οι εργαζόμενοι είναι καλά προετοιμασμένοι να χρησιμοποιήσουν ένα εργαλείο που θα είναι ουσιαστικό για τις καριέρες τους. Η διδασκαλία της υπεύθυνης και ηθικής χρήσης εξοπλίζει τους χρήστες να αναγνωρίσουν τους κινδύνους δεδομένων και να λάβουν ενημερωμένες αποφάσεις όπου συναντούν αυτά τα συστήματα.

Τα προγράμματα εκπαίδευσης πρέπει να επικεντρωθούν σε тому πώς οι μεγάλες γλωσσικές μοντέλα (LLM) επεξεργάζονται και διατηρούν δεδομένα, πώς να αναγνωρίσουν ψευδείς πληροφορίες, πώς να ελέγξουν τις εξόδους που παράγονται από το AI, και πώς να αναγνωρίσουν εκστρατείες phishing και εικόνες που παράγονται από το AI, για να αναφέρουμε μόνο quelques. Διδάξτε τους χρήστες να είναι σκεπτικοί. Οι εξόδους του AI παρουσιάζονται συχνά με αυτοπεποίθηση και σε γλωσσικά επιλεγμένα, τα οποία μπορούν να δημιουργήσουν μια ψευδαίσθηση εξουσίας. Χωρίς εκπαίδευση, οι χρήστες μπορεί να υποθέσουν ότι μια καλά διατυπωμένη απάντηση είναι αυτομάτως ακριβής.

Η ικανότητα να αμφισβητείται ψηφιακό περιεχόμενο είναι μια πρώτη γραμμή άμυνας, καθώς οι deepfakes και οι εκστρατείες phishing που ενισχύονται από το AI γίνονται πιο περίπλοκες. Μια έρευνα της Gartner βρήκε ότι το 62% των οργανισμών έζησε μια επίθεση deepfake το προηγούμενο έτος, και το 32% έπασχε από μια επίθεση σε εφαρμογές AI. Η συχνότητα και το εύρος αυτών των περιστατικών αναμένεται να συνεχίσει να αυξάνεται.

Οι δημόσιες οργανώσεις, όπως τα σχολεία και οι τοπικές κυβερνήσεις, είναι ιδιαίτερα εκτεθειμένες σε κοινωνική μηχανική που ενισχύεται από deepfakes, επειδή μεγάλο μέρος της δραστηριότητάς τους είναι ηχογραφημένο και δημόσια διαθέσιμο. Τα ηχητικά κομμάτια από δημόσιες συναντήσεις μπορούν να τροποποιηθούν και να χρησιμοποιηθούν για να δημιουργήσουν πειστικές τηλεφωνικές κλήσεις. Έχουμε δει απειλητές να χρησιμοποιούν αυτό για απάτη, όπως την ανακατεύθυνση κεφαλαίων κατά τη διάρκεια ευαίσθητων συναλλαγών. Ενώ αυτό συμβαίνει πιο συχνά σε στοχευμένες περιπτώσεις, οι χρήστες που δεν έχουν εκπαιδευτεί να αναγνωρίσουν αυτές τις τεχνικές, ή ακόμη και να γνωρίζουν ότι είναι δυνατές, είναι σε μειονεκτική θέση από την αρχή.

Μετά την εκπαίδευση, οι οργανώσεις πρέπει να έχουν σαφείς και επικοινωνημένες πολιτικές σχετικά με τη χρήση και τη διακυβέρνηση του AI. Αυτές πρέπει να ορίζουν τα εγκεκριμένα εργαλεία, τις αποδεκτές περιπτώσεις χρήσης και ποια δεδομένα μπορούν και δεν μπορούν να εισαχθούν σε ποιο μοντέλο(α). Οι πολιτικές πρέπει να εφαρμόζονται συνεχώς σε όλα τα τμήματα και όχι να διαφέρουν από τάξη σε τάξη ή γραφείο σε γραφείο. Οι σαφείς προσδοκίες μειώνουν την αμφιβολία και ενισχύουν την ευθύνη.

Αντί για γενικές απαγορεύσεις, οι οργανώσεις πρέπει να προσπαθούν να διαμορφώσουν τον τρόπο με τον οποίο η τεχνολογία χρησιμοποιείται στην πράξη. Όταν ένα ίδρυμα ενδorses ένα εργαλείο που είναι προσιτό, ασφαλές και λειτουργεί καλά, γίνεται το mặc định για τους περισσότερους χρήστες. Η καθημερινή χρήση σκιώδους AI μειώνεται επειδή υπάρχει một απλή εναλλακτική που δεν περιλαμβάνει την κατέβασμα ενός VPN για να το χρησιμοποιήσει.

Οι οργανώσεις και τα ιδρύματα προσπαθούν να παρέχουν ασφαλή πρόσβαση σε LLMs με τρόπο που τα δεδομένα τους να προστατεύονται και να μην μοιράζονται ή να χρησιμοποιούνται για εκπαίδευση. Μια αυξανόμενη κατηγορία εργαλείων ενεργοποίησης και ασφάλειας του AI εμφανίζεται για να το κάνει ακριβώς αυτό. Μπορούν να παρέχουν πρόσβαση σε πολλαπλά LLMs ενώ διατηρούν τα δεδομένα του ιδρύματος ασφαλώς σε container. Οι συμφωνίες μη διατήρησης δεδομένων παρέχουν το νομικό πλαίσιο για να διασφαλίσουν ότι τα δεδομένα του ιδρύματος παραμένουν ιδιοκτησία της εταιρείας ή του ιδρύματος, και το LLM δεν μπορεί να εκπαιδευτεί σε αυτά. Επιπλέον, αν ένας εργαζόμενος εγκαταλείψει το ίδρυμα, οποιαδήποτε χρήση AI, ροές εργασίας ή δεδομένα παραμένουν ιδιοκτησία του ιδρύματος.

Τεχνικοί φραγμοί μπορούν επίσης να εφαρμοστούν στο επίπεδο της λειτουργίας. Ένα ίδρυμα μπορεί να επιτρέψει στους μαθητές ή τους εργαζομένους να κάνουν γενικές ερωτήσεις μέσα σε một εγκεκριμένο LLM ενώ απενεργοποιούν την ανταλλαγή αρχείων, την κοινή χρήση εγγράφων ή άλλες υψηλού κινδύνου ικανότητες. Αυτές οι ρυθμίσεις διατηρούν τα οφέλη της παραγωγικότητας χωρίς να ανοίγουν την πόρτα σε ανεξέλεγκτη έκθεση δεδομένων.

Περισσότερα προηγμένα εργαλεία μπορούν να ανωνυμοποιήσουν αυτόματα ευαίσθητες πληροφορίες πριν φτάσουν ποτέ στο μοντέλο. Για παράδειγμα, αντικαθιστώντας τα ονόματα ασθενών ή ταυτοποιητές με ουδέτερες υποκαταστάσεις, ώστε οι γιατροί και οι νοσοκόμες να μπορούν ακόμη να χρησιμοποιήσουν το GenAI χωρίς να εκθέτουν προστατευμένα δεδομένα. Άλλα εργαλεία ενσωματώνουν ελέγχους πρόληψης απώλειας δεδομένων που ανιχνεύουν και μπλοκάρουν αριθμούς κοινωνικής ασφάλισης, δεδομένα τραπεζικών λογαριασμών ή άλλες ρυθμιζόμενες πληροφορίες από το να υποβληθούν σε προτροπές.

Σαφείς πολιτικές με τεχνικούς φραγμούς, χτισμένες σε μια βάση εκπαίδευσης, δημιουργούν την καλύτερη άμυνα, ειδικά既然 η τεχνολογία εξελίσσεται τόσο γρήγορα. Το GenAI εξελίσσεται γρηγορότερα από τις περισσότερες δημόσιες οργανώσεις – και τους προϋπολογισμούς τους – μπορούν να προσαρμοστούν. Η προσπάθεια να μπλοκάρει κάθε νέο μοντέλο καθώς εμφανίζεται είναι μη βιώσιμη επειδή μέχρι να περιοριστεί μια πλατφόρμα, άλλη έχει κερδίσει έλξη. Οι χρήστες που εκπαιδεύονται να κατανοούν τους υποκείμενους κινδύνους μπορούν να προσαρμοστούν σε όλα τα εργαλεία και τις εκδόσεις.

Η ασφάλεια σε ένα περιβάλλον που ενεργοποιείται από το AI εξαρτάται από την αναγνώριση της πραγματικότητας ότι το GenAI είναι τώρα ενσωματωμένο στην καθημερινή ζωή. Δεν υπάρχει τρόπος να ξαναβάλουμε το γένο στο μπουκάλι. Οι γενικές απαγορεύσεις μπορεί να σηματοδοτούν προσοχή, αλλά συχνά ανταλλάσσουν ορατό, διαχειρίσιμο κίνδυνο με αόρατο, μη διαχειρίσιμο έκθεση. Διδάξτε ένα άτομο να χρησιμοποιήσει το AI υπεύθυνα, και θα είναι έτοιμο για ό,τι έρχεται μετά.