Πόσος καιρός θα χρειαστεί μέχρι να υπάρξει πραγματική καταστολή της άρσης των περιορισμών στα μοντέλα ΤΝ;

Αν είστε αρκετά μεγάλοι ώστε να θυμάστε τη σκηνή του warez περίπου από το 1995 έως το 2010, όταν τεράστιες συλλογές «σπασμένου» λογισμικού και αντιγραμμένων ταινιών (που αγοράζονταν χονδρική από τον δρόμο ή συγκεντρώνονταν από ερασιτέχνες πειρατές, όταν το ευρυζωνικό ίντερνετ υψηλής ταχύτητας κατέστησε εφικτές τις μαζικές λήψεις μεγάλου όγκου) στοιβάζονταν σε πολλές, παραφορτωμένες συλλογές DVD, η αναδυόμενη σκηνή των «απολογοκριμένων» μοντέλων τεχνητής νοημοσύνης ανοιχτού κώδικα ίσως σας φανεί κάπως οικεία.

Από τη «χρυσή εποχή» του ανεπίσημου εμπορίου λογισμικού και ταινιών στον δρόμο. Φωτογραφία: Shankar.s. «Πειρατικά DVD στην αγορά της οδού PP» – Πηγή / Άδεια χρήσης

Τότε, πριν από την καθιέρωση της ενοικίασης λογισμικού ως συνήθους καταναλωτικού μοντέλου, εμφανίστηκε μια μικρή αλλά εκλεκτή ομάδα ενθουσιωδών της σκηνής του «warez», που έσπαγαν εφαρμογές και στη συνέχεια τις διέθεταν στις ομάδες συζητήσεων του «warez» και, αργότερα, σε ομάδες διαμοιρασμού torrent. Αυτοί οι περιορισμοί μπορούσαν να είναι ιδιαίτερα δύσκολο ή εύκολο να παρακαμφθούν, αλλά οι παραβιάσεις ήταν συνήθως μη αναστρέψιμες από τη στιγμή που το υλικό κυκλοφορούσε ελεύθερα.

Αυτό συμβαίνει τώρα με τα Μεγάλα Γλωσσικά Μοντέλα (LLM) ανοιχτού κώδικα: οι ενσωματωμένοι κατά την εκπαίδευση μηχανισμοί ασφαλείας τους αφαιρούνται συστηματικά και σε μεγάλη κλίμακα. Στη συνέχεια, αυτά τα μοντέλα χωρίς περιορισμούς διαμοιράζονται σε τόσα πολλά σημεία, ώστε ακόμη και το κλείσιμο της αρχικής πηγής από όπου προήλθε το «σπάσιμο» δεν επηρεάζει καθόλου τη διαθεσιμότητά τους.

Ευεργέτης ή κακοποιός

Το ερώτημα είναι: πώς θέλετε να βλέπετε αυτές τις δραστηριότητες; Σε αντίθεση με τη σκηνή του warez, κανείς δεν στερείται εισοδήματος τόσο απροκάλυπτα όσο, θα μπορούσε κανείς να υποστηρίξει, οι μικρότεροι παραγωγοί λογισμικού πριν από 20-30 χρόνια.

Ασφαλώς, σε τέτοιες περιπτώσεις* συχνά παραβιάζονται οι αρχικοί όροι της άδειας χρήσης. Ωστόσο, σε αντίθεση με τις κυκλοφορίες μοντέλων γενετικής ΤΝ με μερικώς διαθέσιμα βάρη από παραγωγούς όπως η Black Forest Labs, οι αρχικοί διανομείς δεν αντιμετωπίζουν τις εκδόσεις «χαμηλότερης ποιότητας» ως δέλεαρ για αναβάθμιση σε πιο ικανά μοντέλα που διατίθενται μόνο μέσω API· κυκλοφορούν απευθείας τα πλήρη μοντέλα.

Στις περισσότερες περιπτώσεις, σχεδόν κανείς δεν μπορεί να εκτελέσει τοπικά αυτές τις αρχικές εκδόσεις, επειδή έχουν υπερβολικά πολλές παραμέτρους ακόμη και για ισχυρές κάρτες γραφικών, όπως εκείνες με 16-24 GB μνήμης VRAM.

Έτσι, οι αρχικές εκδόσεις μετατρέπονται γρήγορα σε μικρότερες εκδόσεις που μπορούν να εκτελεστούν σε καταναλωτικό υλικό, μέσω κβαντισμού μοντέλων και μετατροπής των βαρών σε ελαφρύτερες μορφές, όπως GGUF, AWQ, PTQ, EXL2 ή το MLX, που είναι προσανατολισμένο στα προϊόντα της Apple.

Παρότι αυτές οι εκδόσεις δεν έχουν τις επιδόσεις των αρχικών, πλήρων μοντέλων (τα οποία συνήθως διατίθενται εμπορικά μέσω διαφόρων συμπλεγμάτων GPU), βρίσκονται τουλάχιστον υπό τον έλεγχο του χρήστη και μπορούν να προσαρμοστούν στις ανάγκες του συγκεκριμένου χρήστη με τρόπους που δεν είναι εφικτοί με το «καλύτερο» μοντέλο.

Όπως το θέλετε

Ορισμένοι από αυτούς τους τρόπους είναι σαφώς θεμιτοί και συνήθως καλύπτονται από την άδεια χρήσης του αρχικού μοντέλου, όπως η περαιτέρω εκπαίδευση, ώστε τα βάρη ενός μοντέλου να προσανατολίζονται ειδικά σε μια εργασία ή έναν τομέα που έχει προσθέσει ο χρήστης. Σε αυτή την περίπτωση, εφόσον υπάρχει αρκετός χώρος στον σκληρό δίσκο, μπορεί κανείς ακόμη και να εκπαιδεύσει περαιτέρω πολλαπλά αντίγραφα ενός μοντέλου ανοιχτού κώδικα για ποικίλες εργασίες, σαν μια σειρά εξειδικευμένων, παραδοσιακών εργαλείων — αντί για το «ελβετικό σουγιά» ενός αρχικού μοντέλου με όλα τα βάρη του.

Επιπλέον, μοντέλα με συμβατές ρυθμίσεις αλλά διαφορετικά δεδομένα εκπαίδευσης μπορούν να συγχωνευτούν· ή μπορούν να προστεθούν σε ένα μοντέλο πρόσθετες δυνατότητες μέσω ελαφρών φίλτρων LoRA, χωρίς να διακινδυνεύει κανείς να υπονομεύσει τις αρχικές δυνατότητες του βασικού μοντέλου με περαιτέρω εκπαίδευση.

Ωστόσο, η τροποποίηση που ενδιαφέρει περισσότερο πολλούς χρήστες και έχει γίνει ευκολότερη από οποιαδήποτε από τις παραπάνω μεθόδους είναι η αφαίρεση των προαναφερθέντων μηχανισμών ασφαλείας, ή των δικλίδων ασφαλείας.

Αν και αυτό πράγματι επιτρέπει στα μοντέλα να παράγουν πορνογραφικό περιεχόμενο και υλικό για την ανάπτυξη κακόβουλου λογισμικού, αφαιρεί επίσης ένα σύνολο περιορισμών που πολλοί χρήστες θεωρούν υπερβολικά αυστηρό και συχνά επιρρεπές σε σφάλματα.

Ένα από τα πολλά ξεκαρδιστικά παραδείγματα του Llama-2-7b-chat που αρνείται εύλογα αιτήματα για λόγους ασφαλείας, διαθέσιμο στη διεύθυνση URL της πηγής. Πηγή

Heretic

Στην περίπτωση του Heretic, του λογισμικού που πρόσφατα έφερε επανάσταση στην άρση των περιορισμών των μοντέλων, είναι πλέον δυνατό να περιοριστεί και το επίπεδο της «στομφώδους» και φλύαρης διατύπωσης προς την οποία τείνουν τα μοντέλα.

Το Heretic αναλαμβάνει την άρση της λογοκρισίας στο gpt-oss, αν και, για να είμαστε ειλικρινείς, απαιτείται ένα μηχάνημα με τόσο ισχυρές προδιαγραφές, που δύσκολα θα βρει κανείς σε ένα μέσο σπίτι· ωστόσο, μπορεί να το νοικιάσει κανείς φθηνά μέσω διαδικτύου, για όσο διάστημα χρειάζεται η διαδικασία. Πηγή

Το σημαντικότερο είναι ότι το Heretic —το οποίο αναζητά αυτόματα μια μέθοδο απαλοιφής των αρνήσεων, ελαχιστοποιώντας παράλληλα τη βλάβη στην αρχική συμπεριφορά του μοντέλου— περιορίζει, από την πλευρά του τελικού χρήστη, τη σχετικά δύσκολη διαδικασία άρσης της λογοκρισίας σε μία μόνο εντολή.

Όπως φαίνεται στο παραπάνω στιγμιότυπο οθόνης, το Heretic λειτουργεί συνήθως καλύτερα με μια ισχυρότερη GPU από εκείνες που είναι πιθανό να υπάρχουν σε ένα μέσο σπίτι. Ωστόσο, οι χρήστες δεν χρειάζεται να το εκτελούν σε οικιακό εξοπλισμό, όπως δεν χρειάστηκε να «σπάσουν» οι ίδιοι λογισμικό το 2002. Όπως και την εποχή των warez, οι πάροχοι της σκηνής που βρίσκονται πιο κοντά στην αρχική πηγή —περιστασιακοί, συνήθως μη εμπορικοί ενθουσιώδεις χρήστες— και διαθέτουν τέτοιο εξοπλισμό ή είναι πρόθυμοι να δαπανήσουν λίγα tokens για το εγχείρημα, αναλαμβάνουν την παράκαμψη των περιορισμών και κυκλοφορούν το μοντέλο χωρίς λογοκρισία στη σκηνή.

Στο στόχαστρο

Όταν μια «αμφιλεγόμενη» ψηφιακή δραστηριότητα παύει να είναι δύσκολη, συνήθως αυτό οφείλεται σε ένα ξαφνικό άλμα δυνατοτήτων μέσα σε μία νύχτα —όπως συνέβη με το Napster ή το PopCornTime— που κλιμακώνει απότομα τόσο την ίδια τη δραστηριότητα όσο και το επίπεδο του «επίσημου» ενδιαφέροντος για τον περιορισμό της.

Σε συνδυασμό με την αυξανόμενη δημοτικότητα και ευκολία χρήσης πλατφορμών όπως το Ollama, το Heretic αρχίζει να φέρνει την πρόσβαση σε μοντέλα χωρίς λογοκρισία πιο κοντά σε μη τεχνικούς χρήστες, παρότι δεν υπάρχει ακόμη μια πραγματικά «αλεξίσφαιρη» μέθοδος.

Και αυτό με φέρνει πίσω στο προηγούμενο ερώτημά μου: συνιστά ή όχι αυτή η δραστηριότητα «πρόβλημα»; Μια μελέτη που δημοσιεύτηκε χθες στο arXiv με κάνει να πιστεύω ότι, με βάση τις πολύ πρόσφατες τάσεις περιορισμού και καταστολής των τεχνολογικών ελευθεριών των καταναλωτών, η άρση της λογοκρισίας είναι πιθανό να προσελκύσει ολοένα μεγαλύτερη προσοχή και να οδηγήσει σε περισσότερες περιπτώσεις περιοριστικής νομοθεσίας σε όλο τον κόσμο.

Η νέα μελέτη, έκθεση της 10a Labs, παρουσιάζει αρνητικά το κίνημα για την άρση της λογοκρισίας και παραθέτει τη συνήθη μειοψηφία περιπτώσεων κατάχρησης, οι οποίες, όπως δείχνει η ιστορία και προμηνύουν οι σημερινές τάσεις, θα οδηγήσουν σε περιορισμούς.

Η μελέτη παρακολουθεί τι συμβαίνει μετά τη διάθεση και την αναδιανομή μοντέλων χωρίς λογοκρισία και εντόπισε 1.643 εφαρμογές στο GitHub που ενσωματώνουν, προτείνουν ή ορίζουν ως προεπιλογή μοντέλα χωρίς λογοκρισία.

Τα εν λόγω μοντέλα καλύπτουν ένα ευρύ φάσμα εφαρμογών: από chatbot γενικής χρήσης και εργαλεία επεξεργασίας εγγράφων έως παιχνίδια ρόλων και αφήγηση ιστοριών με περιεχόμενο NSFW, υπηρεσίες περιεχομένου για ενηλίκους, εργαλεία χάκινγκ και επιθετικής ασφάλειας, καθώς και εφαρμογές απάτης και δημιουργίας κακόβουλου λογισμικού. Σύμφωνα με τη μελέτη, το 25% των μοντέλων που κυκλοφόρησαν χαρακτηρίστηκαν «ρητά κακόβουλα»:

Ανάλυση της χρήσης μοντέλων τεχνητής νοημοσύνης χωρίς λογοκρισία μετά τη διάθεσή τους. Η μελέτη εντόπισε 1.643 εφαρμογές στο GitHub που ενσωματώνουν, προτείνουν ή ορίζουν ως προεπιλογή μοντέλα από τα οποία έχουν αφαιρεθεί οι περιορισμοί ασφαλείας. Διαπίστωσε ότι το 37% ήταν chatbot γενικής χρήσης χωρίς λογοκρισία, ενώ τα εργαλεία κυβερνοασφάλειας και επεξεργασίας εγγράφων αντιστοιχούσαν το καθένα στο 16%. Υπήρχαν επίσης μικρότερες κατηγορίες, όπως βοηθοί φωνής, παιχνίδια ρόλων με περιεχόμενο NSFW, δημιουργική γραφή, προγραμματισμός και άλλες χρήσεις. Η μελέτη διαπίστωσε ότι περίπου το 25% των εφαρμογών που εντοπίστηκαν θα μπορούσαν να χαρακτηριστούν «ρητά κακόβουλες». Πηγή

Υπό το πρίσμα των περιορισμών που θέσπισε πρόσφατα το Ηνωμένο Βασίλειο για την πρόσβαση στο διαδίκτυο (και της πλέον ανασταλείσας πρόθεσής του να περιορίσει και την πρόσβαση μέσω VPN, η οποία παρακάμπτει αυτούς τους περιορισμούς), της υποχρέωσης που θα ισχύσει στην Καλιφόρνια από το 2027 και θα απαιτεί από τα περισσότερα λειτουργικά συστήματα να συλλέγουν τις ηλικιακές ομάδες των χρηστών και να τις παρέχουν στις εφαρμογές, του συστήματος της ΕΕ για την επαλήθευση ηλικίας κατά την πρόσβαση σε διαδικτυακό περιεχόμενο για ενηλίκους και της απαγόρευσης των μέσων κοινωνικής δικτύωσης στην Αυστραλία για άτομα κάτω των 16 ετών, η νέα μελέτη φαίνεται να εντάσσεται σε ένα μοτίβο όπου η αυξημένη προσοχή οδηγεί τελικά σε ενισχυμένη εποπτεία, ρύθμιση και, ενδεχομένως, επιλεκτικές ή πλήρεις απαγορεύσεις.

Δεν θα μπορούσε να συμβεί εδώ

Όχι, θα μπορούσε κάλλιστα να συμβεί εδώ, εν μέρει λόγω του υψηλού ποσοστού κακόβουλης χρήσης, όπως το εκτιμούν οι συγγραφείς της νέας μελέτης, και ενδεχομένως επειδή οι έλεγχοι θα επέβαλλαν πρόσθετους περιορισμούς στην αυξανόμενη τάση για τοπική εκτέλεση μοντέλων τεχνητής νοημοσύνης, η οποία ενδέχεται να εκληφθεί από κυβερνήσεις και θεσμούς ως απειλή — ακόμη περισσότερο όταν τα μοντέλα απελευθερώνονται από τους περιορισμούς τους.

Παρουσιάζοντας τις δραστηριότητες άρσης της λογοκρισίας ως «διευκόλυνση» της παραγωγής περιεχομένου μη κατάλληλου για εργασία (NSFW) και κακόβουλων κυβερνοεπιθέσεων, είναι δυνατόν να παρουσιαστεί η άρση της λογοκρισίας ως ένα ψευδώς διχοτομικό δίλημμα: αφού μπορεί να χρησιμοποιηθεί για κακόβουλους σκοπούς, πρέπει να υπαχθεί σε ρυθμίσεις. Στην πράξη, δεν φαίνεται να υπάρχει ρεαλιστικός τρόπος να ρυθμιστεί μια τέτοια λειτουργία καθόλου, παρά μόνο να απαγορευτεί πλήρως, καθώς υπάρχουν πάρα πολλές πιθανές χρήσεις.

Επίσης, σε περιπτώσεις όπου η άρση της λογοκρισίας σε ένα LLM θα μπορούσε να επιτρέψει σε ένα μοντέλο να δημιουργήσει, για παράδειγμα, μυθοπλασία σχετική με υλικό σεξουαλικής κακοποίησης παιδιών (CSAM), η επιβολή περιοριστικών ρυθμίσεων μοιάζει αυτονόητη, καθώς όποιος αντιτίθεται σε αυτές μπορεί εμμέσως να παρουσιαστεί ως υποστηρικτής των κακόβουλων χρήσεων ενός μοντέλου χωρίς λογοκρισία, αντί των εύλογων χρήσεών του.

Αυτό παραβλέπει το γεγονός ότι ένα μοντέλο που έχει υποστεί λεπτομερή ρύθμιση ή έχει τροποποιηθεί με LoRA μπορεί να παράγει πολύ αποτελεσματικότερα αποτελέσματα σε οποιονδήποτε συγκεκριμένο τομέα επιθυμεί να επιβάλει ο χρήστης, καθώς τα βασικά βάρη του μοντέλου αλλοιώνονται τόσο πολύ προς όφελος της συγκεκριμένης εργασίας, ώστε να ακυρώνουν πλήρως σε κάθε περίπτωση τις ενσωματωμένες μέσω εκπαίδευσης δικλίδες προστασίας.

Το ζήτημα της ευκολίας

Η ευκολία στη χρήση είναι αυτή που οδηγεί στην ευρεία υιοθέτηση, και η ευρεία υιοθέτηση είναι αυτή που ασκεί πίεση στις κυβερνήσεις να νομοθετήσουν (είτε από ομάδες που πιέζουν για αλλαγές, είτε από εκπροσώπους συμφερόντων του κλάδου, είτε μέσω διακρατικών πιέσεων).

Παρότι η λεπτομερής ρύθμιση και οι LoRA μπορούν σχεδόν σίγουρα να προσφέρουν καλύτερα στοχευμένα αποτελέσματα από το απλό ξεκλείδωμα ενός μοντέλου βάσης FOSS, αυτές οι μέθοδοι απαιτούν κάποιον βαθμό πειθαρχίας και προσπάθειας για να εφαρμοστούν.

Όταν η τοπική εκτέλεση ενός μοντέλου χωρίς λογοκρισία και κβαντισμένου μοντέλου γίνει πραγματικά υπόθεση μερικών κλικ (καθώς ο χρήστης σχεδόν σίγουρα θα κατεβάζει ένα μοντέλο που έχει ήδη «απελευθερωθεί», αντί να το ξεκλειδώνει μόνος του με το Heretic), η δραστηριότητα παύει να περιορίζεται στον κόσμο των γκικ και περνά στη δημόσια σφαίρα, όπου οι καταχρήσεις της είναι πιθανό να γίνουν αντικείμενο πολιτικής αντιπαράθεσης.

Αυτό το καλοκαίρι, η NVIDIA ηγήθηκε μιας ομάδας κορυφαίων τεχνολογικών εταίρων, προλαβαίνοντας ενδεχόμενους κυβερνητικούς περιορισμούς στα μοντέλα ανοικτού κώδικα, με μια ανοιχτή επιστολή που υποστηρίζει για άλλη μία φορά ότι οι καταχρήσεις μιας τεχνολογίας από μια μειοψηφία δεν θα πρέπει να θέτουν σε κίνδυνο τη δυνατότητά της να προσφέρει γενικό όφελος. Ωστόσο, τα τελευταία χρόνια αυτή η θέση δεν έχει γίνει δημοφιλής.

* Συχνά αμφισβητείται αν οι δημιουργοί μοντέλων είναι ειλικρινείς ως προς τη δηλωμένη επιθυμία τους να περιορίσουν τη δραστηριότητα των χρηστών, ενώ οι δικλίδες ασφαλείας έχουν ακόμη και απορριφθεί ως «θέατρο».