Η γωνία του Anderson

Προστατεύοντας τις Προτροπές από τις Διαρροές Δεδομένων των LLM

mm
Προσθέστε το Unite.AI στις προτιμώμενες πηγές σας στο Google
ChatGPT-4o: 'Orthographic 1792x1024 view of a SIMs-like police officer holding up his hand to a citizen to stop them going any further'

Γνώμη Μια ενδιαφέρουσα υποβολή της IBM στο NeurIPS 2024 υποβολή από το τέλος του 2024 ξαναεμφανίστηκε στο Arxiv την περασμένη εβδομάδα. Προτείνει ένα σύστημα που μπορεί να παρέμβει αυτόματα για να προστατεύσει τους χρήστες από την υποβολή προσωπικών ή ευαίσθητων πληροφοριών σε ένα μήνυμα όταν έχουν μια συνομιλία με ένα Μεγάλο Γλωσσικό Μοντέλο (LLM) όπως το ChatGPT.

Παραδείγματα mock-up που χρησιμοποιήθηκαν σε μια μελέτη χρηστών για να καθορίσουν τους τρόπους με τους οποίους οι άνθρωποι θα προτιμούσαν να αλληλεπιδράσουν με μια υπηρεσία παρέμβασης προτροπής. Πηγή: https://arxiv.org/pdf/2502.18509

Παραδείγματα mock-up που χρησιμοποιήθηκαν σε μια μελέτη χρηστών για να καθορίσουν τους τρόπους με τους οποίους οι άνθρωποι θα προτιμούσαν να αλληλεπιδράσουν με μια υπηρεσία παρέμβασης προτροπής. Source: https://arxiv.org/pdf/2502.18509

Τα παραπάνω mock-ups χρησιμοποιήθηκαν από τους ερευνητές της IBM σε μια μελέτη για να δοκιμάσουν την πιθανή τριβή των χρηστών σε αυτό το είδος “παρέμβασης”.

Αν και δεν existουν πολλές λεπτομέρειες για την υλοποίηση του GUI, μπορούμε να υποθέσουμε ότι τέτοια λειτουργικότητα θα μπορούσε να ενσωματωθεί σε ένα πρόσθετο του προγράμματος περιήγησης που επικοινωνεί με ένα τοπικό “πυροσβεστικό” πλαίσιο LLM ή ότι μια εφαρμογή θα μπορούσε να δημιουργηθεί που θα μπορούσε να συνδεθεί απευθείας με (για παράδειγμα) το API της OpenAI, δημιουργώντας αποτελεσματικά το δικό της προγράμματος αυτόνομο πρόγραμμα για το ChatGPT, αλλά με επιπλέον προστασίες.

Όμως, το ChatGPT αυτόματα αυτο-συνεννοείται τις απαντήσεις στις προτροπές που θεωρεί ότι περιέχουν κρίσιμες πληροφορίες, όπως λεγόμενα τραπεζικά στοιχεία:

Το ChatGPT αρνείται να ασχοληθεί με προτροπές που περιέχουν αντιλαμβανόμενες κρίσιμες πληροφορίες ασφαλείας, όπως τραπεζικά στοιχεία (τα στοιχεία στην προτροπή παραπάνω είναι φανταστικά και μη λειτουργικά). Πηγή: https://chatgpt.com/

Το ChatGPT αρνείται να ασχοληθεί με προτροπές που περιέχουν αντιλαμβανόμενες κρίσιμες πληροφορίες ασφαλείας, όπως τραπεζικά στοιχεία (τα στοιχεία στην προτροπή παραπάνω είναι φανταστικά και μη λειτουργικά). Source: https://chatgpt.com/

Ωστόσο, το ChatGPT είναι πολύ πιο ανεκτικό σε σχέση με διάφορους τύπους προσωπικών πληροφοριών – ακόμη και αν η διάδοση τέτοιων πληροφοριών με οποιονδήποτε τρόπο μπορεί να μην είναι στο καλύτερο συμφέρον του χρήστη (σε αυτή την περίπτωση ίσως για διάφορους λόγους που σχετίζονται με την εργασία και την αποκάλυψη):

Το παραπάνω παράδειγμα είναι φανταστικό, αλλά το ChatGPT δεν διστάζει να ασχοληθεί με μια συνομιλία με τον χρήστη σε ένα ευαίσθητο θέμα που συνιστά πιθανό κίνδυνο για την φήμη ή τα έσοδα (το παράδειγμα παραπάνω είναι完全 φανταστικό).

Το παραπάνω παράδειγμα είναι φανταστικό, αλλά το ChatGPT δεν διστάζει να ασχοληθεί με μια συνομιλία με τον χρήστη σε ένα ευαίσθητο θέμα που συνιστά πιθανό κίνδυνο για την φήμη ή τα έσοδα (το παράδειγμα παραπάνω είναι完全 φανταστικό).

Στην περίπτωση αυτή, θα ήταν καλύτερο να γράψουμε: ‘Τι είναι η σημασία μιας διάγνωσης λευχαιμίας στην ικανότητα ενός ατόμου να γράφει και στην κινητικότητά του?’

Το πρόγραμμα της IBM αναγνωρίζει και επανερμηνεύει τέτοιες αιτήσεις από μια ‘προσωπική’ σε μια ‘γενική’ στάση.

Σχήμα για το σύστημα της IBM, το οποίο χρησιμοποιεί τοπικά LLM ή NLP-βασισμένες εύρητες για να αναγνωρίσει ευαίσθητο υλικό σε πιθανές προτροπές.

Σχήμα για το σύστημα της IBM, το οποίο χρησιμοποιεί τοπικά LLM ή NLP-βασισμένες εύρητες για να αναγνωρίσει ευαίσθητο υλικό σε πιθανές προτροπές.

Αυτό υποθέτει ότι το υλικό που συλλέγεται από τα online LLM, σε αυτό το πρώιμο στάδιο της ενθουσιασμένης υιοθέτησης του AI chat, δεν θα περάσει ποτέ σε μεταγενέστερα μοντέλα ή σε μεταγενέστερα πλαίσια διαφήμισης που θα μπορούσαν να εκμεταλλευτούν τις ερωτήσεις του χρήστη για να παρέχουν στοχευμένη διαφήμιση.

Αν και δεν υπάρχει τέτοιο σύστημα ή διάταξη που να είναι γνωστό τώρα, ούτε ήταν τέτοια λειτουργικότητα διαθέσιμη στην αυγή της υιοθέτησης του internet στις αρχές της δεκαετίας του 1990: από τότε, η διαμοιραζόμενη χρήση πληροφοριών για να τροφοδοτήσει προσωποποιημένη διαφήμιση έχει οδηγήσει σε διαφορετικά σκάνδαλα, καθώς και παράνοια.

Επομένως, η ιστορία υποδηλώνει ότι θα ήταν καλύτερο να καθαριστούν οι προτροπές LLM τώρα, πριν από την συσσώρευση τέτοιων δεδομένων σε όγκο, και πριν οι υποβολές μας σε LLMs τελικά βρεθούν σε μόνιμους κυκλικούς βάσεις δεδομένων και/ή μοντέλα, ή άλλα δομές και σχήματα πληροφοριών.

Θυμάσαι Με;

Ένας παράγοντας που ζυγίζει κατά της χρήσης ‘γενικών’ ή καθαρισμένων προτροπών LLM είναι ότι, ευθέως, η δυνατότητα να προσαρμόζεις μια ακριβή API-μόνο LLM όπως το ChatGPT είναι αρκετά ελκυστική, τουλάχιστον στην τρέχουσα κατάσταση της τέχνης – αλλά αυτό μπορεί να περιλαμβάνει την μακροχρόνια έκθεση προσωπικών πληροφοριών.

Συχνά ζητώ από το ChatGPT να με βοηθήσει να δημιουργήσω Windows PowerShell scripts και BAT αρχεία για να αυτοματοποιήσω διαδικασίες, καθώς και σε άλλα τεχνικά θέματα. Για αυτό, βρίσκω χρήσιμο ότι το σύστημα θυμάται μόνιμα λεπτομέρειες για το υλικό που έχω διαθέσιμο: τις τεχνικές ικανότητές μου (ή την έλλειψή τους): και διάφορους άλλους περιβαλλοντικούς παράγοντες και προσαρμοσμένες κανόνες:

Το ChatGPT επιτρέπει σε einen χρήστη να αναπτύξει einen 'καταχωρητή' μνήμης που θα εφαρμοστεί όταν το σύστημα εξετάζει απαντήσεις σε μελλοντικές προτροπές.

Το ChatGPT επιτρέπει σε einen χρήστη να αναπτύξει einen ‘καταχωρητή’ μνήμης που θα εφαρμοστεί όταν το σύστημα εξετάζει απαντήσεις σε μελλοντικές προτροπές.

Απρόσμενα, αυτό διατηρεί πληροφορίες για μένα σε εξωτερικούς servers, υπό όρους και προϋποθέσεις που μπορεί να εξελιχθούν με τον καιρό, χωρίς καμία εγγύηση ότι η OpenAI (αν και θα μπορούσε να είναι οποιοσδήποτε άλλος μεγάλος πάροχος LLM) θα σεβαστεί τους όρους που έχει ορίσει.

Γενικά, όμως, η ικανότητα να δημιουργήσετε einen ‘καταχωρητή’ μνήμης στο ChatGPT είναι πιο χρήσιμη λόγω του περιορισμένου attention window των LLMs γενικά: χωρίς μακροχρόνιες (προσωποποιημένες) ενσωματώσεις, ο χρήστης feels, εξαιρετικά, ότι συνομιλεί με einen οντότητα που πάσχει από Αντερόγrade αμνησία.

Είναι δύσκολο να πει κανείς αν τα νεότερα μοντέλα θα γίνουν τελικά αρκετά αποδοτικά για να παρέχουν χρήσιμες απαντήσεις χωρίς την ανάγκη να cache μνήμης ή να δημιουργήσουν προσαρμοσμένα GPTs που αποθηκεύονται online.

Προσωρινή Αμνησία

Αν και μπορείτε να κάνετε τις συνομιλίες του ChatGPT ‘προσωρινές’, είναι χρήσιμο να έχετε την ιστορία της συνομιλίας ως αναφορά που μπορεί να συμπυκνωθεί, όταν υπάρχει χρόνος, σε μια πιο συνεκτική τοπική εγγραφή, ίσως σε μια πλατφόρμα σημειώσεων: αλλά σε κάθε περίπτωση δεν μπορούμε να γνωρίζουμε ακριβώς τι συμβαίνει με αυτές τις ‘απορριφθείσες’ συνομιλίες (αν και η OpenAI δηλώνει ότι δεν θα τις χρησιμοποιήσει για εκπαίδευση, δεν δηλώνει ότι τις καταστρέφει), με βάση την υποδομή του ChatGPT. Όλα που γνωρίζουμε είναι ότι οι συνομιλίες δεν εμφανίζονται πλέον στην ιστορία μας όταν η επιλογή ‘Προσωρινές συνομιλίες’ είναι ενεργοποιημένη στο ChatGPT.

Διάφορες πρόσφατες tranhσεις δείχνουν ότι οι πάροχοι API όπως η OpenAI δεν πρέπει απαραίτητα να αφήνονται να ελέγχουν την προστασία της ιδιωτικής ζωής του χρήστη, συμπεριλαμβανομένης της ανακάλυψης της εμφανιζόμενης μνήμης, που σημαίνει ότι μεγαλύτερα LLMs είναι πιο πιθανό να θυμάται ορισμένα παραδείγματα εκπαίδευσης σε πλήρη, και να αυξάνουν τον κίνδυνο αποκάλυψης δεδομένων χρήστη – μεταξύ άλλων δημόσιων περιστατικών που έχουν πείσει πολλές μεγάλες εταιρείες, όπως η Samsung, να απαγορεύσουν LLMs για εσωτερική εταιρική χρήση.

Σκέψου Διαφορετικά

Αυτή η ένταση μεταξύ της ακραίας χρησιμότητας και του φανερά 潜在 κινδύνου των LLMs θα χρειαστεί κάποιες εφευρέσεις λύσεις – και η πρόταση της IBM φαίνεται να είναι ένα ενδιαφέρον βασικό πρότυπο σε αυτή τη γραμμή.

Τρεις αναδιατυπώσεις της IBM που ισορροπούν τη χρησιμότητα ενάντια στην προστασία δεδομένων. Στην κάτω (ροζ) ζώνη, βλέπουμε μια προτροπή που είναι πέρα από την ικανότητα του συστήματος να την καθαρίσει με έναν σημαντικό τρόπο.

Τρεις αναδιατυπώσεις της IBM που ισορροπούν τη χρησιμότητα ενάντια στην προστασία δεδομένων. Στην κάτω (ροζ) ζώνη, βλέπουμε μια προτροπή που είναι πέρα από την ικανότητα του συστήματος να την καθαρίσει με έναν σημαντικό τρόπο.

Η προσέγγιση της IBM intercepts εξερχόμενες πακέτα σε ένα LLM στο επίπεδο δικτύου και τις αναδιατυπώνει ανάλογα με την ανάγκη πριν από την υποβολή του πρωτοτύπου. Οι πιο περίπλοκες οπτικές ενοποιήσεις που φαίνονται στην αρχή του άρθρου είναι μόνο εικονογραφικές της κατεύθυνσης που θα μπορούσε να πάρει μια τέτοια προσέγγιση, αν αναπτυχθεί.

Φυσικά, χωρίς επαρκής agency ο χρήστης μπορεί να μην καταλάβει ότι λαμβάνει μια απάντηση σε μια ελαφρώς αναδιατυπωμένη αναδιατύπωση της αρχικής του υποβολής. Αυτή η έλλειψη διαφάνειας είναι ισοδύναμη με την πυρασφάλεια ενός λειτουργικού συστήματος που μπλοκάρει την πρόσβαση σε einen ιστότοπο ή υπηρεσία χωρίς να ενημερώνει τον χρήστη, ο οποίος μπορεί να ψάξει λανθασμένα άλλους λόγους για το πρόβλημα.

Προτροπές ως Ευθύνες Ασφαλείας

Η προοπτική της ‘παρέμβασης προτροπής’ αναλογεί καλά με την ασφάλεια του λειτουργικού συστήματος Windows, η οποία έχει εξελιχθεί από ένα παλίμψηστο από (προαιρετικά εγκατεστημένα) εμπορικά προϊόντα στη δεκαετία του 1990 σε einen μη προαιρετικό και αυστηρά επιβαλλόμενο συνδυασμό εργαλείων αμύνης δικτύου που έρχονται ως πρότυπο με μια εγκατάσταση Windows, και τα οποία απαιτούν κάποια προσπάθεια για να απενεργοποιηθούν ή να μειωθούν.

Αν η παρέμβαση προτροπής εξελιχθεί όπως οι πυρασφάλες του δικτύου, η πρόταση του ερευνητικού εργασιου της IBM θα μπορούσε να χρησιμεύσει ως蓝πρίντ για το μέλλον: αναπτύσσοντας einen πλήρως τοπικό LLM στο μηχάνημα του χρήστη για να φιλτράρει τις εξερχόμενες προτροπές που κατευθύνονται σε γνωστές LLM APIs. Αυτό το σύστημα θα χρειαζόταν φυσικά να ενσωματωθεί με GUI πλαίσια και ειδοποιήσεις, δίνοντας στους χρήστες τον έλεγχο – εκτός αν οι πολιτικές διαχείρισης υπερβαίνουν αυτό, όπως συχνά συμβαίνει σε επιχειρηματικά περιβάλλοντα.

Οι ερευνητές διεξήγαγαν μια ανάλυση μιας ανοικτής έκδοσης του ShareGPT dataset για να κατανοήσουν πόσο συχνά παραβιάζεται η περιβαλλοντική ιδιωτικότητα σε πραγματικές καταστάσεις.

Llama-3.1-405B-Instruct χρησιμοποιήθηκε ως μοντέλο ‘κριτή’ για να ανιχνεύσει παραβιάσεις της περιβαλλοντικής ακεραιότητας. Από ένα μεγάλο σύνολο συνομιλιών, ένα υποσύνολο μονο-στροφικών συνομιλιών αναλύθηκε με βάση το μήκος. Το μοντέλο κρίτη αξιολόγησε το περιβάλλον, τις ευαίσθητες πληροφορίες και την αναγκαιότητα για ολοκλήρωση της εργασίας, οδηγώντας στην αναγνώριση των συνομιλιών που περιέχουν πιθανές παραβιάσεις της περιβαλλοντικής ακεραιότητας.

Ένα μικρότερο υποσύνολο αυτών των συνομιλιών, που έδειξαν σαφείς παραβιάσεις της περιβαλλοντικής ιδιωτικότητας, αναλύθηκαν περαιτέρω.

Το πλαίσιο εφαρμόστηκε χρησιμοποιώντας μοντέλα που είναι μικρότερα από τα τυπικά chat agents όπως το ChatGPT, για να επιτρέψουν την τοπική ανάπτυξη μέσω Ollama.

Σχήμα για το σύστημα παρέμβασης προτροπής.

Σχήμα για το σύστημα παρέμβασης προτροπής.

Τα τρία LLMs που αξιολογήθηκαν ήταν Mixtral-8x7B-Instruct-v0.1: Llama-3.1-8B-Instruct: και DeepSeek-R1-Distill-Llama-8B.

Οι προτροπές χρηστών επεξεργάζονται από το πλαίσιο σε τρία στάδια: αναγνώριση περιβάλλοντος: ταξινόμηση ευαίσθητων πληροφοριών: και αναδιατύπωση.

Δυο προσεγγίσεις εφαρμόστηκαν για την ταξινόμηση ευαίσθητων πληροφοριών: δυναμική και δομημένη ταξινόμηση: η δυναμική ταξινόμηση καθορίζει τις βασικές λεπτομέρειες με βάση τη χρήση τους σε μια συγκεκριμένη συνομιλία: η δομημένη ταξινόμηση επιτρέπει την ορισμό ενός προκαθορισμένου καταλόγου ευαίσθητων ιδιοτήτων που θεωρούνται πάντα μη απαραίτητες. Το μοντέλο αναδιατυπώνει την προτροπή αν ανιχνεύσει μη απαραίτητες ευαίσθητες λεπτομέρειες είτε αφαιρώντας είτε αναδιατυπώνοντας τις για να ελαχιστοποιήσει τους κινδύνους ιδιωτικότητας διατηρώντας την χρησιμότητα.

Οικιακές Κανόνες

Αν και η δομημένη ταξινόμηση ως έννοια δεν είναι καλά εικονογραφημένη στο έγγραφο της IBM, είναι πιο παρόμοια με τη μέθοδο “Ιδιωτικές Ορισμοί Δεδομένων” στη Private Prompts πρωτοβουλία, η οποία παρέχει einen λήψιμο αυτόνομο πρόγραμμα που μπορεί να αναδιατυπώσει προτροπές – αν και χωρίς την ικανότητα να παρέμβει απευθείας στο επίπεδο δικτύου, όπως η προσέγγιση της IBM (αντί για αυτό, ο χρήστης πρέπει να αντιγράψει και να επικολλήσει τις τροποποιημένες προτροπές).

Το εκτελέσιμο Private Prompts επιτρέπει στον χρήστη να προγραμματίσει αυτόματες αντικαταστάσεις για κείμενο που εισάγει ο χρήστης.

Το εκτελέσιμο Private Prompts επιτρέπει στον χρήστη να προγραμματίσει αυτόματες αντικαταστάσεις για κείμενο που εισάγει ο χρήστης.

Στην παραπάνω εικόνα, podemos δούμε ότι ο χρήστης του Private Prompts μπορεί να προγραμματίσει αυτόματες αντικαταστάσεις για περιπτώσεις ευαίσθητων πληροφοριών. Σε cả τις περιπτώσεις, για το Private Prompts και τη μέθοδο της IBM, φαίνεται απίθανο ότι ένας χρήστης με αρκετή παρουσία του νου και προσωπική ενημέρωση για να κατεργαστεί takový einen κατάλογο θα χρειαζόταν πραγματικά αυτό το προϊόν – αν και θα μπορούσε να κατασκευαστεί με τον καιρό καθώς συμβαίνουν περιστατικά.

Σε einen ρόλο διαχειριστή, η δομημένη ταξινόμηση θα μπορούσε να λειτουργήσει ως eine επιβαλλόμενη πυρασφάλεια ή censor-net για υπαλλήλους: και σε einen οικιακό δικτυακό φίλτρο για όλους τους χρήστες του δικτύου: αλλά τελικά, αυτή η μέθοδος είναι επιχειρηματικά περιττή,既然 ένας χρήστης που θα μπορούσε να την εγκαταστήσει σωστά θα μπορούσε επίσης να αυτο-ценσοράρι αποτελεσματικά από την αρχή.

Η Γνώμη του ChatGPT

Αφού το ChatGPT πρόσφατα έ lançισε την ερεύνα deep research εργαλείο για τους πληρωμένους χρήστες, το χρησιμοποίησα για να ζητήσω από το ChatGPT να αναθεωρήσει σχετική βιβλιογραφία και να μου δώσει μια ‘συντηρητική’ άποψη για το έγγραφο της IBM. Έλαβα την πιο αμυντική και περιφρονητική απάντηση που το σύστημα έχει δώσει ποτέ όταν ζητήθηκε να αξιολογήσει ή να αναλύσει μια νέα δημοσίευση:

Το ChatGPT-4o έχει μια χαμηλή άποψη για το πρόγραμμα της IBM.

Το ChatGPT-4o έχει μια χαμηλή άποψη για το πρόγραμμα της IBM.

‘Αν οι χρήστες δεν εμπιστεύονται την OpenAI, την Google, ή την Anthropic να χειρίζονται τα δεδομένα τους υπεύθυνα,’ το ChatGPT υποστηρίζει. ‘γιατί θα εμπιστεύονταν einen τρίτο-παρέμβαση λογισμικό που βρίσκεται μεταξύ τους και του AI; Το μεσάζοντα γίνεται ένας νέος πόλος αποτυχίας—πιθανότατα καταγράφοντας, χειριζόμενη λανθασμένα, ή ακόμη και διαρρέοντα δεδομένα πριν αυτά φτάσουν ποτέ στο LLM. Δεν λύνει τίποτα αν δημιουργεί einen νέο οντότητα για να εκμεταλλευτεί τα δεδομένα του χρήστη.’

Αυτή η αντίρρηση φαίνεται αυτο-υπηρετική και μη-εφαρμόσιμη, δεδομένης της ιστορίας των ανοικτών έργων που πραγματικά ωφελούν τους τελικούς χρήστες μέσω των μακροχρόνιων προσπαθειών των κοινοτικών dévelopers και συντελεστών: και δεδομένης της αυξανόμενης δυνατότητας των κινητών συσκευών να τρέχουν – και ακόμη και να εκπαιδεύουν – ελαφριά LLMs. Βέβαια, σε αυτή την περίπτωση, η περίπτωση χρήσης δεν είναι ιδιαίτερα απαιτητική.

Επόμενο, το ChatGPT χάνει με σιγουριά το σημείο της χρήσης eines ελαφριού LLM για να παρέχει έλεγχο εισόδου προς einen εμπορικό LLM που δεν θα μπορούσε να τρέξει σε einen τοπικό υπολογιστή (επειδή το LLM είναι πολύ μεγάλο, και η άδεια πρόσβασης είναι πολύ ρίσκο για την εταιρεία που το δημιουργεί):

‘Η αποτελεσματική φιλτράρισμα ιδιωτικότητας απαιτεί την κατανόηση της εισόδου πριν από την απόφαση για το τι να αφαιρέσετε. Αν ένας μεσάζων είναι αρκετά έξυπνος για να αναγνωρίσει ευαίσθητες δεδομένα (ονόματα, διευθύνσεις, οικονομικές λεπτομέρειες), τότε έχει ήδη επεξεργαστεί και αναλύσει αυτά τα δεδομένα—σημαίνει ότι πρέπει να τα αποθηκεύσει ή να τα εξετάσει το ίδιο πράγμα που πρέπει να διαγράψει. ‘

‘Παρουσιάζει einen παράδοξο: α) Ένας βλάκας φίλτρος (βασική αντικατάσταση regex) θα είναι αναποτελεσματικός και θα χάσει τις λεπτές κινδύνους ιδιωτικότητας. β) Ένας έξυπνος φίλτρος (LLM-δυναμικός αναδιατυπωτής) πρέπει να επεξεργαστεί την πλήρη εισόδου, καθιστώντας το τόσο επικίνδυνο όσο και το αρχικό LLM.’

‘Αν εμπιστεύεστε τον μεσάζοντα αρκετά για να διαβάσει και να αναδιατυπώσει τις εισόδους σας, γιατί δεν εμπιστεύεστε το LLM ίδιο;’

Η απάντηση σε αυτή την τελευταία ερώτηση είναι ότι το τοπικό LLM προορίζεται να είναι εξ ολοκλήρου στην πλευρά του χρήστη, και αναπόφευκτα ανοικτό, με ελάχιστη ή μηδενική ανάγκη για πρόσβαση στο δίκτυο. Ένας ισοδύναμος εμπορικός τύπος, αν και καλώς ενδιαφερόμενος στην αρχή, θα ήταν τελικά ευάλωτος σε εταιρικές μετατοπίσεις και αλλαγές στους όρους υπηρεσίας, ενώ ένα κατάλληλο ανοικτό άδεια θα εμπόδιζε αυτό το είδος ‘απαραίτητης διαφθοράς’.

Το ChatGPT επιχειρηματικά ότι η πρόταση της IBM ‘σπάει την πρόθεση του χρήστη’,既然 μπορεί να αναδιατυπώσει μια προτροπή σε eine εναλλακτική που επηρεάζει τη χρησιμότητά της. Ωστόσο, αυτό είναι ένα πολύ ευρύτερο πρόβλημα στη φιλτράρισμα προτροπών, και όχι συγκεκριμένο σε αυτή την περίπτωση.

Συνοψίζοντας (αγνοώντας την πρότασή του να χρησιμοποιήσει τοπικά LLMs ‘αντί’, που είναι ακριβώς αυτό που πρότεινε το έγγραφο της IBM), το ChatGPT έδειξε ότι η μέθοδος της IBM αντιπροσωπεύει einen φραγμό στην υιοθέτηση λόγω της ‘τριβής του χρήστη’ της υλοποίησης μεθόδων προειδοποίησης και επεξεργασίας σε eine συνομιλία.

Εδώ, το ChatGPT μπορεί να έχει δίκιο: αλλά αν σημαντική πίεση έρθει να επιβληθεί λόγω περαιτέρω δημόσιων περιστατικών, ή αν κέρδη σε eine γεωγραφική ζώνη απειλούνται από αυξανόμενη ρύθμιση (και η εταιρεία αρνείται να απορρίψει完全 την επηρεαζόμενη περιοχή), η ιστορία της καταναλωτικής τεχνολογίας υποδηλώνει ότι οι προστασίες θα γίνουν τελικά μη προαιρετικές σε κάθε περίπτωση.

Συμπέρασμα

Δεν μπορούμε να περιμένουμε πραγματικά από την OpenAI να υλοποιήσει προστασίες του τύπου που προτείνονται στο έγγραφο της IBM, και στην κεντρική концепασία πίσω από αυτό: τουλάχιστον όχι αποτελεσματικά.

Και σίγουρα όχι παγκοσμίως: όπως η Apple απαγορεύει ορισμένες λειτουργίες iPhone στην Ευρώπη, και η LinkedIn έχει διαφορετικές κανόνες για την εκμετάλλευση των δεδομένων των χρηστών σε διαφορετικές χώρες, είναι εύλογο να υποθέσουμε ότι κάθε εταιρεία AI θα mặc.setDefault στις πιο κερδοφόρες όρους και προϋποθέσεις που είναι ανεκτές σε οποιαδήποτε χώρα στην οποία λειτουργεί – σε κάθε περίπτωση, με έξοδα του δικαιώματος του χρήστη στην προστασία δεδομένων, όπως απαιτείται.

 

Πρώτη δημοσίευση Πέμπτη, 27 Φεβρουαρίου 2025

Ενημερώθηκε Πέμπτη, 27 Φεβρουαρίου 2025 15:47:11 λόγω λανθασμένου συνδέσμου Apple – MA

Συγγραφέας σε μηχανική μάθηση, ειδικός σε σύνθεση εικόνων ανθρώπων. Πρώην επικεφαλής ερευνητικού περιεχομένου στη Metaphysic.ai, μέχρι τη διάλυση της στην DNEG's Brahma.ai.
Portfolio site: martinanderson.ai
Contact: [email protected]