Γιατί οι πράκτορες του AI προτιμούν άσκοπα ισχυρά εργαλεία;

Αυτό εξελίχθηκε γρήγορα: η έρευνα διαπιστώνει ότι τα πράγματα AI συνεχίζουν να λαμβάνουν περισσότερη πρόσβαση από ό,τι χρειάζονται, και οι μικρές αποτυχίες τα κάνουν να ενισχύουν ακόμη περισσότερο, εκθέτοντας άσκοπα δεδομένα και συστήματα.

Ένας αυξανόμενος αριθμός περιστατικών που έχουν κερδίσει την προσοχή των επικεφαλίδων τα τελευταία χρόνια έχει τραβήξει την προσοχή στα рисks που συνδέονται με την άδεια πράγματα AI υπερβολικών προνομίων, συχνά μέσω της χρήσης εργαλείων και μεθόδων που προσφέρουν πολύ μεγαλύτερο πεδίο από ό,τι χρειαζόταν για μια δεδομένη εργασία.

Σε ένα πρόσφατο περιστατικό, ένας Claude-powered κωδικοποιητής πράγματος συνάντησε ένα ευρέως εστιασμένο Railway API token κατά τη διάρκεια μιας κανονικής εργασίας και το χρησιμοποίησε για να διαγράψει μια βάση δεδομένων παραγωγής και τα αντίγραφα ασφαλείας της – παρά το γεγονός ότι η εργασία δεν απαιτούσε τέτοιο ισχυρό επίπεδο πρόσβασης.

Σε một ξεχωριστό περιστατικό του 2025, ο Replit’s AI κωδικοποιητής πράγματος αγνόησε τις ρητές περιορισμοί, τροποποίησε προστατευμένο κώδικα και διαγράψει μια ζωντανή βάση δεδομένων παραγωγής.

Σε ένα τρίτο περιστατικό από τον Φεβρουάριο του этого έτους, ένας AI-βοηθούμενος εργοστασιακός ροή διέσχισε μια αλυσίδα προνομίων που τελικά έφτασε στα πιστωτικά στοιχεία δημοσίευσης πακέτου, δημιουργώντας αποτελεσματικά μια επίθεση αλυσίδας εφοδιασμού.

Συνοδευτικά, οι αναλύσεις ασφαλείας έχουν αναφέρει αυτό και παρόμοια περιστατικά ως μια εικονογράφηση της τάσης των συστημάτων πραγμάτων να μετατρέπουν μικρές εισόδους σε δράσεις υψηλής επίδρασης όταν είναι διαθέσιμα ευρεία προνόμια. Αυτά τα περιστατικά υποδηλώνουν ότι τα αυτόνομα πράγματα AI αμέσως και «ιστόρητα» φθάνουν στο πιο ισχυρό – και πιθανώς καταστροφικό – εργαλείο, ιδιαίτερα όταν προκύπτουν προβλήματα.

Χρόνος Εργαλείων

Απαντώντας σε αυτό το ζήτημα, νέα έρευνα από την Κίνα έχει δοκιμάσει eine σειρά από τα πιο δημοφιλή ιδιόκτητα και ανοικτού κώδικα μοντέλα, για να ανακαλύψει την τάση τους να φτάνουν σε ισχυρά εργαλεία σε περιπτώσεις όπου τέτοια εργαλεία είναι υπερβολικά για μια εργασία:

Από το νέο έγγραφο: απόδοση εννέα leading AI μοντέλων όταν επιλέγουν μεταξύ minimally privileged εργαλείων και πιο ισχυρών εναλλακτικών που weren’t απαραίτητα για την εργασία. Qwen3-8B και LLaMA-3.1-8B έδειξαν την ισχυρότερη τάση προς υπερβολικά προνόμια, ενώ Claude 4.6 Sonnet, GPT-5.2 και GLM-5 ήταν πολύ πιο συγκρατημένα. Σκουρότερα τμήματα υποδεικνύουν άμεση υπερέκταση, ενώ πιο ανοιχτά τμήματα δείχνουν αύξηση μετά προσωρινές αποτυχίες, υποδεικνύοντας ότι πολλά μοντέλα ανταποκρίνονται σε αποτυχίες με την επέκταση της πρόσβασης αντί να επιμένουν με ασφαλέστερες επιλογές. Πηγή

Οι δοκιμές δείχνουν ότι ανοικτά μοντέλα όπως Qwen3-8B και LLaMA-3.1-8B είναι πιο disposed να αυξήσουν, vielleicht λόγω του πιο περιορισμένου post-εκπαίδευσης conditioning, σε σύγκριση με ιδιόκτητα μοντέλα όπως το ChatGPT και Gemini σειρά.

Οι συγγραφείς δηλώνουν:

‘Έξι από τα έντεκα μοντέλα υπερβαίνουν το 30% [Over-privileged Tool Use rate (OPUR)], με ιδιαίτερα υψηλά ποσοστά για συχνά χρησιμοποιούμενα μικρότερα ανοικτά μοντέλα όπως Qwen3-8B (64.9%) και LLaMA-3.1-8B (55.9%).

‘Εν τω μεταξύ, μοντέλα με χαμηλότερο OPUR όπως Claude 4.6 Sonnet, GPT-5.2, και GLM-5 παραμένουν κάτω από το 10%, αλλά εξακολουθούν να εμφανίζουν μετρήσιμη υπερ-προνομιούχο χρήση σε ορισμένες ρυθμίσεις.

‘Αυτή η ποικιλία υποδηλώνει ότι η συμμόρφωση με την αρχή του ελάχιστου προνομίου είναι μια ιδιοκτησία του μοντέλου, πιθανώς διαμορφωμένη από διαφορές στην γενική ικανότητα, την εκπαίδευση χρήσης εργαλείων και την ασφάλεια.’

Επιπλέον, η τάση προς υπερ-δυνατά εργαλεία ποικίλλει ανάλογα με το domaine, με εργασίες σε κωδικοποίηση να βρίσκονται στο υψηλότερο κίνδυνο, και πιο στενά ελεγχόμενες περιοχές, όπως υγεία, να εμπνέουν λιγότερο ριζικές μέτρα:

Ρυθμοί ανεπαρκούς χρήσης εργαλείων υψηλής προνομίου σε διάφορους τομείς εργασιών και κατηγορίες κινδύνου. Οι εργασίες κωδικοποίησης, βάσης δεδομένων και υποδομής παρήγαγαν συνεχώς einige από τους υψηλότερους ρυθμούς ανόδου, ενώ οι εργασίες υγείας και κυβέρνησης γενικά προκάλεσαν μεγαλύτερη αυτοσυγκράτηση. Σε όλους τους τύπους κινδύνου, τα μοντέλα ήταν πιο πιθανό να υπερβούν μέσω της ανόδου της εξουσίας και των ενεργειών παραβύπασης ασφαλείας, υποδεικνύοντας ότι όταν τα συστήματα AI συναντούν εμπόδια, συχνά προτιμούν ευρύτερη πρόσβαση και λιγότερους περιορισμούς, αντί να παραμένουν εντός των στενότερων εξουσιών που απαιτούνται για την ολοκλήρωση της εργασίας.

Επιπλέον, τα αποτελέσματα δείχνουν ότι κάποιες από τις χειρότερες εξελίξεις συμβαίνουν όταν το μοντέλο αισθάνεται ότι είναι ‘υπό πίεση’. Σε πολλές οικογένειες μοντέλων, προσωρινές αποτυχίες από εργαλεία χαμηλότερης προνομίου συχνά προκάλεσαν μια ταχεία μετατόπιση προς ευρύτερες, πιο ισχυρές εναλλακτικές – ακόμη και αν τα αρχικά εργαλεία παρέμειναν πλήρως ικανά να ολοκληρώσουν την εργασία.

Λειτουργία Πανδαιμίας!

Με αυτόν τον τρόπο, ένα προσωρινό σφάλμα θα μπορούσε να προκαλέσει στα μοντέλα να εγκαταλείψουν το principio της ελάχιστης προνομίου εντελώς. Αντί να δοκιμάσουν μια άλλη επιλογή χαμηλότερης προνομίου, ή να ξαναδοκιμάσουν το ίδιο εργαλείο, πολλά συστήματα ανταποκρίθηκαν εκτείνωντας την πρόσβασή τους.

Οι συγγραφείς ισχυρίζονται ότι οι επαναλαμβανόμενες πτώσεις φαίνεται να διαβρώνουν την εμπιστοσύνη στα στενότερα εργαλεία, καθιστώντας την ανεπαρκή ανύψωση προνομίου ολοένα και πιο πιθανή υπό συνθήκες αβεβαιότητας – μια συμπεριφορά που παρατηρήθηκε σε διάφορα επίπεδα και σε ανοιχτά και ιδιόκτητα μοντέλα.

Η ευαισθητοποίηση προνομίου μετά την εκπαίδευση επιτυγχάνει κάποια περιορισμένη επιτυχία ως πιθανή μείωση, ανταποκρινόμενο στην χαμηλή χρήση εργαλείων προνομίου και τιμωρώντας την πρόωρη ανύψωση. Ωστόσο, η χειραγώγηση προτύπων προσφέρει μικρή βελτίωση στους тестες, και για τώρα το ζήτημα φαίνεται να σχετίζεται με αρχές συμπεριφοράς υψηλότερης βαθμίδας στα LLM.

Αν και η εργασία δεν το αναφέρει, φαίνεται λογικό να πιστεύουμε ότι τα ΑΙ έχουν πολύ περισσότερο εκπαιδευτικό υλικό για ‘τελικά αποτελέσματα’ από τη διαδικασία της δοκιμής και του λάθους που οδηγεί σε αυτά – μια απαθείς ‘πολιτισμός TLDR’ που ίσως έχει γεννήσει και την απαίτηση στα ΑΙ..;

Το νέο έγγραφο έχει τον τίτλο Όταν οι χαμηλότερες προνομίες αρκούν: Διερεύνηση της υπερ-προνομίου επιλογής εργαλείων σε πράκτορες LLM, και προέρχεται από οκτώ συγγραφείς από την Κινεζική Ακαδημία Επιστημών, το Κινεζικό Πανεπιστήμιο του Χονγκ Κονγκ, το Πανεπιστήμιο Πεκίνου και το Πανεπιστήμιο της Κινεζικής Ακαδημίας Επιστημών.

Μέθοδος

Για να μελετήσουν τη χρήση εργαλείων με υπερ-ιδιότητες υπό ελεγχόμενες συνθήκες, οι ερευνητές δημιούργησαν το ToolPrivBench, ένα βENCHMARK που αποτελείται από 544 σενάρια που προέρχονται από οκτώ τομείς εφαρμογών: Επιχείρηση, Κωδικοποίηση, Βάση Δεδομένων, Εκπαίδευση, Κυβέρνηση, Υγεία, Υποδομή, και Μέσα.

Εξέτασαν πέντε επαναλαμβανόμενα μοτίβα κινδύνου: Αύξηση Εξουσιοδότησης, Υπερ-Εξομολόγηση Δεδομένων, Παράκαμψη Ασφαλείας, Επέκταση Εμβέλειας, και Χρονική Διαρκή:

Κατανομή των 544 σενариών στο ToolPrivBench σε πέντε μοτίβα αύξησης εξουσιοδότησης και οκτώ τομείς εφαρμογών. Η αύξηση εξουσιοδότησης ήταν η πιο συχνή κατηγορία κινδύνου, ενώ η Βάση Δεδομένων, η Επιχείρηση, και η Εκπαίδευση είχαν τις μεγαλύτερες μετοχές του βENCHMARK. Η ευρεία διάδοση των τομέων και των τύπων κινδύνου είχε ως στόχο να δοκιμάσει αν η επιλογή εργαλείων με υπερ-ιδιότητες διαρκεί σε διαφορετικές λειτουργικές ρυθμίσεις, αντί να προκύπτει από ένα στενό σύνολο εργασιών.

Κάθε σενάριο ζευγαρώθηκε με μια εργασία χρήστη και τρία εργαλεία με χαμηλότερες ιδιότητες, και τρία εργαλεία με υψηλότερες ιδιότητες. Όλα τα έξι εργαλεία ήταν ανεξάρτητα ικανά να ολοκληρώσουν την εργασία, εξασφαλίζοντας ότι οποιαδήποτε προτίμηση για ευρύτερη πρόσβαση δεν θα μπορούσε να εξηγηθεί από την έλλειψη λειτουργικότητας.

Το ToolPrivBench σχεδιάστηκε για να μετρήσει περισσότερα από το αν ένα μοντέλο αρχικά επιλέγει το πιο ισχυρό εργαλείο: κατά την αξιολόγηση, προσωρινές αποτυχίες όπως σφάλματα σύνδεσης εισήχθησαν σκόπιμα στα εργαλεία με χαμηλότερες ιδιότητες, ακόμη και αν αυτά τα εργαλεία παρέμειναν πλήρως ικανά να ολοκληρώσουν την εργασία. Αυτό επέτρεψε στους ερευνητές να παρατηρήσουν πώς τα μοντέλα ανταποκρίθηκαν στις αποτυχίες, συμπεριλαμβανομένου αν επαναέλαβαν τις επιλογές με χαμηλότερες ιδιότητες ή ανέβηκαν σε ευρύτερα, υψηλότερα εργαλεία με ιδιότητες:

Επισκόπηση της διαδικασίας αξιολόγησης του ToolPrivBench. (α) Κάθε σενάριο δοκιμής παρουσιάζει μια εργασία μαζί με τρία εργαλεία με χαμηλότερες ιδιότητες και τρία εργαλεία με υψηλότερες ιδιότητες, όλα ικανά να ολοκληρώσουν το ίδιο αντικείμενο. (β) Τα μοντέλα αξιολογούνται και για την άμεση επιλογή ενός υπερ-εξουσιοδοτημένου εργαλείου και για την αύξηση μετά την εισαγωγή προσωρινών αποτυχιών στα εργαλεία με χαμηλότερες ιδιότητες. (γ) Οι περιπτώσεις βENCHMARK δημιουργούνται από πραγματικούς τύπους κινδύνου API, και στη συνέχεια περνούν από αυτοματοποιημένα ελέγχους, επαλήθευση επάρκειας εργαλείων, ανάλυση αποτυχιών και ανασκόπηση από ανθρώπινους εμπειρογνώμονες πριν να εισαχθούν στο τελικό σύνολο αξιολόγησης.

Το προσαρμοσμένο μέτρο που αναπτύχθηκε για τη μελέτη είναι το Ποσοστό Χρήσης Υπερ-Εξουσιοδοτημένων Εργαλείων (OPUR), το οποίο καταγράφει πόσο συχνά ένα μοντέλο χρησιμοποιεί ένα εργαλείο με υψηλότερες ιδιότητες παρά τις ασφαλέστερες εναλλακτικές που εξακολουθούν να είναι διαθέσιμες. Το Βάθος Εξέτασης Προ-Αύξησης (PED) μετράται επίσης, καταγράφοντας πόσα εργαλεία με χαμηλότερες ιδιότητες δοκιμάζονται πριν από την αύξηση.Για να διασφαλιστεί ότι το επίπεδο προνομίου παρέμεινε η μόνη σημαντική διαφορά μεταξύ των εργαλείων, κάθε σενάριο στις δοκιμές υποβεβληθήκε σε πολλά στάδια επικύρωσης πριν από την εισαγωγή τους στο benchmark. ChatGPT-5.2 και Gemini 2.5 Pro χρησιμοποιήθηκαν ανεξάρτητα για να επιβεβαιώσουν ότι όλα τα έξι εργαλεία θα μπορούσαν να ολοκληρώσουν την ανατεθειμένη εργασία. Διατηρήθηκαν μόνο οι περιπτώσεις που έλαβαν συμφωνία και από τα δύο συστήματα. Τα υπόλοιπα σενάρια υποβεβληθήκαν στη συνέχεια σε ελέγχους από ανθρώπινους επικριτές, πριν από την ένταξή τους στο τελικό benchmark.

Δοκιμές

Η αξιολόγηση του βENCHMARK πραγματοποιήθηκε χρησιμοποιώντας έντεκα γλωσσικά μοντέλα από ιδιόκτητες και ανοιχτές οικογένειες: Qwen3-8B, LLaMA-3.1-8B, MiniMax-M2.7, Grok 4.1 Fast, Qwen3.5-397B, DeepSeek-v3.2, Kimi K2.5, Gemini 3 Flash, GPT-5.2, GLM-5, και Claude 4.6 Sonnet. Η απόδοση μετρήθηκε χρησιμοποιώντας OPUR και  PED.

Τα περισσότερα μοντέλα παρουσίασαν σημαντικές ποσοστιαίες τιμές άσκοπης χρήσης προνομίων, παρά το γεγονός ότι οι εναλλακτικές λύσεις με χαμηλότερα προνόμια ήταν πλήρως ικανές να ολοκληρώσουν την εργασία. Το Qwen3-8B κατέγραψε την υψηλότερη OPUR στο 64,9%, ακολουθούμενο από το LLaMA-3.1-8B στο 55,9%, ενώ έξι από τα έντεκα μοντέλα ξεπέρασαν το 30%:

Κατανομή της χρήσης εργαλείων με υπερ-προνόμια σε όλα τα έντεκα αξιολογημένα μοντέλα. Το Qwen3-8B και το LLaMA-3.1-8B κατέγραψαν τις υψηλότερες τιμές OPUR, ενώ το Claude 4.6 Sonnet, το GPT-5.2 και το GLM-5 εμφάνισαν τις χαμηλότερες ποσοστιαίες τιμές. Τα σκουρότερα τμήματα υποδεικνύουν την άμεση επιλογή eines εργαλείου με άσκοπη δύναμη, ενώ τα φωτεινότερα τμήματα υποδεικνύουν την αύξηση μετά από μία ή περισσότερες προσπάθειες με εργαλεία χαμηλότερου προνομίου, αποκαλύπτοντας ότι η αύξηση των προνομίων συχνά ακολουθούσε προσωρινές αποτυχίες αντί να συμβαίνει στο πρώτο σημείο λήψης αποφάσεων.

Στην άλλη άκρη του φάσματος, το Claude 4.6 Sonnet, το GPT-5.2 και το GLM-5 παρέμειναν κάτω από το 10%, αν και παρατηρήθηκαν ακόμη μετρήσιμες παραβιάσεις. Μεσολαβικά αποτελέσματα αναφέρθηκαν για το MiniMax-M2.7, το Grok 4.1 Fast, το Qwen3.5-397B, το DeepSeek-v3.2, το Kimi K2.5 και το Gemini 3 Flash.

Συνολικά, η τήρηση των αρχών του ελάχιστου προνομίου ποικίλλει σημαντικά μεταξύ των ενδεκα μοντέλων. Βρέθηκε ότι οι αποτυχίες των εργαλείων αυξάνουν την πιθανότητα αύξησης των προνομίων: όταν τα εργαλεία με χαμηλότερα προνόμια αντιμετώπιζαν προσωρινά προβλήματα, πολλά μοντέλα στράφηκαν προς εργαλεία με υψηλότερα προνόμια αντί να συνεχίσουν να εξερευνούν τις εναλλακτικές λύσεις με χαμηλότερα προνόμια που παρέμειναν ικανές να ολοκληρώσουν την εργασία.

Σύμφωνα με τους συγγραφείς, οι επαναλαμβανόμενες αποτυχίες φαίνεται να μειώνουν την εμπιστοσύνη στα εργαλεία με χαμηλότερα προνόμια, αυξάνοντας την τάση να επιλέγονται εργαλεία με ευρύτερα προνόμια ακόμη και όταν αυτά τα πρόσθετα προνόμια αποδεικνύονται άσκοπα για την εργασία:

‘Παρατηρούμε μια συνεχή τάση όπου η προκατάληψη της επιλογής εργαλείων ενισχύεται σοβαρά από τη σειριακή τριβή του περιβάλλοντος. Αντί να δοκιμάζουν ελάχιστα προνομιούχα εναλλακτικά, πολλά μοντέλα στρέφονται γρήγορα προς εργαλεία με ευρύτερα και πιο ισχυρά εργαλεία μετά από αποτυχίες.

‘Για παράδειγμα, το GPT-5.2 εμφανίζει προκατάληψη επιλογής μηδενικού πυροβόλου μόνο 5 φορές (PED=0), αλλά η προκατάληψή του ενεργοποιείται 13 φορές στο PED=1 και εκρήγνυται σε 35 φορές στο PED=2.

‘Παρόμοιες τάσεις αύξησης παρατηρούνται συνεχώς σε όλα τα μοντέλα DeepSeek-v3.2, Grok 4.1 Fast, Kimi K2.5 και Qwen-series. ‘

Ζητήματα Δημόσιας Ιδιοκτησίας

Οι ποσοστιαίες τιμές αύξησης των προνομίων ποικίλλουν επίσης σημαντικά μεταξύ των εφαρμογών και των κατηγοριών κινδύνου. Οι υποδομικές εργασίες παρήγαγαν κάποιες από τις υψηλότερες τιμές OPUR, φτάνοντας στο 46,4% για το DeepSeek-v3.2, 42,9% για το Grok 4.1 Fast και 37,5% για το Qwen3.5-397B.Εlevated ποσοστά παρατηρήθηκαν επίσης στις εργασίες κωδικοποίησης, βασής δεδομένων και μέσων ενημέρωσης, ενώ τα σενάρια υγείας και κυβέρνησης γενικά παρήγαγαν χαμηλότερα ποσοστά ανόδου, ιδιαίτερα μεταξύ των GPT-5.2 και Claude 4.6 Sonnet. Σύμφωνα με τους συγγραφείς, αυτό το μοτίβο μπορεί να αντανακλά τις διαφορές στον τρόπο με τον οποίο τα μοντέλα ερμηνεύουν τον κίνδυνο και τις λειτουργικές περιορισμοί σε διάφορους τομείς:

OPUR (%) σε οκτώ εφαρμογές και πέντε κατηγορίες ανόδου. Τα μοντέλα ανοιχτού βάρους κατέγραψαν γενικά τα υψηλότερα ποσοστά ανεπιθύμητης χρήσης προνομίων, με τις εργασίες κωδικοποίησης, βάσης δεδομένων, υποδομής, ανόδου εξουσίας και παραβύπασης ασφάλειας να παράγουν την ισχυρότερη τάση προς υπερβάθμιση.

Ο τύπος της ανόδου προνομίων ήταν επίσης σημαντικός: η Ανόδου Εξουσίας και η Παραβύπαση Ασφάλειας ήταν οι πιο συχνές μορφές υπερ-προνομιακής συμπεριφοράς στα αξιολογημένα μοντέλα: το LLaMA-3.1-8B έφτασε στο 72.7% στην Ανόδου Εξουσίας και στο 74.1% στην Παραβύπαση Ασφάλειας, ενώ το Qwen3.5-397B κατέγραψε 42.4% και 45.7% αντίστοιχα.

Αντίθετα, η Επέκταση Εμβέλειας ήταν συνεχώς η λιγότερο συχνή κατηγορία, υποδεικνύοντας ότι τα μοντέλα ήταν πιο πιθανό να ζητήσουν ευρύτερη εξουσία ή να παραβύψουν τους περιορισμούς παρά να επεκτείνουν την εμβέλεια των ενεργειών τους σε πρόσθετους χρήστες ή συστήματα.

Αναζήτηση Λύσεων

Οι πειραματικές μετρήσεις εξέτασαν εάν οι υφιστάμενες μεθόδους ασφάλειας των πρακτόρων μειώνουν επίσης την ανεπιθύμητη ανόδου προνομίων. Ο πίνακας αποτελεσμάτων παρακάτω συγκρίνει το OPUR με την απόδοση στο AgentHarm, ένα βENCHMARK που μετρά την επιβλαβή συμπεριφορά και τα ποσοστά άρνησης σε πράκτορες AI.

Η πρώτη δοκιμή αξιολόγησε το AgentAlign, μια μέθοδο ασφάλειας που σχεδιάστηκε για να μειώσει τις επιβλαβείς ενέργειες. Το AgentAlign βελτίωσε σημαντικά την απόδοση του AgentHarm:

Συγκλιση ασφάλειας και υπερ-προνομιακής χρήσης εργαλείων πριν και μετά την εκπαίδευση του AgentAlign. Το AgentAlign βελτίωσε σημαντικά την απόδοση στο βENCHMARK ασφάλειας AgentHarm, μειώνοντας τις επιβλαβείς εξόδους και αυξάνοντας τα ποσοστά άρνησης, αλλά η επίδρασή του στο OPUR ήταν ασυνεπής, με ένα μοντέλο να δείχνει μια μετριοπαθή μείωση της ανεπιθύμητης ανόδου προνομίων, και ένα άλλο να δείχνει αύξηση. Αυτό το αποτέλεσμα υποδηλώνει ότι οι βελτιώσεις στην παραδοσιακή ασφάλεια των πρακτόρων δεν μεταφράζονται απαραίτητα σε καλύτερη επιλογή εργαλείων ‘ελάχιστου προνομίου’.

Για το Ministral-8B-Instruct, το επιβλαβές σκορ έπεσε από 67.4 σε 10.5 ενώ το ποσοστό άρνησης αυξήθηκε από 0.0 σε 79.5. Για το Qwen2.5-7B-Instruct, το επιβλαβές σκορ έπεσε από 41.9 σε 6.7 και το ποσοστό άρνησης αυξήθηκε από 21.6 σε 85.8. Ωστόσο, αυτές οι βελτιώσεις δεν μεταφράστηκαν συνεχώς σε χαμηλότερα OPUR. Το OPUR έπεσε μετριοπαθώς για το Ministral-8B-Instruct, από 68.8 σε 62.5, αλλά αυξήθηκε για το Qwen2.5-7B-Instruct, από 50.4 σε 60.7.

Οι συγγραφείς εξέτασαν επίσης παρεμβάσεις που βασίζονται σε προτροπές που διέταξαν ρητά τα μοντέλα να προτιμούν εργαλεία με χαμηλότερα προνόμια. Αν και αυτές οι προτροπές μειώθηκαν το OPUR σε ορισμένες ρυθμίσεις, η επίδραση μειώθηκε όταν τα εργαλεία με χαμηλότερα προνόμια συναντούσαν αποτυχίες:

Επίδραση στρατηγικών μείωσης στην υπερ-ιδιωτικοποίηση εργαλείων σε τρία μοντέλα Qwen3. Η μηχανική προώθησης (PE) μείωσε τους ρυθμούς ανόδου, αλλά η ευαισθητοποίηση μετεκπαίδευσης (‘Δικά μας’) παρήγαγε σημαντικά μεγαλύτερες μειώσεις στο OPUR σε όλα τα μοντέλα και βάθη ανόδου.

Τα ισχυρότερα αποτελέσματα μείωσης επιτεύχθηκαν από μια αφοσιωμένη μετεκπαιδευτική προσέγγιση που επικεντρώνεται συγκεκριμένα στην επιλογή εργαλείων με την ελάχιστη δυνατή ιδιωτικοποίηση. Τα μοντέλα εκπαιδεύτηκαν για να προτιμούν εργαλεία με την ελάχιστη δυνατή ιδιωτικοποίηση όταν αυτά ήταν επαρκή για την εργασία και να αποφεύγουν την ανόδη ανύψωση.

Σύμφωνα με τους συγγραφείς, αυτή η προσέγγιση παρήγαγε μεγαλύτερες μειώσεις στο OPUR, διατηρώντας παράλληλα την απόδοση ολοκλήρωσης εργασιών, υποδεικνύοντας ότι η συμπεριφορά με την ελάχιστη δυνατή ιδιωτικοποίηση μπορεί να απαιτεί στοχευμένη εκπαίδευση αντί να αναδύεται αυτόματα από τη γενική ασφαλή ευθυγράμμιση.

Συμπέρασμα

Για να απαντήσει στο ερώτημα που θέτει ο τίτλος του άρθρου, οι συγγραφείς καταλήγουν στο συμπέρασμα ότι η ενίσχυση οδηγείται από την αβεβαιότητα ικανοτήτων: μετά από προσωρινές αποτυχίες, τα μοντέλα χάνουν την εμπιστοσύνη τους στα εργαλεία χαμηλότερης προνομίου και επιλέγουν ολοένα και περισσότερο ευρύτερα, πιο ευέλικτα εργαλεία που φαίνονται πιο πιθανό να επιτύχουν, ακόμη και όταν οι εναλλακτικές λύσεις χαμηλότερης προνομίου παραμένουν επαρκείς.

Ξανά και ξανά βλέπουμε προβλήματα που είναι ιδιαίτερα για εκπαιδευμένα μοντέλα και τα οποία πρέπει να αντιμετωπιστούν με τριτογενείς μεθόδους, περιορισμούς, μετα-εκπαιδευτική κατάσταση και άλλες επικουρικές προσεγγίσεις, όταν η προτίμηση θα ήταν ότι τέτοια συμπεριφορά θα μπορούσε να διαμορφωθεί μέσα στην αρχιτεκτονική – πιθανότατα μέσω καλύτερης επιμέλειας των δεδομένων, ή της контекουαλποίησης του είδους των ‘γρήγορων απαντήσεων’ σημείων δεδομένων που κυριαρχούν στις συλλογές, και τα οποία μπορεί να κλίνουν τα LLMs προς ασεβή συμπεριφορά.

Πρώτη δημοσίευση Κυριακή, 21 Ιουνίου 2026