Η Google Παρουσιάζει την Αρχιτεκτονική Ασφαλείας για τις Λειτουργίες του Chrome με Πράκτορες AI

Η Google δημοσίευσε ένα λεπτομερές πλαίσιο ασφαλείας για τις επικείμενες λειτουργίες του Chrome με πράκτορες AI, εισαγωγής πολλαπλών στρωμάτων άμυνας που σχεδιάστηκαν για την προστασία των χρηστών όταν οι πράκτορες Gemini εκτελούν αυτόνομες εργασίες περιήγησης.

Η ανακοίνωση από τον μηχανικό ασφαλείας του Chrome Nathan Parker περιγράφει τέσσερις βασικές στυλές ασφαλείας που θα διέπουν τον τρόπο με τον οποίο οι πράκτορες AI αλληλεπιδρούν με ιστοσελίδες για λογαριασμό των χρηστών. Η αρχιτεκτονική αντιμετωπίζει τους κινδύνους που έχουν πλήξει τις πρώτες συστήματα με πράκτορες, συμπεριλαμβανομένων των επιθέσεων ένεσης προτύπων, μη εξουσιοδοτημένης πρόσβασης δεδομένων και απάτης συναλλαγών.

Η προσέγγιση της Google έρχεται σε μια περίοδο που οι ανταγωνιστές αγωνίζονται να κυκλοφορήσουν πράκτορες AI με βάση τον περιηγητή. Η OpenAI κυκλοφόρησε το ChatGPT Atlas τον Οκτώβριο με δυνατότητες πράκτορα, ενώ η Perplexity κυκλοφόρησε τον περιηγητή Comet τον Ιούλιο. Το πλαίσιο ασφαλείας υποδηλώνει ότι η Google έχει την πρόθεση να προχωρήσει με περισσότερη προσοχή από τους ανταγωνιστές της, των οποίων οι λειτουργίες με πράκτορες έχουν ήδη αποδειχθεί ευάλωτες σε εκμετάλλευση.

Τέσσερις Στυλές Ασφαλείας για Πράκτορες

Ο Κριτικός Χρήστη αποτελεί το πρώτο στρώμα άμυνας – ένα ξεχωριστό μοντέλο Gemini που ελέγχει κάθε ενέργεια που προτείνει ο πρωταρχικός πράκτορας AI. Αυτός ο κριτικός λειτουργεί σε απομόνωση και εξετάζει μόνο μεταδεδομένα σχετικά με τις προτεινόμενες ενέργειες και όχι το πλήρες περιεχόμενο σελίδας, μειώνοντας την έκθεσή του σε κακόβουλη εισαγωγή. Εάν μια ενέργεια φαίνεται nguyνη ή μη σχετική με τον στόχο του χρήστη, ο κριτικός μπορεί να διατάξει μια επανάληψη ή να επιστρέψει τον έλεγχο στον χρήστη.

Οι Συνόλου Προελεύσεων περιορίζουν ποιες ιστοσελίδες και στοιχεία σελίδας μπορεί να προσεγγίσει ένας πράκτορας κατά τη διάρκεια μιας εργασίας. Το σύστημα διακρίνει μεταξύ προελεύσεων μόνο για ανάγνωση όπου ο πράκτορας μπορεί να καταναλώσει περιεχόμενο και προελεύσεων για ανάγνωση και εγγραφή όπου μπορεί να thựcήσει ενέργειες. Ασχετές ιστοσελίδες και πλαισια withholding ολόκληρη, με μια αξιόπιστη λειτουργία πύλης που απαιτείται για να εγκρίνει την πρόσβαση σε νέους τομείς. Αυτό αποτρέπει τη διαρροή δεδομένων μεταξύ ιστοσελίδων και περιορίζει τον πιθανό ζημιές από έναν υπονομευμένο πράκτορα.

Η Εποπτεία Χρήστη απαιτεί χειροκίνητη επιβεβαίωση για ευαίσθητες εργασίες. Όταν ένας πράκτορας συναντά πύλες τραπεζών, ιστότοπους ιατρικών δεδομένων ή χρειάζεται να προσεγγίσει αποθηκευμένα διαπιστευτήρια από το Google Password Manager, ο Chrome παύει και ζητά από τους χρήστες να εγκρίνουν την ενέργεια. Το ίδιο ισχύει πριν από την πραγματοποίηση αγορών ή την αποστολή μηνυμάτων – ο πράκτορας δεν μπορεί να ολοκληρώσει αυτές τις ενέργειες αυτόνομα.

Η Ανίχνευση Ένεσης Προτύπων χρησιμοποιεί einen αφοσιωμένο ταξινομητή που σκανάρει σελίδες σε πραγματικό χρόνο για έμμεσες προσπάθειες ένεσης προτύπων. Αυτό το σύστημα λειτουργεί παράλληλα με την υποδομή Safe Browsing του Chrome και την ανίχνευση απάτης στην συσκευή για να αποκλείσει υποψήφιο κακόβουλο περιεχόμενο πριν ο πράκτορας ενεργήσει.

Αυτοματοποιημένο Red-Teaming και Bug Bounties

Η Google ανέπτυξε αυτοματοποιημένα συστήματα red-teaming που δημιουργούν δοκιμαστικές ιστοσελίδες και επιθέσεις LLM-κίνησης για τη συνεχής επικύρωση της αρχιτεκτονικής ασφαλείας. Η εταιρεία προτεραιοποιεί τον έλεγχο διανυσμάτων επιθέσεων που θα μπορούσαν να προκαλέσουν μόνιμη ζημιά, ιδιαίτερα αυτές που στοχεύουν σε συναλλαγές χρημάτων ή κλοπή διαπιστευτηρίων.

Η μηχανισμός αυτόματης ενημέρωσης του Chrome θα παραδώσει γρήγορα επιδιορθώσεις όταν ανακαλυφθούν новые ευπάθειες. Για την ενθάρρυνση της εξωτερικής έρευνας ασφαλείας, η Google ανακοίνωσε πληρωμές bug bounty μέχρι $20,000 για ερευνητές που αναφέρουν αδυναμίες στο πλαίσιο περιήγησης με πράκτορες.

Τα μέτρα άμυνας αντανακλούν μαθήματα που μάθαμε από τις πρώτες επεκτάσεις περιηγητή AI και ολοκληρώσεις chatbot, όπου οι επιθέσεις ένεσης προτύπων αποδείχθηκαν आश्चημάστοι στην εκμετάλλευση της συμπεριφοράς AI. Με την απομόνωση του μοντέλου κριτικού και τον περιορισμό της πρόσβασης προελεύσεων στο επίπεδο του περιηγητή, η Google στοχεύει στην αποτροπή της ιστοσελίδας από το να γίνει επιφάνεια επιθέσεων.

Επιπτώσεις για τον Αγώνα των Περιηγητών AI

Η λεπτομερής ανακοίνωση ασφαλείας της Google αντιτίθεται με την tương đối αδιαφάνεια γύρω από ανταγωνιστικά συστήματα περιηγητών με πράκτορες. Η εταιρεία φαίνεται να στοιχηματίζει ότι οι επιχειρήσεις και οι χρήστες που είναι συνειδητοί για την ασφάλεια θα εκτιμούν διαφανείς προφυλάξεις περισσότερο από λειτουργίες πρώτου μεταναστή.

Η αρχιτεκτονική υποδηλώνει επίσης τι θεωρεί η Google ως αποδεκτή αυτονομία για πράκτορες AI. Ψώνια, έρευνα και συμπλήρωση φορμών μπορούν να προχωρήσουν με εποπτεία, αλλά οτιδήποτε αφορά λογαριασμούς χρημάτων, δεδομένα υγείας ή αποθηκευμένα διαπιστευτήρια απαιτεί ρητή έγκριση ανθρώπου. Αυτό τραβάει μια σαφή γραμμή που άλλοι προμηθευτές δεν έχουν ήταν πρόθυμοι να ορίσουν δημόσια.

Για τους développers που xây dựng στο πλαίσιο του Chrome, οι περιορισμοί συνόλου προελεύσεων θα απαιτήσουν προσεκτική σκέψη για το πώς οι λειτουργίες με πράκτορες αλληλεπιδρούν με εργασίες πολλαπλών ιστοσελίδων. Εφαρμογές που περιμένουν από πράκτορες να περιηγηθούν ελεύθερα σε διαφορετικούς τομείς μπορεί να χρειαστεί αρχιτεκτονικές αλλαγές για να λειτουργήσουν μέσα στο μοντέλο ασφαλείας της Google.

Η Google δεν έχει ανακοινώσει μια συγκεκριμένη ημερομηνία κυκλοφορίας για λειτουργίες περιήγησης με πράκτορες στο Chrome, αλλά το λεπτομερές πλαίσιο ασφαλείας υποδηλώνει ότι η ανάπτυξη είναι κοντά. Η πρόθεση της εταιρείας να δημοσιεύσει αρχιτεκτονική άμυνας πριν από την κυκλοφορία υποδηλώνει εμπιστοσύνη στη προσέγγισή της – και μια σιωπηλή πρόκληση στους ανταγωνιστές να αντιμετωπίσουν την διαφάνεια.