Γνώμη

Η τεχνητή νοημοσύνη έρχεται στους υπολογιστές μας — αλλά ποιος ελέγχει τι μπορεί να δει;

Adlin Pertishya
Προσθέστε το Unite.AI στις προτιμώμενες πηγές σας στο Google
Βασικά σημείαΗ τοπική επεξεργασία AI δεν εγγυάται αυτόματα την ιδιωτικότητα ή την ασφάλεια για τους…
Δείτε περισσότερα
  • Η τοπική επεξεργασία AI δεν εγγυάται αυτόματα την ιδιωτικότητα ή την ασφάλεια για τους πράκτορες στη συσκευή.
  • Οι πράκτορες πρέπει να λειτουργούν με πρόσβαση ελάχιστων προνομίων, περιορισμένη σε ό,τι απαιτεί κάθε συγκεκριμένη ροή εργασίας.
  • Οι χρήστες χρειάζονται διαφανή και ανακλητό έλεγχο over το τι μπορούν να βλέπουν και να κάνουν οι πράκτορες.

Οι πράκτορες τεχνητής νοημοσύνης αρχίζουν να ξεφεύγουν από τα παράθυρα συνομιλίας και να ενσωματώνονται στα λειτουργικά συστήματα, τις εφαρμογές και τα αρχεία που χρησιμοποιούν καθημερινά οι άνθρωποι.

Οι νέοι υπολογιστές Windows και το λογισμικό που κυκλοφόρησαν τους τελευταίους μήνες εγκαινιάζουν μια νέα εποχή πολυβηματικών, αυτόνομων ροών εργασίας με τεχνητή νοημοσύνη, τόσο για τους απλούς χρήστες όσο και για τα εταιρικά περιβάλλοντα, και η μετάβαση δεν αποτελεί πλέον απλώς μια τεχνολογική πρόβλεψη.

Οι υπολογιστές Windows της NVIDIA με δυνατότητες RTX υποστηρίζουν την τοπική εκτέλεση πρακτόρων τεχνητής νοημοσύνης, ενώ η Perplexity έχει επεκτείνει τις δυνατότητες των πρακτόρων της σε συμβατούς υπολογιστές Windows, επιτρέποντας ροές εργασίας που περιλαμβάνουν τοπικά αρχεία και συνδεδεμένες εφαρμογές. Παράλληλα, η Microsoft αναπτύσσει μέτρα προστασίας για να ελέγχει τον τρόπο με τον οποίο οι πράκτορες αποκτούν πρόσβαση σε πόρους και αναλαμβάνουν δράση.

Ωστόσο, η μεγαλύτερη αυτονομία συνεπάγεται μεγαλύτερους κινδύνους για την ασφάλεια. Στις 19 Οκτωβρίου, η εκτελεστική αντιπρόεδρος Ασφάλειας της Microsoft, Hayete Gallot, προειδοποίησε ότι οι οργανισμοί πρέπει να κάνουν περισσότερα για να προστατεύσουν τους «εσωτερικούς πράκτορες τεχνητής νοημοσύνης», επισημαίνοντας ότι οι πράκτορες τεχνητής νοημοσύνης διαθέτουν συχνά υπερβολικά εκτεταμένα δικαιώματα και μπορούν να αποκτούν πρόσβαση σε ευαίσθητα δεδομένα, εργαλεία και συστήματα, ενώ λαμβάνουν αποφάσεις στο πλαίσιο κρίσιμων διαδικασιών.

Η στρατηγική ασφάλειας της Microsoft για τα Windows βασίζεται στον περιορισμό, στα περιορισμένα δικαιώματα και στην περιορισμένη εποπτεία, ενώ αυξάνεται η ανησυχία ότι ένα λάθος ενός πράκτορα θα μπορούσε να έχει συνέπειες πέρα από μια απλή λανθασμένη απάντηση. Ο πράκτορας ενδέχεται να αποκαλύψει ευαίσθητες πληροφορίες, να τροποποιήσει κρίσιμα αρχεία ή να προκαλέσει ανεπιθύμητες ενέργειες σε επιχειρηματικές εφαρμογές.

Η τοπική τεχνητή νοημοσύνη δεν είναι αυτομάτως ιδιωτική

Η χρήση πρακτόρων τεχνητής νοημοσύνης σε υπολογιστή μπορεί να συμβάλει στον περιορισμό του όγκου των ευαίσθητων δεδομένων που μεταφέρονται σε υπηρεσίες νέφους, αλλά η τοπική επεξεργασία δεν αποτελεί απόλυτη εγγύηση ασφάλειας.

Ακόμη και ένα μοντέλο που εκτελείται στη συσκευή μπορεί να αποκτήσει πρόσβαση σε υπερβολικά πολλά αρχεία, να έχει ανεπαρκή ασφάλεια ή να συνδέεται με άλλες εφαρμογές με μη ασφαλή τρόπο.

Το πρόβλημα δεν είναι πάντα το μοντέλο τεχνητής νοημοσύνης· συχνά είναι η εταιρική διακυβέρνηση, δήλωσε ο Bayron Quintero, διευθύνων σύμβουλος και συνιδρυτής της iData Global, εταιρείας που ειδικεύεται σε λύσεις τεχνητής νοημοσύνης σε ολόκληρη την αμερικανική ήπειρο.

Οι εταιρείες μπορεί να παρέχουν υπερβολικά μεγάλη ή υπερβολικά περιορισμένη πρόσβαση σε δεδομένα, εφαρμογές και επιχειρηματικές διαδικασίες, δήλωσε στο Unite AI. Οι πράκτορες ενδέχεται να λαμβάνουν δικαιώματα που δεν αντιστοιχούν στα καθήκοντα που αναμένεται να εκτελέσουν.

«Η πρόκληση είναι να διασφαλιστεί ότι ένας πράκτορας λειτουργεί σύμφωνα με την αρχή των ελάχιστων απαιτούμενων δικαιωμάτων, με πρόσβαση μόνο στα δεδομένα, τα συστήματα και τις ενέργειες που χρειάζονται για μια συγκεκριμένη ροή εργασίας», δήλωσε ο Quintero. Αυτό σημαίνει ότι πρέπει να παρέχεται πρόσβαση μόνο στα δεδομένα, τα συστήματα και τις ενέργειες που απαιτούνται για μια συγκεκριμένη ροή εργασίας.

Ως βασικές δικλίδες ασφαλείας ανέφερε τον σαφή καθορισμό της κυριότητας των δεδομένων, τους ελέγχους πρόσβασης βάσει ρόλων και τη συνεχή παρακολούθηση των αλληλεπιδράσεων με εσωτερικά συστήματα και συστήματα τρίτων.

Δεν υπάρχει ασφαλής τοπική τεχνητή νοημοσύνη, τόνισε ο Quintero.

Τα υπερβολικά δικαιώματα, η αδύναμη κρυπτογράφηση, η ανεπαρκής παρακολούθηση και οι μη ασφαλείς διασυνδέσεις μπορούν να κάνουν έναν πράκτορα που εκτελείται στη συσκευή εξίσου επικίνδυνο με έναν πράκτορα που βασίζεται στο νέφος — ή ακόμη πιο επικίνδυνο.

Η ασφάλεια δεν αφορά μόνο το πού εκτελείται το μοντέλο ενός συστήματος· αφορά επίσης τον τρόπο με τον οποίο αυτό έχει ρυθμιστεί και διαχειρίζεται.

Το νέο όριο είναι τα δικαιώματα πρόσβασης

Για τον απλό χρήστη, το ερώτημα είναι αν η πρόσβαση που έχει ένας πράκτορας τεχνητής νοημοσύνης είναι κατάλληλη για την εργασία που του έχει ανατεθεί.

Ένας πράκτορας δεν θα πρέπει να χρειάζεται να σαρώσει ολόκληρο τον δίσκο, αν του ζητείται απλώς να συνοψίσει ένα έγγραφο. Ένα εργαλείο οργάνωσης φωτογραφιών δεν θα πρέπει να διαβάζει αυτομάτως οικονομικά δεδομένα ή να μπορεί να στέλνει μηνύματα. Τα δικαιώματα πρόσβασης πρέπει να είναι αυστηρά περιορισμένα, διαφανή και ανακλητά.

Το μοντέλο λογαριασμών πρακτόρων και χώρων εργασίας της Microsoft αποτελεί ένα βήμα προς τον διαχωρισμό της δραστηριότητας ενός πράκτορα από τη συνεδρία ενός ατόμου. Ωστόσο, οι δικλίδες προστασίας πρέπει να είναι αποτελεσματικές και πέρα από το στάδιο της επίδειξης.

Οι οδηγίες της Microsoft για την ασφάλεια των πρακτόρων στα Windows προβλέπουν εξουσιοδότηση από τον χρήστη, καταγραφή της δραστηριότητας και έναν μηχανισμό που περιορίζει τους πράκτορες στην πρόσβαση που χρειάζονται. Οι εργοδότες και οι προγραμματιστές πρέπει να παρακολουθούν τον τρόπο με τον οποίο αντιδρούν οι πράκτορες σε παραπλανητικές οδηγίες μέσα σε έγγραφα, ιστοτόπους ή μηνύματα.

Κατά τη διάρκεια μιας εξουσιοδοτημένης εργασίας, οι πράκτορες μπορεί να συναντήσουν μη έμπιστο περιεχόμενο. Αν ένας πράκτορας εκλάβει ένα κακόβουλο κείμενο ως εντολή, αυτό θα μπορούσε να αποτελέσει σοβαρό ζήτημα ασφάλειας, καθώς οι πληροφορίες είναι εύκολα προσβάσιμες.

Η ανθρώπινη έγκριση και η πρόσβαση με τα ελάχιστα απαιτούμενα δικαιώματα πρέπει να συνδυάζονται με τον περιορισμό των ενεργειών που αφορούν ευαίσθητες λειτουργίες.

Η ευκολία χρήσης χρειάζεται σαφή όρια

Η αξιολόγηση των υπολογιστών τεχνητής νοημοσύνης δεν θα βασίζεται μόνο στον όγκο της εργασίας που μπορούν να αυτοματοποιήσουν οι πράκτορες, αλλά και στην αξιοπιστία του χρήστη όταν μοιράζεται προσωπικά και επαγγελματικά δεδομένα.

Παρότι η τοπική επεξεργασία μπορεί να ενισχύσει την ταχύτητα και να περιορίσει την έκθεση ορισμένων δεδομένων, η τεχνητή νοημοσύνη με δυνατότητες αυτόνομης δράσης δεν καταργεί την ανάγκη για δικαιώματα πρόσβασης και εποπτεία.

Η αρχή πρέπει να είναι απλή: οι πράκτορες πρέπει να έχουν πρόσβαση μόνο σε ό,τι είναι απαραίτητο για την εργασία τους, ενώ οι χρήστες πρέπει να μπορούν να κατανοούν, να παρακολουθούν και να εμποδίζουν όσα κάνει ένας πράκτορας.

Καθώς οι υπολογιστές αποκτούν όλο και μεγαλύτερη ικανότητα να ενεργούν για λογαριασμό μας, ο έλεγχος δεν πρέπει να αποτελεί εκ των υστέρων σκέψη. Πρέπει να ενσωματώνεται στον σχεδιασμό.

Η Adlin Pertishya είναι δημοσιογράφος τεχνολογίας και επιχειρήσεων που έχει εργαστεί για το Finance Outlook India, το Silicon India, το StartupBeat και άλλα.