Ηγέτες σκέψης

Λάβετε υπόψη τους κινδύνους πριν χρησιμοποιήσετε το Bard με επεκτάσεις AI

Tal Zamir
Προσθέστε το Unite.AI στις προτιμώμενες πηγές σας στο Google
Βασικά σημείαΤο προσωπικό της Google μπορεί να εξετάζει συνομιλίες του Bard που περιέχουν ιδιωτικά…
Δείτε περισσότερα
  • Το προσωπικό της Google μπορεί να εξετάζει συνομιλίες του Bard που περιέχουν ιδιωτικά δεδομένα χρηστών.
  • Ο κοινός χρήσιμος ενός Bard συνομιλίας μπορεί να την εκθέσει στα δημόσια αποτελέσματα αναζήτησης της Google.
  • Οι επεκτάσεις προγραμμάτων περιήγησης με στοιχεία ελέγχου DLP μπορούν να μετριάσουν τους κινδύνους κλοπής δεδομένων από τεχνητή νοημοσύνη.

Η Google ανακοίνωσε πρόσφατα την πλήρη εκκίνηση των Επεκτάσεων Bard, ενσωματώνοντας το εργαλείο παραγωγικής τεχνητής νοημοσύνης (GenAI) στις άλλες υπηρεσίες της. Το Bard μπορεί τώρα να χρησιμοποιήσει τα προσωπικά δεδομένα των χρηστών για την εκτέλεση πολλών εργασιών – οργάνωση email, κράτηση πτήσεων, σχεδιασμός ταξιδιών, σύνταξη απαντήσεων μηνυμάτων και πολλά άλλα.

Με τις υπηρεσίες της Google να είναι ήδη βαθιά συνδεδεμένες με την καθημερινή μας ζωή, αυτή η ενσωμάτωση σηματοδοτεί ένα πραγματικό βήμα προς τα εμπρός για τις πρακτικές ημερήσιες εφαρμογές της GenAI, δημιουργώντας πιο αποτελεσματικούς και παραγωγικούς τρόπους για την αντιμετώπιση προσωπικών εργασιών και ροών εργασίας. Κατά συνέπεια, καθώς η Google κυκλοφορεί περισσότερα βολικά εργαλεία AI, άλλες web-βασισμένες λειτουργίες AI αναπτύσσονται για να ικανοποιήσουν την ζήτηση των χρηστών που αναζητούν επεκτάσεις παραγωγικότητας του προγράμματος περιήγησης.

Ωστόσο, οι χρήστες πρέπει να είναι προσεκτικοί και υπεύθυνοι. Όσο χρήσιμες και παραγωγικές κι αν είναι οι Επεκτάσεις Bard και τα παρόμοια εργαλεία, ανοίγουν νέες πόρτες σε πιθανές ευπάθειες ασφάλειας που μπορούν να θέσουν σε κίνδυνο τα προσωπικά δεδομένα των χρηστών, μεταξύ άλλων ακόμη ανεξακρίβωτων κινδύνων. Οι χρήστες που επιθυμούν να χρησιμοποιήσουν το Bard ή άλλα εργαλεία παραγωγικότητας GenAI θα πρέπει να μάθουν τις καλύτερες πρακτικές και να αναζητήσουν ολοκληρωμένες λύσεις ασφάλειας πριν παραδώσουν τα ευαίσθητα δεδομένα τους.

Επανεξέταση Προσωπικών Δεδομένων

Η Google δηλώνει ρητά ότι το προσωπικό της εταιρείας μπορεί να εξετάσει τις συνομιλίες των χρηστών με το Bard – οι οποίες μπορεί να περιέχουν ιδιωτικές πληροφορίες, από τιμολόγια μέχρι λεπτομέρειες τραπεζικών λογαριασμών και σημειώσεις αγάπης. Οι χρήστες προειδοποιούνται ανάλογα να μην εισάγουν εμπιστευτικές πληροφορίες ή οποιαδήποτε δεδομένα που δεν θα ήθελαν να δουν ή να χρησιμοποιήσουν οι υπάλληλοι της Google για να καθοδηγήσουν την ανάπτυξη προϊόντων, υπηρεσιών και τεχνολογιών μηχανικής μάθησης.

Η Google και άλλοι πάροχοι εργαλείων GenAI είναι επίσης πιθανό να χρησιμοποιούν τα προσωπικά δεδομένα των χρηστών για την επανεκπαίδευση των μοντέλων μηχανικής μάθησης — μια αναγκαία πτυχή της βελτίωσης της GenAI. Η δύναμη της AI βρίσκεται στην ικανότητά της να μαθαίνει μόνη της και να αξιοποιεί νέες πληροφορίες. Όταν όμως αυτές προέρχονται από χρήστες που εμπιστεύτηκαν τα προσωπικά τους δεδομένα σε μια επέκταση GenAI, υπάρχει κίνδυνος πληροφορίες όπως κωδικοί πρόσβασης, τραπεζικά στοιχεία ή στοιχεία επικοινωνίας να ενσωματωθούν στις δημόσια διαθέσιμες υπηρεσίες του Bard.

Ακαθόριστες ανησυχίες για την ασφάλεια

Καθώς το Bard γίνεται ένα πιο ευρέως ενσωματωμένο εργαλείο μέσα στη Google, οι εμπειρογνώμονες και οι χρήστες εργάζονται για να κατανοήσουν το εύρος της λειτουργικότητάς του. Όμως, όπως κάθε πρωτοποριακός παίκτης στο πεδίο της AI, η Google συνεχίζει να κυκλοφορεί προϊόντα χωρίς να γνωρίζει ακριβώς πώς θα χρησιμοποιηθούν τα δεδομένα των χρηστών. Για παράδειγμα, αποκαλύφθηκε πρόσφατα ότι αν μοιραστείτε μια συνομιλία Bard με έναν φίλο μέσω του κουμπιού Μοιρασμός, ολόκληρη η συνομιλία μπορεί να εμφανιστεί στα τυπικά αποτελέσματα αναζήτησης της Google για οποιονδήποτε να δει.

Αν και αποτελεί μια ελκυστική λύση για την βελτίωση των ροών εργασίας και της αποδοτικότητας, η χορήγηση άδειας στο Bard ή σε άλλα εργαλεία AI για την εκτέλεση χρήσιμων καθημερινών εργασιών μπορεί να οδηγήσει σε μη επιθυμητές συνέπειες με τη μορφή παραισθήσεων της AI — ψευδών ή ανακριβών αποτελεσμάτων που είναι γνωστό ότι παράγει η GenAI.

Για τους χρήστες της Google, αυτό θα μπορούσε να σημαίνει κράτηση λάθος πτήσης, λανθασμένη πληρωμή τιμολογίου ή κοινοποίηση εγγράφων σε λάθος άτομο. Η έκθεση προσωπικών δεδομένων σε λάθος παραλήπτη ή κακόβουλο δράστη, ή η αποστολή λάθος δεδομένων στον σωστό παραλήπτη, μπορεί να προκαλέσει ανεπιθύμητες συνέπειες: από κλοπή ταυτότητας και απώλεια της ψηφιακής ιδιωτικότητας μέχρι οικονομικές απώλειες ή αποκάλυψη αλληλογραφίας που προκαλεί αμηχανία.

Ενίσχυση της ασφάλειας

Για τον μέσο χρήστη AI, η καλύτερη πρακτική είναι απλά να μη μοιράζεται καμία προσωπική πληροφορία με βοηθούς AI των οποίων η συμπεριφορά παραμένει απρόβλεπτη. Όμως, αυτό μόνο δεν εγγυάται πλήρη ασφάλεια.

Η μετάβαση σε εφαρμογές SaaS και web-βασισμένες εφαρμογές έχει ήδη κάνει το πρόγραμμα περιήγησης πρωταρχικό στόχο για επιθέσεις. Και καθώς οι άνθρωποι αρχίζουν να υιοθετούν περισσότερα εργαλεία AI που βασίζονται στον ιστό, το παράθυρο ευκαιρίας για κλοπή ευαίσθητων δεδομένων ανοίγεται λίγο περισσότερο. Όσο περισσότερες επεκτάσεις του προγράμματος περιήγησης προσπαθούν να εκμεταλλευτούν την επιτυχία της GenAI – προσελκύοντας τους χρήστες να τις εγκαταστήσουν με νέες και αποτελεσματικές λειτουργίες – οι άνθρωποι πρέπει να είναι προσεκτικοί στο γεγονός ότι πολλές από αυτές τις επεκτάσεις θα καταλήξουν να κλέβουν πληροφορίες ή τα κλειδιά API OpenAI του χρήστη, στην περίπτωση εργαλείων που σχετίζονται με το ChatGPT.

Ευτυχώς, υπάρχουν ήδη λύσεις ασφάλειας για τις επεκτάσεις του προγράμματος περιήγησης που αποτρέπουν την κλοπή δεδομένων. Εγκαθιστώντας μια επέκταση με ελέγχους πρόληψης απώλειας δεδομένων (DLP), οι χρήστες μπορούν να μειώσουν τον κίνδυνο άλλες επεκτάσεις, είτε βασίζονται στην AI είτε όχι, να καταχραστούν ή να κοινοποιήσουν προσωπικά δεδομένα. Αυτές οι επεκτάσεις ασφάλειας μπορούν να ελέγχουν τη δραστηριότητα του προγράμματος περιήγησης και να επιβάλλουν πολιτικές ασφάλειας, αποτρέποντας την απόσπαση ευαίσθητων πληροφοριών από εφαρμογές ιστού.

Φύλαξη του Bard

Ενώ το Bard και παρόμοιες επεκτάσεις υπόσχονται βελτιωμένη παραγωγικότητα και ευκολία, φέρουν σημαντικούς κινδύνους κυβερνοασφάλειας. Όποτε εμπλέκονται προσωπικά δεδομένα, υπάρχουν πάντα υποκείμενοι κίνδυνοι ασφάλειας των οποίων οι χρήστες πρέπει να είναι ενήμεροι – ακόμη περισσότερο στα νέα, ακόμη ανεξερεύνητα νερά της παραγωγικής AI.

Καθώς οι χρήστες επιτρέπουν στο Bard και άλλα εργαλεία AI και web-βασισμένα να ενεργούν ανεξάρτητα με ευαίσθητα προσωπικά δεδομένα, πιο σοβαρές επιπτώσεις είναι σίγουρα σε εξέλιξη για τους ανυποψίαστους χρήστες που αφήνουν τους εαυτούς τους ευάλωτους χωρίς επεκτάσεις ασφαλείας του προγράμματος περιήγησης ή ελέγχους DLP. Άλλωστε, μια αύξηση της παραγωγικότητας θα είναι πολύ λιγότερο παραγωγική εάν αυξήσει την πιθανότητα έκθεσης πληροφοριών, και τα άτομα πρέπει να θέσουν σε λειτουργία προστατευτικά μέτρα για την AI πριν τα δεδομένα υποστούν κακή διαχείριση εις βάρος τους.

Ο Tal είναι διευθυντής τεχνολογίας στη Perception Point. Πρώην ιδρυτής και CTO της Hysolate, ο Tal Zamir είναι ηγετικό στέλεχος με 20 χρόνια εμπειρίας στον κλάδο του λογισμικού και αποδεδειγμένη πορεία στην επίλυση επειγουσών επιχειρηματικών προκλήσεων, επανεξετάζοντας τον τρόπο με τον οποίο λειτουργεί η τεχνολογία.

Έχει πρωτοπορήσει στην ανάπτυξη πολλών καινοτόμων προϊόντων κυβερνοασφάλειας και εικονικοποίησης. Κατά τη θητεία του στο γραφείο του CTO της VMware, ο Tal προώθησε την ανάπτυξη προϊόντων υπολογιστικής επόμενης γενιάς για τελικούς χρήστες.