Ηγέτες σκέψης

Χρήση παραγωγικής AI: Ανάλυση των επιπτώσεων των εργαλείων της στην κυβερνοασφάλεια

Chris Hetner
Προσθέστε το Unite.AI στις προτιμώμενες πηγές σας στο Google
Βασικά σημείαΟι επιχειρήσεις πρέπει επειγόντως να δημιουργήσουν εσωτερικές πολιτικές για τη χρήση…
Δείτε περισσότερα
  • Οι επιχειρήσεις πρέπει επειγόντως να δημιουργήσουν εσωτερικές πολιτικές για τη χρήση της γενετικής τεχνητής νοημοσύνης, καθώς ο κανονισμός υστερεί έναντι της υιοθέτησής της.
  • Οι CISO θα πρέπει να επικεντρωθούν στην ταξινόμηση δεδομένων παρά σε συγκεκριμένα εργαλεία για τη διαχείριση των κινδύνων ασφάλειας της ΤΝ.
  • Η «πεινασμένη για δεδομένα» φύση της γενετικής ΤΝ δημιουργεί εγγενείς κινδύνους αποκάλυψης ευαίσθητων επιχειρηματικών πληροφοριών μέσω των προτροπών.

Είναι δίκαιο να πούμε ότι η παραγωγική AI έχει τώρα κερδίσει την προσοχή κάθε διοικητικού συμβουλίου και ηγετικού στελέχους στην επιχείρηση. Κάποτε επρόκειτο για μια περιθωριακή τεχνολογία που ήταν δύσκολο να χρησιμοποιήσει κανείς, πόσο μάλλον να την κατακτήσει, αλλά, οι πόρτες της παραγωγικής AI έχουν τώρα ανοίξει ευρέως χάρη σε εφαρμογές όπως το ChatGPT ή το DALL-E. Τώρα βλέπουμε μια ολοκληρωμένη υιοθέτηση της παραγωγικής AI σε όλους τους κλάδους και τις ηλικιακές ομάδες, καθώς οι εργαζόμενοι ανακαλύπτουν τρόπους να εκμεταλλευτούν την τεχνολογία προς όφελός τους.

Μια πρόσφατη έρευνα έδειξε ότι το 29% των Gen Z, το 28% των Gen X και το 27% των Millennial απαντώντων χρησιμοποιούν εργαλεία παραγωγικής AI ως μέρος της καθημερινής εργασίας τους. Το 2022, η υιοθέτηση μεγάλης κλίμακας της παραγωγικής AI ήταν στο 23% και αυτό το ποσοστό αναμένεται να διπλασιαστεί στο 46% μέχρι το 2025.

Η παραγωγική AI είναι μια νέα αλλά ταχέως εξελισσόμενη τεχνολογία που χρησιμοποιεί εκπαιδευμένα μοντέλα για να παράγει πρωτότυπο περιεχόμενο σε διάφορες μορφές, από γραπτό κείμενο και εικόνες, μέχρι βίντεο, μουσική και ακόμη και κώδικα λογισμικού. Χρησιμοποιώντας μεγάλα γλωσσικά μοντέλα (LLM) και τεράστιες βάσεις δεδομένων, η τεχνολογία μπορεί να δημιουργήσει μοναδικό περιεχόμενο που είναι σχεδόν αδύνατο να διακριθεί από την ανθρώπινη εργασία και σε πολλές περιπτώσεις πιο ακριβές και ελκυστικό.

Ωστόσο, ενώ οι επιχειρήσεις χρησιμοποιούν όλο και περισσότερο τη παραγωγική AI για να υποστηρίξουν τις καθημερινές τους λειτουργίες, και οι εργαζόμενοι την υιοθετούν γρήγορα, ο ρυθμός της υιοθέτησης και η έλλειψη ρυθμίσεων έχουν δημιουργήσει σημαντικές ανησυχίες για την κυβερνοασφάλεια και την κανονιστική συμμόρφωση.

Σύμφωνα με μια έρευνα του γενικού πληθυσμού, περισσότερο από το 80% των ανθρώπων είναι ανήσυχοι για τους κινδύνους ασφαλείας που προκαλούνται από το ChatGPT και τη παραγωγική AI, και το 52% των ερωτηθέντων θέλουν την ανάπτυξη της παραγωγικής AI να σταματήσει ώστε να προλάβουν να προσαρμοστούν οι κανονισμοί. Αυτή η ευρύτερη στάση έχει επίσης επαναληφθεί από τις ίδιες τις επιχειρήσεις, με 65% των ανώτερων ηγετικών στελεχών της τεχνολογίας να μην επιτρέπουν την άμεση πρόσβαση σε εργαλεία παραγωγικής AI λόγω προβλημάτων ασφαλείας.

Η παραγωγική AI είναι ακόμη ένα άγνωστο άγνωστο

Τα εργαλεία παραγωγικής AI τρέφονται με δεδομένα. Μοντέλα, όπως αυτά που χρησιμοποιούνται από το ChatGPT και το DALL-E, εκπαιδεύονται σε εξωτερικά ή ελεύθερα διαθέσιμα δεδομένα στο διαδίκτυο, αλλά για να αξιοποιήσουν πλήρως αυτά τα εργαλεία, οι χρήστες πρέπει να μοιράζονται πολύ συγκεκριμένα δεδομένα. Συχνά, όταν δίνουν οδηγίες σε εργαλεία όπως το ChatGPT, οι χρήστες μοιράζονται ευαίσθητες επιχειρηματικές πληροφορίες για να λάβουν ακριβή και ολοκληρωμένα αποτελέσματα. Αυτό δημιουργεί πολλά άγνωστα για τις επιχειρήσεις. Ο κίνδυνος μη εξουσιοδοτημένης πρόσβασης ή ακούσιας αποκάλυψης ευαίσθητων πληροφοριών είναι εγγενής όταν πρόκειται για τη χρήση ελεύθερα διαθέσιμων εργαλείων παραγωγικής AI.

Αυτό το πρόβλημα καθ’ εαυτό δεν είναι απαραίτητα κακό. Το ζήτημα είναι ότι αυτοί οι κίνδυνοι δεν έχουν ακόμη εξερευνηθεί σοβαρά. Μέχρι σήμερα, δεν έχει υπάρξει πραγματική ανάλυση επιπτώσεων της χρήσης ευρέως διαθέσιμων εργαλείων παραγωγικής AI, και οι παγκόσμια νομικά και κανονιστικά πλαίσια για τη χρήση της παραγωγικής AI είναι ακόμη μακριά από την ωριμότητα.

Η ρύθμιση είναι ακόμη σε εξέλιξη

Οι ρυθμιστές αξιολογούν ήδη τα εργαλεία παραγωγικής AI σε σχέση με την ιδιωτικότητα, την ασφάλεια των δεδομένων και την ακεραιότητα των δεδομένων που παράγουν. Ωστόσο, όπως συχνά συμβαίνει με την εξελισσόμενη τεχνολογία, το ρυθμιστικό πλαίσιο για να υποστηρίξει και να κυβερνήσει τη χρήση της είναι πίσω από πολλά βήματα. Ενώ η τεχνολογία χρησιμοποιείται από εταιρείες και εργαζόμενους παντού, τα κανονιστικά πλαίσια είναι ακόμη πολύ στην αρχή.

Αυτό δημιουργεί έναν σαφή και άμεσο κίνδυνο για τις επιχειρήσεις, τον οποίο προς το παρόν δεν λαμβάνουν όσο σοβαρά θα έπρεπε. Τα διοικητικά στελέχη είναι φυσικά ενδιαφερόμενοι για το πώς αυτές οι πλατφόρμες θα εισαγάγουν ουσιαστικά επιχειρηματικά οφέλη, όπως ευκαιρίες για αυτοματοποίηση και ανάπτυξη, αλλά οι διαχειριστές κινδύνων ρωτούν πώς θα ρυθμιστεί αυτή η τεχνολογία, ποίες θα είναι οι νομικές επιπτώσεις και πώς θα εκτεθεί ή θα αποκαλυφθεί τα εταιρικά δεδομένα. Πολλά από αυτά τα εργαλεία είναι ελεύθερα διαθέσιμα σε κάθε χρήστη με έναν browser και μια σύνδεση στο διαδίκτυο, οπότε ενώ περιμένουν τη ρύθμιση να ανταποκριθεί, οι επιχειρήσεις πρέπει να αρχίσουν να σκέφτονται πολύ προσεκτικά για τους εσωτερικούς κανόνες τους γύρω από τη χρήση της παραγωγικής AI.

Ο ρόλος των CISOs στη διακυβέρνηση της παραγωγικής AI

Με τα κανονιστικά πλαίσια ακόμη να λείπουν, οι Chief Information Security Officers (CISOs) πρέπει να αναλάβουν και να παίξουν έναν κρίσιμο ρόλο στη διαχείριση της χρήσης της παραγωγικής AI μέσα στους οργανισμούς τους. Πρέπει να κατανοήσουν ποιος χρησιμοποιεί την τεχνολογία και για ποιο σκοπό, πώς να προστατεύσουν τις εταιρικές πληροφορίες όταν οι εργαζόμενοι αλληλεπιδρούν με εργαλεία παραγωγικής AI, πώς να διαχειριστούν τους κινδύνους της υποκείμενης τεχνολογίας και πώς να ισορροπήσουν τους συμβιβασμούς σε θέματα ασφάλειας με την αξία που προσφέρει η τεχνολογία.

Αυτό δεν είναι ένα εύκολο έργο. Πρέπει να διεξαχθούν λεπτομερείς αναλύσεις κινδύνων για να καθορίσουν τόσο τα αρνητικά όσο και τα θετικά αποτελέσματα από την ανάπτυξη της τεχνολογίας σε επίσημη ιδιότητα και από την άδεια στους εργαζόμενους να χρησιμοποιούν ελεύθερα διαθέσιμα εργαλεία χωρίς επιτήρηση. Λόγω της εύκολης πρόσβασης στη παραγωγική AI, οι CISOs πρέπει να σκεφτούν προσεκτικά για την εταιρική πολιτική που περιβάλλει τη χρήση τους. Πρέπει οι εργαζόμενοι να είναι ελεύθεροι να χρησιμοποιούν εργαλεία όπως το ChatGPT ή το DALL-E για να κάνουν τη δουλειά τους πιο εύκολη; Ή πρέπει η πρόσβαση σε αυτά τα εργαλεία να περιοριστεί ή να μετριαστεί με κάποιον τρόπο, με εσωτερικές οδηγίες και πλαίσια για το πώς πρέπει να χρησιμοποιηθούν; Ένα σαφές πρόβλημα είναι ότι ακόμη και αν δημιουργηθούν εσωτερικοί οδηγοί χρήσης, λόγω του ρυθμού με τον οποίο εξελίσσεται η τεχνολογία, μπορεί να είναι ξεπερασμένοι μέχρι να ολοκληρωθούν.

Ένας τρόπος για να αντιμετωπίσουμε αυτό το πρόβλημα μπορεί να είναι να μεταφερθεί η προσοχή μακριά από τα εργαλεία παραγωγικής AI και να εστιάσει στην ταξινόμηση και προστασία των δεδομένων. Η ταξινόμηση των δεδομένων ήταν πάντα ένα κρίσιμο σημείο για την προστασία των δεδομένων από την παραβίαση ή την απώλεια, και αυτό ισχύει και σε αυτήν την περίπτωση. Περιλαμβάνει την ανάθεση ενός επιπέδου ευαισθησίας στα δεδομένα, το οποίο καθορίζει πώς πρέπει να αντιμετωπιστούν. Πρέπει να κρυπτογραφηθούν; Πρέπει να αποκλειστούν για να περιορίσουν; Πρέπει να ειδοποιηθούν; Ποιοι πρέπει να έχουν πρόσβαση σε αυτά και σε ποιο σημείο επιτρέπεται να μοιραστούν; Εστιάζοντας στη ροή των δεδομένων, αντί για το ίδιο το εργαλείο, οι CISOs και οι αξιωματούχοι ασφαλείας θα έχουν μια πολύ μεγαλύτερη ευκαιρία να μετριάσουν κάποιους από τους κινδύνους που αναφέρθηκαν.

Όπως και με όλες τις εξελισσόμενες τεχνολογίες, η παραγωγική AI είναι και ένα πλεονέκτημα και ένα ρίσκο για τις επιχειρήσεις. Ενώ προσφέρει ενθουσιαστικές νέες ικανότητες, όπως την αυτοματοποίηση και την δημιουργική διαμόρφωση ιδεών, εισάγει επίσης σύνθετα προβλήματα γύρω από την ασφάλεια των δεδομένων και την προστασία της πνευματικής ιδιοκτησίας. Ενώ οι κανονιστικά και νομικά πλαίσια εξακολουθούν να διαμορφώνονται, οι επιχειρήσεις πρέπει να περπατήσουν τη γραμμή μεταξύ ευκαιρίας και κινδύνου, εφαρμόζοντας τις δικές τους πολιτικές ελέγχου που ανταποκρίνονται στην συνολική τους στάση απέναντι στην ασφάλεια. Η παραγωγική AI θα οδηγήσει τις επιχειρήσεις μπροστά, αλλά πρέπει να φροντίσουμε να κρατήσουμε ένα χέρι στο τιμόνι.

Chris Hetner

Με περισσότερα από 25 χρόνια εμπειρίας ως ειδικός κυβερνοασφάλειας, ο Chris Hetner είναι γνωστός για την ανάδειξη των κυβερνοκινδύνων σε ζήτημα της ανώτατης διοίκησης και των διοικητικών συμβουλίων, με σκοπό την προστασία κλάδων, υποδομών και οικονομιών παγκοσμίως.

Διετέλεσε ανώτερος σύμβουλος κυβερνοασφάλειας του προέδρου της Επιτροπής Κεφαλαιαγοράς των ΗΠΑ (SEC) και επικεφαλής κυβερνοασφάλειας στο Γραφείο Επιθεωρήσεων και Ελέγχων Συμμόρφωσης της SEC.

Σήμερα προεδρεύει του Συμβουλευτικού Συμβουλίου Ασφάλειας Πελατών της Panzura, το οποίο παρέχει εκπαίδευση και ενημέρωση σχετικά με την ανθεκτικότητα των δεδομένων. Αποστολή του είναι η ευθυγράμμιση των επιχειρηματικών, λειτουργικών και οικονομικών πτυχών με τη διακυβέρνηση των κυβερνοκινδύνων. Η Panzura είναι κορυφαία εταιρεία διαχείρισης δεδομένων σε υβριδικά περιβάλλοντα πολλαπλών νεφών.

Είναι επίσης ειδικός σύμβουλος κυβερνοκινδύνων στην National Association of Corporate Directors, επικεφαλής κυβερνοασφάλειας και ιδιωτικότητας στο Nasdaq Insight Council και μέλος του διοικητικού συμβουλίου της TCIG.