Ηγέτες σκέψης

Πώς να Αντιμετωπίσουμε τις Προκλήσεις Ασφαλείας Δικτύου που Σχετίζονται με τον Ενεργητικό AI

Anirban Sengupta
Προσθέστε το Unite.AI στις προτιμώμενες πηγές σας στο Google
Βασικά σημείαΗ αυτόνομη συλλογή δεδομένων της ενεργητικής ΤΝ σε όλες τις πλατφόρμες νέφους και…
Δείτε περισσότερα
  • Η αυτόνομη συλλογή δεδομένων της ενεργητικής ΤΝ σε όλες τις πλατφόρμες νέφους και περιφερειακές υποδομές διευρύνει μαζικά την επιφάνεια επίθεσης του δικτύου.
  • Η δυναμική της μάθηση δυσχεραίνει τις παραδοσιακές επιθεωρήσεις ασφαλείας, αποκρύπτοντας τα ίχνη πρόσβασης στα δεδομένα και τις διαδικασίες λήψης αποφάσεων.
  • Η ασφάλεια εξερχόμενης κίνησης είναι κρίσιμης σημασίας για την προστασία των ιδιόκτητων μοντέλων ΤΝ από την εξαγωγή τους από εξελιγμένους απειλητικούς παράγοντες.

Ο ενεργητικός τεχνητός νοός (AI) αντιπροσωπεύει το επόμενο σύνορο του AI, υποσχόμενος να ξεπεράσει ακόμη και τις ικανότητες του γεννητικού AI (GenAI). Σε αντίθεση με τα περισσότερα συστήματα GenAI, τα οποία βασίζονται σε ανθρώπινες εντολές ή εποπτεία, ο ενεργητικός AI είναι προδραστικός επειδή δεν απαιτεί εισαγωγή χρήστη για να λύσει σύνθετα, πολλαπλά βήματα προβλήματα. Με την αξιοποίηση ενός ψηφιακού οικοσυστήματος από μεγάλους μοντέλους γλωσσών (LLM), μηχανικής μάθησης (ML) και επεξεργασίας φυσικής γλώσσας (NLP), ο ενεργητικός AI εκτελεί εργασίες αυτονομamente για λογαριασμό ενός ανθρώπου ή συστήματος, βελτιώνοντας μαζικά την παραγωγικότητα και τις λειτουργίες.

Ενώ ο ενεργητικός AI βρίσκεται ακόμη στις πρώτες стадίες, οι εμπειρογνώμονες έχουν επισημάνει κάποιες επαναστατικές περιπτώσεις χρήσης. Σκεφτείτε ένα περιβάλλον εξυπηρέτησης πελατών για μια τράπεζα όπου ένας πράκτορας AI κάνει περισσότερα από τα απλά να απαντάει σε ερωτήσεις του χρήστη όταν ζητηθεί. Αντίθετα, ο πράκτορας θα πραγματικά ολοκληρώσει συναλλαγές ή εργασίες όπως η μεταφορά κεφαλαίων όταν ζητηθεί από τον χρήστη. Ένα άλλο παράδειγμα θα μπορούσε να είναι σε ένα χρηματοοικονομικό περιβάλλον όπου οι ενεργητικοί AI συστήματα βοηθούν τους ανθρώπινους αναλυτές με την αυτονομική και γρήγορη ανάλυση μεγάλων ποσοτήτων δεδομένων για την δημιουργία εκθέσεων που είναι έτοιμες για ελέγχους για λήψη αποφάσεων με βάση τα δεδομένα.

Οι απίστευτες δυνατότητες του ενεργητικού AI είναι αδιαμφισβήτητες. Ωστόσο, όπως κάθε νέα τεχνολογία, υπάρχουν συχνά προβλήματα ασφαλείας, διακυβέρνησης και συμμόρφωσης. Η μοναδική φύση αυτών των πρακτόρων AI παρουσιάζει πολλά προβλήματα ασφαλείας και διακυβέρνησης για τις οργανώσεις. Οι επιχειρήσεις πρέπει να αντιμετωπίσουν αυτά τα προβλήματα για να λάβουν όχι μόνο τα οφέλη του ενεργητικού AI αλλά και να διασφαλίσουν την ασφάλεια και την αποτελεσματικότητα του δικτύου.

Ποια Προκλήματα Ασφαλείας Δικτύου Δημιουργεί ο Ενεργητικός AI για τις Оргανώσεις;

Οι πράκτορες AI έχουν τέσσερις βασικές λειτουργίες. Η πρώτη είναι η ανίχνευση και συλλογή δεδομένων. Αυτοί οι εκατοντάδες, χιλιάδες και ίσως εκατομμύρια πράκτορες συλλέγουν και συλλέγουν δεδομένα από πολλαπλά σημεία, είτε στο σύννεφο, είτε σε τοπικό περιβάλλον, είτε στο άκρο, κ.λπ., και αυτά τα δεδομένα θα μπορούσαν να είναι ευαίσθητα ή πολύτιμα, ανάλογα με την περίπτωση χρήσης. Οι εταιρείες πρέπει να αναπτύξουν μια λύση συνδεσιμότητας δικτύου υψηλής ταχύτητας που είναι κρυπτογραφημένη από άκρο σε άκρο για να επιτρέψουν στους πράκτορές τους να συλλέγουν την τεράστια ποσότητα δεδομένων που απαιτείται για να λειτουργήσουν. Θυμηθείτε ότι αυτά τα δεδομένα θα μπορούσαν να είναι ευαίσθητα ή πολύτιμα, ανάλογα με την περίπτωση χρήσης. Οι εταιρείες πρέπει να αναπτύξουν μια λύση συνδεσιμότητας υψηλής ταχύτητας που είναι κρυπτογραφημένη για να προστατεύσουν τα ευαίσθητα δεδομένα και τα προσωπικά δεδομένα.

Σε αυτή τη διαδικασία, ο ενεργητικός AI απαιτεί πρόσβαση σε τεράστιες βάσεις δεδομένων για να λειτουργήσει αποτελεσματικά. Οι πράκτορες θα συνήθως ενσωματωθούν με συστήματα δεδομένων που χειρίζονται ή αποθηκεύουν ευαίσθητες πληροφορίες, όπως οικονομικές εγγραφές, βάσεις δεδομένων υγείας και άλλες προσωπικές πληροφορίες (PII). Δυστυχώς, ο ενεργητικός AI περιπλέκει τις προσπάθειες για την ασφάλεια της υποδομής του δικτύου έναντι των ευπαθειών, ιδιαίτερα με τη διασύνδεση των συννεφών. Επίσης, παρουσιάζει προκλήματα ασφαλείας εξόδου, καθιστώντας δύσκολο για τις επιχειρήσεις να προστατεύσουν από την εξαγωγή και τις παραβιάσεις ελέγχου. Αν ένας πράκτορας AI υποκύψει, τα ευαίσθητα δεδομένα θα μπορούσαν εύκολα να διαρρεύσουν ή να κλαπεί. Επίσης, οι πράκτορες θα μπορούσαν να καταληφθούν από κακόβουλους παράγοντες και να χρησιμοποιηθούν για τη δημιουργία και διανομή ψευδών πληροφοριών σε μεγάλη κλίμακα. Όταν συμβαίνουν παραβιάσεις, όχι μόνο υπάρχουν οικονομικές ποινές, αλλά και συνέπειες για τη φήμη.

Κλειδιά ικανότητες όπως η παρατηρησιμότητα και η αναλυσιμότητα μπορούν να απογοητευτούν από τον ενεργητικό AI, καθώς είναι δύσκολο να κατανοηθεί ποια σύνολα δεδομένων οι πράκτορες AI πρόσβαση, αυξάνοντας τον κίνδυνο να εκτεθούν ή να προσεγγιστούν τα δεδομένα από μη εξουσιοδοτημένους χρήστες. Παρόμοια, η δυναμική μάθηση και προσαρμογή του ενεργητικού AI μπορούν να εμποδίσουν τις παραδοσιακές ελέγχους ασφαλείας, οι οποίες βασίζονται σε δομημένα αρχεία για να παρακολουθήσουν τη ροή δεδομένων. Ο ενεργητικός AI είναι επίσης εφήμερος, δυναμικός και συνεχώς εκτελείται, δημιουργώντας μια ανάγκη για συνεχή οπτική και ασφάλεια. Η κλίμακα είναι ένα άλλο πρόβλημα. Η επιφάνεια επίθεσης έχει αυξηθεί εκθετικά, επεκτείνοντας πέρα από το τοπικό κέντρο δεδομένων και το σύννεφο για να περιλαμβάνει το άκρο. Στην πραγματικότητα, ανάλογα με την εταιρεία, ο ενεργητικός AI μπορεί να προσθέσει χιλιάδες έως εκατομμύρια νέους τελικούς σημεία στο άκρο. Αυτοί οι πράκτορες λειτουργούν σε πολλά σημεία, είτε σε διαφορετικά σύννεφα, είτε σε τοπικό περιβάλλον, είτε στο άκρο, κ.λπ., καθιστώντας το δίκτυο πιο ευάλωτο σε επιθέσεις.

Μια Ολοκληρωμένη Προσέγγιση για την Αντιμετώπιση των Προκλήσεων Ασφαλείας του Ενεργητικού AI

Οι οργανώσεις μπορούν να αντιμετωπίσουν τις προκλήματα ασφαλείας του ενεργητικού AI εφαρμόζοντας λύσεις ασφαλείας και beste πρακτικές σε κάθε eine από τις τέσσερις βασικές λειτουργίες:

  1. Ανιχνευση και Συλλογή Δεδομένων: Οι επιχειρήσεις χρειάζονται συνδεσιμότητα δικτύου υψηλής ταχύτητας που είναι κρυπτογραφημένη από άκρο σε άκρο για να επιτρέψουν στους πράκτορές τους να συλλέγουν την τεράστια ποσότητα δεδομένων που απαιτείται για να λειτουργήσουν. Θυμηθείτε ότι αυτά τα δεδομένα θα μπορούσαν να είναι ευαίσθητα ή πολύτιμα, ανάλογα με την περίπτωση χρήσης. Οι εταιρείες πρέπει να αναπτύξουν μια λύση συνδεσιμότητας υψηλής ταχύτητας που είναι κρυπτογραφημένη για να προστατεύσουν τα ευαίσθητα δεδομένα και τα προσωπικά δεδομένα.
  2. Λήψη Αποφάσεων: Οι εταιρείες πρέπει να διασφαλίσουν ότι οι πράκτορές AI έχουν πρόσβαση στα σωστά μοντέλα και την υποδομή AI και ML για να λάβουν τις σωστές αποφάσεις. Με την εφαρμογή ενός τείχους προστασίας cloud, οι επιχειρήσεις μπορούν να λάβουν τη συνδεσιμότητα και την ασφάλεια που χρειάζονται οι πράκτορές AI για να προσεγγίσουν τα σωστά μοντέλα με έναν ελέγξιμο τρόπο.
  3. Εκτέλεση Ενεργειών: Οι πράκτορες AI εκτελούν ενέργειες με βάση την απόφαση. Ωστόσο, οι εταιρείες πρέπει να προσδιορίσουν ποιος πράκτορας από τους εκατοντάδες ή χιλιάδες τους έλαβε αυτή την απόφαση. Επίσης, χρειάζονται να γνωρίζουν πώς οι πράκτορές τους επικοινωνούν μεταξύ τους για να αποφευχθεί η σύγκρουση ή η “μάχη των ρομπότ”. Ως εκ τούτου, οι οργανώσεις χρειάζονται παρατηρησιμότητα και αναλυσιμότητα των ενεργειών που εκτελούνται από τους πράκτορές AI. Η παρατηρησιμότητα είναι η ικανότητα να παρακολουθείτε, να παρακολουθείτε και να κατανοείτε τις εσωτερικές καταστάσεις και τη συμπεριφορά των πρακτόρων AI σε πραγματικό χρόνο. Η αναλυσιμότητα είναι η ικανότητα να παρακολουθείτε και να τεκμηριώνετε τα δεδομένα, τις αποφάσεις και τις ενέργειες που λαμβάνονται από έναν πράκτορα AI.
  4. Μάθηση και Προσαρμογή: Οι εταιρείες δαπανούν εκατομμύρια, αν όχι εκατοντάδες εκατομμύρια ή περισσότερα, για να điều chỉnh τους αλγόριθμους, οι οποίοι αυξάνουν την αξία και την ακρίβεια των πρακτόρων. Αν ένας κακόβουλος παράγοντας πάρει τον έλεγχο του μοντέλου και το εξαγάγει, όλα αυτά τα πόρους θα μπορούσαν να είναι στα χέρια τους σε λίγα λεπτά. Οι εταιρείες μπορούν να προστατεύσουν τις επενδύσεις τους μέσω χαρακτηριστικών ασφαλείας εξόδου που προστατεύουν από την εξαγωγή και τις παραβιάσεις ελέγχου.

Εξαγορά του Ενεργητικού AI με Έναν Ασφαλή και Υπεύθυνο Τρόπο

Ο ενεργητικός AI έχει εξαιρετικές δυνατότητες, ενδυναμώνοντας τις εταιρείες να φτάσουν σε νέες υψηλές παραγωγικότητας και αποτελεσματικότητας. Ωστόσο, όπως κάθε νέα τεχνολογία στο χώρο του AI, οι οργανώσεις πρέπει να λάβουν προφυλάξεις για να προστατεύσουν τα δίκτυά τους και τα ευαίσθητα δεδομένα. Η ασφάλεια είναι ιδιαίτερα κρίσιμη σήμερα, λαμβάνοντας υπόψη τους εξαιρετικά εξειδικευμένους και οργανωμένους κακόβουλους παράγοντες που χρηματοδοτούνται από κράτη, όπως ο Salt Typhoon και ο Silk Typhoon, οι οποίοι συνεχίζουν να εκτελούν μεγάλης κλίμακας επιθέσεις.

Οι οργανώσεις πρέπει να συνεργαστούν με ειδικούς ασφαλείας cloud για να αναπτύξουν μια ισχυρή, κλιμακώσιμη και μελλοντική στρατηγική ασφαλείας που μπορεί να αντιμετωπίσει τις μοναδικές προκλήματα του ενεργητικού AI. Αυτοί οι συνεργάτες μπορούν να επιτρέψουν στις εταιρείες να παρακολουθούν, να διαχειρίζονται και να ασφαλίζουν τους πράκτορές AI τους. Επίσης, τους βοηθούν να παρέχουν στις εταιρείες την ευαισθητοποίηση που χρειάζονται για να ικανοποιήσουν τις προδιαγραφές που σχετίζονται με τη συμμόρφωση και τη διακυβέρνηση.

Ο Anirban Sengupta είναι επικεφαλής τεχνολογίας και ανώτερος αντιπρόεδρος μηχανικής στην Aviatrix, με περισσότερες από τρεις δεκαετίες εμπειρίας στην τεχνική και διοικητική ηγεσία. Πιο πρόσφατα ήταν ανώτερος διευθυντής μηχανικής στην Google, υπεύθυνος για τις υπηρεσίες διαχείρισης και ασφάλειας του Google Kubernetes Engine (GKE) και την ανάπτυξη του Anthos. Εκεί συνέβαλε στην ανάπτυξη του Anthos από την ίδρυσή του σε ετήσια επαναλαμβανόμενα έσοδα (ARR) άνω των 200 εκατομμυρίων δολαρίων. Παρουσίασε επίσης το GKE Enterprise, μια ολοκληρωμένη πλατφόρμα κοντέινερ λογισμικού.

Πριν από την Google ήταν αντιπρόεδρος μηχανικής της μονάδας NSBU στη VMware. Ανέπτυξε το χαρτοφυλάκιο δικτύωσης και ασφάλειας NSX, συμπεριλαμβανομένων των προϊόντων NSX Edge, Distributed Firewall και NSX Intelligence. Νωρίτερα κατείχε ηγετικές θέσεις στις Cisco Systems, Lucent Technologies και Ascend Communications, μεταξύ άλλων.

Κατέχει πτυχίο B.S. στην επιστήμη και μηχανική υπολογιστών από το Indian Institute of Technology στο Kharagpur της Ινδίας και μεταπτυχιακό M.S. στη μηχανική υπολογιστών από το Πανεπιστήμιο Santa Clara στην Καλιφόρνια.