Περισσότερη Δαπάνη για την Ασφάλεια του AI Δεν Μειώνει κανένα από τα Ρίσκα του AI

Οι προϋπολογισμοί για την ασφάλεια του AI αυξάνονται γρήγορα. Σε πολλές οργανώσεις, αυξάνονται γρηγορότερα από τα συστήματα που προορίζονται να προστατεύσουν.

Αυτή η ανισορροπία είναι εύκολο να παραβλεφθεί. Η επένδυση σε τεχνητή νοημοσύνη συνεχίζει να επιταχύνεται, με τη διεθνή ιδιωτική χρηματοδότηση να φτάνει $33.9 δισεκατομμύρια μόνο το 2025. Ταυτόχρονα, οι ηγέτες της ασφάλειας ζητούν να λογοδοτήσουν για новые κινδύνους που συνδέονται με τη συμπεριφορά του μοντέλου, την έκθεση δεδομένων και την αντιπαλική χειραγώγηση. Η απάντηση ήταν προβλέψιμη: περισσότερα εργαλεία, περισσότεροι έλεγχοι και περισσότερος προϋπολογισμός.

Είναι δελεαστικό να μετατρέψουμε αυτή τη συζήτηση σε μια συζήτηση για το κόστος της διεξαγωγής επιχειρήσεων, ένα απλό ερώτημα για το πόσο πρέπει οι οργανώσεις να δαπανήσουν για να ασφαλίσουν το AI. Αυτός είναι ο λάθος τρόπος να προσεγγίσετε αυτό το νέο πρόβλημα, όμως. Αντίθετα, οι οργανώσεις πρέπει να εξετάσουν εάν η επένδυση τους στο AI πραγματικά ασφαλίζει τα σωστά εργαλεία.

Σε hầu hết τις επιχειρήσεις, το AI εισαγωγείται ακόμη στο επίπεδο της εργασίας. Οι ομάδες πειραματίζονται με σύνοψη, βοήθεια κωδικοποίησης, ανάλυση ή αυτοματοποίηση της ροής εργασιών για να βελτιώσουν την ατομική παραγωγικότητα. Αυτά τα εργαλεία παρέχουν τοπικές κερδισμένες, αλλά σπάνια αλλάζουν τον τρόπο που λαμβάνονται οι αποφάσεις ή τον τρόπο που λειτουργούν τα συστήματα σε ευρύτερο επίπεδο. Αυτό το κενό αρχίζει να εμφανίζεται στα αποτελέσματα. Ενώ η υιοθέτηση είναι ευρεία, μόνο περίπου 20% των οργανώσεων αναφέρουν σημαντική επίδραση στο ισοζύγιο τους.

Η επένδυση στην ασφάλεια αυξάνεται παράλληλα με αυτήν την πειραματική προσέγγιση. Ωστόσο, σε πολλές περιπτώσεις, εφαρμόζεται σε μια αυξανόμενη συλλογή από αποσυνδεδεμένα εργαλεία αντί για συνολικά συστήματα που διαμορφώνουν τον τρόπο που λειτουργεί η επιχείρηση. Το AI αξιολογείται στο επίπεδο της εργασίας, ασφαλίζεται στο επίπεδο του συστήματος και ποτέ δεν σχεδιάζεται πλήρως στο επίπεδο της ροής εργασιών όπου δημιουργείται η πραγματική αξία.

Η Υιοθέτηση του AI Εκτείνεται Γρηγορότερα από ό,τι Ενοποιείται

Οι περισσότερες υλοποιήσεις του AI σήμερα είναι στενές κατά σχεδιασμό. Κατασκευάζονται για να κάνουν τις ατομικές εργασίες γρηγορότερες αντί να αναμορφώσουν τον τρόπο που ρέει η εργασία στις ομάδες ή τα συστήματα.

Μια ομάδα πωλήσεων μπορεί να υιοθετήσει το AI για να συντάξει emails ή να συνοψίσει κλήσεις. Οι ομάδες μηχανικής χρησιμοποιούν το για να επιταχύνουν τη γεννήση κώδικα. Οι ομάδες λειτουργιών πειραματίζονται με ανάλυση ή υποστήριξη προβλέψεων. Κάθε μια από αυτές τις περιπτώσεις παρέχει μετρήσιμες κερδισμένες παραγωγικότητας στο ατομικό επίπεδο, και αυτό είναι συχνά αρκετό για να δικαιολογήσει την αρχική επένδυση.

Η复잡ότητα αρχίζει όταν αυτές οι απομονωμένες κερδισμένες συσσωρεύονται.

Κάθε υλοποίηση εισάγει τα δικά της μοντέλα, μοτίβα πρόσβασης δεδομένων, API και εξαρτήσεις. Με τον καιρό, οι οργανώσεις βρίσκονται να διαχειρίζονται μια αυξανόμενη οικοσύστημη ικανοτήτων AI που δεν σχεδιάστηκαν ποτέ να λειτουργούν μαζί. Ακόμη και τώρα, ένα lớn μέρος των επιχειρήσεων παραμένει σε πρώιμα στάδια πειραματισμού, με πολλές πρωτοβουλίες που δεν έχουν ακόμη ενσωματωθεί στις βασικές επιχειρηματικές λειτουργίες.

Οι ομάδες ασφάλειας κληρονομούν αυτό το περιβάλλον καθώς σχηματίζεται. Ζητούν να ασφαλίσουν όχι ένα μόνο σύστημα, αλλά μια σταθερά μεταβαλλόμενη συλλογή εργαλείων, ενσωματώσεων και ροών δεδομένων που επεκτείνουν με κάθε νέο πείραμα. Χωρίς μια ενοποιητική αρχιτεκτονική, η ασφάλεια γίνεται άσκηση κάλυψης αντί για έλεγχο.

Ο Πραγματικός Κίνδυνος Δεν Είναι τα Ατομικά Εργαλεία. Είναι η Fragmentation του Συστήματος

Καθώς συνεχίζεται η πειραματική προσέγγιση του AI, οι προσδοκίες της ηγεσίας αρχίζουν να μεταβάλλονται. Οι διοικητικά συμβούλια και οι εκτελεστικές ομάδες ζητούν να γνωρίζουν πώς η αυξανόμενη δαπάνη για το AI μεταφράζεται σε μετρήσιμες επιχειρηματικές αποτελέσματα.

Όταν οι πρώτες πρωτοβουλίες αποτυχούν, οι οργανώσεις σπάνια επιβραδύνουν. Εκτείνουν τις προσπάθειές τους. Περισσότερα πειράματα ξεκινούν. Περισσότερα εργαλεία εισαγωγούνται. Περισσότερες ενσωματώσεις δημιουργούνται αναζητώντας αξία που ακόμη δεν έχει υλοποιηθεί. Προβλέψεις ήδη υποδεικνύουν ότι περισσότερα από το 50% των έργων AI μπορεί να αποτύχουν να φτάσουν στην παραγωγή ή να παραδώσουν τα αναμενόμενα αποτελέσματα τα επόμενα χρόνια.

Για τις ομάδες ασφάλειας, αυτό το κύκλο δημιουργεί ένα νέο είδος κινδύνου.

Η πρόκληση δεν είναι πλέον μόνο η προστασία των ατομικών εφαρμογών ή μοντέλων. Είναι η διαχείριση ενός περιβάλλοντος όπου το υποκείμενο σύστημα αλλάζει συνεχώς. Κάθε νέο εργαλείο εισάγει πρόσθετες ταυτότητες, ροές δεδομένων και συμπεριφορές μοντέλων που επεκτείνουν την επιφάνεια επίθεσης πριν οι αμυνόμενοι έχουν χρόνο να το κατανοήσουν πλήρως.

Σε αυτό το контέκστ, η αύξηση της δαπάνης για την ασφάλεια δεν μειώνει απαραίτητα τον κίνδυνο. Μπορεί να αυξήσει την λειτουργική复杂ότητα αντίθετα. Η προστασία των αποσυνδεδεμένων συστημάτων απαιτεί περισσότερα εργαλεία, περισσότερη παρακολούθηση και περισσότερη συντονισμό, αλλά δεν αντιμετωπίζει το ριζικό ζήτημα, το οποίο είναι η απουσία μιας συνολικής δομής για τον τρόπο που το AI υλοποιείται και χρησιμοποιείται.

Η Δαπάνη για την Ασφάλεια Γίνεται Στρατηγική Μόνο Όταν το AI Γίνεται Λειτουργικό

Βρισκόμαστε σε μια εξαιρετική θέση λόγω της επένδυσης στην ασφάλεια του AI. Ο βαθμός της καινοτομίας είναι αστρονομικός, και ενώ το μέλλον είναι φωτεινό για τις περιπτώσεις χρήσης του AI, η επένδυση στην ασφάλεια είναι συχνά αποσυνδεδεμένη από εκεί όπου το AI δημιουργεί πραγματική αξία.

Όταν το AI υλοποιείται κυρίως ως μια συλλογή απομονωμένων εργαλείων παραγωγικότητας, οι προσπάθειες ασφάλειας αναγκάζονται να ακολουθήσουν αυτήν την αποσύνδεση. Οι ομάδες τελικά προστατεύουν δεκάδες αποσυνδεδεμένες εφαρμογές που έχουν περιορισμένη επιρροή στα βασικά επιχειρηματικά αποτελέσματα.

Μεγαλύτερη αξία εμφανίζεται όταν το AI ενσωματώνεται στις ροές εργασιών που οδηγούν τον τρόπο που λειτουργούν οι οργανώσεις. Η σχεδιασμός, η πρόβλεψη, η διανομή πόρων και η λήψη αποφάσεων είναι όπου το AI αρχίζει να επηρεάζει τα αποτελέσματα με σημαντικό τρόπο. Αυτά είναι επίσης τα περιβάλλοντα όπου η επένδυση στην ασφάλεια γίνεται πιο στρατηγική.

Η προστασία ενός αποσυνδεδεμένου εργαλείου προστατεύει μια εργασία. Η προστασία ενός ενσωματωμένου συστήματος προστατεύει μια επιχειρηματική διαδικασία.

Αυτή είναι η διαφορά μεταξύ της υιοθέτησης στο επίπεδο της εργασίας και του σχεδιασμού στο επίπεδο της ροής εργασιών. Το AI που δεν ενσωματώνεται στον τρόπο που λαμβάνονται οι αποφάσεις θα πλήξει να παραδώσει μετρήσιμη επίδραση. Η ασφάλεια που δεν είναι ευθυγραμμισμένη με αυτά τα συστήματα λήψης αποφάσεων θα πλήξει να μειώσει τον πραγματικό κίνδυνο.

Η Αλλαγή Πρέπει να Έρθει Νωρίτερα ΜATHER Than Αργότερα

Οι οργανώσεις δεν χρειάζονται λιγότερες πρωτοβουλίες AI. Χρειάζονται πιο προθέσμενες πρωτοβουλίες.

Η πρώτη μετατόπιση είναι στον τρόπο που αξιολογείται η επιτυχία του AI. Εάν μια υλοποίηση δεν αλλάζει τον τρόπο που λαμβάνονται οι αποφάσεις ή τον τρόπο που ρέει η εργασία στις ομάδες, η επίδρασή της θα παραμείνει περιορισμένη, ανεξάρτητα από το πόσο ευρέως υιοθετείται. Η μέτρηση της επιτυχίας στο επίπεδο της ροής εργασιών αντί του επιπέδου της εργασίας παρέχει một σαφέστερο σήμα για το πού το AI πραγματικά παραδίδει αξία.

Η δεύτερη μετατόπιση είναι στον τρόπο που προτεραιοποιείται η επένδυση στην ασφάλεια. Αντί να διανέμονται έλεγχοι σε κάθε πειραματικό εργαλείο, οι οργανώσεις πρέπει να συγκεντρώσουν την προστασία γύρω από τα συστήματα που επηρεάζουν την σχεδιασμό, τις λειτουργίες και τη λήψη αποφάσεων. Αυτά είναι τα περιβάλλοντα όπου ο κίνδυνος και η αξία διασταυρώνονται.

Η τρίτη μετατόπιση είναι δομική. Τα συστήματα AI εισάγουν νέες μορφές ιδιοκτησίας που εκτείνονται πέρα από τις παραδοσιακές εφαρμογές. Τα μοντέλα, τα δεδομένα εκπαίδευσης, οι αγωγοί δεδομένων και τα αποτελέσματα που παράγονται από το AI απαιτούν σαφή ευθύνη. Χωρίς καθορισμένη ιδιοκτησία, η διακυβέρνηση γίνεται ασυνεπής και οι κενά ασφάλειας γίνονται πιο δύσκολο να αναγνωριστούν.

Αυτές οι αλλαγές μαζί μεταφέρουν τις οργανώσεις μακριά από την ασφάλεια της δραστηριότητας και προς την ασφάλεια των αποτελεσμάτων.

Η Κατασκευή Συστημάτων AI που Μπορούν Πραγματικά να Κλιμακωθούν

Οι οργανώσεις που ευθυγραμμίζουν την υιοθέτηση του AI με τον σχεδιασμό στο επίπεδο της ροής εργασιών κερδίζουν một σαφέστερο δρόμο προς την αξία και τον έλεγχο.

Οι πόροι ασφάλειας γίνονται πιο αποτελεσματικοί όταν εστιάζονται στα συστήματα που μετράνε περισσότερο αντί να διανέμονται σε αποσυνδεδεμένα πειράματα. Η ηγεσία κερδίζει καλύτερη ορατότητα για το πώς οι επενδύσεις στο AI μεταφράζονται σε επιχειρηματική επίδραση. Με τον καιρό, τα προγράμματα AI γίνονται πιο βιώσιμα γιατί είναι χτισμένα σε δομημένα συστήματα αντί για συσσωρευμένα εργαλεία.

Η επένδυση στο AI δεν επιβραδύνεται. Η δαπάνη για την ασφάλεια θα συνεχίσει να αυξάνεται παράλληλα. Η διαφορά θα έρθει στο πώς θα εφαρμοστούν αυτές οι επενδύσεις.

Οι οργανώσεις που συνεχίζουν να κλιμακώνουν το AI στο επίπεδο της εργασίας θα βρουν τον εαυτό τους να ασφαλίζουν μια σταθερά αυξανόμενη επιφάνεια αποσυνδεδεμένων εργαλείων. Αυτοί που σχεδιάζουν το AI στο επίπεδο της ροής εργασιών θα ασφαλίζουν συστήματα που είναι πραγματικά αξιοπρεπή προστασίας.