Οι δικλίδες ασφαλείας για την επιχειρησιακή ΤΝ μπορεί να έχουν μεγαλύτερη σημασία από τα μοντέλα αιχμής

Αφήστε κατά μέρος τα μοντέλα αιχμής της ΤΝ. Οι πελάτες πιέζουν τις επιχειρήσεις να θεσπίσουν περισσότερες δικλίδες ασφαλείας για την ΤΝ που ήδη χρησιμοποιούν, ενώ η εμπειρία από το PCI DSS προσφέρει ένα χρήσιμο πρότυπο.

Η περίοδος χάριτος για την ΤΝ από πλευράς ρυθμιστικών αρχών έχει τελειώσει. Πρόσφατες αποκαλύψεις έχουν πυροδοτήσει συζητήσεις για την επιβράδυνση της ανάπτυξης μοντέλων αιχμής και την επιβολή ελέγχων. Ένα από τα λίγα σημεία στα οποία υπάρχει συμφωνία είναι ότι οι έλεγχοι πρέπει να εφαρμόζονται εκτός των μοντέλων και να συνοδεύονται από ανεξάρτητη επαλήθευση.

Το τι θα συμβεί στη συνέχεια αποτελεί αντικείμενο συζήτησης, αλλά οι ρυθμιστικές αρχές αναλαμβάνουν δράση. Ο Νόμος της Ευρωπαϊκής Ένωσης για την ΤΝ θέτει σταδιακά σε ισχύ υποχρεώσεις ασφάλειας, μεταξύ των οποίων και ευθύνη για τους αγοραστές. Στις Ηνωμένες Πολιτείες, το Πλαίσιο Διαχείρισης Κινδύνων ΤΝ του NIST υιοθετείται ως πρότυπο δέουσας επιμέλειας. Σε παγκόσμιο επίπεδο, το OWASP Top 10 για εφαρμογές LLM έχει καθιερωθεί ως κοινό σημείο αναφοράς στις αξιολογήσεις ασφάλειας, ενώ η πιστοποίηση ISO/IEC 42001 εμφανίζεται σε έγγραφα προμηθειών.

Αυτό σημαίνει ότι δεν είναι μόνο οι δημιουργοί μοντέλων που φέρουν ευθύνη. Οι υποχρεώσεις και οι κίνδυνοι ασφάλειας βαρύνουν επίσης τις επιχειρήσεις που χρησιμοποιούν μοντέλα τα οποία έχουν ήδη κυκλοφορήσει, ιδίως σε περιπτώσεις χρήσης υψηλού κινδύνου. Λανθασμένες απαντήσεις σε ερωτηματολόγιο ασφάλειας πελάτη ή σε απάντηση σε αίτημα υποβολής προσφοράς (RFP) θα μπορούσαν να καθυστερήσουν μια επιχειρηματική συμφωνία B2B.

Το PCI DSS δείχνει τον δρόμο

Ευτυχώς, έχουμε ξαναδεί αυτό το έργο. Πριν από είκοσι χρόνια, η ασφάλεια των διαδικτυακών εφαρμογών βασιζόταν κυρίως σε περιοδικούς ελέγχους κώδικα, στατικές σαρώσεις και στην πειθαρχία των προγραμματιστών. Στη συνέχεια, η Απαίτηση 6.6 του PCI DSS, που δημοσιεύτηκε το 2006 και τέθηκε σε εφαρμογή από το 2008, όρισε ότι οι οργανισμοί που διαχειρίζονται δεδομένα κατόχων καρτών πρέπει είτε να ελέγχουν όλο τον κώδικα των εφαρμογών για ευπάθειες είτε να εγκαθιστούν αυτοματοποιημένους τεχνικούς ελέγχους. Αργότερα, καταργήθηκε η δυνατότητα ελέγχου του κώδικα και κατέστη υποχρεωτική η εφαρμογή τεχνικών ελέγχων.

Ωστόσο, το PCI DSS δεν ξεκίνησε ως νόμος. Ξεκίνησε ως συμβατικό πρότυπο που αναδιαμόρφωσε την αγορά, πιθανότατα ταχύτερα απ’ ό,τι θα το κατάφερνε η νομοθεσία, καθώς οι συμβάσεις εξελίσσονται ταχύτερα από τους κρατικούς νόμους.

Αντίστοιχα, οι οργανισμοί δέχονται πλέον πιέσεις να θεσπίσουν δικλίδες ασφαλείας για την ΤΝ που έχουν αναπτύξει, όχι από τις ρυθμιστικές αρχές αλλά από πελάτες και συνεργάτες, μέσω ερωτηματολογίων ασφάλειας, όρων σε αιτήματα υποβολής προσφοράς (RFP) και απαιτήσεων ασφαλιστηρίων συμβολαίων.

Λύστε το λειτουργικό πρόβλημα και η συμμόρφωση θα ακολουθήσει

Αυτή η πίεση μπορεί να είναι δύσκολο να αντιμετωπιστεί, επειδή η διακυβέρνηση της ΤΝ δεν αφορά μόνο τις πολιτικές. Αφορά και τη συνεχή τεκμηρίωση των τεχνικών ελέγχων.

Πολλές επιχειρήσεις με τις οποίες συνομιλώ χρησιμοποιούν στην παραγωγή μισή ντουζίνα ή και περισσότερα μοντέλα, τα οποία συχνά συνδέουν μεταξύ τους ή ενορχηστρώνουν, έτσι ώστε η έξοδος του ενός να αποτελεί είσοδο για κάποιο άλλο. Φανταστείτε να πρέπει, υπό αυτές τις συνθήκες, να αποδείξετε ότι εφαρμόζεται συστηματικά σε όλα τα συστήματα οποιαδήποτε πολιτική —όπως η αποτροπή της εμφάνισης προσωπικών δεδομένων (PII) στις εξόδους των μοντέλων. Ο χειροκίνητος έλεγχος πολλών μοντέλων, καθενός με τις δικές του ρυθμίσεις, θα απορροφούσε πολύτιμο χρόνο των προγραμματιστών. Επιπλέον, οι περισσότεροι οργανισμοί δυσκολεύονται να αντιμετωπίσουν την μη εγκεκριμένη και υψηλού κινδύνου χρήση ΤΝ, όπως όταν εργαζόμενοι επικολλούν ευαίσθητα δεδομένα σε εργαλεία ΤΝ για καταναλωτές ή όταν πάροχοι SaaS ενεργοποιούν σιωπηρά νέες λειτουργίες ΤΝ. Ωστόσο, η ευθύνη βαρύνει εξ ολοκλήρου την επιχείρηση.

Σε τόσο απαιτητικά σενάρια, οι απαιτήσεις μπορούν να συνοψιστούν σε μία απλή ενέργεια: να αποδείξετε ότι μπορείτε να περιορίζετε διαρκώς τις εισόδους και τις εξόδους των μοντέλων, καταγράφοντας παράλληλα αυτή τη δραστηριότητα για επαλήθευση. Καθώς οι εφαρμογές καλούν μοντέλα, οι πράκτορες ενεργοποιούν εργαλεία και τα μοντέλα εκτελούν ενέργειες ή ενεργοποιούν ροές εργασιών, αυτό που χρειάζεται έλεγχο είναι η ίδια η ενέργεια —η κλήση του εργαλείου, το αίτημα API ή η ενεργοποίηση της ροής εργασιών.

Μεταφέρετε την ασφάλεια στη διαδρομή των αιτημάτων συμπερασματοποίησης

Αυτή η ενέργεια αποτελεί το σημείο ελέγχου που οι ειδικοί στην ασφάλεια εφαρμογών εργάζονται εδώ και 20 χρόνια για να ενσωματώσουν στη διακίνηση δεδομένων των εφαρμογών. Ειδικά όταν τα αιτήματα συμπερασματοποίησης δρομολογούνται μέσω κοινόχρηστης υποδομής, η διαδρομή τους γίνεται το ιδανικό σημείο ελέγχου για όλα τα μοντέλα, ακόμη και για μη εγκεκριμένη χρήση ΤΝ. Η κίνηση των αιτημάτων συμπερασματοποίησης ΤΝ πρέπει να δρομολογείται, να επιθεωρείται, να πιστοποιείται και να διέπεται όπως κάθε άλλη σημαντική αλληλεπίδραση εφαρμογής, ανάλογα με την προέλευσή της και τον σκοπό της. Σε αντίθεση με τον χειροκίνητο έλεγχο, η διακυβέρνηση της κίνησης αυτής μπορεί να κλιμακωθεί.

Πώς να ξεκινήσετε

Με βάση την πορεία των ρυθμιστικών εξελίξεων, οι οργανισμοί πρέπει να ξεκινήσουν τώρα τρεις ενέργειες:

1. Χαρτογραφήστε την έκταση της ευθύνης σας, από τα API SaaS και τα φιλοξενούμενα τελικά σημεία έως τη σκιώδη ΤΝ.
2. Διαχωρίστε την πολιτική ασφάλειας και την εφαρμογή της από τα μοντέλα και ενσωματώστε την στη διαδρομή των αιτημάτων συμπερασματοποίησης.
3. Διασφαλίστε ότι τα ίχνη ελέγχου δημιουργούνται ανεξάρτητα από τα μοντέλα και τους πράκτορες, οι οποίοι έχει αποδειχθεί ότι επιχειρούν να αλλοιώσουν τις καταγραφές των δικών τους ενεργειών.

Το τι συνιστά επαρκή παρακολούθηση και εφαρμογή ελέγχων εξακολουθεί να καθορίζεται. Ωστόσο, οι ομάδες επιχειρησιακής λειτουργίας και ασφάλειας της επιχείρησής σας γνωρίζουν τι μπορεί πράγματι να εφαρμοστεί, πόσο κοστίζει κάθε έλεγχος σε καθυστέρηση και πολυπλοκότητα, καθώς και πού ένας καλοπροαίρετος κανόνας μπορεί να οδηγήσει σε ανεπιθύμητο αποτέλεσμα. Εμπλέξτε τις τώρα. Οι κίνδυνοι και οι υποχρεώσεις ασφάλειας που συνδέονται με τη χρήση ΤΝ είναι πραγματικοί, και οι πελάτες και τα στελέχη σας αναμφίβολα ενδιαφέρονται περισσότερο για εκείνους που αντιμετωπίζουν σήμερα παρά για τις απειλές από τα μοντέλα αιχμής του αύριο.