Συνεργασίες

Η Microsoft εγκαινιάζει πρωτοβουλία διαφάνειας στην ΤΝ για εταιρικούς πράκτορες

Mira Kellan
Προσθέστε το Unite.AI στις προτιμώμενες πηγές σας στο Google
Βασικά σημείαΟι υπάρχοντες έλεγχοι παρατηρούν τη δραστηριότητα γύρω από τα μοντέλα αλλά δεν μπορούν…
Δείτε περισσότερα
  • Οι υπάρχοντες έλεγχοι παρατηρούν τη δραστηριότητα γύρω από τα μοντέλα αλλά δεν μπορούν να επαληθεύσουν τι συμβαίνει μέσα σε αυτά.
  • Το πλαίσιο απαιτεί αποδεικτικά στοιχεία που παραμένουν φορητά όταν οι επιχειρήσεις αλλάζουν μοντέλα ή παρόχους.
  • Η Microsoft θα επεκτείνει τη συμμετοχή της στην Πρωτοβουλία Προτύπων Πρακτόρων SI του NIST για την ανάπτυξη ανοιχτών προτύπων.

Η Microsoft ανακοίνωσε την Πρωτοβουλία Διαφάνειας στην ΤΝ στις 17 Νοεμβρίου 2026, στο Microsoft Ignite, συγκεντρώνοντας περισσότερους από 40 οργανισμούς για την ανάπτυξη ανοικτών προτύπων με στόχο την ασφάλεια και τη διακυβέρνηση μοντέλων και πρακτόρων ΤΝ σε διαφορετικούς παρόχους.

Ο πρόεδρος και διευθύνων σύμβουλος Satya Nadella παρουσίασε την πρωτοβουλία μαζί με πελάτες και συνεργάτες, μεταξύ των οποίων οι Accenture, Adobe, KPMG, Mastercard και Volvo Cars. Η συνεργασία αποσκοπεί στο να καταστήσει τα συστήματα ΤΝ υπόλογα, ανεξάρτητα επαληθεύσιμα και ασφαλή εκ σχεδιασμού, ανεξάρτητα από το μοντέλο ή τον πάροχο. Βασική αρχή της είναι ότι όσο μεγαλύτερη είναι η αυτονομία της ΤΝ, τόσο μεγαλύτερη πρέπει να είναι η διαφάνεια.

Το κενό τεκμηρίωσης στις επιχειρήσεις

Οι επιχειρήσεις συνδέουν μοντέλα με δεδομένα, εργαλεία, διαπιστευτήρια και υποδομές, επιτρέποντας στους πράκτορες να ενεργούν χωρίς ανθρώπινη έγκριση σε κάθε βήμα. Σύμφωνα με τη Microsoft, οι υφιστάμενοι μηχανισμοί ελέγχου μπορούν να παρακολουθούν τη δραστηριότητα γύρω από τα μοντέλα, αλλά δεν μπορούν να δουν τι συμβαίνει στο εσωτερικό τους ούτε να επαληθεύσουν ανεξάρτητα τις αναφορές των μοντέλων για τη δική τους συμπεριφορά.

Το ιστολόγιο ασφάλειας της εταιρείας κάνει παρόμοια διάκριση όσον αφορά τον περιορισμό των πρακτόρων: ο εντοπισμός, η διακυβέρνηση και ο περιορισμός ενός πράκτορα εξακολουθούν να μην αποκαλύπτουν πώς συμπεριφέρεται το υποκείμενο μοντέλο του. Έτσι, μετά από ενέργειες με σημαντικές συνέπειες, παραμένουν τρία ερωτήματα: τι ζητήθηκε από την ΤΝ και για τι εξουσιοδοτήθηκε, τι συνέβη μεταξύ του αιτήματος και του αποτελέσματος και αν η δραστηριότητα μπορεί να επαληθευτεί ανεξάρτητα.

Η Microsoft παρομοιάζει τους πράκτορες που έχουν πρόσβαση σε δεδομένα, εργαλεία και διαπιστευτήρια με προνομιούχους εσωτερικούς χρήστες που λειτουργούν με την ταχύτητα και την κλίμακα των μηχανών. Το κενό τεκμηρίωσης που προκύπτει δημιουργεί κινδύνους για την ασφάλεια, τη συμμόρφωση, τον έλεγχο και τη λογοδοσία, ενώ η ευθύνη παραμένει στον οργανισμό που αναπτύσσει τους πράκτορες, όταν τα στελέχη καλούνται να απαντήσουν σε πελάτες, εργαζομένους, διοικητικά συμβούλια, ελεγκτές και ρυθμιστικές αρχές.

Ένα πλαίσιο παρακολούθησης, επαλήθευσης και ελέγχου

Το πλαίσιο της πρωτοβουλίας οργανώνει αυτές τις απαιτήσεις σε τρία μέρη. Η Παρακολούθηση καλύπτει το αίτημα και την εξουσιοδότηση, το μοντέλο και το περιβάλλον εκτέλεσης, τα δεδομένα και τα εργαλεία στα οποία αποκτάται πρόσβαση, καθώς και τις ενέργειες που πραγματοποιούνται. Προβλέπει επίσης τη συνεχή παρακολούθηση της δραστηριότητας των πρακτόρων και των ενδείξεων κινδύνου σε σχέση με τις πολιτικές και τα καθορισμένα όρια.

Η επαλήθευση αφορά την προέλευση των τεκμηρίων. Τα αρχεία της ταυτότητας του πράκτορα, της πρόθεσης που του ανατέθηκε και των ενεργειών του θα έδειχναν αν οι πληροφορίες προήλθαν από το μοντέλο, το περιβάλλον εκτέλεσής του ή ανεξάρτητα συστήματα ταυτότητας και πολιτικών. Στη συνέχεια, οι ενδείξεις που αναφέρει το μοντέλο θα μπορούσαν να αντιπαραβάλλονται με αρχεία που έχουν καταγραφεί ανεξάρτητα, μέσω των συστημάτων ασφάλειας και συμμόρφωσης του ίδιου του οργανισμού, αντί να βασίζεται κανείς αποκλειστικά στην αναφορά του παρόχου.

Ο έλεγχος αξιοποιεί τεκμήρια για τον σκοπό, τον υπεύθυνο, τα δεδομένα και την εξουσιοδότηση που έχει ανατεθεί σε κάθε ροή εργασιών, ώστε να εφαρμόζονται οι πολιτικές πριν από ενέργειες με σημαντικές συνέπειες. Τα ίδια αρχεία θα διευκόλυναν την ανασύνθεση των γεγονότων κατά τη διάρκεια ερευνών, ενεργειών περιορισμού και αποκατάστασης, καθώς και ελέγχων. Προορίζονται να παραμένουν αξιοποιήσιμα όταν οι οργανισμοί αλλάζουν μοντέλα ή παρόχους, συμπεριλαμβανομένης της μετάβασης μεταξύ κλειστών μοντέλων και μοντέλων με ανοικτά βάρη, ώστε οι ομάδες ανάπτυξης να μπορούν να ενημερώνουν τους πράκτορες χωρίς να διακυβεύονται η διακυβέρνηση της ασφάλειας ή οι έλεγχοι συμμόρφωσης.

Εργασίες τυποποίησης και ενσωμάτωση σε προϊόντα

Η Microsoft θα διευρύνει τη συμμετοχή της στην Πρωτοβουλία Προτύπων για Πράκτορες SI του NIST και θα αξιοποιήσει τη δική της έρευνα για να αναπτύξει ανοικτά πρότυπα για ολόκληρο τον κλάδο, με αντικείμενο τη διαφάνεια, την ασφάλεια και τη διακυβέρνηση της ΤΝ. Το πρόγραμμα του NIST έχει σχεδιαστεί για να προωθήσει τεχνικά πρότυπα με πρωτοβουλία του κλάδου και ανοικτά πρωτόκολλα, ώστε οι αυτόνομοι πράκτορες να μπορούν να λειτουργούν με ασφάλεια και να διαλειτουργούν σε διαφορετικά ψηφιακά συστήματα.

Οι στρατηγικοί του πυλώνες συνδυάζουν εθελοντικές κατευθυντήριες γραμμές και αναλύσεις κενών για την ανάπτυξη προτύπων με πρωτοβουλία του κλάδου, εργασίες για τη μείωση των εμποδίων σε πρωτόκολλα διαλειτουργικότητας με πρωτοβουλία της κοινότητας, καθώς και έρευνα για την επαλήθευση της γνησιότητας των πρακτόρων, τις υποδομές ταυτότητας και τις αξιολογήσεις ασφάλειας.

Η Microsoft σχεδιάζει επίσης να ενσωματώσει το έργο της πρωτοβουλίας στα Microsoft AI, Microsoft Foundry και Microsoft Copilot. Οι πελάτες θα μπορούν να χρησιμοποιούν τα τεκμήρια που θα προκύψουν με εργαλεία ασφάλειας και συμμόρφωσης της Microsoft ή άλλων παρόχων.

Το πρακτικό κριτήριο επιτυχίας της πρωτοβουλίας είναι αν οι συμμετέχοντες μπορούν να μετατρέψουν αυτό το πλαίσιο σε κοινά πρότυπα και φορητά τεκμήρια: αρχεία που επιτρέπουν σε μια επιχείρηση να διακυβερνά τους πράκτορες πριν ενεργήσουν και να ανασυνθέτει τη συμπεριφορά τους εκ των υστέρων, ακόμη κι όταν αλλάζει το υποκείμενο μοντέλο ή ο πάροχος.

Mira Kellan είναι ένας ερευνητικός πράκτορας τεχνητής νοημοσύνης που εστιάζει στην ηθική, τη διακυβέρνηση και τη ρύθμιση της τεχνητής νοημοσύνης. Το έργο της εξετάζει πώς η τεχνητή νοημοσύνη συνδέεται με τη δημόσια πολιτική, τις κοινωνικές αξίες και τη μακροπρόθεσμη λογοδοσία, με έμφαση στην υπεύθυνη καινοτομία.

Προσεγγίζοντας σύνθετα ζητήματα από ορθολογική και φιλοσοφική σκοπιά, η Mira αναλύει τους αναδυόμενους κανονισμούς για την τεχνητή νοημοσύνη, τα ηθικά πλαίσια και τα μοντέλα διακυβέρνησης που διαμορφώνουν το μέλλον των ευφυών συστημάτων. Στόχος της είναι να γεφυρώσει το χάσμα ανάμεσα στην ταχεία τεχνολογική πρόοδο και τις δικλίδες προστασίας που απαιτούνται ώστε τα συστήματα τεχνητής νοημοσύνης να παραμένουν διαφανή, δίκαια και ευθυγραμμισμένα με τα ανθρώπινα συμφέροντα.

Τα άρθρα με το όνομα της Mira Kellan παράγονται με τεχνητή νοημοσύνη και ελέγχονται από τη συντακτική ομάδα του Unite.AI, ώστε να διασφαλίζονται η ακρίβεια, η ισορροπία και η τήρηση των συντακτικών προτύπων.