AI των ΗΠΑ σε ομοσπονδιακό και στρατιωτικό επίπεδο: Νέα Πλατφόρμα Προσφέρει Επικύρωση και Διαπίστευση Αλγορίθμων

Μια νεοσύστατη εταιρεία που διαθέτει συμβουλευτικό συμβούλιο πρώην διακεκριμένων στρατιωτικών αξιωματούχων της κυβέρνησης κυκλοφόρησε μια νέα πλατφόρμα σχεδιασμένη για την αξιολόγηση της ασφάλειας και της δυνατότητας υλοποίησης των εφαρμογών AI. Οι πρώτοι χρήστες του συστήματος, σύμφωνα με τις πληροφορίες, περιλαμβάνουν την Πολεμική Αεροπορία των ΗΠΑ και το Υπουργείο Εσωτερικής Ασφάλειας.

Η πλατφόρμα ονομάζεται VESPR, της CalypsoAI, που ιδρύθηκε το 2018, με έδρα τη Silicon Valley, το Δουβλίνο και μια επίσημα «μη γνωστή» τοποθεσία στη Βιρτζίνια – έδαφος της CIA στο Λάνγκλι.

Η VESPR είναι ένα σύστημα διαχείρισης κινδύνου μοντέλων (MRM) σχεδιασμένο για τη διευκόλυνση ενός ομοσπονδιακά συμμορφωμένου συστήματος διαπίστευσης για τα αναπτυγμένα αλγορίθμους. Προσφέρει τόσο ένα φιλικό προς το χρήστη περιβάλλον τύπου πίνακα ελέγχου (GUI), όσο και διεπαφή γραμμής εντολών (CLI) για πιο προχωρημένη χρήση.

Κάντε κλικ για μεγέθυνση.

Η VESPR βασίζεται στα πρότυπα επικύρωσης, επαλήθευσης και διαπίστευσης μηχανικής μάθησης της CalypsoAI, και διαθέτει χειροποίητες βιβλιοθήκες αντιπάλων μηχανικής μάθησης. Προσφέρει επίσης αυτοματοποιημένες διαδικασίες δοκιμών αντοχής για πιθανούς αναπτυγμένους αλγορίθμους.

Εθνική Ομάδα Εργασίας Πόρων Έρευνας Τεχνητής Νοημοσύνης

Η χρονική στιγμή της κυκλοφορίας μπορεί να σχετίζεται με τη χθεσινή εκκίνηση από τη διοίκηση του Μπιντέν μιας νέας Εθνικής Ομάδας Εργασίας Πόρων Έρευνας Τεχνητής Νοημοσύνης, ενός σώματος που έχει σχεδιαστεί να λειτουργήσει ως ομοσπονδιακό συμβουλευτικό συμβούλιο σύμφωνα με το Νόμο Πρωτοβουλίας AI του 2020.

Η πίεση αυξάνεται στις ΗΠΑ, και σε όλο τον κόσμο, για ουσιαστικά κανονιστικά πρότυπα για συστήματα μηχανικής μάθησης, ιδιαίτερα σε τομείς κρίσιμης σημασίας όπως η βασική υποδομή και η στρατιωτική χρήση. Δεδομένου ότι τα συστήματα ML βρίσκονται ακόμη σε ένα διαμορφωτικό στάδιο και εξελίσσονται γρήγορα, αποτελούν σχετικά ασταθή και συχνά αμφιλεγόμενη προσέγγιση, από την οποία είναι πλέον απαραίτητο να εντοπιστούν επαναλαμβανόμενοι και αξιόπιστοι αναλυτικοί αλγόριθμοι – εφόσον αυτό είναι εφικτό.

Τον Απρίλιο, η CalypsoAI εξέφρασε την υποστήριξή της στο Νόμο Endless Frontiers, ένα κοινοβουλευτικό νομοσχέδιο σχεδιασμένο να μεταρρυθμίσει τη χρηματοδότηση της επιστήμης εν όψει της αυξανόμενης κυριαρχίας της Κίνας ως δύναμη AI, αν και ο νόμος τελικά εξασθενοποιήθηκε στο στάδιο της Γερουσίας.

Επικύρωση για Ομοσπονδιακό AI

Σύμφωνα με το δελτίο τύπου της VESPR, οι περιοχές που καλύπτει το πλαίσιο περιλαμβάνουν την υπολογιστική όραση και την επεξεργασία φυσικής γλώσσας (NLP).

Η CalypsoAI ισχυρίζεται ότι η VESPR δημιουργήθηκε «με κρίσιμη συνεισφορά από υπάρχοντες πελάτες εθνικής ασφάλειας και γεννήθηκε από χρόνια ανεξάρτητης χρηματοδότησης έρευνας στην αντιπάλική μηχανική μάθηση».

Οι εικόνες του συστήματος που φαίνονται σε ένα προωθητικό βίντεο (δείτε στο τέλος του άρθρου) φαίνεται να περιλαμβάνουν διαδικασίες εντοπισμού και/ή προσομοίωσης για δηλητηρίαση δεδομένων και έγχυση θορύβου, παρέχοντας προσομοιώσεις για τις ενέργειες πιθανών επιτιθέμενων σε αναπτυγμένα συστήματα.

Κάντε κλικ για μεγέθυνση.

Το σύστημα φαίνεται να χρησιμοποιεί ιστορικά δεδομένα τόσο εθνικής όσο και ξένης δράσης. Οι κατηγορίες στόχων που εμφανίζονται περιλαμβάνουν «Διαδηλώσεις» και «Ταραχές», καθώς και την λιγότερο σαφή «Στρατηγικές εξελίξεις». Επίσης, φαίνεται να περιλαμβάνονται περιστατικά εθνικού τρομοκρατικού χαρακτήρα στις αναφορικές βάσεις δεδομένων του συστήματος, με την «Βία κατά πολιτών» ως ακόμη μια διαθέσιμη κατηγορία στόχου. Άλλες διαθέσιμες κατηγορίες στόχων περιλαμβάνουν «Μάχες» και «Έκρηξις/Απομακρυσμένη βία».

Κάντε κλικ για μεγέθυνση.

Το σύστημα φαίνεται να επιτρέπει την προστασία των χαρακτηριστικών σε μια ενότητα «Διαχείριση μεροληψίας» της διαμόρφωσης, προφανώς σχεδιασμένη για την καταπολέμηση της υπερπροσαρμογής ή για την αποφυγή της ανεπιθύμητης εξάλειψης μικρών εξαιρετικών γεγονότων που μπορεί να είναι ενδιαφέροντα σε μια αναλυτική διαδικασία. Στο βίντεο, η VESPR επεξεργάζεται πίνακες ιστορικών δεδομένων σχετικά με την «Ουκρανία».

Πέρα από αυτήν την αρχική προωθητική καμπάνια, δεν είναι πιθανό (ίσως εξ ορισμού) να ακούσουμε πολύ περισσότερα για αυτό το προϊόν SaaS προσανατολισμένο προς την κυβέρνηση, ανεξαρτήτως του πώς θα αποδειχθεί· μοιράζεται το όνομά του με μια αλυσίδα καφέ, μια κοινωνική εφαρμογή γνωριμιών και ένα άλμπουμ streaming, και καταπνίγεται αδιάλειπτα στα αποτελέσματα κατάταξης από το μοντέλο χημείας VSEPR.

Η CalypsoAI έλαβε 13 εκατομμύρια δολάρια σε χρηματοδότηση Σειράς Α από την Paladin Capital Venture Group τον Ιούλιο του 2020. Άλλοι επενδυτές συμπεριλαμβάνονταν 8VC, Lockheed Martin (LMT ) Ventures, Manta Ray Ventures, Frontline Ventures, Lightspeed Venture Partners και Pallas Ventures.

Σε μια ανάρτηση στο εταιρικό blog, ο ιδρυτής της CalypsoAI, Neil Serebryany, ο οποίος πραγματοποίησε ακαθόριστη ερευνητική εργασία στο Υπουργείο Άμυνας το 2018, δηλώνει ότι η εταιρεία ιδρύθηκε ως πιθανή λύση στον φόβο των κυβερνήσεων σχετικά με την ανάπτυξη προχωρημένων αλγοριθμικών συστημάτων σε ένα αρυθμισμένο κλίμα:

‘Ο κύριος λόγος για αυτόν τον φόβο των έργων AI, που οδηγεί στην εγκατάλειψή τους εντός της κυβέρνησης, ακούγεται προσιτός, αλλά στην πραγματικότητα είναι αρκετά πολύπλοκος. Εγκαταλείπονταν λόγω έλλειψης διασφάλισης ποιότητας […] Τα μοντέλα AI δεν μπορούν να αξιολογηθούν με τον ίδιο τρόπο όπως τα παραδοσιακά μοντέλα λογισμικού. Αυτό οφείλεται στη θεμελιώδη φύση της δομής των μοντέλων και στους ιδιαίτερα πολύπλοκους τρόπους με τους οποίους μπορούν να αποτύχουν. Η έλλειψη μηχανισμού για την αξιολόγηση αυτών των μη-ντετερμινιστικών συστημάτων με ντετερμινιστικό, ελεγκτικό τρόπο, καθιστούσε τις κυβερνητικές οργανώσεις αδύνατες να αξιολογήσουν την λεγόμενη ‘ποιότητα’ των μοντέλων AI έναντι ενός δείκτη αναφοράς. Αυτό οδήγησε σε φόβο ότι μπορεί να αποτύχουν, να παρουσιάσουν δυσλειτουργίες ή να υποστούν κυβερνοεπίθεση από αντίπαλο τη στιγμή που είναι πιο αναγκαία, π.χ. σε μάχη, σε πτήση ή κατά τη διάρκεια μιας πολύπλοκης ιατρικής διαδικασίας.’

Συμβουλευτικό Συμβούλιο

Ένα μήνα πριν από τη γύρω χρηματοδότησης, η εταιρεία δημιούργησε ένα Συμβούλιο Εθνικής Ασφάλειας που περιλαμβάνει τον Tony DeMartino, πρώην βοηθό του Υπουργού Άμυνας Jim Mattis, και τώρα συνιδρυτικό συνεργάτη της στρατηγικής συμβουλευτικής εταιρείας Pallas Advisors με έδρα τη Washington· την πρώην Principal Deputy Under Secretary of Defense for Intelligence (υπό τον Πρόεδρο Trump) Kari Bingen· την πρώην Associate Deputy Director for CIA Digital Innovation Sean Roche, πρώην ειδικό κυβερνο-νοημοσύνης σε εκείνον τον οργανισμό· και τον Michael Molino, πρώην Executive Vice President of corporate development στην ASRC Federal, η οποία παρέχει συμβουλευτικές, ερευνητικές και τεχνικές δυνατότητες μετανάστευσης σε ένα εύρος κρίσιμων ομοσπονδιακών υπηρεσιών.

Σύμφωνα με τη ανακοίνωση:

‘Η VESPR παρέχει προχωρημένες δυνατότητες δοκιμών AI με μια απλοποιημένη ροή εργασιών ώστε να διασφαλιστεί ότι κάθε αλγόριθμος μηχανικής μάθησης που τίθεται σε παραγωγή έχει επαληθευτεί ως ασφαλής. Η VESPR προσφέρει ασύγκριτη ασφάλεια και διασφάλιση σε μια ποικιλία συστημάτων AI, από την υπολογιστική όραση έως την επεξεργασία φυσικής γλώσσας. Η διαδικασία VESPR διασφαλίζει τη δοκιμή, αξιολόγηση, επαλήθευση και επικύρωση (TEVV) σε όλο τον ασφαλή κύκλο ζωής της μηχανικής μάθησης (SMLC), από τη φάση έρευνας και ανάπτυξης έως την ανάπτυξη του μοντέλου. Το τελικό αποτέλεσμα είναι συστήματα AI που παρέχουν ακριβή και ολοκληρωμένη παρακολούθηση και αναφορά για τις δυνατότητες, τις ευπάθειες και την απόδοση των μοντέλων.’

Ενημερώθηκε στις 11:07 π.μ. EST για να αντικατοπτρίζει ότι ο Michael Molino δεν εργάζεται πλέον στην ASRC Federal, διορθωτικό σφάλμα στο αρχικό άρθρο.

Ενημερώθηκε στις 1January 28, 2024 για να αφαιρεθεί το χαλασμένο βίντεο του YouTube.