აშშ ფედერალური და სამხედრო AI: ახალი პლატფორმა გთავაზობთ ალგორითმის დადასტურებას და აკრედიტაციას

სტარტაპმა, რომელიც შეიცავს ყოფილი სამთავრობო სამხედრო ჩინოვნიკების მრჩეველთა საბჭოს, გამოუშვა ახალი პლატფორმა, რომელიც შექმნილია ხელოვნური ინტელექტის აპლიკაციების უსაფრთხოებისა და განლაგების შესაფასებლად. როგორც ამბობენ, სისტემის ადრეული მიმღებები მოიცავს აშშ-ს საჰაერო ძალებს და შიდა უსაფრთხოების დეპარტამენტს.

პლატფორმას ჰქვია VESPR, CalypsoAI-დან, რომელიც დაარსდა 2018 წელს, სათაო ოფისით სილიკონის ველში, დუბლინში და ოფიციალურად „გაუცნობი“ მდებარეობა ვირჯინიაში – ტერა ფირმა CIA-სთვის ლენგლიში.

VESPR არის რისკების მართვის მოდელი (MRM) სისტემა, რომელიც შექმნილია განლაგებული ალგორითმებისთვის აკრედიტაციის ფედერალურ შესაბამის სისტემაზე. ის გთავაზობთ როგორც მოსახერხებელი დაფის სტილის GUI გარემოს, ასევე CLI ინტერფეისს უფრო მოწინავე გამოყენებისთვის.

დააჭირეთ გასადიდებლად. წყარო: https://www.youtube.com/watch?v=lMhS6j7t2pI

VESPR დაფუძნებულია CalypsoAI-ს მანქანური სწავლების ვალიდაციის, ვერიფიკაციისა და აკრედიტაციის სტანდარტებზე და აღჭურვილია ხელნაკეთი საპირისპირო მანქანათმცოდნეობის ბიბლიოთეკებით. ის ასევე გთავაზობთ სტრესის ტესტირების ავტომატიზებულ რუტინებს პოტენციური განლაგების ალგორითმებისთვის.

ეროვნული ხელოვნური ინტელექტის კვლევის რესურსების სამუშაო ჯგუფი

გამოშვების დრო შეიძლება ეხებოდეს გუშინდელს დაიწყოს ბაიდენის ადმინისტრაციის მიერ ახალი ეროვნული ხელოვნური ინტელექტის კვლევითი რესურსების სამუშაო ჯგუფის, ორგანო, რომელიც შექმნილია ფედერალური საკონსულტაციო კომიტეტის როლისთვის კონგრესის თანახმად 2020 წლის ეროვნული AI საინიციატივო აქტი.

ძლიერდება ზეწოლა შეერთებულ შტატებზე და მთელ მსოფლიოში, მანქანური სწავლების სისტემების მნიშვნელოვანი მარეგულირებელი სტანდარტებისთვის, განსაკუთრებით მისიისთვის კრიტიკულ სფეროებში, როგორიცაა ძირითადი ინფრასტრუქტურა და სამხედრო გამოყენება. ვინაიდან ML სისტემები ჯერ კიდევ გადიან ფორმირების სტადიას და პროგრესის სწრაფ ტემპს, ისინი წარმოადგენენ შედარებით არასტაბილურ და ხშირად საკამათო რესურსს, საიდანაც ახლა აუცილებელია განმეორებადი და სანდო ანალიტიკური ალგორითმების იდენტიფიცირება - თუ ეს შესაძლებელია.

აპრილში CalypsoAI-მ გამოაქვეყნა მხარდაჭერა გაუთავებელი საზღვრების აქტი, კონგრესის კანონპროექტი, რომელიც შექმნილია მეცნიერების დაფინანსების რეფორმისთვის, ჩინეთის, როგორც ხელოვნური ინტელექტის ძალაუფლების მზარდი გამოჩენის ფონზე, თუმცა აქტი საბოლოოდ იყო მორწყვა სენატის სცენაზე.

დადასტურება ფედერალური AI-სთვის

VESPR-ის პრესრელიზის თანახმად, ჩარჩო მოიცავს კომპიუტერულ ხედვას და ბუნებრივი ენის დამუშავებას (NLP).

CalypsoAI ამტკიცებს, რომ VESPR შეიქმნა „არსებული ეროვნული უსაფრთხოების მომხმარებლების მნიშვნელოვანი შეტანით და დამოუკიდებლად დაფინანსებული წლების განმავლობაში მოწინააღმდეგე მანქანათმცოდნეობის კვლევის შედეგად“.

სარეკლამო ვიდეოში ნაჩვენები სისტემის სურათები (იხილეთ სტატიის ბოლოს), როგორც ჩანს, შეიცავს მონაცემთა მოწამვლისა და ხმაურის ინექციისთვის გამოვლენის და/ან სიმულაციის რუტინას, რაც უზრუნველყოფს პოტენციური თავდამსხმელების მოქმედებების სიმულაციას განლაგებულ სისტემებზე.

დააჭირეთ გასადიდებლად.

სისტემა, როგორც ჩანს, იყენებს როგორც ეროვნული, ისე საგარეო მოქმედების ისტორიულ მონაცემებს. გამორჩეული სამიზნე კლასები მოიცავს "პროტესტებს" და "არეულობას", გარდა ნაკლებად მკაფიო "სტრატეგიული განვითარებების". როგორც ჩანს, ეროვნული ტერორიზმის ინციდენტები ასევე შედის სისტემის საცნობარო მონაცემთა ბაზებში, სადაც „ძალადობა მშვიდობიანი მოსახლეობის წინააღმდეგ არის კიდევ ერთი ხელმისაწვდომი სამიზნე კლასი“. სხვა ხელმისაწვდომი სამიზნე კლასები მოიცავს "ბრძოლებს" და "აფეთქებებს/დისტანციურ ძალადობას".

დააჭირეთ გასადიდებლად.

სისტემა, როგორც ჩანს, იძლევა კონფიგურაციის „BIAS მართვის“ განყოფილების ფუნქციების დაცვის საშუალებას, რომელიც აშკარად შექმნილია ზედმეტად მორგების წინააღმდეგ საბრძოლველად ან მცირე გარე მოვლენების არასასურველი აღმოფხვრის თავიდან ასაცილებლად, რომლებიც შეიძლება იყოს საინტერესო ანალიტიკურ რუტინაში. ვიდეოში VESPR ამუშავებს ცხრილის ისტორიულ მონაცემებს "უკრაინის" შესახებ.

ამ თავდაპირველი სარეკლამო ბლიცის მიღმა, ნაკლებად სავარაუდოა (შესაძლოა, დიზაინის მიხედვით), რომ ჩვენ მოვისმინოთ ბევრად მეტი ამ SaaS-ის სამთავრობო პროდუქტის შესახებ, თუმცა ის ფასდება; ის იზიარებს თავის სახელს ყავის ბარის ფრენჩაიზთან, სოციალური გაცნობის აპთან და სტრიმინგ ალბომთან და დაუნდობლად აჯობა VSEPR ქიმიის მოდელის რეიტინგულ შედეგებში.

CalypsoAI მიიღო $ 13 მილიონი სერიებში A-ს ფონდების მოზიდვა Paladin Capital Venture Group-დან 0 წლის 2020 ივლისში. სხვა ინვესტორები შედის 8VC, Lockheed Martin Ventures, Manta Ray Ventures, Frontline Ventures, Lightspeed Venture Partners და Pallas Ventures.

კომპანიის საიტზე გამოქვეყნებულ ბლოგპოსტში, CalypsoAI-ს დამფუძნებელი ნილ სერებრიანი, რომელმაც 2018 წელს თავდაცვის დეპარტამენტში დაუზუსტებელი კვლევითი სამუშაოები ჩაატარა, აცხადებს, რომ კომპანია დაარსდა, როგორც შესაძლო გადაწყვეტა მთავრობების შიშისგან, განლაგებულიყო მოწინავე ალგორითმული სისტემები არარეგულირებულ კლიმატში. :

„ინტელექტის ხელოვნური ინტელექტის პროექტების ამ შიშის მთავარი მიზეზი, რამაც გამოიწვია მათი მიტოვება მთავრობის შიგნით, პროზაულად ჟღერს, მაგრამ სინამდვილეში საკმაოდ რთულია. ისინი მიატოვეს ხარისხის უზრუნველყოფის ნაკლებობის გამო […] AI მოდელები არ შეიძლება შეფასდეს ისე, როგორც ტრადიციული პროგრამული მოდელები. ეს გამოწვეულია მოდელის სტრუქტურის ფუძემდებლური ბუნებით და უაღრესად რთული გზებით, რომლითაც ისინი შეიძლება ჩავარდეს. ამ არადეტერმინისტული სისტემების განმსაზღვრელი, აუდიტორული გზით შეფასების მექანიზმის არარსებობის გამო, ხელისუფლების შიგნით არსებულმა ორგანიზაციებმა ვერ შეძლეს შეეფასებინათ ხელოვნური ინტელექტის მოდელების ე.წ. „ხარისხი“ საორიენტაციო ნიშნით. ამან გამოიწვია იმის შიში, რომ ისინი შეიძლება წარუმატებლობის, გაუმართაობის ან მოწინააღმდეგის მიერ გატეხილი იყოს იმ დროს, როდესაც ისინი ყველაზე მეტად ესაჭიროებათ, მაგალითად, ბრძოლაში, ფრენისას ან რთული სამედიცინო პროცედურის დროს. '

მრჩეველთა საბჭო

საინვესტიციო რაუნდამდე ერთი თვით ადრე კომპანიამ შექმნა ეროვნული უსაფრთხოების მრჩეველთა საბჭო, რომელშიც შედის ტონი დემარტინოთავდაცვის მინისტრის ჯიმ მატისის ყოფილი თანაშემწე და ახლა ვაშინგტონში დაფუძნებული სტრატეგიული საკონსულტაციო ფირმის Pallas Advisors-ის დამფუძნებელი პარტნიორი; თავდაცვის მდივნის მოადგილის ყოფილი მთავარი მოადგილე დაზვერვის საკითხებში (პრეზიდენტ ტრამპის დროს) კარი ბინგენი; CIA ციფრული ინოვაციების დირექტორის ყოფილი მოადგილე შონ როში, ოდესღაც კიბერ-დაზვერვის სპეციალისტი ამ ორგანიზაციაში; და მაიკლ მოლინო, ASRC Federal-ის კორპორაციული განვითარების ყოფილი აღმასრულებელი ვიცე-პრეზიდენტი, რომელიც უზრუნველყოფს საკონსულტაციო, კვლევისა და ტექნიკური მიგრაციის შესაძლებლობებს კრიტიკულ ფედერალურ სერვისებში.

გამოცემის მიხედვით:

„VESPR უზრუნველყოფს ხელოვნური ინტელექტის ტესტირების მოწინავე შესაძლებლობებს გამარტივებული სამუშაო ნაკადით, რათა უზრუნველყოს, რომ წარმოებაში ჩასმული ყველა მანქანათმცოდნეობის ალგორითმი დამოწმებულია უსაფრთხოდ. VESPR უზრუნველყოფს შეუდარებელ უსაფრთხოებასა და გარანტიას სხვადასხვა ხელოვნური ინტელექტის სისტემებს, კომპიუტერული ხედვიდან ბუნებრივი ენის დამუშავებამდე. VESPR პროცესი უზრუნველყოფს ტესტირებას, შეფასებას, ვერიფიკაციას და ვალიდაციას (TEVV) უსაფრთხო მანქანათმცოდნეობის სასიცოცხლო ციკლის განმავლობაში (SMLC), კვლევისა და განვითარების ფაზიდან მოდელის დანერგვამდე. საბოლოო შედეგი არის AI სისტემები, რომლებიც უზრუნველყოფენ ზუსტ და ყოვლისმომცველ მონიტორინგს და მოხსენებას მოდელის შესაძლებლობების, დაუცველობისა და შესრულების შესახებ.'

განახლებულია 11:07 AM EST, რათა აისახოს, რომ მაიკლ მოლინო აღარ მუშაობს ASRC Federal-ში, რაც ორიგინალური სტატიის შეცდომაა.

განახლებულია 1 წლის 28 იანვარს, გატეხილი YouTube ვიდეოს წასაშლელად.