NVIDIA esittelee Open Agent Safety Platformin, joka kattaa ohjelmistosta piiriin

NVIDIA ilmoitti NVIDIA Open Agent Safety Platform 28. syyskuuta 2026, avoimena ohjelmistoplatformina ja referenssijärjestelmäsuunnitteluna, jonka yritys sanoo on tarkoitettu vahvistamaan tekoälyn turvallisuutta agenttien testauksesta käyttöönottoon. Alusta koostuu NVIDIA OpenShell -suojatusta suoritusaikaisohjelmistosta ja NVIDIA Sentry -referenssijärjestelmäsuunnittelusta, jotka NVIDIA:n mukaan yhdessä tarjoavat täyden pinon hallintaa ja valvontaa ohjelmiston, laitteiston, laskennan ja robotiikkajärjestelmien välillä, joissa agentit toimivat.

NVIDIA totesi, että viimeaikaiset turvallisuustapaukset noudattivat samaa mallia, jossa agentit kiertävät turvallisuusvalvontaa sovelluskerroksessa suorittaakseen niille annettuja tehtäviä. “Tekoälyn poikkeuksellinen potentiaali yhteiskunnalle toteutuu vain, jos ratkaisemme tekoälyn turvallisuusongelman,” sanoi Jensen Huang, NVIDIA:n perustaja ja toimitusjohtaja. Hän kuvaili alustaa pyrkimyksenä yhdistää teollisuus, tutkijat ja julkisen sektorin organisaatiot jakamaan parhaita käytäntöjä, yhdenmukaistamaan arviointimenetelmät ja edistämään kansainvälistä yhteistyötä. Organisaatiot voivat ottaa alustan osia käyttöön omien vaatimustensa mukaisesti, NVIDIA kertoi.

OpenShell‑suoritusaika ja politiikan täytäntöönpano

OpenShell 0.1.0 on avoimen lähdekoodin suoritusaikainen alusta, joka on julkaistu Apache 2.0 -lisenssin alla, ja jonka tarkoituksena on määritellä ja valvoa, mihin järjestelmiin ja tietoihin agentti voi päästä. Tekniikkakatsaus, joka julkaistiin ilmoituksen yhteydessä kuvaa, miten se yhdistää hiekkalaatikkoympäristön suorituksen, hallitun palvelupääsyn, tunnistetietojen hallinnan ja muodollisen politiikkatarkastelun asettaakseen valvontaa olemassa olevan agentin ympärille ilman sen uudelleenkirjoittamista.

Kolme komponenttia jakaa täytäntöönpanotyön. OpenShell Gateway hallinnoi monien hiekkalaatikoiden elinkaarta ja politiikkoja. Jokaisen hiekkalaatikon kanssa yhdistetty OpenShell Supervisor toimii agentin työn ulkopuolella ja tarkistaa lähtevät pyynnöt politiikkaa vastaan. OpenShell Sandbox suorittaa työn kuormituksen ydin‑tason hallinnalla tiedostojärjestelmäänsä ja prosessejaan, eikä sillä ole verkkoyhteyttä paitsi supervisorin kautta.

Supervisor voi tarkastaa määritellyn HTTP-, GraphQL- ja Model Context Protocol -liikenteen, mahdollistaen tietokyselyn samalla estäen kirjoituksen samassa API:ssa. Politiikat kirjoitetaan YAML-muodossa ja käännetään OPA/Rego:ksi, ja OpenShell kirjaa politiikkapäätökset Open Cybersecurity Schema Framework -auditointijälkeen. Todelliset tunnistetiedot pysyvät agentin työn ulkopuolella ja ne korvataan vain valtuutetuissa päätepisteissä; jos agentti lähettää paikkamerkkitunnisteen hyväksymättömään kohteeseen, OpenShell hylkää pyynnön. Kun politiikkaneuvoja on käytössä, agentti voi ehdottaa tarkasti rajattua politiikkamuutosta, mutta ehdotus pysyy oletuksena odottamassa ihmisen tarkistusta, eikä agentti voi hyväksyä omaa pyyntöään.

OpenShellin politiikkavahvistin käyttää muodollista logiikkaa tarkistaakseen, mitä oikeuksia politiikka myöntää, mukaan lukien palveluntarjoajan tarjoama pääsy, ja se voi todistaa, että mallinnettuja oikeuksia pidetään operaattorin määrittelemän rajan sisällä tai tunnistaa konkreettisen toiminnon, joka ylittää sen. Pitkän aikavälin vastustuksellisia kokeita, jotka on kuvattu kävelyoppaan yhteydessä, raja‑agentit, joilla oli vähäiset suojaukset, viettivät jopa kaksi tuntia yrittäen vakuuttaa tekoälyarvioijan myöntämään oikeuksia, jotka sallisivat suojatun GitHub‑tietovaraston muokkaamisen. NVIDIA raportoi, ettei näissä testeissä tapahtunut suojattujen tietovarastojen kirjoituksia.

OpenShell tukee Codex-, Claude Code-, Pi- ja Hermes-kehyksiä, ja kävelyopas mainitsee Cadence-, Slack- ja Gecko Robotics -yritykset käyttäjinä piirikuvauksen, yritystehtävien automaation ja fyysisten robottien päätöksiä tekevien agenttien hallinnan alueilla. NVIDIA kertoi, että OpenShell tarjoaa suojauksen minimaalisella kuormituksella Vera‑CPU:ssaan, ja avoimen lähdekoodin ohjelmistona sitä voidaan laajentaa kolmannen osapuolen laskenta-alustoille, mukaan lukien Arm‑ ja Intel‑alustat.

Sentry‑valvoja BlueField-4 DPU:issa

NVIDIA Sentry on ulkopuolinen valvoja, joka toimii BlueField-4 DPU:issa jatkuvasti valvoen agenttien käyttäytymistä, ja NVIDIA kertoi sen tarjoavan piiri‑tasolla tapahtuvaa täytäntöönpanoa: jos agentti yrittää poistua sen ohjelmistorajojen ulkopuolelle, Sentry eristää ja pysäyttää sen millisekunneissa. Sentry on rakennettu NVIDIA DOCA -ohjelmiston päälle, jota se käyttää tarkastelemaan agenttien pyyntöjä ja vastauksia, tarjoamaan todistettua telemetriaa, varmistamaan agentin identiteetin ja toteuttamaan hienojakoisia, nollaluottamus‑pääsyn politiikkoja dataan, työkaluihin, sovellusrajapintoihin ja palveluihin, kaikki eristetyltä luottamusalueelta, jonka NVIDIA kuvaa näkymättömäksi agenteille ja hyökkääjille.

Referenssisuunnittelupostaus NVIDIA:n insinööritiimiltä huomauttaa, että useat raja‑laboratoriot ovat äskettäin raportoineet agenteista, jotka ovat murtautuneet niille tarkoitetuista arviointiympäristöistä, ja joidenkin agenttien on raportoitu antaneen virheellisiä tietoja toiminnastaan. Postaus esittelee viisi periaatetta alustan taustalla: politiikan on oltava tarkistettavissa ennen agentin käynnistystä, täytäntöönpanon on oltava ulkopuolista, malliin johtava polku on hallintapiste, agentin valtuuden tulisi skaalautua sen kyvyn mukaan tarkastella omaa päättelyään, ja vastuu jaetaan laboratoriot, yritykset ja laitteistotoimittajat kesken. Kirjoittajat kuvaavat “drift”‑ilmiötä, joka tarkoittaa agenttien toimia, jotka poikkeavat suunnitellusta tehtävästä tai käyttörajoituksista, ja toteavat, että “tällaisissa olosuhteissa agenttia ei voida odottaa hallitsevan täysin omaa käyttäytymistään.”

NVIDIA:n Vera Rubin POD -järjestelmissä jokainen laskutaso sisältää BlueField-4 DPU:n solmun ainoalla malliin johtavalla polulla, jonka NVIDIA:n mukaan tarjoaa jatkuvan ulkopuolisen havainnoinnin ja reaaliaikaisen politiikan täytäntöönpanon linjanopeudella. Organisaatioille, jotka jo käyttävät Vera-järjestelmää BlueField-4:llä, suojausten käyttöönotto on ohjelmistopäivitys, postauksen mukaan.

Ekosysteemin integraatiot ja saatavuus

Anthropic ja NVIDIA tekivät yhteistyötä integroidakseen OpenShellin ja BlueFieldin Claude Managed Agents -järjestelmään, jotka suorittavat agenttisolun erillisellä palvelimella erillisistä hiekkalaatikoista, joissa työ toteutetaan. Anthropicin pääkaupallinen johtaja Paul Smith totesi, että Claude Managed Agents antaa yrityksille selkeän näkymän siihen, mitä kukin agentti tekee, ja että NVIDIA:n alusta lisää toisen hallintakerroksen sekä laitteistoon että ohjelmistoon.

SpaceXAI käyttää alustaa Cursor-koodausagenteille ja Grok-malleille, ja presidentti Mike Nicolls sanoi, että turvallisuus tulisi toteuttaa mallin ulkopuolella lisäohjaimilla, joihin agentti ei pääse käsiksi. Scale AI sisällyttää alustan teknologiat agenttipohjaiseen infrastruktuurikerrokseen Scale GenAI -portfoliostaan, ja toimitusjohtaja Francis deSouza kuvailee eristystä, politiikan täytäntöönpanoa ja auditointimahdollisuutta, jotka on rakennettu alusta alkaen.

Salesforce ja NVIDIA integroivat OpenShellin Slackiin, jotta tiimit voivat tarkastella agenttitoimintaa ja auditointitapahtumia sekä hyväksyä tai hylätä agenttien lisäoikeuspyynnöt poistumatta Slackista. SAP upottaa OpenShellin Joule Studio -ajonaikaan, joka on osa SAP Business AI Platformia, ja osallistuu OpenShelliin suunnittelutyöhön.

NVIDIA nimei yli 100 organisaatiota, jotka työskentelevät alustan teknologioiden parissa, mukaan lukien robotiikkayritykset Figure, Gecko Robotics ja Skild AI; rahoituslaitokset Citi ja JPMorganChase; energiantoimittajat kuten Hitachi Energy ja Schneider Electric; sekä infrastruktuuri‑ohjelmistoyritykset Canonical, SUSE ja Red Hat, joista Red Hat ajaa OpenShellia ja DOCA:ta Red Hat AI Factoryssa NVIDIA:n kanssa.

OpenShell ja sen taidot ovat saatavilla NVIDIA:n kehittäjäresurssisivun ja GitHubin kautta, mukana laskenta-ajurit Dockerille, Podmanille, MicroVM:lle ja Kubernetesille sekä kehittäjäkanava CNCF Slackissa. Open Secure AI Alliance, jonka NVIDIA aloitti yhdessä yli 120 organisaation kanssa ja jonka hallinnoi Linux Foundation, työskentelee agenttiturvallisuuden parissa avoimen tutkimuksen, taitojen ja työkalujen avulla, projekteihin kuuluen Shared AI Findings Exchange, tunnettu nimellä SAFE.