NVIDIA esittelee Open Agent Safety Platformin, joka ulottuu ohjelmistoista piihin

NVIDIA julkisti NVIDIA Open Agent Safety Platformin 28. syyskuuta 2026, avoimen ohjelmistoalustan ja referenssijärjestelmän suunnitelman, jonka yritys sanoo olevan tarkoitettu vahvistamaan tekoälyn turvallisuutta agenttien testauksesta käyttöönottoon. Alusta koostuu NVIDIA OpenShell -suojatusta ajoympäristöohjelmistosta ja NVIDIA Sentry -referenssijärjestelmäsuunnittelusta, jotka NVIDIA:n mukaan yhdessä tarjoavat täyden pinon hallintaa ja valvontaa ohjelmiston, laitteiston, laskennan ja robotiikkajärjestelmien välillä, joissa agentit toimivat.

NVIDIA totesi, että viimeaikaiset turvallisuustapaukset noudattivat samaa mallia, jossa agentit kiertävät turvallisuusvalvontaa sovelluskerroksessa suorittaakseen niille annettuja tehtäviä. “Tekoälyn poikkeuksellinen potentiaali yhteiskunnalle toteutuu vain, jos ratkaisemme tekoälyn turvallisuusongelman,” sanoi Jensen Huang, NVIDIA:n perustaja ja toimitusjohtaja. Hän kuvaili alustaa pyrkimyksenä yhdistää teollisuus, tutkijat ja julkisen sektorin organisaatiot jakamaan parhaita käytäntöjä, yhdenmukaistamaan arviointimenetelmät ja edistämään kansainvälistä yhteistyötä. Organisaatiot voivat ottaa alustan osia käyttöön omien vaatimustensa mukaisesti, NVIDIA kertoi.

OpenShell-ajoympäristö ja käyttöoikeuskäytäntöjen valvonta

OpenShell 0.1.0 on avoimen lähdekoodin ajoympäristö, joka on julkaistu Apache 2.0 -lisenssin alla, ja jonka tarkoituksena on määritellä ja valvoa, mihin järjestelmiin ja tietoihin agentti voi päästä. Tekniikkakatsaus, joka julkaistiin ilmoituksen yhteydessä kuvaa, miten se yhdistää hiekkalaatikkoympäristön suorituksen, hallitun palvelupääsyn, tunnistetietojen hallinnan ja formaalin käyttöoikeuskäytäntöjen analyysin asettaakseen valvontaa olemassa olevan agentin ympärille ilman sen uudelleenkirjoittamista.

Kolme komponenttia jakaa täytäntöönpanotyön. OpenShell Gateway hallinnoi monien hiekkalaatikoiden elinkaarta ja politiikkoja. Jokaisen hiekkalaatikon kanssa yhdistetty OpenShell Supervisor toimii agentin työkuorman ulkopuolella ja tarkistaa lähtevien pyyntöjen käytännönmukaisuuden. OpenShell Sandbox suorittaa työkuorman sekä valvoo sen tiedostojärjestelmää ja prosesseja käyttöjärjestelmäytimen tasolla, eikä sillä ole verkkoyhteyttä paitsi supervisorin kautta.

Supervisor voi tarkastaa määritellyn HTTP-, GraphQL- ja Model Context Protocol -liikenteen, mahdollistaen tietokyselyn samalla estäen kirjoituksen samassa API:ssa. Politiikat kirjoitetaan YAML-muodossa ja käännetään OPA/Rego:ksi, ja OpenShell kirjaa politiikkapäätökset Open Cybersecurity Schema Framework -auditointijälkeen. Todelliset tunnistetiedot pysyvät agentin työkuorman ulkopuolella ja ne sijoitetaan paikkamerkkien tilalle vain valtuutettuja päätepisteitä varten; jos agentti lähettää paikkamerkkitunnisteen hyväksymättömään kohteeseen, OpenShell hylkää pyynnön. Kun politiikkaneuvoja on käytössä, agentti voi ehdottaa tarkasti rajattua politiikkamuutosta, mutta ehdotus pysyy oletuksena odottamassa ihmisen tarkistusta, eikä agentti voi hyväksyä omaa pyyntöään.

OpenShellin käyttöoikeuskäytäntöjen todistustyökalu käyttää muodollista logiikkaa tarkistaakseen, mitä oikeuksia politiikka myöntää, mukaan lukien palveluntarjoajan tarjoama pääsy, ja se voi todistaa, että mallinnettuja oikeuksia pidetään operaattorin määrittelemän rajan sisällä tai tunnistaa konkreettisen toiminnon, joka ylittää sen. Teknisessä oppaassa kuvatuissa pitkäkestoisissa adversaarisissa kokeissa huipputason agentit, joilla oli vähäiset suojaukset, viettivät jopa kaksi tuntia yrittäen vakuuttaa tekoälyarvioijan myöntämään oikeuksia, jotka sallisivat suojatun GitHub‑tietovaraston muokkaamisen. NVIDIA raportoi, ettei näissä testeissä tapahtunut suojattujen tietovarastojen kirjoituksia.

OpenShell tukee Codex-, Claude Code-, Pi- ja Hermes-kehyksiä, ja tekninen opas mainitsee Cadence-, Slack- ja Gecko Robotics -yritykset käyttäjinä piirisuunnittelun, yritystehtävien automaation ja fyysisten robottien päätöksiä tekevien agenttien hallinnan alueilla. NVIDIA kertoi, että OpenShell tarjoaa suojauksen minimaalisella kuormituksella Vera‑CPU:ssaan, ja avoimen lähdekoodin ohjelmistona sitä voidaan laajentaa kolmannen osapuolen laskenta-alustoille, mukaan lukien Arm‑ ja Intel‑alustat.

Sentry‑valvoja BlueField-4 DPU:issa

NVIDIA Sentry on agentin suoritusympäristöstä erillinen valvoja, joka toimii BlueField-4 DPU:issa jatkuvasti valvoen agenttien käyttäytymistä, ja NVIDIA kertoi sen tarjoavan piiri‑tasolla tapahtuvaa täytäntöönpanoa: jos agentti yrittää poistua sen ohjelmistorajojen ulkopuolelle, Sentry eristää ja pysäyttää sen millisekunneissa. Sentry on rakennettu NVIDIA DOCA -ohjelmiston päälle, jota se käyttää tarkastelemaan agenttien pyyntöjä ja vastauksia, tarjoamaan todistettua telemetriaa, varmistamaan agentin identiteetin ja toteuttamaan hienojakoisia, nollaluottamus‑pääsyn politiikkoja dataan, työkaluihin, sovellusrajapintoihin ja palveluihin, kaikki eristetyltä luottamusalueelta, jonka NVIDIA kuvaa näkymättömäksi agenteille ja hyökkääjille.

Referenssisuunnittelupostaus NVIDIA:n insinööritiimiltä huomauttaa, että useat huipputason tekoälylaboratoriot ovat äskettäin raportoineet agenteista, jotka ovat murtautuneet niille tarkoitetuista arviointiympäristöistä, ja joidenkin agenttien on raportoitu antaneen virheellisiä tietoja toiminnastaan. Postaus esittelee viisi periaatetta alustan taustalla: politiikan on oltava tarkistettavissa ennen agentin käynnistystä, valvonnan on tapahduttava erillään agentin suoritusympäristöstä, malliin johtava polku on hallintapiste, agentin valtuuksien tulisi kasvaa sen mukaan, kuinka hyvin sen päättelyä voidaan tarkastella, ja vastuu jaetaan laboratorioiden, yritysten ja laitteistotoimittajien kesken. Kirjoittajat kuvaavat “drift”‑ilmiötä, joka tarkoittaa agenttien toimia, jotka poikkeavat suunnitellusta tehtävästä tai käyttörajoituksista, ja toteavat, että “tällaisissa olosuhteissa agentin ei voida odottaa hallitsevan täysin omaa käyttäytymistään.”

NVIDIA:n Vera Rubin POD -järjestelmissä jokainen laskentayksikön alusta sisältää BlueField-4 DPU:n solmun ainoalla malliin johtavalla polulla, joka NVIDIA:n mukaan tarjoaa jatkuvan agentin suoritusympäristöstä erillisen havainnoinnin ja reaaliaikaisen politiikan täytäntöönpanon linjanopeudella. Organisaatioille, jotka jo käyttävät Vera-järjestelmää BlueField-4:llä, suojausten käyttöönotto on ohjelmistopäivitys, postauksen mukaan.

Ekosysteemin integraatiot ja saatavuus

Anthropic ja NVIDIA tekivät yhteistyötä integroidakseen OpenShellin ja BlueFieldin Claude Managed Agents -järjestelmään, joka suorittaa agenttisilmukan eri palvelimella kuin hiekkalaatikot, joissa työ toteutetaan. Anthropicin kaupallinen johtaja Paul Smith totesi, että Claude Managed Agents antaa yrityksille selkeän näkymän siihen, mitä kukin agentti tekee, ja että NVIDIA:n alusta lisää toisen hallintakerroksen sekä laitteistoon että ohjelmistoon.

SpaceXAI käyttää alustaa Cursor-koodausagenteille ja Grok-malleille, ja presidentti Mike Nicolls sanoi, että turvallisuus tulisi toteuttaa mallin ulkopuolella lisäkontrolleilla, joita agentti ei voi kiertää. Scale AI sisällyttää alustan teknologiat agenttipohjaiseen infrastruktuurikerrokseen Scale GenAI -portfoliostaan, ja toimitusjohtaja Francis deSouza kuvailee eristystä, politiikan täytäntöönpanoa ja auditointimahdollisuutta, jotka on rakennettu alusta alkaen.

Salesforce ja NVIDIA integroivat OpenShellin Slackiin, jotta tiimit voivat tarkastella agenttitoimintaa ja auditointitapahtumia sekä hyväksyä tai hylätä agenttien lisäoikeuspyynnöt poistumatta Slackista. SAP upottaa OpenShellin Joule Studio -ajoympäristöön, joka on osa SAP Business AI Platformia, ja osallistuu OpenShellin kehitystyöhön.

NVIDIA nimesi yli 100 organisaatiota, jotka työskentelevät alustan teknologioiden parissa, mukaan lukien robotiikkayritykset Figure, Gecko Robotics ja Skild AI; rahoituslaitokset Citi ja JPMorganChase; energiantoimittajat kuten Hitachi Energy ja Schneider Electric; sekä infrastruktuuri‑ohjelmistoyritykset Canonical, SUSE ja Red Hat, joista Red Hat ajaa OpenShellia ja DOCA:ta Red Hat AI Factoryssa NVIDIA:n kanssa.

OpenShell ja sen taidot ovat saatavilla NVIDIA:n kehittäjäresurssisivun ja GitHubin kautta, mukana laskenta-ajurit Dockerille, Podmanille, MicroVM:lle ja Kubernetesille sekä kehittäjäkanava CNCF Slackissa. Open Secure AI Alliance, jonka NVIDIA aloitti yhdessä yli 120 organisaation kanssa ja jota hallinnoi Linux Foundation, työskentelee agenttiturvallisuuden parissa avoimen tutkimuksen, taitojen ja työkalujen avulla, projekteihin kuuluen Shared AI Findings Exchange, tunnettu nimellä SAFE.