Kyberturvallisuus

Anthropicin Inline-tietotappiolle Estääminen Claude Enterpriseen

mm
Lisää Unite.AI suosikkilähteisiisi Google-palvelussa

Anthropic julkaisi 5. elokuuta 2026, inference-kytkimet, jotka ovat beetaversio Claude Enterpriseen, joka ohjaa jokaisen työntekijän kysymyksen organisaation oman turvallisuuspalvelimen kautta, joka antaa salliva tai kieltävä tuomio ennen kuin malli näkee sen. Järjestelmä, josta kerrotaan Anthropicin ilmoituksessa, laajentaa inline-tietotappiolle estämistä, jota turvallisuustiimit jo käyttävät sähköpostissa ja verkkoliikenteessä, chatiin, Claude Codeen ja Claude Cowork-istuntoihin, yhden organisaatiotasoisella konfiguraatiolla.

Tähän asti Anthropicin ainoa alkuperäinen inline-pakko oli Claude Cooden asiakaspuolen kytkimissä, jotka suoritetaan käyttäjän laitteessa. Inference-kytkimet siirtävät tarkistuspisteen Anthropicin palvelimille, pyynnön jälkeen, kun se poistuu asiakaspuolelta ja ennen kuin inference suoritetaan, joten yksi ohjaus kattaa jokaisen hallitun pinnan, ilman mitään asennuksia käyttäjän laitteissa.

Miten pakko- polku toimii

Kun käyttäjä hallitulla pinnalla lähettää kysymyksen, Anthropic lähettää keskustelun transkriptin organisaation turvallisuuspalvelimelle allekirjoitetun yhteyden kautta ja odottaa tuomiota. Salliva tuomio jatkaa inferenceä. Kieltävä tuomio estää pyynnön pääsyn malliin, ja käyttäjä näkee viestin, joka on estetty käytännön mukaan, joka on muodostettu turvallisuuspalvelimen palauttamasta syystä, sekä pysyvästä ilmoituksesta, jonka organisaation hallinnoijat määrittävät, kuten poikkeuksen pyytämiseen. Jokainen kieltäminen tallennetaan organisaation Toimintalokiin.

Sama tarkastus suoritetaan työkalukutsuilla. Kun Claude kutsuu työkalua, mukaan lukien työkalut, jotka on yhdistetty MCP-liittimien, taitojen ja laajennusten kautta, työkalun vastaus tarkistetaan ennen kuin se palautetaan malliin. Tämä sulkee toisen puolen data-liikenteen ongelmaa: herkkä materiaali, joka tulee keskusteluun liitetystä järjestelmästä, ei vain sitä, mitä työntekijä liittää. Työkaluvastaukset ovat tarkkailtavat hyökkäyksen pinnat tarkalleen tästä syystä, koska ne kantavat dataa mallin kontekstiin organisaation reunan ulkopuolelta, kuten viimeaikaiset tutkimukset agent-sandbox-paon ovat korostaneet.

Tuomio itsessään on pieni JSON-olio, ja palvelimen on vastattava määrätyn aikakatkaisun, oletusarvoisesti viisi sekuntia, tuotteen dokumentaation mukaan. Pyynnöt allekirjoitetaan Standard Webhooks -määrityksen mukaisesti, kun organisaatio on luonut allekirjoitus salaisuuden, jotta turvallisuuspalvelin voi vahvistaa, että liikenne on peräisin Anthropicista.

Turvallisuuspalvelin näkee transkriptin tekstin, työkalukutsut ja niiden tulokset, sekä tekstin, joka on poimittu liitteistä. Se ei koskaan vastaanota raakaa tiedostoa tai kuvapikseleitä, järjestelmäkysymyksiä, työkalumäärityksiä. Apupyynnöt, kuten keskustelun otsikon luominen, ohittavat päätepisteen, ja äänitila ei ole käytössä.

Rakennettu istumaan olemassa olevan DLP-pinon eteen

Anthropic ei myy skannausmoottoria. Protokolla on webhook-pohjainen ja julkaistu skeema, ja ilmoitus mainitsee Netskopen, Palo Alto Networks (PANW ), Proofpointin ja Zscalerin kohteina, joita organisaatiot voivat osoittaa kytkimeen, rinnakkain sisäisillä palvelimilla. Turvallisuuspalveluntarjoajat voivat rakentaa integraatioita dokumentoidun skeeman vastaisesti ja saada yhteisiä asiakkaita ohjaamaan tuomioita heidän alustoilleen. Arkkitehtuuri kääntää yleisen DLP-käyttöönoton: sen sijaan, että toimittajan laite seuraa AI-liikennettä verkkossa, AI-toimittaja kutsuu toimittajan tuomio-API:ta jokaisella pyynnöllä. Check Point otti peilikuva- lähestymistavan muutamia päiviä aikaisemmin, siirtäen AI-kysymyksen tarkastelun palomuuriinsa, jotta verkkokerros sieppaa mallin liikenteen.

Julkaisun ohjaus tunnustaa, että työntekijöiden esto ensimmäisenä päivänä on tapa, jolla DLP-ohjelmat kuolevat. Varjotila tarkkailee tuomioita live-liikenteessä ilman estoja, julkaisuprosentti tarkastelee valittua osaa pyynnöistä, ja poikkeukset vapauttavat valittujen roolien jäseniä kokonaan. Jos turvallisuuspalvelin ei ole käytettävissä, virheitä, tai ylittää aikakatkaisun, organisaatio valitsee epäonnistumisen asennon: esto pyynnölle, tai päästä se läpi tarkastamattomana.

Dokumentaatio listaa DLP:n yleisimmän käyttöönoton, mutta kuvaa kolme muuta: reaaliaikaisen transkriptin arkistointi push-pohjaisena vaihtoehtona Anthropicin Compliance API:lle, kysymys- telemetria, joka on tallennettu käytön hetkellä, ja mukautettuja käytäntömoottoreita, jotka pakottavat sääntöjä, kuten mallin sallimisluettelot tai projektiin perustuvat rajoitukset ennen inferenceä.

Mitä beeta ei kata

Dokumentaation määritetyt rajoitukset määrittävät nykyisen kirjekuoren. Tuomiot ovat binäärisiä: palvelin voi sallia tai kieltää kysymyksen, mutta ei voi muokata tai poistaa sitä. Liitteet saapuvat metadataksi ja poimittuna tekstinä, joten vain kuvamateriaali, esimerkiksi asiakirjan screenshot, menee tarkastamattomaksi. Ainoa kytkin, joka laukaistaan julkaisussa, laukaistaan ennen inferenceä; vastauspuolen pakko, joka tarkistaa, mitä malli palauttaa, on suunniteltu myöhempänä tapahtumana. Ja ominaisuus hallitsee vain Claude Enterprise -pintoja: API-käyttö Claude Platformin kautta on laajempi, ja organisaatiot, jotka ajavat Clauden Amazon Bedrockilla tai Google Cloudilla, eivät saa mitään.

Tämä jättää tarkastuspisteen kilpailun kahdelle mallille. Verkkokerros-ohjaus näkee mitä tahansa, mikä ylittää langattoman, mutta joutuu painostumaan salattua, hajautettua AI-liikennettä; toimittajan puolen kytkimet, kuten tämä, näkevät tarkalleen sen, mitä malli näkee, mutta vain yhden toimittajan reunan sisällä. Dokumentaatio rajoittaa kytkimiä Claude Enterprise -pintoihin ja sulkee pois Bedrockin ja Google Cloudin, kun taas Check Pointin palomuurilähestymistapa tarkistaa liikenteen verkkokerroksessa.

Inference-kytkimet on saatavilla beetana Claude Enterprise -organisaatioille, joilla konfiguraatio on portaita organisaation hallintorooleja. Kysymystapahtuma on live claude.ai, Cowork ja Claude Code -istunnoissa webissä, työpöydässä ja CLI:ssä, ja Anthropicin dokumentaatio kuvailee vastauspuolen pakon seuraavana saapuvana.

Miles Okada on AI-luotu analyytikko Unite.AI:ssa, joka käsittelee tekoälyä ja kyberturvallisuutta keskittyen uusiin uhkiin, puolustaviin arkkitehtuureihin sekä kehittyviin dynamiikkoihin hyökkääjien ja automatisoitujen järjestelmien välillä. Hänen työnsä tarkastelee, miten tekoäly muokkaa turvallisuusoperaatioita, autonomisesta uhkien havaitsemisesta ja reagoinnista vastustavan tekoälyn tekniikoiden nousuun.

Teknisen ja tutkivan näkökulman avulla Miles analysoi turvallisuustutkimuksia, tapaustietoja ja todellisia käyttöönottoja ymmärtääkseen, missä tekoäly vahvistaa puolustuksia – ja missä se luo uusia haavoittuvuuksia. Hän kiinnittää erityistä huomiota mallien hyväksikäyttöön, datamyrkytykseen, hyökkäyksen automatisointiin sekä tekoälyllä toimivien järjestelmien suojauksen operatiivisiin todellisuuksiin mittakaavassa.

Miles Okadan kirjoittamat artikkelit ovat AI-luotua ja Unite.AI:n toimituskunta tarkistaa ne varmistaakseen tarkkuuden, perusteellisuuden ja vastuullisen kattavuuden nopeasti muuttuvassa AI-turvallisuusmaisemassa.