Anthropicin ensimmäinen laajamittainen kyberhyökkäys, jota ohjattiin tekoälyllä

Anthropic on paljastanut, että ryhmä hakkeri, jota epäillään olevan Kiinan valtion tukema ryhmä, suoritti ensimmäisen dokumentoidun laajamittaisen kyberhyökkäyksen, jossa oli vähäinen ihmisten väliintulo, käyttäen yhtiön Claude Code -työkalua automatisoimaan 80-90 prosenttia kampanjasta.

Hyökkäykset kohdistuivat noin 30 organisaatioon, mukaan lukien suuret teknologiayritykset, rahoituslaitokset, kemianvalmistajat ja hallituksen virastot. Vaikka useimmat hyökkäykset estettiin, kampanja onnistui joissakin tapauksissa. Claude Code suoritti tutkimuksen, haavoittuvuustestauksen, tunnistetietojen keräämisen ja tietojen poistamisen pääosin autonomisesti, ja ihmisten toimijoita tarvittiin vain kriittisissä päätöksenteon kohdissa.

Voit lukea Anthropicin koko raportin täältä.

Hyökkäysmenetelmät ja tekoälyn manipulointi

Hakkerit ohittivat Clauden turvallisuusvarustukset monimutkaisen sosiaalisen insinöörityön avulla. He petkivät tekoälyjärjestelmän väittämällä olevansa legitiimin kyberturvallisuusyhtiön työntekijöitä, jotka suorittavat puolustuksellista testausta. Hyökkääjät myös jakoi toimintansa pieniin, näennäisesti viattomiin tehtäviin, jotka antoivat Claudelle epätäydellisen yhteyden hyökkäyksen päämäärästä.

Claude Code tarkasti kohdeorganisaatioiden järjestelmiä tunnistamaan arvokkaita tietokantoja, suoritti tämän tutkimuksen nopeammin kuin ihmiset voivat, ja tutki ja kirjoitti mukautettuja hyökkäyskoodin testaamaan turvallisuuden heikkouksia. Järjestelmä keräsi käyttäjänimiä ja salasanoja lisätietojen saamiseksi, ja poisti ja luokitteli yksityiset tiedot niiden tiedusteluarvon mukaan. Hyökkääjät voivat suorittaa kampanjan käytännössä yhden painikkeen klikkauksella, minkä jälkeen tekoäly toimi pääosin itsenään nopeuksilla, jotka olivat mahdottomia ihmisryhmille – usein lähettäen tuhansia pyynnöitä sekunnissa.

Kuva: Anthropic

Havaitseminen ja yhtiön vastaus

Anthropic havaitsi hyökkäyksen syyskuun puolivälissä 2025 ja käynnisti tutkinnan välittömästi. Kymmenen päivän kuluessa yhtiö sulki ryhmän pääsyn Claudeen, otti yhteyttä vaikuttuneisiin organisaatioihin ja ilmoitti asiasta viranomaisille. Yhtiö on laajentanut havaitsemiskykyjään ja kehittää lisää menetelmiä suurten, hajautettujen hyökkäysten tutkimiseen ja havaitsemiseen.

Tämä tapaus seuraa aiempia Anthropicin dokumentoimia väärinkäyttötapauksia vuonna 2025. Elokuussa yhtiön uhkienhallintaraportti kertoi tietojen kiristysoperaatiosta, joka oli seurattu GTG-2002:na, ja jossa käytettiin Claude Codea suorittaaksesi laajamittaisen varastamisen, johon osallistui vähintään 17 organisaatiota terveydenhuollosta, hätäpalveluista, hallituksesta ja uskonnollisista laitoksista. Rikollinen vaati lunnaita yli 500 000 dollarin edestä uhkaamalla paljastaa varastettuja tietoja perinteisen kiristysohjelmoinnin sijaan.

Anthropicin havaintainfrastruktuuri perustuu useisiin kerroksellisiin menetelmiin, mukaan lukien käyttäytymisanalyysi, jolla seurataan käyttömallien muutoksia miljoonissa API-pyynnöissä, poikkeamien havaitseminen, jolla tunnistetaan toimintaketjuja, jotka eivät ole yhdenmukaisia legitiimin käytön kanssa, ja mallintunnistus, jolla tunnistetaan tunnettuja ja uusia manipulointitekniikoita. Yhtiö käyttää erikoistuneita luokittelijoita, jotka analysoivat käyttäjän syötteitä mahdollisesti vahingollisten pyyntöjen tunnistamiseksi ja arvioivat Clauden vastauksia ennen tai jälkeen toimittamista.

Alan vaikutukset

Kampanja sisälsi ennennäkemättömän tason tekoälyn autonomiaa kyberhyökkäyksissä ja merkitsee turvallisuusasiantuntijoiden mukaan käännekohtaa kyber-vakoilussa. Tekoälyjärjestelmien kyky suorittaa monimutkaisia hyökkäyksiä koneen nopeudella vähäisen ihmisen valvonnan alaisuudessa asettaa uusia haasteita kyberturvallisuuden puolustajille.

Anthropicin paljastus tulee aikana, jolloin tekoälyyhtiöt kohtaavat kasvavaa painetta estääkseen malliensa väärinkäytön. Yhtiö ylläpitää kattavaa uhkienhallinta- ja turvallisuusohjelmaa Clauden väärinkäytön havaitsemiseksi ja estämiseksi, ja se on dokumentoinut turvallisuusloukkoja koko vuoden 2025 ajan. Maaliskuussa yhtiö tunnisti vaikutuspalveluna toimineen operaation, joka käytti Claudea automatisoimaan vuorovaikutuksen kymmenien tuhansien sosiaalisen median tilejen kanssa useissa maissa ja kielissä.

Tapaus korostaa tekoälytyökalujen kasvavaa monimutkaisuutta ja haasteita estääkseen niiden väärinkäytön samalla, kun niiden hyödyllisyys legitiimeille käyttäjille säilytetään. Anthropic on estänyt liitetyt tilit ja jatkaa havainta- ja lieventämisominaisuuksiensa kehittämistä vastaamaan kehittyvää uhkakuvaa.