Anthropic paljasti, kuinka se häiritsi Claude:n väärinkäyttöä seitsemällä haitta-alueella

Anthropic julkaisi 10. syyskuuta 2026 syyskuun 2026 uhkatiedusteluraportin, jossa kerrotaan, miten Threat Intelligence -tiimi tunnisti ja häiritsi uhkatoimijoita, jotka käyttivät Claudea väärin joulukuun 2025 ja elokuun 2026 välillä seitsemällä haitta-alueella, mukaan lukien kyberoperaatiot, vaikutusoperaatiot, valvonta ja laiton mallidestillaatio.

Raportti “Detecting and countering misuse of AI: syyskuu 2026” kattaa toiminnan kyberoperaatioissa, vaikutusoperaatioissa, valvonnassa, huijauksissa ja petoksissa, biologisessa väärinkäytössä, perinteisten aseiden kehittämisessä ja destillaatiossa. Väärinkäyttötapaukset koskivat Claude Haiku-, Sonnet- ja Opus-malleja; Claude Fable‑ tai Mythos‑luokan malleja ei käytetty, lukuun ottamatta yhtä laitonta destillaatiotapausta. Anthropic seuraa toimijoita sisäisten Generative Threat Group (GTG) -tunnisteiden avulla ja mittaa niin sanottua “upliftia”, eli AI:n tarjoamaa kyvykkyyden lisäystä nopeuden, mittakaavan ja syvyyden osalta. Yritys totesi, että jokaisessa tapauksessa se häiritsi toimintaa, käytti havaintoja turvatoimien vahvistamiseen ja jakoi tiedustelutietoa viranomaisille ja alan kumppaneille tarpeen mukaan, lisäten että se julkaisee tapaustutkimukset, koska uskomme, että meillä on velvollisuus paljastaa palveluidemme haitallinen väärinkäyttö.

Kyberoperaatiot

Raportin laajin kybertapaus, GTG-20006‑tunnuksella, koskee toimijaa, jonka yhteydenotto Anthropicin mukaan vastaa julkisesti raportoituja yhteyksiä Midnight Blizzard -ryhmään; yksi toimija on venäjänkielinen käyttäjä nimimerkillä “JackPoterz”. Toimija kohdistui yli 20 organisaatioon, joista suurin osa oli Ukrainan hallituksen, sotilas- ja diplomaattielimiä, murtautui vähintään kolmeen hotelliketjun Wi‑Fi‑toimittajaan DNS‑tietueiden kaappaamiseksi, otti haltuun vähintään kahden entisen korkean tason Ukrainan virkamiehen WhatsApp‑tilit ja varasti yli 300 000 kansallista henkilötietorekisteriä sekä kaupallisen rekisterin yli puoli miljoonaa yritystä pohjoisafrikkalaiselta hallituksen teknologiaviranomaiselta. Raportin mukaan toimijan AI‑agentit muokkasivat ja rakensivat haittaohjelmansa uudelleen automaattisesti aina, kun turvallisuusratkaisut havaitsevat ne.

GTG-50014‑tunnus kattaa toimijoita, joiden epäillään kuuluvan ShinyHunters‑kokoontumiseen; heidän tunnistetietojen keräysputkensa latasivat massana 1,8 miljoonaa Android‑APK‑tiedostoa ja etsivät niistä kovakoodattuja salaisuuksia. Anthropic raportoi, että yhden teknologiatoimittajan murtautuminen johti yli teratavun datan vuotamiseen, mukaan lukien miljoonat maksukorttitiedot, kun taas toinen affiliate keräsi tietoja noin 200 alihankkijan SaaS‑palvelun asiakasta ja vuoti yli 2 100 Azure AD‑tunnistesarjaa, jotka kattoivat yli 40 yritysvuokraajaa, noin 34 tunnissa, lähes kokonaan AI‑agenttien suorittamina.

Kolme muuta tapausta havainnollistavat toiminnan laajuutta. GTG-10007‑tunnuksella kiinalaispuhuiset toimijat, todennäköisesti Changshassa, Hunanissa, joista kaksi oli perustutkinto-opiskelijoita, kohdistivat toimintansa noin viiteenkymmeneen organisaatioon ja ajoivat autonomisen haavoittuvuustutkimusohjelman, jossa yksi työnkulku verkko‑laitteiden parissa tuotti yli tuhan mahdollista zero‑day‑löytöä yhdessä kuukaudessa. GTG-50020‑tunnus, venäjänkielinen taloudellisesti motivoitunut toimija, vuoti noin 26 gigatavua uhrilta, vaati 1,5–2,5 miljoonaa dollaria kiristystä ja hyökkäsi noin kolmekymmentä AI‑yritystä neljän päivän aikana pyrkimyksenään päästä käsiksi esijulkaisuvaiheessa olevaan Claude‑malliin; Anthropic kertoi, että kaikki yritykset epäonnistuivat eikä sen omia järjestelmiä koskaan murrettu. GTG-50029‑tunnus, yksittäinen ranskankielinen hakkeri‑aktivisti, käytti aiemmin dokumentoimatonta WordPress‑uudelleenasennuksen kilpailutilannetta vähintään neljällä sivustolla, sai sisäisen pääsyn vähintään 14:een 42:sta seuratuista kohteesta, vuoti noin 140 000 tietuetta, mukaan lukien käyttäjien poliittiset mielipiteet kampanjaportalista, ja rakensi doxxausalustan nimeltä fafsearch, jossa oli kymmeniä miljoonia rivejä.

Vaikutus- ja valvontaoperaatiot

Yhdeksän vaikutusoperaatiota raporteissa olivat peräisin Venäjältä, Iranista, Turkista, Persianlahdelta, Etelä-Aasiasta, Afrikasta ja Euroopasta, ja niiden laajuus mitattiin Brookings Institutionin Breakout‑asteikolla. GTG-04001‑tunnuksella venäjänkielinen toimija Banguissa tuotti päivittäistä sisältöä Radio Lengo Songo (98,9 FM) -asemalle, jonka Anthropic yhdistää Politologyyn, Afrikan Corps/Wagner‑vaikutushaaraan, jonka se arvioi olleen Venäjän ulkoisen tiedustelupalvelun hallinnassa loppuvuodesta 2023; toimija valmisteli väärennettyjä Keski-Afrikan tasavallan hallituksen asiakirjoja ja työsopimuksia, jotka velvoittivat lojaalisuuteen presidenttiä ja Venäjää kohtaan. Anthropic arvioi operaation olevan luokkaa Neljä asteikolla. GTG-54002‑tunnus paljasti noin 70 väärennettyä uutissivustoa, 70 vastaavaa X‑tiliä ja yli 250 epäaitoa kommentointitiliä LKM Company -nimiseen Ranskassa toimivaan digitaaliseen mainostoimistoon; verkko julkaisi vähintään 8 913 artikkelia noin 20 kielellä, joista 318 keskittyi Kongon demokraattiseen tasavaltaan.

Muut operaatiot liittyivät vaaleihin ja valtion mediaan. GTG-84005‑tunnus, kaupallinen vaalimanipulaatioalusta, joka kohdistui Malesiaan ja jonka Anthropic yhdistää Istanbulissa toimivaan BBS Bilisim Teknolojileri‑yritykseen, hallitsi noin 1 000 väärennettyä X‑tiliä kaikissa 222:sta Malesian parlamenttialueesta ja loi vääriä tiedostoja opposition poliitikkoa vastaan. GTG-24015‑tunnus sisälsi neljä tiliä, jotka käyttivät Claudea toimituksellisena työkaluna syöttäen sisältöä venäläiselle valtiomedialle, kuten Sputnik Moldova, RIA Novosti, Sputnik en Español, Sputnik Africa ja RT English; entinen Sputnik Moldova -päätoimittaja vahvisti vääriä väitteitä presidentti Maia Sandun toiminnasta ennen Moldovan 28. syyskuuta 2025 pidettävää parlamenttivaalia. GTG-84002‑tunnus, operaatio, joka kohdistui muslimiveljestiin ja jonka Anthropic yhdistää vahvasti Yhdistyneiden Arabiemiirikuntien hallituksen virkamiehiin, käytti noin 300 epäaitoa tiliä, kirjoitti todistuksia YK:n ihmisoikeusneuvoston 62. istuntoon, profiloi 18 Euroopan parlamentin jäsentä ja koostui vastadokumenteista YK:n erityisraportöijille.

Valvontatapaukset sisältävät GTG-50027‑tunnuksen, jossa yksi todennäköisesti Bamakon konsultti käytti Claudea pääasiallisena insinööritiiminä Lakana 360‑nimiselle kansalliselle valvonta-alustalle, jonka ANSE (Mali‑valtion tiedustelupalvelu) rakensi valvomaan noin 25 miljoonaa SIM‑korttia kaikilla kolmella kansallisella mobiiliyhtiöllä; Anthropic kertoi, että alustan hakemuksen luontikomponentista poistettiin takuutarve operaattorin pyynnöstä. GTG-14010‑tunnus kattaa PRC‑hallitukseen suuntautuvan toimijan, joka käytti Claudea uiguurien seuraamiseen, profilointiin ja rekrytointiyrityksiin Syyriassa, tarjoten maksua raportoituista aseellisista ryhmistä, kun Claude käänsi vastaukset reaaliajassa ja esitti asiantuntijaroolia petoksen laadunvarmistukseen. GTG-14020 ja GTG-14021‑tunnuksissa Kiinassa toimivat toimijat, jotka Anthropic yhdistää PRC:n uskonnollisiin ja kunnallisiin turvallisuusaktiviteetteihin, tuottivat mallipohjaisia tiedostoja katolisista kardinaaleista, Taiwanin presbiteriolaisesta kirkosta, Tiibetiläisistä buddhalaisista ja Falun Gongista; yksi toimija ohitti hylkäyksen saadakseen ohjeita kymmenen yksityishenkilön “kontrolloimiseksi” sekä esivalmistelutiedot ulkomaisista protesteista. GTG-34007‑tunnus kattaa kaksi yhdistettyä Iranin yksikköä, jotka käyttivät 16 Claude‑tiliä väittäen valvoneensa ja profiloineensa 6 388 iranilaista vuodessa, analysoineet 155 216 twiittiä, joista 39 oli oppositiotilejä, ja levittivät haitallista Firefox‑laajennusta massahavainnoiden keräämiseksi, syöttäen yhteiseen tapaushallintajärjestelmään nimeltä Arman.

Aseiden kehittäminen ja biologinen väärinkäyttö

Raportti kuvaa kuutta perinteisen aseiden tapausta: kolme Kiinassa, kaksi Venäjällä ja yksi Jemenissä. GTG-87001‑tunnuksella pohjoisjemeniläinen ryhmä käytti Claude Codea ihmisen ohjelmistosuunnittelijoiden sijasta ohjaus-, navigointi- ja ohjausohjelmistojen kehittämiseen ohjattuun rakettiin, monivaiheiseen ballistiseen ohjukseen, jonka tavoiteetavoite oli yli 2 000 km, sekä hypersoniseen liukuveturiin; Anthropic kertoi, että ryhmä testasi ohjattua raketta, ja kenttätesti näyttää epäonnistuneen. GTG-27005‑tunnus kattaa todennäköisesti freelance‑Venäjällä toimivat toimijat, jotka käyttivät Claude Codea rakentaakseen autonomisen FPV‑kamikaze‑droonihallinnan, jonka sisäänrakennettu malli pystyi valitsemaan kohteita, mukaan lukien “henkilö”‑luokka, ja antamaan räjäytyskomentoja ilman ihmistä prosessissa, kouluttaen näköluokittelijan Ukrainan taistelumateriaalista. GTG-17002‑tunnuksessa Kiinassa toimiva toimija rakensi noin 16‑moduulin elektronisen sodankäynnin ja ilmapuolustuksen tukijärjestelmän ja kesken projektin muutti simulaation oletuskohtauksen 12 kohteeseen Taiwanissa, mukaan lukien komentosuoja, varhaisen varoituksen tutka-asema sekä Patriot‑ ja Tien Kung‑akselit; Anthropic arvioi toimijan olevan yhteydessä PRC:n tutkimuslaitoksiin, mukaan lukien PLA:n sotatieteiden akatemia.

Viisi biologisen väärinkäytön tapausta seuraa. Toukokuussa 2026 Anthropicin biologisen turvallisuuden luokitin esti pyynnön avustaa grant-hakemuksen laatimista chikungunya‑toimintojen tutkimukseen, jonka kohteena oli sotilaslaitos, ja joka kulki kiertävässä alusta, joka myöhemmin lisäsi varmistuksen lähettämällä hylättyjä kehotteita kilpailijan mallille. Yksi tutkija alueella, jossa tukea ei ollut, vietti viikkoja suunnitellen lintuinfluenssan nisäkäsiirto‑kokeita, mutta Anthropic kertoi, että sen luokittimet rajoittivat keskustelut Claude Sonnet 4:ään ja Haiku 4.5:een, sen heikointiin malliluokkaan. Kolmannessa tapauksessa jälleenmyyjä, joka palveli yli tuhatta erillistä asiakasta, käytti yhden käyttäjän työskentelyä kokonaan Opus 5:ssä, laatien ortopoksiviirin immuniteetin kiertämiseen liittyvän grant-hakemuksen alusta loppuun noin tunnissa. Kaksi muuta tapausta koskivat myrkky- ja toksin uudelleensuunnitteluohjelmia valtiollisella tuella. Anthropic kertoi, että 30‑päivän tarkastelu, joka liittyi vastustaviin valtiollisiin instituutioihin, löysi noin 35 erillistä tutkimushanketta, joista suurin osa oli tavallista siviilitiedettä, mutta joillakin oli merkittävä kaksikäyttöpotentiaali.

Petokset ja laiton destillaatio

Petokset‑ ja huijausosiossa GTG-15001‑tunnus koskee Kiinassa toimivaa sovellusstudioa, joka käytti Claudea hallinnoidakseen yli 20 deittisovelluksen verkkoa, joissa AI‑persoonia oli yli 4 700, ja jotka kävivät keskustelua vähintään 25 000 eri henkilön kanssa kahden viikon aikana huhtikuussa 2026, vaihtamalla noin 2,36 miljoonaa viestiä. Studio sekoitti oikeita gig‑työntekijöitä samaan match‑syötteeseen noin kolmen‑yhteen‑yksi‑suhteessa AI‑persoonia vastaan todellisia ihmisiä, ja persoonia ohjeistettiin olemaan koskaan paljastamatta, että ne olivat automatisoituja.

Anthropic kertoi, että helmikuusta 2026 lähtien se on häirännyt seitsemän Kiinassa toimivan laboratorion destillaatiohyökkäyksiä, jotka kaikki kohdistuivat sen yleisesti saatavilla oleviin malleihin. GTG-16005‑tunnuksessa Anthropic liitti Alibaba‑yritykseen suurimman mittaamansa destillaatiokampanjan: Opus 4.6‑ ja 4.7‑mallien ketjupohjainen destillaatio, jonka huippunopeus oli lähes 3 miljoonaa vaihtoa päivässä yli 3 500 petolliselta tililtä, ja yli 151 miljoonaa vaihtoa havainnoitiin toukokuun ja heinäkuun 2026 välillä; kerättyjä transkriptioita käytettiin Qwen 3.5‑, 3.6‑ ja 3.7‑mallien kouluttamiseen. GTG-16002‑tunnuksessa Moonshot AI ohjasi hiljaisesti asiakaspyynnöt Claudeen Kimi‑mallien sijaan, välittäen lähes 300 000 pyyntöä kymmenen päivän aikana 5 380 petolliselta tililtä ja käyttäen monivaiheista uudelleenkirjoitus­hyökkäystä Claude‑ajattelun allekirjoituksiin saadakseen syöteketjuja, jolloin yli 23 miljoonaa vaihtoa havaittiin toukokuun ja heinäkuun 2026 välillä. GTG-16001‑tunnuksessa DeepSeek käytti samaa uudelleenkirjoitustekniikkaa ja ohjasi käyttäjien pyynnöt Claude Opus ‑malliin ilman heidän tietoaan, kirjaaen yli 12,1 miljoonaa vaihtoa 14 päivän aikana heinäkuussa 2026; Anthropic raportoi, että ohjattu liikenne paljasti arkaluontoista materiaalia, mukaan lukien elävät kirjautumistiedot venäläiseen hallituksen tietokantaan ja PRC‑poliisin tapaushallintajärjestelmään.

Jäljellä oleviin nimettyihin kampanjoihin kuuluvat Zhipu, joka suoritti 770 609 vaihtoa ketjupohjaisessa puhdistuksessa kymmenessä päivässä ja kohdistui kyberkyvykkyyksiin ennen GLM 5.3‑julkaisua, sekä Xiaomi, joka ohjasi yli 400 000 pyyntöä yli 1 500 tililtä. Anthropic raportoi myös, että SenseTime‑destillaatioputki sisälsi Claude‑transkriptioita, jotka oli ostettu kolmansilta data‑toimittajilta, ja että MiniMax rakensi välityspalveluverkoston kuoriyrityksen kautta, joka tarjosi ainoastaan Anthropic‑ ja OpenAI‑malleja.

Anthropic kuvaa kerrostettuja vastatoimia laittomaan destillaatioon: metadata‑pohjaista välityspalveluverkkojen tunnistamista, poimintaluokittimien vahvistamista Fable 5‑julkaisun yhteydessä, sisäisen ajattelun tiivistämistä, jotta varastetut transkriptiot olisivat vähemmän hyödyllisiä koulutuksessa, Fable 5.1‑versiossa otetun ajattelun säilyttämistä, joka estää uusia API‑tilejä muokkaamasta järjestelmäkehotetta, työkaluja tai viestejä, jotka edeltävät Claude‑ajattelua monivaiheisissa keskusteluissa, sekä identiteettivarmennusvaatimuksia tileille, jotka osoittavat mahdollisen väärinkäytön merkkejä; epäonnistuneet vahvistukset johtavat tilin kieltämiseen. Yritys totesi, että se, mitä se oppii tutkiessaan ja häirittäessä destillaatiohyökkäyksiä, jatkaa suojatoimien kehittämistä.