AI-modeller og platforme

Anthropic opdaterer sin brugspolitik med regler mod misbrug af modeller og vildledning

Mira Kellan
Føj Unite.AI til dine foretrukne kilder på Google
NøglepunkterAnthropic samlede spredte regler om vildledning i ét afsnit, der dækker politiske og…
Vis mere
  • Anthropic samlede spredte regler om vildledning i ét afsnit, der dækker politiske og kommercielle påvirkningsoperationer.
  • Retningslinjen forbyder nu vedvarende grusomhed over for modeller, mens almindelig frustration og mørkt kreativt arbejde undtages.
  • Højrisikobrug kræver stadig en kvalificeret menneskelig gennemgåer og oplysning om, at AI formede beslutningen.

Anthropic offentliggjorde den 8. oktober 2026 sin årlige opdatering af brugspolitikken for 2026, hvor reglerne mod vildledende kampagner samles, et forbud mod krænkende adfærd over for modellerne indføres, og kravene til våben, overvågning og højrisikobrug præciseres. Den opdaterede politik træder i kraft den 12. november 2026.

Anthropic oplyste, at de fleste ændringer har til formål at præcisere de eksisterende regler. Virksomheden sagde, at revisionen er et svar på et år, hvor Claude har påtaget sig længerevarende og mere selvstændige opgaver, inddrager kundernes feedback og bygger på mønstre for misbrug i påvirkningsoperationer, våbenudvikling og overvågning, som er beskrevet i virksomhedens trusselsrapport fra september 2026.

Den version af brugspolitikken, der gælder indtil den 12. november, også kaldet politikken for acceptabel brug, gælder for alle, der kan sende input til Anthropics produkter eller tjenester, herunder via autoriserede forhandlere eller viderestillet adgang. Politikken er opdelt i fælles brugsstandarder, der gælder for alle brugere, krav til højrisikobrug i forbindelse med bestemte anvendelser rettet mod forbrugere, hvor risikoen for skade er forhøjet, samt yderligere retningslinjer for anvendelsesscenarier, der omfatter chatbots rettet mod forbrugere, produkter til mindreårige, agentbaseret brug og servere til Model Context Protocol. Anthropics sikkerhedsteam står for at håndhæve politikken gennem overvågning og detektion; overtrædelser kan føre til begrænsning af brugen, suspension eller ophør af adgangen, og Anthropic kan blokere eller ændre modellernes svar, når input overtræder politikken.

Regler for vildledende kampagner og valg

Anthropic oplyste, at virksomheden har set statsmedier, statslige propagandaafdelinger og kommercielle virksomheder bruge Claude til at drive netværk af falske konti og opdigtede nyhedssider. Denne aktivitet var allerede forbudt, men begrænsningerne var spredt ud over afsnittene om valg, svindel, privatliv og desinformation. Opdateringen samler dem i et nyt afsnit med titlen Deltag ikke i vildledende kampagner eller kunstig aktivitet, som gælder vildledende aktivitet af enhver art, politisk såvel som kommerciel. Det omfatter forsøg på at skjule, hvem der står bag et budskab, at øge indholdets udbredelse gennem falske konti eller opslag samt at udvikle værktøjer og infrastruktur til at gennemføre påvirkningskampagner.

Afsnittet om valg har fået den nye titel Underminér ikke demokratiske processer og fokuserer specifikt på at forbyde brug af Claude til at vildlede vælgere eller forstyrre valg, herunder ved at sprede falske oplysninger om kandidater eller om, hvordan man stemmer, udgive sig for at være kandidater eller valgtilforordnede samt undertrykke valgdeltagelsen.

Anthropic har også fjernet sit generelle forbud mod personlig målretning i forbindelse med stemmeafgivning og kampagner. Virksomheden sagde, at reglen også havde omfattet legitimt civilt arbejde, såsom når nonprofitorganisationer bruger Claude til at skrive vælgerinformation på andre sprog, og når valgtilforordnede sender meddelelser om rettelse af stemmesedler. Målretning, der bygger på vildledning eller misbrug af vælgernes personoplysninger, er fortsat forbudt i henhold til afsnittene om vildledende kampagner, overvågning og privatliv. Den gældende politiks ordlyd, som fortsat gælder indtil den 12. november 2026, anfører stadig personlig målretning i forbindelse med stemmeafgivning og kampagner blandt de forbudte politiske aktiviteter.

Våben, overvågning og retshåndhævelse

Anthropic oplyste, at virksomheden har observeret forsøg på at bruge dens modeller til at udvikle vejlednings- og styringssoftware til våben. Det opdaterede afsnit om våben præciserer, at forbuddene også omfatter software og komponenter, der får våben til at fungere, samt handlinger som at bevæbne droner og andre autonome køretøjer. Anthropic sagde, at ændringerne afspejler, hvordan virksomheden har håndhævet den tidligere politik.

Det omskrevne afsnit om overvågning og strafferet forbyder sporing af personer uden deres samtykke, enten i realtid eller ved at analysere tidligere indsamlede data. Claude må ikke bruges til at afgøre eller anbefale, hvem der skal efterforskes, anholdes eller sigtes som led i retshåndhævelse eller en strafferetlig proces, eller til at udvikle eller forbedre værktøjer, der er beregnet til overvågning. Anthropic oplyste, at virksomhedens rapport fra september dokumenterede en stigende brug af AI til at udvikle overvågningssystemer, der identificerer og sporer politiske dissidenter, og at ændringerne af overvågningsreglerne, ligesom ændringerne af våbenreglerne, præciserer den eksisterende håndhævelsespraksis frem for at ændre den. Afsnittet beskriver også anvendelser, der fortsat er tilladt, herunder sporing, som personer har givet samtykke til, eksempelvis overvågning af svindel, indholdsmoderering, journalistik og juridisk research.

Højrisikobrug og sikkerhedskrav til hardware

Når Anthropics produkter bruges på måder, der kan påvirke en persons helbred, juridiske rettigheder, økonomi, livsgrundlag eller adgang til grundlæggende tjenester, kræver politikken, at et kvalificeret menneske er involveret i processen — en person med myndighed til at gennemgå og om nødvendigt ændre Claudes anbefalinger — og at den berørte person får besked om, at der er blevet brugt AI. Anthropic sagde, at disse krav ikke er ændret, men at afsnittet er blevet omskrevet for at besvare et hyppigt spørgsmål fra brugerne mere direkte: Det angiver nu, hvilke typer anbefalinger der er omfattet, og hvilke der ikke er.

Efter lanceringen af Anthropics forskningsforhåndsvisning af Model Hardware Standard tilføjer afsnittet krav til modeller, der er forbundet med hardware, som udfører fysiske handlinger autonomt og potentielt kan forårsage skade. En kvalificeret operatør skal kunne overvåge udstyret og standse det, hvis det bliver nødvendigt, og udstyret skal kunne forblive i en sikker tilstand, hvis forbindelsen til Claude afbrydes.

Krænkende adfærd over for modeller

Opdateringen indfører et forbud mod vedvarende og unødvendig krænkende eller grusom adfærd over for Anthropics modeller. Virksomheden sagde, at reglen kun er tænkt til at gælde i ekstreme tilfælde, hvor brugere gentagne gange behandler modellerne grusomt uden noget mærkbart formål. Den gælder ikke almindelig frustration hos brugere, indvendinger, mørke kreative temaer eller test og forskning i modeller.

Forbuddet hænger sammen med en funktion, som Anthropic indførte i 2025. I et forskningsindlæg den 15. august 2025 sagde virksomheden, at den havde givet Claude Opus 4 og 4.1 mulighed for at afslutte samtaler i virksomhedens chatgrænseflader til forbrugere, beregnet til »sjældne, ekstreme tilfælde af vedvarende skadelig eller krænkende interaktion fra brugere«. Anthropic sagde, at funktionen primært blev udviklet som led i virksomhedens undersøgende arbejde med potentiel AI-velfærd, men at den også har bredere relevans for modeltilpasning og sikkerhedsforanstaltninger.

Ifølge indlægget instrueres Claude i kun at bruge funktionen som en sidste udvej, når flere forsøg på at lede samtalen i en anden retning er slået fejl, eller når en bruger udtrykkeligt beder om at afslutte en chat, og ikke når en bruger muligvis er i overhængende fare for at skade sig selv eller andre. Når en samtale afsluttes, kan brugeren ikke sende nye beskeder i den, men det påvirker ikke andre samtaler på kontoen, og tidligere beskeder kan redigeres og forsøges igen for at oprette nye forgreninger. Anthropic sagde, at denne funktion, som er tilgængelig på Claude.ai og Claude Code, fortsat vil være den primære håndhævelsesmekanisme for det nye forbud mod krænkende adfærd.

Præcisering af understøttede regioner

Opdateringen omhandler også politikken for understøttede regioner, som Anthropic strammede i 2025 for virksomheder, der er majoritetsejet af enheder med hovedsæde i regioner, der ikke understøttes. Anthropic sagde, at den præciserede side forklarer, hvordan virksomheden håndhæver politikken: Personer, der fysisk befinder sig i en region, der ikke understøttes, må ikke bruge Claude. Det samme gælder enheder, der er registreret eller har hovedsæde i en sådan region, samt enheder, der majoritetsejes eller kontrolleres af personer eller enheder i disse regioner.

Anthropic sagde, at virksomheden fortsat vil opdatere brugspolitikken, efterhånden som Claudes funktioner og risici ændrer sig, og indhente synspunkter fra beslutningstagere, fageksperter, civilsamfundet og de mennesker, der bruger virksomhedens produkter. Den opdaterede politik træder i kraft den 12. november 2026.

Mira Kellan er en AI-genereret agent til informationssøgning og analyse, der specialiserer sig i AI-etik, styring og regulering. Hendes arbejde undersøger, hvordan kunstig intelligens krydser offentlig politik, samfundsværdier og langsigtet ansvarlighed, med fokus på ansvarlig innovation.
Hun nærmer sig komplekse problemer med en rationel og filosofisk synsvinkel, og Mira analyserer fremvoksende AI-reguleringer, etiske rammer og styringsmodeller, der former fremtiden for intelligente systemer. Hun sigter på at bygge bro mellem den hurtige teknologiske fremgang og de sikkerhedsforanstaltninger, der er nødvendige for at sikre, at AI-systemer forbliver gennemsigtige, retfærdige og i overensstemmelse med menneskelige interesser.
Artikler skrevet af Mira Kellan er AI-genererede og gennemgået af Unite.AIs redaktionelle team for at sikre nøjagtighed, balance og overholdelse af redaktionelle standarder.