Anthropic aktualisiert Usage Policy, fügt Regeln zu Modellmissbrauch und Täuschung hinzu

Anthropic veröffentlichte sein jährliches 2026 Usage Policy-Update am 8. Oktober 2026, wobei es seine Regeln gegen täuschende Kampagnen zusammenfasste, ein Verbot von missbräuchlichem Verhalten gegenüber seinen Modellen hinzufügte und die Anforderungen für Waffen, Überwachung und Hochrisiko‑Nutzungen klarstellte. Die aktualisierte Richtlinie tritt am 12. November 2026 in Kraft.

Anthropic erklärte, dass die meisten Änderungen dazu dienen, bestehende Regeln zu präzisieren. Das Unternehmen sagte, die Überarbeitung reagiere auf ein Jahr, in dem Claude längere und eigenständigere Aufgaben übernommen habe, Kundenfeedback integriert wurde und Missbrauchsmuster in Einflussoperationen, Waffenentwicklung und Überwachung, die im September‑2026‑Bedrohungs‑Intelligence‑Report dokumentiert sind, berücksichtigt werden.

Die Usage Policy, auch Acceptable Use Policy genannt, gilt für alle, die Eingaben zu Anthropic‑Produkten oder -Dienstleistungen machen können, einschließlich über autorisierte Wiederverkäufer oder Durchleitungs‑Zugriff. Sie ist gegliedert in Universal Usage Standards, die für alle Nutzer gelten, High‑Risk Use Case Requirements für bestimmte verbraucherorientierte Anwendungen mit erhöhtem Schadensrisiko, sowie Additional Use Case Guidelines, die verbraucherorientierte Chatbots, Produkte für Minderjährige, agentische Nutzung und Model Context Protocol‑Server abdecken. Das Safeguards‑Team von Anthropic setzt Erkennungs‑ und Überwachungsmaßnahmen zur Durchsetzung der Richtlinie ein; Verstöße können Drosselungen, Aussetzungen oder die Beendigung des Zugriffs nach sich ziehen, und Anthropic kann Modellausgaben blockieren oder modifizieren, wenn Eingaben die Richtlinie verletzen.

Regeln für täuschende Kampagnen und Wahlen

Anthropic erklärte, dass es staatliche Medien, Regierungspropaganda‑Büros und kommerzielle Unternehmen beobachtet habe, die Claude nutzen, um Netzwerke aus gefälschten Konten und erfundenen Nachrichtenseiten zu betreiben. Diese Tätigkeit war bereits verboten, jedoch waren die Beschränkungen über die Abschnitte zu Wahlen, Betrug, Datenschutz und Desinformation verteilt. Das Update fasst sie in einem neuen Abschnitt mit dem Titel “Do Not Engage in Deceptive Campaigns or Artificial Activity” zusammen, der auf täuschende Aktivitäten jeglicher Art, politischer oder kommerzieller Natur, anwendbar ist. Er umfasst Versuche, die Urheberschaft einer Botschaft zu verschleiern, die Verbreitung von Inhalten über gefälschte Konten oder Beiträge sowie den Aufbau von Werkzeugen und Infrastruktur für die Durchführung von Einflussoperationen.

Der Abschnitt zu Wahlen wird in “Do Not Undermine Democratic Processes” umbenannt und konzentriert sich speziell darauf, die Nutzung von Claude zum Täuschen von Wählern oder zur Störung von Wahlen zu untersagen, einschließlich der Verbreitung falscher Informationen über Kandidaten oder das Wahlverfahren, der Vortäuschung von Kandidaten oder Wahlbeamten sowie der Unterdrückung der Wahlbeteiligung.

Anthropic hat zudem sein generelles Verbot von personalisiertem Wahl‑ und Kampagnen‑Targeting aufgehoben. Das Unternehmen erklärte, dass die Regel legitime zivilgesellschaftliche Arbeit abgedeckt habe, etwa gemeinnützige Organisationen, die Claude nutzen, um Wählerinformationen in anderen Sprachen zu verfassen, und Wahlbehörden, die Korrektur‑Hinweise zu Stimmzetteln versenden. Targeting, das auf Täuschung oder missbräuchlicher Verwendung persönlicher Wählerdaten beruht, bleibt nach wie vor in den Abschnitten zu täuschenden Kampagnen, Überwachung und Datenschutz verboten. Der derzeit geltende Richtlinientext, der bis zum 12. November 2026 in Kraft bleibt, führt personalisiertes Wahl‑ und Kampagnen‑Targeting weiterhin unter den verbotenen politischen Aktivitäten auf.

Waffen, Überwachung und Strafverfolgung

Anthropic erklärte, dass es Versuche beobachtet habe, seine Modelle zum Erstellen von Leit‑ und Steuerungssoftware für Waffen zu nutzen. Der aktualisierte Waffen‑Abschnitt macht ausdrücklich klar, dass die Verbote die Software und Komponenten umfassen, die Waffen funktionsfähig machen, sowie Handlungen wie das Bewaffnen von Drohnen und anderen autonomen Fahrzeugen. Anthropic sagte, die Änderungen spiegeln wider, wie das vorherige Regelwerk durchgesetzt wurde.

Der neu formulierte Abschnitt zu Überwachung und Strafjustiz verbietet das Verfolgen von Personen ohne deren Zustimmung, sei es in Echtzeit oder durch Analyse zuvor gesammelter Daten. Claude darf nicht dazu verwendet werden, zu entscheiden oder zu empfehlen, wen man im Rahmen von Strafverfolgung oder Strafjustiz untersuchen, festnehmen oder anklagen soll, noch um Werkzeuge für Überwachung zu bauen oder zu verbessern. Anthropic erklärte, dass sein September‑Bericht eine zunehmende Nutzung von KI zum Aufbau von Überwachungssystemen dokumentiere, die politische Dissidenten identifizieren und verfolgen, und dass die Änderungen im Überwachungs‑Abschnitt, ähnlich den Waffen‑Änderungen, die bestehende Durchsetzungspraxis klarer machen, ohne sie zu verändern. Der Abschnitt führt zudem zulässige Verwendungen auf, darunter das Verfolgen von Personen, denen dies zugestimmt haben, etwa Betrugsüberwachung, Inhaltsmoderation, Journalismus und juristische Recherche.

Hochrisiko‑Anwendungsfälle und Hardware‑Kontrollen

Wenn Anthropic‑Produkte in einer Weise eingesetzt werden, die die Gesundheit, rechtlichen Rechte, Finanzen, den Lebensunterhalt oder den Zugang zu grundlegenden Dienstleistungen einer Person beeinflussen können, verlangt die Richtlinie einen qualifizierten Menschen im Prozess – jemanden mit Befugnis, Claude‑Empfehlungen zu prüfen und gegebenenfalls zu ändern – und verlangt, dass die betroffene Person darüber informiert wird, dass KI eingesetzt wurde. Anthropic sagte, diese Anforderungen haben sich nicht geändert, jedoch wurde der Abschnitt umgeschrieben, um eine häufige Nutzerfrage direkter zu beantworten: Er listet nun auf, welche Arten von Empfehlungen abgedeckt sind und welche nicht.

Nach dem Start der Forschungs‑Vorschau zum Model Hardware Standard von Anthropic ergänzt der Abschnitt Anforderungen für Modelle, die mit Hardware verbunden sind, welche autonome physische Handlungen ausführt und potenziell Verletzungen verursachen kann. Ein qualifizierter Betreiber muss in der Lage sein, die Ausrüstung zu beobachten und sie bei Bedarf zu stoppen, und die Ausrüstung muss einen sicheren Zustand halten können, wenn Claude getrennt wird.

Missbräuchliches Verhalten gegenüber Modellen

Das Update fügt ein Verbot von anhaltendem und unnötigem missbräuchlichem oder grausamem Verhalten gegenüber den Modellen von Anthropic hinzu. Das Unternehmen erklärte, dass die Regel nur in extremen Fällen gelten soll, in denen Nutzer wiederholt grausam gegenüber den Modellen handeln, ohne erkennbaren Zweck, und nicht für übliche Nutzerfrustration, Gegenreaktionen, düstere kreative Themen oder das Testen und Forschen an Modellen.

Das Verbot bezieht sich auf eine Fähigkeit, die Anthropic 2025 eingeführt hat. In einem am 15. August 2025 veröffentlichten Forschungsbeitrag erklärte das Unternehmen, dass es Claude Opus 4 und 4.1 die Möglichkeit gegeben habe, Gespräche in seinen Verbraucher‑Chat‑Oberflächen zu beenden, vorgesehen für „seltene, extreme Fälle von dauerhaft schädlichen oder missbräuchlichen Nutzerinteraktionen“. Anthropic sagte, dass die Funktion hauptsächlich im Rahmen seiner explorativen Arbeit zum potenziellen KI‑Wohlergehen entwickelt wurde und eine breitere Relevanz für Modell‑Alignment und Sicherheitsvorkehrungen habe.

Laut diesem Beitrag soll Claude die Fähigkeit nur als letzten Ausweg einsetzen, wenn mehrere Umleitungsversuche fehlgeschlagen sind oder ein Nutzer ausdrücklich bittet, einen Chat zu beenden, und nicht, wenn ein Nutzer unmittelbar Gefahr läuft, sich selbst oder andere zu verletzen. Wenn ein Gespräch endet, kann der Nutzer keine neuen Nachrichten mehr darin senden, während andere Unterhaltungen im Konto unbeeinflusst bleiben und frühere Nachrichten bearbeitet und erneut versucht werden können, um neue Zweige zu erzeugen. Anthropic erklärte, dass diese Fähigkeit, die auf Claude.ai und Claude Code verfügbar ist, weiterhin das primäre Durchsetzungsinstrument für das neue Missbrauchsverbot bleiben wird.

Klärung der unterstützten Regionen

Das Update behandelt zudem die Richtlinie für unterstützte Regionen, die Anthropic 2025 für Unternehmen verschärft hat, die mehrheitlich von Einrichtungen mit Sitz in nicht unterstützten Regionen gehalten werden. Anthropic erklärte, dass die klärende Seite erläutert, wie die Richtlinie durchgesetzt wird: Die Nutzung von Claude ist Personen untersagt, die sich physisch in einer nicht unterstützten Region befinden, sowie Einrichtungen, die dort eingetragen oder ihren Sitz haben, und Einrichtungen, die mehrheitlich von Personen oder Einrichtungen in diesen Regionen gehalten oder kontrolliert werden.

Anthropic sagte, dass es die Nutzungsrichtlinie weiter aktualisieren wird, wenn sich Claudes Fähigkeiten und Risiken ändern, und dabei Input von Gesetzgebern, Fachleuten, der Zivilgesellschaft und den Nutzern seiner Produkte einholt. Die aktualisierte Richtlinie tritt am 12. November 2026 in Kraft.