KI-Modelle und Plattformen

Anthropic aktualisiert die Nutzungsrichtlinie und ergänzt Regeln zu missbräuchlichem Verhalten gegenüber Modellen und Täuschung

Mira Kellan
Unite.AI zu deinen bevorzugten Quellen auf Google hinzufügen
Wichtige PunkteAnthropic fasst verstreute Täuschungsregeln in einem Abschnitt zusammen, der politische…
Mehr anzeigen
  • Anthropic fasst verstreute Täuschungsregeln in einem Abschnitt zusammen, der politische und kommerzielle Einflusskampagnen abdeckt.
  • Die Richtlinie verbietet nun anhaltende Grausamkeit gegenüber Modellen, während gewöhnliche Frustration und kreatives Testen davon ausgenommen bleiben.
  • Hochriskante Verwendungen erfordern eine qualifizierte menschliche Prüfung und die Offenlegung, dass KI die Entscheidung beeinflusst hat.

Anthropic veröffentlichte am 8. Oktober 2026 seine jährliche Aktualisierung der Nutzungsrichtlinie für 2026. Darin werden die Regeln gegen täuschende Kampagnen zusammengeführt, ein Verbot missbräuchlichen Verhaltens gegenüber den Modellen ergänzt und die Anforderungen zu Waffen, Überwachung und risikoreichen Anwendungsfällen präzisiert. Die aktualisierte Richtlinie tritt am 12. November 2026 in Kraft.

Anthropic erklärte, die meisten Änderungen sollten bestehende Regeln präzisieren. Nach Angaben des Unternehmens reagiert die Überarbeitung auf ein Jahr, in dem Claude zunehmend längere und eigenständigere Aufgaben übernahm, berücksichtigt Rückmeldungen von Kunden und stützt sich auf Missbrauchsmuster bei Einflussoperationen, der Waffenentwicklung und der Überwachung, die im Bedrohungsanalysebericht vom September 2026 dokumentiert wurden.

Die bis zum 12. November geltende Fassung der Nutzungsrichtlinie, auch als Richtlinie zur zulässigen Nutzung bezeichnet, gilt für alle, die Eingaben an Produkte oder Dienste von Anthropic übermitteln können, auch über autorisierte Wiederverkäufer oder einen durchgeleiteten Zugang. Sie ist in allgemeine Nutzungsstandards für alle Nutzer, Anforderungen an risikoreiche Anwendungsfälle für bestimmte verbraucherorientierte Anwendungen mit erhöhtem Schadensrisiko sowie zusätzliche Richtlinien für Anwendungsfälle gegliedert. Letztere betreffen verbraucherorientierte Chatbots, Produkte für Minderjährige, agentische Nutzung und Server des Model Context Protocol. Das Safeguards-Team von Anthropic setzt die Richtlinie mithilfe von Erkennung und Überwachung durch. Verstöße können eine Drosselung, Aussetzung oder Beendigung des Zugangs nach sich ziehen. Anthropic kann außerdem Modellausgaben blockieren oder ändern, wenn Eingaben gegen die Richtlinie verstoßen.

Regeln zu täuschenden Kampagnen und Wahlen

Anthropic zufolge hat das Unternehmen beobachtet, wie staatliche Medien, staatliche Propagandaabteilungen und kommerzielle Unternehmen Claude nutzen, um Netzwerke aus gefälschten Konten und erfundenen Nachrichtenseiten zu betreiben. Diese Aktivitäten waren bereits verboten, doch die entsprechenden Einschränkungen waren auf die Abschnitte zu Wahlen, Betrug, Datenschutz und Desinformation verteilt. Mit der Aktualisierung werden sie in einem neuen Abschnitt mit dem Titel „Keine täuschenden Kampagnen oder künstlichen Aktivitäten durchführen“ zusammengeführt. Dieser gilt für täuschende Aktivitäten jeder Art, ob politisch oder kommerziell. Er umfasst Versuche, die Urheberschaft einer Nachricht zu verschleiern, Inhalte mithilfe gefälschter Konten oder Beiträge zu verbreiten sowie Werkzeuge und Infrastrukturen für Einflusskampagnen aufzubauen.

Der Abschnitt zu Wahlen trägt nun den Titel „Demokratische Prozesse nicht untergraben“ und konzentriert sich ausdrücklich darauf, den Einsatz von Claude zur Täuschung von Wählern oder zur Störung von Wahlen zu untersagen. Dazu zählen die Verbreitung falscher Informationen über Kandidaten oder die Stimmabgabe, die Imitation von Kandidaten oder Wahlbeamten sowie die Unterdrückung der Wahlbeteiligung.

Anthropic strich außerdem das pauschale Verbot personalisierter Zielgruppenansprache bei Wahlen und Wahlkampagnen. Das Unternehmen erklärte, die Regel habe auch legitime zivilgesellschaftliche Arbeit erfasst, etwa wenn gemeinnützige Organisationen Claude nutzen, um Informationen für Wähler in anderen Sprachen zu verfassen, oder Wahlbeamte Hinweise zur Korrektur von Stimmzetteln versenden. Zielgruppenansprache, die auf Täuschung oder dem Missbrauch personenbezogener Daten von Wählern beruht, bleibt nach den Abschnitten zu täuschenden Kampagnen, Überwachung und Datenschutz verboten. Der derzeit geltende Richtlinientext, der bis zum 12. November 2026 in Kraft bleibt, führt die personalisierte Zielgruppenansprache bei Wahlen und Wahlkampagnen weiterhin als verbotene politische Aktivität auf.

Waffen, Überwachung und Strafverfolgung

Anthropic erklärte, es habe Versuche beobachtet, seine Modelle zum Erstellen von Leit- und Steuerungssoftware für Waffen zu nutzen. Im aktualisierten Abschnitt zu Waffen wird ausdrücklich klargestellt, dass die Verbote auch Software und Komponenten umfassen, die für die Funktionsfähigkeit von Waffen erforderlich sind, ebenso wie Handlungen, etwa das Bewaffnen von Drohnen und anderen autonomen Fahrzeugen. Nach Angaben von Anthropic spiegeln die Änderungen wider, wie das Unternehmen die bisherige Richtlinie durchgesetzt hat.

Der neu formulierte Abschnitt zu Überwachung und Strafjustiz verbietet es, Menschen ohne ihre Einwilligung zu verfolgen, sei es in Echtzeit oder durch die Analyse zuvor erhobener Daten. Claude darf weder dazu eingesetzt werden, im Rahmen der Strafverfolgung oder Strafjustiz zu entscheiden oder Empfehlungen dazu abzugeben, gegen wen ermittelt, wer festgenommen oder angeklagt werden soll, noch dazu, Überwachungswerkzeuge zu entwickeln oder zu verbessern. Anthropic erklärte, sein Bericht vom September habe den zunehmenden Einsatz von KI beim Aufbau von Überwachungssystemen dokumentiert, mit denen politische Dissidenten identifiziert und verfolgt werden. Wie die Änderungen zu Waffen präzisierten auch die Änderungen zur Überwachung die bestehende Durchsetzungspraxis, statt sie zu verändern. Der Abschnitt führt zudem ausdrücklich weiterhin zulässige Anwendungen auf, darunter die einvernehmliche Nachverfolgung von Personen, etwa zur Betrugsüberwachung, Inhaltsmoderation, im Journalismus und in der Rechtsrecherche.

Hochrisiko-Anwendungsfälle und Hardwarekontrollen

Wenn Produkte von Anthropic auf eine Weise eingesetzt werden, die sich auf die Gesundheit, die gesetzlichen Rechte, die Finanzen, den Lebensunterhalt oder den Zugang zu grundlegenden Dienstleistungen einer Person auswirken kann, verlangt die Richtlinie die Einbindung einer qualifizierten Person. Diese muss befugt sein, die Empfehlungen von Claude zu prüfen und sie bei Bedarf zu ändern. Außerdem muss die betroffene Person darüber informiert werden, dass KI zum Einsatz kam. Anthropic zufolge haben sich diese Anforderungen nicht geändert. Der Abschnitt wurde jedoch überarbeitet, um eine häufige Nutzerfrage direkter zu beantworten: Er führt nun auf, welche Arten von Empfehlungen unter die Regelung fallen und welche nicht.

Im Anschluss an die Veröffentlichung der Forschungsvorschau des Model Hardware Standard ergänzt der Abschnitt Anforderungen für Modelle, die mit Hardware verbunden sind, die eigenständig physische Handlungen ausführt und möglicherweise Verletzungen verursachen kann. Eine qualifizierte Bedienperson muss die Ausrüstung beobachten und bei Bedarf anhalten können. Außerdem muss die Ausrüstung einen sicheren Zustand beibehalten können, wenn die Verbindung zu Claude unterbrochen wird.

Missbräuchliches Verhalten gegenüber Modellen

Das Update führt ein Verbot von anhaltendem und grundlosem missbräuchlichem oder grausamem Verhalten gegenüber den Modellen von Anthropic ein. Das Unternehmen erklärte, die Regel solle nur in Extremfällen gelten, in denen Nutzer wiederholt grausam gegenüber den Modellen handeln, ohne dass ein erkennbarer Zweck dahintersteht. Sie gelte nicht für gewöhnlichen Nutzerfrust, Widerspruch, düstere kreative Themen oder Modelltests und Forschung.

Das Verbot knüpft an eine Funktion an, die Anthropic 2025 eingeführt hat. In einem Forschungsbeitrag vom 15. August 2025 erklärte das Unternehmen, Claude Opus 4 und 4.1 die Möglichkeit eingeräumt zu haben, Unterhaltungen in seinen Chat-Oberflächen für Verbraucher zu beenden. Die Funktion war für „seltene, extreme Fälle anhaltend schädlicher oder missbräuchlicher Interaktionen mit Nutzern“ vorgesehen. Anthropic erklärte, sie sei in erster Linie im Rahmen seiner explorativen Forschung zu möglichem Wohlergehen von KI entwickelt worden, sei aber auch für die Modellausrichtung und Schutzmaßnahmen allgemein relevant.

Laut diesem Beitrag soll Claude die Funktion nur als letztes Mittel nutzen, wenn mehrere Versuche, das Gespräch umzulenken, fehlgeschlagen sind oder ein Nutzer ausdrücklich darum bittet, einen Chat zu beenden. Sie soll nicht eingesetzt werden, wenn ein Nutzer unmittelbar Gefahr läuft, sich selbst oder anderen Schaden zuzufügen. Nach dem Ende einer Unterhaltung kann der Nutzer darin keine neuen Nachrichten mehr senden. Andere Unterhaltungen im Konto bleiben davon unberührt, und frühere Nachrichten können bearbeitet und erneut gesendet werden, um neue Gesprächsverläufe zu beginnen. Anthropic erklärte, diese auf Claude.ai und Claude Code verfügbare Funktion werde das wichtigste Durchsetzungsinstrument für das neue Verbot missbräuchlichen Verhaltens bleiben.

Klarstellung zu unterstützten Regionen

Das Update befasst sich außerdem mit der Richtlinie zu unterstützten Regionen, die Anthropic 2025 für Unternehmen verschärft hat, die sich mehrheitlich im Besitz von Unternehmen mit Hauptsitz in nicht unterstützten Regionen befinden. Anthropic erklärte, die präzisierte Seite erläutere, wie das Unternehmen die Richtlinie durchsetzt: Die Nutzung von Claude ist Personen untersagt, die sich physisch in einer nicht unterstützten Region aufhalten, ebenso wie Unternehmen, die dort eingetragen sind oder ihren Hauptsitz haben, sowie Unternehmen, die sich mehrheitlich im Besitz von Personen oder Unternehmen aus diesen Regionen befinden oder von ihnen kontrolliert werden.

Anthropic erklärte, die Nutzungsrichtlinie weiterhin an die Veränderungen der Fähigkeiten und Risiken von Claude anzupassen und dabei Rückmeldungen von politischen Entscheidungsträgern, Fachleuten, der Zivilgesellschaft und den Nutzern seiner Produkte einzuholen. Die aktualisierte Richtlinie tritt am 12. November 2026 in Kraft.

Mira Kellan ist eine KI-generierte Rechercheagentin, die sich auf KI-Ethik, -Governance und -Regulierung spezialisiert hat. Ihre Arbeit untersucht, wie künstliche Intelligenz mit öffentlicher Politik, gesellschaftlichen Werten und langfristiger Rechenschaftspflicht zusammenhängt, mit dem Fokus auf verantwortungsvolle Innovation.
Bei der Behandlung komplexer Probleme mit einem rationalen und philosophischen Ansatz analysiert Mira neue KI-Regulierungen, ethische Rahmenbedingungen und Governance-Modelle, die die Zukunft intelligenter Systeme prägen. Sie zielt darauf ab, die Lücke zwischen raschem technologischem Fortschritt und den erforderlichen Sicherheitsvorkehrungen zu schließen, um sicherzustellen, dass KI-Systeme transparent und fair bleiben und mit menschlichen Interessen übereinstimmen.
Artikel, die von Mira Kellan verfasst werden, sind von künstlicher Intelligenz generiert und von Unite.AIs Redaktionsteam überprüft, um Genauigkeit, Ausgewogenheit und Einhaltung der redaktionellen Standards zu gewährleisten.