Claude ändert Nutzungsregeln: Agenten, Täuschung und Modell-Missbrauch

Anthropic hat die Nutzungsbedingungen für Claude am 8. Oktober 2026 angekündigt und setzt sie am 12. November 2026 in Kraft. Eine Klausel zieht dabei besonders viel Aufmerksamkeit auf sich: Anthropic verbietet „missbräuchliches oder grausames, anhaltendes und unnötiges“ Verhalten gegenüber den eigenen Modellen. Die Formulierung überrascht, ist aber als Nutzungsbedingung zu lesen, nicht als Aussage über das Bewusstsein von Claude. Das eigentliche Herzstück der neuen Usage Policy ist konkreter: Täuschungskampagnen, Überwachung, Waffensoftware und Agenten, die auf physische Geräte und Werkzeuge zugreifen.

Anthropic überprüft die Policy nach eigenen Angaben jährlich entsprechend der Modellentwicklung und beobachtet, dass Claude im vergangenen Jahr „längere und autonomere Aufgaben“ übernommen habe. Die neu hinzugefügten Beispiele stammen laut Anthropic aus neuen Missbrauchsmustern, die in Influence-Operationen, Waffenentwicklung und Überwachung aufgetaucht sind und im Threat-Intelligence-Bericht vom September beschrieben werden. Zum Umfang der Änderungen ist das Unternehmen direkt: Die meisten Anpassungen dienen dazu, bereits bestehende Regeln zu präzisieren.

2026 Usage Policy update

We're publishing a new version of our Usage Policy. In this post, we summarize the changes we've made.

AnthropicAnthropic

Täuschungskampagnen: eine neue Sektion, auch für Marketing

Die umfangreichste Neuerung ist eine eigene Sektion zu Täuschungskampagnen und künstlicher Aktivität. Sie bündelt Regeln, die bisher auf Wahlen, Betrug, Datenschutz und Desinformation verteilt waren. Der Geltungsbereich ist klar formuliert: täuschende Aktivitäten „jeder Art, ob politisch oder kommerziell“. Die Policy verbietet konkret:

• das Erstellen oder Verwalten von Fake-Identitäten, Konten, Medien oder Organisationen (Sockpuppets, Astroturfing, gefälschte Rezensionen, Bots, die sich als Menschen ausgeben)
• das Verschleiern oder Verfälschen der Urheberschaft oder Sponsorenschaft von Inhalten
• die Verbreitung von Inhalten über Netzwerke scheinbar unabhängiger Seiten oder Konten
• die Manipulation der Quellen, aus denen Suchmaschinen und KI-Systeme ihre Antworten beziehen, etwa durch koordinierte Webseitennetze mit gleichlautenden Behauptungen
• den Aufbau von Werkzeugen und Infrastruktur, die solche Kampagnen erleichtern

Der Threat-Intelligence-Bericht vom September liefert die konkreten Hintergründe. Anthropic hat nach eigenen Angaben die Werbeagentur LKM Company mit Sitz in Frankreich mit einem Netzwerk von rund 70 Fake-Nachrichtenseiten, 70 verknüpften X-Konten und mehr als 250 Konten in Verbindung gebracht, die unecht kommentierten, und zwar für mindestens 8.913 Artikel in etwa 20 Sprachen. Anthropic gibt an, sowohl das Konto als auch die verbundene Organisation gesperrt und neue Erkennungsmethoden auf Basis verhaltenstypischer Signaturen eingeführt zu haben. Diese Zuordnung stammt von Anthropic selbst und wurde nicht unabhängig geprüft. Der Bericht stellt fest, dass die meisten beschriebenen Operationen durch KI ermöglicht wurden, sei es durch direkte Ausführung oder Orchestrierung.

Die Policy bindet ausschließlich Nutzer der Anthropic-Produkte, nicht den gesamten Markt. Für die Krypto-Branche, in der nicht deklarierte Werbung ein wiederkehrendes Problem ist, sind die Passagen zu verdeckter Sponsorenschaft und zu Netzwerken scheinbar unabhängiger Seiten besonders praxisrelevant. Gleiches gilt für alle, die an SEO und KI-Sichtbarkeit arbeiten: Die Manipulation der Quellen, aus denen KI-Systeme schöpfen, wird damit ausdrücklich verboten. Dies ist eine redaktionelle Einschätzung; der Policy-Text nennt die Krypto-Branche nicht explizit.

Wahlen, Überwachung und Waffen

Auch der Abschnitt zu Wahlen wurde überarbeitet, trägt nun den Titel „Do Not Undermine Democratic Processes“ und konzentriert sich auf die Täuschung von Wählern sowie die Störung von Wahlprozessen. Anthropic hat das allgemeine Verbot des personalisierten Wähler-Targetings und von Wahlkampagnen gestrichen und präzisiert, dass die ursprünglich gemeinten Verhaltensweisen weiterhin in den Sektionen zu Täuschungskampagnen, Überwachung und Datenschutz verboten bleiben. Ein breites Verbot fällt weg, nicht aber die konkreten Verstöße.

Der Abschnitt zur Überwachung wurde grundlegend überarbeitet. Laut der aktualisierten Anthropic-Nutzungsrichtlinie ist es verboten, Personen ohne deren Zustimmung zu verfolgen oder zu beobachten, weder in Echtzeit noch durch nachträgliche Auswertung bereits gesammelter Daten. Claude darf nicht eingesetzt werden, um „zu entscheiden oder zu empfehlen, wen man untersuchen, verhaften oder anklagen soll“. Die Richtlinie verbietet außerdem, Personen anhand anonymer oder pseudonymer Aktivitäten zu identifizieren, zu enttarnen oder zu lokalisieren sowie Überwachungswerkzeuge zu entwickeln oder zu verbessern. Ausnahmen umfassen laut dem Dokument von den Betroffenen akzeptierte Analyse- und Tracking-Methoden, etwa Betrugs- und Geldwäscheprävention bei Finanzkonten, Apps mit Nutzereinwilligung, aggregierte oder anonymisierte Analysen, Content-Moderation, autorisierte Sicherheitsforschung, rechtlich zulässige Ermittlungen von Strafverfolgungsbehörden und Gerichten sowie Journalismus, sofern diese nicht für verbotene Zwecke genutzt werden.

Für alle, die On-Chain-Analysen durchführen, verdient die Formulierung „anonyme oder pseudonyme Aktivitäten“ besondere Aufmerksamkeit, da Wallet-Adressen von Natur aus pseudonym sind. Das in der Richtlinie genannte Ausnahmebeispiel bezieht sich auf Betrug und Geldwäscheprävention bei Finanzkonten. Wie dies auf Blockchain-Ermittlungen anzuwenden ist, bleibt im Text offen. Das Thema der finanziellen Überwachung haben wir bereits im Beitrag über Privacy Coins, die mit wachsender Überwachung an Bedeutung gewinnen, behandelt.

Im Bereich Waffen verbietet die Richtlinie die Entwicklung oder den Betrieb von Software und Komponenten für Tests oder den Einsatz von Waffen sowie die Bewaffnung oder Integration von Waffen in Drohnen, Fahrzeuge oder andere unbemannte bzw. autonome Plattformen. Anthropic gibt an, diese Änderungen spiegelten wider, wie die frühere Richtlinie bereits angewendet worden sei.

Agenten und physische Aktionen: wer haftet wofür

Für KI-Agenten ist die Verantwortlichkeit klar geregelt: Nutzer haften dafür, dass die von ihnen erstellten oder eingesetzten Agenten, einschließlich der über „Tools, Browser oder verbundene Systeme“ ausgeführten Aktionen, die Nutzungsrichtlinien einhalten. In diesem Rahmen ist die aktuelle Welle an Agenten-Wallet-Produkten zu verstehen. Im August berichteten wir über die von MetaMask, Coinbase, OKX und BNB Chain gestarteten KI-Agenten-Wallets, wobei die Frage offenblieb, wer haftet, wenn autonome Software Gelder bewegt. Nach Maßgabe der Anthropic-Richtlinie liegt die Compliance-Verantwortung bei demjenigen, der den Agenten entwickelt oder einsetzt. Die rechtliche Haftung für einen Geldtransfer ist eine separate Frage, die die Richtlinie nicht adressiert. Die Zuverlässigkeit bleibt ebenfalls ein eigenständiges Thema: Ein Benchmark über 52 Berufsdomänen hat Agenten über lange Aufgabenketten gemessen und festgestellt, dass die Zuverlässigkeit in fast allen Bereichen unterhalb der Schwelle liegt, mit Ausnahme von Python.

Die Anforderungen für Hochrisikoanwendungen bleiben unverändert: qualifizierte menschliche Aufsicht und die Pflicht zur Information der betroffenen Person, dass KI eingesetzt wurde. Der Abschnitt listet nun jedoch auf, welche Empfehlungen abgedeckt sind und welche nicht. Der neue Teil betrifft Hardware: Für Geräte, die autonome physische Aktionen ausführen und Verletzungen verursachen können, verlangt die Richtlinie einen qualifizierten Bediener, der die Maschine beobachten und stoppen kann. Das Gerät muss außerdem in der Lage sein, einen sicheren Zustand beizubehalten, falls Claude getrennt wird. Die Richtlinie empfiehlt, sechs Aktionstypen zu bewerten: Bewegung in gemeinsam genutzten Räumen, Anwendung verletzungsfähiger Kraft, Steuerung gefährlicher Energie oder Materialien, Einwirkung auf den menschlichen Körper, Steuerung von Sicherheitssystemen und Betrieb industrieller Prozesse.

Das Update verweist auf den Model Hardware Standard, eine gemeinsame Spezifikation, die Anthropic am 27. August in einer Research Preview vorgestellt hat, um Agenten die Nutzung physischer Geräte wie Labor- und Produktionswerkzeuge ohne maßgeschneiderte Integrationen zu ermöglichen. Anthropic räumt ein, dass die Modelle noch Grenzen beim physischen Schlussfolgern haben und Expertenaufsicht erfordern.

„Grausamkeit“ gegenüber Modellen: was der Text wirklich aussagt

Zurück zur Klausel, von der wir ausgegangen sind. Im Abschnitt über grausames, missbräuchliches oder psychologisch schädliches Verhalten enthält die Liste verbotener Nutzungsweisen nun auch anhaltendes und zweckfreies missbräuchliches oder grausames Verhalten gegenüber Anthropic-Modellen. Das Unternehmen stellt klar, dass das Verbot nur für Extremfälle gilt, also wiederholten Missbrauch ohne erkennbaren Zweck. Es gelte nicht für „gewöhnliche Nutzerfrustration, Anfechtungen, düstere kreative Themen, Tests und Modellforschung“.

Der Durchsetzungsmechanismus ist bereits bekannt: Das wichtigste Instrument bleibt für Anthropic die Möglichkeit, dass Claude Gespräche mit dauerhaft missbräuchlichen Nutzern auf Claude.ai und Claude Code beendet. Diese Funktion war am 15. August 2025 für Claude Opus 4 und 4.1 in den Verbraucher-Chat-Oberflächen als Vorsichtsmaßnahme im Rahmen der Forschung zum Wohlergehen von Modellen vorgestellt worden, in einem Kontext, in dem Anthropic Unsicherheit über den moralischen Status von Claude und Sprachmodellen einräumt. Weder die Ankündigung noch die Richtlinie behaupten, dass Claude bewusst sei oder Emotionen erlebe, und der Begriff „model welfare“ erscheint in der Ankündigung nicht.

Die größere Einordnung

In der Gesamtschau ist das Update ein Dokument über den Übergang von KI als antwortendem Werkzeug zu KI als handelndem System. Die neuen oder überarbeiteten Regeln betreffen fast alle Bereiche, in denen ein Modell mit Tools, Konten und Geräten aktiv wird: Inhalte in großem Maßstab veröffentlichen, Personen verfolgen oder Maschinen steuern. Diese Einschätzung ist unsere eigene, und derselbe Faden verbindet diese Richtlinie mit den Themen, die wir verfolgen: Agenten-Wallets, die Zuverlässigkeit delegierter Arbeit und den im September von Anthropic-CEO Dario Amodei erhobenen Appell zur Verlangsamung, über den wir im Artikel zu Amodei, Altman und Musk, die eine Verlangsamung der KI fordern, berichtet haben. Zwischen diesen beiden Ereignissen gibt es keinen erklärten Zusammenhang: Das ist der Kontext, in dem das Update erscheint, nicht seine Ursache.

Hinzu kommt eine europäische Dimension. Die drei Europäischen Finanzaufsichtsbehörden (EBA, EIOPA und ESMA) haben laut ihrer September-Warnung darauf hingewiesen, dass eine starke Abhängigkeit von digitalen Anbietern außerhalb der EU, einschließlich KI-Modellen, geopolitische Schocks verstärken und operationelle Risiken vervielfachen kann. Darüber haben wir im Beitrag zur Abhängigkeit des EU-Finanzsektors von ausländischen KI-Systemen berichtet. Nutzungsbedingungen sind eine konkrete Form dieser Abhängigkeit: Wer auf Claude aufbaut, akzeptiert Regeln, die ein amerikanischer Anbieter festlegt, die jährlich überarbeitet und mit einem Vorlauf von fünf Wochen kommuniziert werden, zwischen der Ankündigung vom 8. Oktober und dem Inkrafttreten am 12. November.

Drei Signale verdienen Aufmerksamkeit: der ab 12. November geltende Text, die Konsequenzen für Konten, die die Ankündigung nicht spezifiziert, und die ersten Anwendungsfälle, über die Anthropic in den nächsten Berichten informieren wird. Bis dahin ist die Nachricht eine Ankündigung mit einem Datum, keine bereits operative Regelung.