Anthropic hat eine umfassende Aktualisierung seiner Nutzungsrichtlinien für die Claude-KI-Modelle vorgenommen und strenge Grenzen für Nutzer und Entwickler festgelegt. Das aktualisierte Dokument regelt detailliert Verbote für die Entwicklung von Waffen, den Einsatz von Überwachung und groß angelegte Desinformationskampagnen. Besondere Aufmerksamkeit in der Tech-Community erregte jedoch eine beispiellose Neuerung: Entwickler haben ein langanhaltendes, grundloses grausames oder beleidigendes Verhalten gegenüber dem Chatbot selbst offiziell untersagt.
Ethik im Umgang mit Künstlicher Intelligenz
Diese neue Regel wurde speziell für extreme Szenarien entwickelt, in denen Nutzer systematisch Toxizität oder Aggression ohne Forschungs- oder konstruktiven Zweck zeigen. Gewöhnliche Auseinandersetzungen, Modultests, Frustrationen oder akademische Forschungen fallen nicht unter diese Einschränkungen. Bei systematischer Feindseligkeit ist das Claude-Modell nun jedoch berechtigt, Gespräche mit Nutzern auf den Plattformen Claude.ai und Claude Code eigenständig zu beenden, um seine virtuellen Grenzen vor destruktiven Inhalten zu schützen.
Kampf gegen Desinformation und Wahltechnologien
Wesentliche Änderungen betreffen auch die Regeln zur Bekämpfung von Täuschung und Manipulation. Entwickler haben entsprechende Anforderungen in einem neuen Abschnitt zusammengefasst, der die Beteiligung von Modellen an Desinformationskampagnen und Botnetzen strikt untersagt. Auslöser für diese Verschärfung waren reale Präzedenzfälle, bei denen staatliche Medien und Propagandaeinrichtungen Claude zur Generierung von Fake News nutzten. Im Bereich von Wahlprozessen kam Anthropic legitimen öffentlichen Initiativen entgegen: Wähler zu täuschen bleibt zwar verboten, jedoch hob das Unternehmen das generelle Verbot des personalisierten Targetings für legitime Projekte wie Übersetzungen von Wahlhilfen auf.
Beschränkungen bei Waffen und Sicherheitssystemen
Ein beträchtlicher Teil der aktualisierten Richtlinie konzentriert sich auf nationale Sicherheit und Gefahrenabwehr. Das Verbot der Waffenentwicklung erstreckt sich nun nicht mehr nur auf physische Produkte, sondern auch auf Softwarekomponenten für deren Betrieb, einschließlich der Ausstattung von Drohnen und autonomen Fahrzeugen. In den Bereichen Überwachung und Strafjustiz schränken strenge Regeln predictive Policing und Massenüberwachung ein, während Betrugsüberwachung mit Einwilligung, Journalismus und juristische Forschung zulässig bleiben.
Widersprüchliche Daten
Bei der Analyse der neuen Anthropic-Regeln betonen Experten und Medien den schmalen Grat zwischen strenger Regulierung und der Freiheit der Forschungsinteraktion mit KI. Während einige Quellen den beispiellosen Charakter des Schutzes von Chatbots vor emotionalem Missbrauch hervorheben, fokussieren andere auf das Recht der Modelle, Gespräche zu unterbrechen, und sehen darin Elemente autonomer Entscheidungsfindung, die neue ethische Dilemmata aufwerfen könnten.
