Anthropic aktualisiert die Nutzungsrichtlinien für Claude

Anthropic hat eine aktualisierte Nutzungsrichtlinie für seine Claude-Modelle veröffentlicht, die ab dem 12. November in Kraft tritt. Die Änderungen werden durch neue KI-Fähigkeiten, Kundenfeedback und Fälle von Missbrauch vorangetrieben. Die aktualisierte Richtlinie enthält neue Beschränkungen in Bezug auf Fehlinformationen, die Nutzung von KI in Wahlprozessen, und klärt Anforderungen für den Einsatz von Claude in Hochrisikobereichen. Laut der aktualisierten Richtlinie hat Anthropic die Nutzung von Claude zur Erstellung von Überwachungswerkzeugen und zum Betrieb von Waffen, einschließlich Zielsystemen, verboten. Das Unternehmen hat auch Regeln gegen Desinformationskampagnen in einem separaten Abschnitt zusammengefasst, der sowohl politische als auch kommerzielle Kampagnen abdeckt. Die Regeln verbieten es, die Urheberschaft von Nachrichten zu verschleiern und Inhalte künstlich mit gefälschten Konten zu verbreiten.

Zusätzlich definieren die aktualisierten Regeln Anforderungen für die Nutzung von Claude in Hochrisikobereichen wie Gesundheitswesen und Finanzen. In diesen Fällen ist ein qualifizierter Fachmann erforderlich, um die Empfehlungen des Modells zu überprüfen. Anthropic hat auch die Normen bezüglich der Nutzung von Claude im Kontext von Wahlen klargestellt und den Abschnitt in "Demokratische Prozesse nicht untergraben" umbenannt. Diese Regeln konzentrieren sich nun darauf, die Nutzung von Claude zur Irreführung von Wählern zu verbieten. Beispiele umfassen die Verbreitung falscher Informationen über Kandidaten oder Wahlverfahren, das Vortäuschen von Kandidaten oder Wahlbeamten und den Versuch, die Wählerbeteiligung zu behindern. Das absolute Verbot der personalisierten Wähleransprache wurde jedoch aufgehoben, sofern es nicht Täuschung oder Missbrauch persönlicher Daten beinhaltet.

Unabhängig davon hat das Unternehmen die Regeln zur Überwachung neu formuliert, nachdem ein Anstieg der Nutzung von KI zur Erstellung von Systemen zur Identifizierung und Verfolgung politischer Dissidenten festgestellt wurde. Die aktualisierte Richtlinie verbietet die Verfolgung von Personen ohne deren Zustimmung – sowohl in Echtzeit als auch durch die Analyse zuvor gesammelter Daten. Claude darf nicht verwendet werden, um Entscheidungen darüber zu treffen, wen man in Strafverfolgungsprozessen untersuchen, festnehmen oder anklagen soll. Die Erstellung und Verbesserung von Überwachungswerkzeugen ist verboten. Allerdings bleiben das Tracking mit Zustimmung, die Inhaltsmoderation, der Journalismus und die juristische Forschung erlaubt. Schließlich enthält die Richtlinie ein Verbot von langanhaltendem und ungerechtfertigtem missbräuchlichem Verhalten gegenüber Modellen. Die Regel gilt in Ausnahmefällen, in denen ein Nutzer das Modell systematisch ohne klaren Zweck missbraucht. Das Verbot erstreckt sich nicht auf gewöhnliche Unzufriedenheit, Streitigkeiten, dunkle kreative Themen, Tests oder Modellforschung.