Anthropic은 Claude 모델에 대한 업데이트된 사용 정책을 11월 12일부터 시행한다고 발표했습니다. 이러한 변경 사항은 새로운 AI 기능, 고객 피드백 및 오용 사례에 의해 추진되었습니다. 업데이트된 정책에는 허위 정보, 선거 과정에서의 AI 사용에 대한 새로운 제한 사항이 포함되며, 고위험 분야에서 Claude를 사용할 때의 요구 사항을 명확히 합니다. 업데이트된 정책에 따르면, Anthropic은 Claude를 감시 도구 생성 및 무기 운영, 특히 타겟팅 시스템에 사용하는 것을 금지했습니다. 회사는 또한 정치 및 상업 캠페인을 모두 포함하여 허위 정보 캠페인에 대한 규칙을 별도의 섹션으로 통합했습니다. 이 규칙은 메시지의 작성자를 숨기고 가짜 계정을 사용하여 콘텐츠를 인위적으로 확산하는 것을 금지합니다.
또한, 업데이트된 규칙은 의료 및 금융과 같은 고위험 분야에서 Claude를 사용할 때의 요구 사항을 정의합니다. 이러한 경우에는 모델의 권고 사항을 검증할 수 있는 자격을 갖춘 전문가가 필요합니다. Anthropic은 또한 선거와 관련하여 Claude를 사용하는 것에 대한 규범을 명확히 하고, 섹션 이름을 "민주적 절차를 훼손하지 마십시오"로 변경했습니다. 이러한 규칙은 이제 Claude를 사용하여 유권자를 오도하는 것을 금지하는 데 중점을 둡니다. 예로는 후보자나 투표 절차에 대한 허위 정보 확산, 후보자나 선거 관리자를 사칭하는 행위, 유권자 참여를 방해하려는 시도가 포함됩니다. 그러나 개인화된 유권자 타겟팅에 대한 절대적인 금지는 해제되었으며, 이는 기만이나 개인 데이터의 오용을 포함하지 않는 경우에 한합니다.
별도로, 회사는 정치적 반체제 인사를 식별하고 추적하기 위한 시스템을 생성하는 AI 사용이 증가함에 따라 감시에 대한 규칙을 새로 작성했습니다. 업데이트된 정책은 개인의 동의 없이 실시간으로 또는 이전에 수집된 데이터를 분석하여 개인을 추적하는 것을 금지합니다. Claude는 법 집행 과정에서 조사, 구금 또는 기소할 대상을 결정하는 데 사용할 수 없습니다. 감시 도구의 생성 및 향상은 금지됩니다. 그러나 동의하에 추적, 콘텐츠 모더레이션, 저널리즘 및 법률 연구는 허용됩니다. 마지막으로, 정책에는 모델에 대한 장기적이고 부당한 학대 행위를 금지하는 조항이 포함되어 있습니다. 이 규칙은 사용자가 명확한 목적 없이 체계적으로 모델을 학대하는 예외적인 경우에 적용됩니다. 이 금지는 일반적인 불만, 분쟁, 어두운 창작 테마, 테스트 또는 모델 연구에는 적용되지 않습니다.
이 자료는 정보 제공 목적으로만 작성되었으며 재무 자문이나 권장 사항을 구성하지 않습니다.
관련 도움말
