Anthropic ha publicado una Política de Uso actualizada para sus modelos Claude, efectiva a partir del 12 de noviembre. Los cambios están impulsados por nuevas capacidades de IA, comentarios de los clientes e instancias de uso indebido. La política actualizada incluye nuevas restricciones sobre la desinformación, el uso de IA en procesos electorales y aclara los requisitos para usar Claude en áreas de alto riesgo. Según la política actualizada, Anthropic ha prohibido el uso de Claude para crear herramientas de vigilancia y operar armas, incluidos los sistemas de orientación. La empresa también ha consolidado las reglas contra las campañas de desinformación en una sección separada, cubriendo tanto campañas políticas como comerciales. Las reglas prohíben ocultar la autoría de los mensajes y difundir contenido artificialmente usando cuentas falsas.
Además, las reglas actualizadas definen los requisitos para usar Claude en áreas de alto riesgo como la salud y las finanzas. En estos casos, se requiere que un profesional calificado verifique las recomendaciones del modelo. Anthropic también ha aclarado las normas sobre el uso de Claude en el contexto de elecciones, renombrando la sección a "No Socavar los Procesos Democráticos". Estas reglas ahora se centran en prohibir el uso de Claude para engañar a los votantes. Los ejemplos incluyen difundir información falsa sobre candidatos o procedimientos de votación, hacerse pasar por candidatos o funcionarios electorales, e intentar impedir la participación de votantes. Sin embargo, se ha levantado la prohibición absoluta sobre la segmentación personalizada de votantes, siempre que no implique engaño o uso indebido de datos personales.
Por separado, la empresa ha reescrito las reglas sobre vigilancia después de notar un aumento en el uso de IA para crear sistemas que identifiquen y rastreen a disidentes políticos. La política actualizada prohíbe rastrear a individuos sin su consentimiento, tanto en tiempo real como a través del análisis de datos previamente recopilados. Claude no puede ser utilizado para tomar decisiones sobre a quién investigar, detener o acusar en procesos de aplicación de la ley. Está prohibido crear y mejorar herramientas de vigilancia. Sin embargo, el rastreo con consentimiento, la moderación de contenido, el periodismo y la investigación legal siguen permitidos. Finalmente, la política incluye una prohibición sobre el comportamiento abusivo prolongado e injustificado hacia los modelos. La regla se aplicará en casos excepcionales donde un usuario abuse sistemáticamente del modelo sin un propósito claro. La prohibición no se extiende a la insatisfacción ordinaria, disputas, temas creativos oscuros, pruebas o investigación del modelo.
Este material se ha preparado exclusivamente con fines informativos y no constituye asesoramiento ni recomendación financiera.
Artículos relacionados
