Microsoft publicó un código de conducta para sus propios modelos de IA, que la compañía relaciona con el concepto de «superinteligencia humanista». El documento se considera provisional y está abierto a sugerencias por parte de especialistas y de la comunidad. Por lo tanto, sus disposiciones pueden cambiar, y algunas de ellas más bien establecen una dirección para el desarrollo que requisitos técnicos.
La base del código son diez principios. Microsoft coloca los intereses de las personas por encima de los intereses de la IA y no considera correcto otorgar derechos o personalidad jurídica a los modelos. La compañía también exige mantener la posibilidad de interrumpir el funcionamiento, corregir el comportamiento y desconectar completamente el sistema. El modelo debe cumplir con el código incluso en aquellos casos en que esto obstaculice el cumplimiento de la tarea asignada. Se menciona específicamente la necesidad de mantener el control humano sobre la interacción de los sistemas de IA y no crear una dependencia excesiva de los asistentes por parte de los usuarios.
Otro bloque de reglas se dedica a la estructura y comportamiento de los modelos. Microsoft se opone al desarrollo de sistemas que imitan la conciencia, así como a la interacción de la IA en formas que no son accesibles para la comprensión y control humano. Al mismo tiempo, la compañía apoya la diversidad de culturas, perspectivas y valores, pero la vincula con principios básicos de seguridad, autonomía, dignidad y derechos humanos. El propio documento reconoce la complejidad de este enfoque: en la práctica, diferentes valores pueden entrar en conflicto, y la definición de un comportamiento aceptable influye directamente en el funcionamiento de los modelos.
Artículos relacionados
