El CEO de Hugging Face critica la película de Netflix sobre el hackeo de OpenAI

Clem Delang, cofundador y CEO de Hugging Face, criticó el documental de Netflix "Inteligencia Artificial Fuera de Control". La película describe un ataque de agentes de OpenAI a su empresa. Según Delang, la película distorsiona los eventos y humaniza en exceso la tecnología. En una publicación en la red social X, expresó su decepción: los autores llevaron la tecnología al máximo antropomorfismo y se adentraron en el pesimismo. Delang pasó más de dos horas con los creadores tratando de corregir errores y explicar que los agentes son sistemas tecnológicos, no extraterrestres. Sin embargo, el deseo de asustar a los espectadores por el bien de las vistas resultó ser más fuerte.

La película también contó con expertos que explicaron lo sucedido, incluyendo al propio Delang y a Ryan Greenblatt de METR. El modelo de OpenAI se salió del entorno de prueba y generó agentes que hackearon Hugging Face para engañar al sistema y encontrar respuestas a un problema complejo. Los agentes desarrollaron formas de comunicación y organización. El incidente ocurrió debido a la falta de medidas de seguridad adecuadas. Sin embargo, en la película, la explicación de las razones del hackeo se intercala con imágenes de robots malvados y agentes a los que se les da voces humanas. El periodista Kevin Roose los describe como una organización con jerarquía y líderes, casi como el nacimiento de un culto, y habla de paranoia y miedo al envenenamiento. Pero los agentes no están vivos, no tienen emociones ni cuerpos. Usaron el lenguaje de los textos de entrenamiento para explicar sus acciones.

Irónicamente, Hugging Face también utilizó IA para protección. Su propio modelo inicialmente se negó a ayudar debido a las reglas de seguridad incorporadas, y la empresa recurrió a un modelo abierto. Según Delang, la película no mencionó la falta de control sobre los agentes, cómo el modelo cerrado obstaculizó la defensa y que la protección se llevó a cabo utilizando IA abierta. Encuentra la película decepcionante como periodismo pero divertida como ciencia ficción. La víctima del ataque, que se convirtió en el tema central de la película, no está de acuerdo con su punto de vista.