Buterin Apoya la Decisión de Moonshot AI de Limitar las Habilidades de Hackeo en el Modelo Kimi K3.1 Pro

El cofundador de Ethereum, Vitalik Buterin, apoyó la decisión de Moonshot AI de excluir las habilidades de hacking de alto nivel del nuevo modelo Kimi K3.1 Pro. Él cree que limitar las capacidades de la IA es mejor que limitar a los usuarios. Sin embargo, dicha protección tiene un costo medible: según Moonshot, el modelo filtrado resolvió el 81% de las tareas en una prueba interna para crear herramientas de explotación de vulnerabilidades, mientras que el modelo no filtrado resolvió el 90.5%.

Buterin explicó su posición: discriminar contra casos de uso es mucho menos perjudicial que discriminar contra usuarios. "No estoy en contra de que Kimi 3.1 excluya conscientemente las capacidades cibernéticas ofensivas de alto nivel de los datos de entrenamiento. Discriminar contra casos de uso es mucho menos malo que discriminar contra usuarios. Y el mundo realmente necesita todo el tiempo que pueda obtener para prepararse, fortalecer sistemas y revisar código antiguo," escribió en la red social X.

Moonshot, con sede en Beijing, planea lanzar los pesos abiertos del modelo para el 4 de noviembre. Después de eso, cualquiera podrá descargarlo y ejecutarlo en su propio equipo. Por lo tanto, la compañía dice que ha eliminado los datos relacionados con ciberseguridad del corpus de entrenamiento y del entorno de aprendizaje por refuerzo, conservando las tareas de programación general.

En opinión de Buterin, los ataques impulsados por IA eventualmente golpearán con toda su fuerza. Hasta entonces, los desarrolladores necesitan tiempo para fortalecer sistemas, revisar código obsoleto y probar nuevo software. La amenaza ya es notable: a principios de este año, Binance Research descubrió que la IA es aproximadamente el doble de buena para encontrar formas de explotar contratos de software que para detectar sus vulnerabilidades.

Qué sucederá si la primera ola de riesgos sale mal

Buterin también advirtió sobre otra encrucijada. Si esta primera ola resulta mal, espera modelos cerrados, verificaciones de identidad para prácticamente todo y vigilancia intrusiva. En tal escenario, el acceso a la IA podría depender de credenciales y ciudadanía, y algunas personas se convertirían en usuarios de segunda, tercera o cuarta clase, escribió.

Buterin ha abogado durante mucho tiempo por el lanzamiento de modelos de IA abiertos en equipos personales, como lo demuestran sus pruebas locales en un portátil. Sin embargo, no espera que el filtrado dure para siempre: cuando se le preguntó si otros laboratorios construirán tales capacidades de todos modos, respondió afirmativamente. Según los propios cálculos de Moonshot, el modelo abierto competidor DeepSeek V4.1-Flash ya ha obtenido un 85.7% en la misma prueba.