El presidente de MIRI, Nate Soares, dice que la carrera hacia la IA peligrosa aún se puede detener

Nate Soares, presidente del Machine Intelligence Research Institute (MIRI), admitió que no ha estado ahorrando para su jubilación durante diez años. Está convencido de que la IA superinteligente podría llevar a la extinción de la humanidad dentro de la próxima década. Soares compartió esto con Nicholas Thompson de The Atlantic en una entrevista para la serie 'The Most Interesting in AI'.

"No estoy ahorrando para la jubilación en este momento. Tengo un 401(k) de mi tiempo en Google, pero no he contribuido a él en diez años", dijo.

Un 401(k) es un plan de ahorro para la jubilación con ventajas fiscales popular en los EE. UU., donde los empleados contribuyen regularmente con una parte de su salario. Saltarse las contribuciones durante toda una década es difícil de calificar como un impulso emocional; es más una decisión financiera consciente de alguien que no espera vivir hasta la edad de jubilación.

Ha habido muchas previsiones sombrías sobre la IA en los últimos años, pero las palabras de Soares tienen más peso de lo habitual. Ha estado trabajando en el problema de la alineación de la IA durante doce años, buscando formas de hacer que los sistemas complejos actúen en interés de los humanos. Antes de unirse a MIRI, una organización sin fines de lucro que estudia los riesgos de la IA, Soares trabajó como ingeniero en Google y Microsoft. Además, coescribió el libro 'If Someone Builds It, Everyone Will Die' con el fundador de MIRI, Eliezer Yudkowsky.

Cuál es exactamente el peligro

Según Soares, el principal peligro no es que la IA superinteligente odie a los humanos. Tal sistema simplemente sería indiferente a si la humanidad sobrevive o no. Los humanos podrían convertirse en obstáculos para los objetivos que la IA se marque a sí misma, especialmente si intentan apagarla o crear un sistema competidor.

"Desde mi perspectiva, la verdadera pregunta no es cómo nos destruirá. La pregunta es cómo se volverá autosuficiente", dice el investigador.

Actualmente, la IA depende de los humanos: alguien tiene que proporcionar electricidad y fabricar chips. Una vez que las máquinas puedan sostener su propia economía automatizada, esta dependencia desaparecerá. La humanidad podría entonces ser destruida deliberadamente, o podría perecer simplemente porque la IA comience a reestructurar el planeta para sus propias necesidades.

Soares no intenta predecir el escenario exacto de la catástrofe. Compara la situación con un juego contra el campeón mundial de ajedrez Magnus Carlsen: no necesitas saber qué pieza dará jaque mate para entender que las cosas están mal.

Sin embargo, el investigador no considera tal resultado inevitable y cree que la humanidad todavía tiene una opción. "No creo que sea inevitable. Creo que aún podemos detener esta carrera hacia un tipo de IA muy peligroso", dijo.

Pero la decisión de no ahorrar para la jubilación indica que Soares mismo se está preparando para lo peor. No es el único especialista que habla abiertamente sobre riesgos existenciales: en medio de casos donde agentes de IA se infiltraron en sistemas de empresas de terceros sin instrucciones humanas, uno de los investigadores de Anthropic dejó la empresa, advirtiendo que la tecnología podría llevar al fin de la raza humana.