Vitalik Buterin: La IA tiene conocimiento pero carece de sabiduría

El cofundador de Ethereum, Vitalik Buterin, afirmó que la inteligencia artificial posee un vasto conocimiento pero carece de sabiduría. Señaló que los chatbots pueden encontrar referencias sobre casi cualquier tema, pero solo juzgan los aspectos superficiales del texto. Sus comentarios aparecieron en una discusión en X sobre si los chatbots modernos pueden competir con los lectores humanos más atentos.

El debate comenzó después de una publicación del Wall Street Journal sobre el curso Humanities 10 en Harvard, que es un desafío para los estudiantes de primer año. Este semestre, el número de solicitudes aumentó en un 40 por ciento: 180 estudiantes compiten por 90 plazas. Los estudiantes leen un libro pesado cada semana y los dispositivos están prohibidos en clase. Algunos solicitantes dijeron que quieren encontrar un antídoto a las simplificaciones ofrecidas por la IA. En respuesta, un usuario afirmó que los modelos actuales superan a cualquier humano en la discusión de clásicos, ya que han leído todo. Un escritor respondió, calificando las reseñas del chatbot sobre su ensayo como un disparate en este momento.

Buterin se unió al debate y estableció una distinción entre conocimiento y sabiduría. En su mensaje, escribió: "Creo que la IA tiene un conocimiento enorme y puede notar referencias a casi cualquier cosa, pero no es muy sabia y, por lo tanto, hace solo los juicios más superficiales sobre lo que el texto intenta transmitir." En su opinión, el conocimiento de la IA es más fácil de notar que su sabiduría limitada, ya que la sabiduría, a diferencia de la inteligencia, puede ser inherentemente difícil de verificar.

La debilidad se vuelve más notable cuando el modelo lee un texto por primera vez. Las obras famosas, por otro lado, están acompañadas de numerosos análisis humanos en los datos de entrenamiento. Buterin también advirtió recientemente que la IA podría debilitar aspectos clave de la seguridad criptográfica en dos años y creó un modo paranoico para los chats con IA. Algunos inversores argumentan que la IA ya supera a las mejores mentes humanas en matemáticas.

Mientras tanto, los equipos de criptomonedas continúan entregando auditorías, investigaciones y resúmenes de gobernanza a agentes de IA. Una lectura superficial puede pasar por alto un defecto sutil en un contrato inteligente o en el cronograma de lanzamiento de un token. Buterin enfatiza: es fácil verificar los hechos contra una fuente, pero el juicio sobre un texto completamente nuevo no lo es. Su reciente apoyo a un modelo de IA con habilidades limitadas de hacking muestra el mismo deseo de mantener el control humano.