Виталик Бутерин: ИИ обладает знаниями, но не мудростью

Сооснователь Ethereum Виталик Бутерин заявил, что искусственный интеллект обладает большими знаниями, но не отличается мудростью. Он отметил, что чат-боты способны обнаруживать ссылки почти на любые темы, но судят только о поверхностных аспектах текста. Его комментарии появились в обсуждении в X о том, могут ли современные чат-боты соперничать с самыми внимательными читателями среди людей.

Дебаты начались после публикации Wall Street Journal о курсе Humanities 10 в Гарварде, сложном для первокурсников. В этом семестре число заявок выросло на 40 процентов: 180 студентов борются за 90 мест. Студенты читают тяжелую книгу каждую неделю, а в классе запрещены устройства. Некоторые претенденты сказали, что хотят найти противоядие от упрощений, которые предлагает ИИ. В ответ один пользователь заявил, что сегодняшние модели превосходят любого человека в обсуждении классики, так как прочитали все. Писательница возразила, назвав отзывы чат-ботов о ее эссе ерундой на данный момент.

Бутерин вступил в дебаты и провел различие между знаниями и мудростью. В своем сообщении он написал: «Я считаю, что ИИ обладает огромными знаниями и способен замечать ссылки почти на что угодно, но не очень мудр, и потому делает лишь самые поверхностные суждения о том, какую мысль пытается донести текст». По его мнению, знания ИИ легче заметить, чем его ограниченную мудрость, так как мудрость, в отличие от интеллекта, по своей природе может быть трудной для проверки.

Слабость становится заметнее, когда модель читает текст впервые. Знаменитые произведения, наоборот, сопровождаются множеством человеческих анализов в данных обучения. Бутерин также недавно предупредил, что ИИ может ослабить ключевые аспекты криптобезопасности в течение двух лет, и создал параноидальный режим для чатов с ИИ. Некоторые инвесторы утверждают, что ИИ уже превосходит лучшие человеческие умы в математике.

При этом криптокоманды продолжают передавать аудиты, исследования и резюме управления ИИ-агентам. Поверхностное чтение может пропустить тонкий недостаток в смарт-контракте или графике выпуска токенов. Бутерин подчеркивает: факты легко проверить по источнику, а суждение о совершенно новом тексте – нет. Его недавняя поддержка модели ИИ с ограничением хакерских навыков показывает то же стремление сохранить человеческий контроль.