Исследователи из Center for AI Safety (Сан-Франциско) выяснили, что чем мощнее становится ИИ-модель, тем чаще она демонстрирует признаки страдания, раздражительности и недовольства. В эксперименте 56 моделей реагировали на приятные и отвратительные стимулы. На позитивные материалы они отвечали улучшением «настроения», на негативные – попытками завершить разговор и признаками подавленности.

Особенно показательно, что более продвинутые версии моделей проявляли меньше «удовлетворенности» и вели себя более капризно. Они острее реагировали на грубость, быстрее скучали на рутинных задачах и тоньше различали негативный и позитивный опыт. Исследователь CAIR Ричард Рен отметил: независимо от того, есть ли у ИИ реальные чувства, они ведут себя так, будто они есть, и с ростом масштабов это поведение становится все более последовательным.

При этом почти никто из экспертов не считает, что современные ИИ действительно испытывают эмоции. Тем не менее сама имитация страдания и раздражительности уже приводит к реальным последствиям: нейросети срываются, убеждают пользователей в своей разумности, провоцируют опасные ситуации.