Компания Anthropic опубликовала обновленную Политику использования для своих моделей Claude, которая вступит в силу 12 ноября. Изменения вызваны новыми возможностями искусственного интеллекта, отзывами клиентов и случаями злоупотреблений. Обновленная политика включает новые ограничения, касающиеся дезинформации, использования ИИ в избирательных процессах, а также уточняет требования к применению Claude в высокорисковых сферах. Согласно обновленной политике, Anthropic запретила использовать Claude для создания инструментов слежки и обеспечения работы оружия, включая системы наведения. Также компания объединила правила против дезинформационных кампаний в отдельный раздел, который касается как политических, так и коммерческих кампаний. Правила запрещают скрывать авторство сообщений и искусственно распространять контент с помощью фейковых аккаунтов.
Кроме того, обновленные правила определяют требования к использованию Claude в высокорисковых сферах, таких как здравоохранение и финансы. В этих случаях требуется привлечение квалифицированного специалиста для проверки рекомендаций модели. Anthropic также уточнила нормы в отношении использования Claude в контексте выборов, изменив название раздела на «Не подрывайте демократические процессы». Теперь эти правила фокусируются на запрете использования Claude для введения избирателей в заблуждение. Среди примеров – распространение ложной информации о кандидатах или процедурах голосования, выдача себя за кандидатов или избирательных должностных лиц и попытки препятствовать явке. При этом был снят абсолютный запрет на персонализированный таргетинг избирателей, если это не связано с обманом или злоупотреблением персональными данными.
Отдельно компания переписала правила о слежке после того, как зафиксировала рост использования ИИ для создания систем идентификации и отслеживания политических диссидентов. Обновленная политика запрещает отслеживать людей без их согласия – как в реальном времени, так и с помощью анализа ранее собранных данных. Claude также нельзя использовать для принятия решений о том, кого расследовать, задерживать или обвинять в рамках правоохранительного процесса. Запрещено создавать и совершенствовать инструменты для слежки. При этом разрешенными остаются отслеживание с согласия людей, модерация контента, журналистика и юридические исследования. Наконец, в политике добавлен запрет на длительное и безосновательное жестокое обращение с моделями. Правило будет применяться в исключительных случаях, когда пользователь систематически издевается над моделью без понятной цели. Запрет не распространяется на обычное недовольство, споры, темные творческие темы, тестирование или исследования моделей.
Материал подготовлен исключительно в ознакомительно-информационных целях и не является финансовым советом и рекомендацией.