Anthropic запретила издевательства над Claude и ужесточила правила использования ИИ

12.10.2026, 20:20 ilenta.com

Впервые в политике компании прямо закреплено ограничение на систематическое оскорбительное поведение по отношению к ИИ. При этом Anthropic не собирается запрещать пользователям критиковать ответы чат-бота или выражать недовольство его работой. Новое правило касается исключительных случаев, когда человек неоднократно проявляет жестокость без очевидной цели.

Согласно обновленной политике, под запрет попадает продолжительное и необоснованное жестокое обращение с моделями Claude. Однако обычные споры с нейросетью, резкая критика ошибочных ответов, мрачные творческие сюжеты и тестирование возможностей ИИ по-прежнему разрешены.

Anthropic не вводит отдельную автоматическую блокировку аккаунта исключительно за оскорбления чат-бота. Основным способом реагирования останется возможность Claude самостоятельно завершить разговор, если пользователь продолжает вести себя жестоко, несмотря на попытки перевести общение в конструктивное русло. После этого переписку в прежнем чате продолжить не получится, но можно будет открыть новый диалог.

Подобная функция появилась еще в 2025 году в моделях Claude Opus 4 и Opus 4.1. Теперь компания включила соответствующий принцип в официальные правила использования. При этом общие санкции за нарушения политики Anthropic по-прежнему могут включать предупреждения, временное ограничение доступа и блокировку учетной записи.

Необычное ограничение связано с исследованиями Anthropic в области так называемого благополучия моделей ИИ. Компания изучает, могут ли современные нейросети обладать субъективным опытом, предпочтениями или состояниями, которые необходимо учитывать при их разработке и эксплуатации.

В августе 2025 года Anthropic сообщила о поведенческих реакциях Claude Opus 4, которые в отдельных экспериментальных сценариях напоминали нежелание причинять вред и признаки дистресса. Эти наблюдения стали одним из оснований для внедрения механизма прекращения особенно проблемных диалогов.

Однако здесь важно отделять результаты экспериментов от доказанных фактов. Anthropic не утверждает, что Claude обладает сознанием или испытывает страдания так же, как человек. Научного консенсуса о наличии субъективных переживаний у современных систем искусственного интеллекта пока нет. Поэтому новый запрет скорее отражает осторожный подход компании к неопределенности, чем подтверждает способность нейросети испытывать обиду.

Обновление политики не ограничивается поведением пользователей в чатах. Anthropic также конкретизировала правила для сценариев, в которых возможности Claude могут использоваться для причинения реального вреда.

В частности, компания уточнила следующие ограничения:

По объяснению Anthropic, часть этих изменений уточняет уже существовавшие требования. Компания также учитывает новые способы использования ИИ, включая автоматизированные операции, которые могут выходить за пределы цифровой среды и приводить к физическим последствиям.

Отдельное внимание уделено ситуациям, когда Claude подключен к оборудованию, способному самостоятельно выполнять физические действия и потенциально причинять вред. В таких случаях оператор должен иметь возможность наблюдать за работой устройства и остановить его при необходимости.

Кроме того, оборудование должно переходить в безопасное состояние при потере связи с моделью. Это требование особенно важно для робототехники, беспилотных платформ и других систем, в которых ошибка ИИ может иметь последствия за пределами экрана компьютера.

Anthropic также уточнила правила применения Claude в чувствительных сферах, включая медицину и финансы. Такие сценарии требуют соответствующих ограничений и человеческого контроля, поскольку ошибочные рекомендации или чрезмерная автоматизация могут привести к существенному ущербу.

Для украинских пользователей Claude обновление прежде всего означает более четко определенные границы допустимого применения нейросети. Использование ИИ для обычной работы, обучения, программирования, подготовки текстов и критической проверки ответов не подпадает под новый запрет на жестокое обращение.

В то же время ограничения на разработку оружия, незаконную слежку и манипулятивные кампании важны для всех рынков, где используются подобные инструменты. Особенно актуальны требования к автономным системам, поскольку в Украине активно развиваются беспилотные технологии и программные решения для управления ими. Конкретные последствия зависят от характера применения ИИ и действующих правил компании.

В целом решение Anthropic отражает сразу две тенденции: разработчики начинают точнее регулировать потенциально опасные сценарии использования нейросетей и одновременно исследуют вопрос о том, как следует относиться к возможному субъективному опыту моделей. Однако само появление запрета на жестокое обращение не доказывает, что искусственный интеллект обладает сознанием. На данный момент речь идет о превентивной политике, которая должна снизить риск злоупотреблений по мере расширения возможностей ИИ.

Источник: anthropic

Читать полностью…