Anthropic обновила правила использования Claude, запретив агрессивное обращение с ИИ-моделями. Новые требования вступят в силу 12 ноября 2026 года. Компания подчеркивает, что ограничение касается только крайних случаев, когда пользователь неоднократно оскорбляет модель без видимой причины. Критика ответов, возражения, тестирование ИИ и творческие эксперименты под запрет не подпадают.
Для борьбы с неуместным поведением Anthropic продолжит использовать функцию, позволяющую Claude самостоятельно завершать разговоры после повторных попыток прекратить оскорбления. Эта возможность уже применяется в Claude.ai и Claude Code. При этом компания сохраняет право предупреждать пользователей, ограничивать их доступ и даже блокировать аккаунты за нарушения правил.
Обновление также затрагивает правила применения ИИ для слежки. Модель Claude запрещено использовать для отслеживания людей без их согласия, в том числе при анализе ранее собранных данных, а также для определения того, кого арестовать или обвинять в чем бы то ни было. Anthropic также объединила ограничения на использование поддельных аккаунтов и фиктивных новостных сайтов для несуществующих кампаний. Обновленная политика Anthropic начнет действовать с 12 ноября и распространится на всех пользователей Claude.
