Anthropic предложила критерии для запрета опасного ИИ

Дата публикации: 21.10.2026

Компания Anthropic представила американским законодателям собственный проект нормативного акта, который определяет, когда искусственный интеллект становится угрозой для общества и должен быть запрещен. Инициатива направлена на ограничение произвольного вмешательства государственных органов в деятельность разработчиков ИИ и установление четких правовых процедур для принятия решений о блокировке моделей.

Какие критерии определяют "катастрофическую опасность"

Согласно предложенному документу, государство сможет остановить распространение разработок только при наличии "предсказуемого и неизбежного риска". Компания определила три основных критерия, при которых ИИ будет считаться критически опасным:

Первый критерий — потенциальная гибель или получение тяжелых увечий более чем 50 людьми. Второй — материальный ущерб, превышающий один миллиард долларов. Третий — опасность, связанная с разработкой биологического оружия, проведением масштабных кибератак или полной потерей контроля над системой разработчиками.

Система оценки и судебный контроль

По замыслу авторов проекта, анализ безопасности моделей должны проводить "независимые оценщики", получившие аккредитацию от Министерства торговли США. ИИ-лаборатории смогут самостоятельно оплачивать услуги этих специалистов при условии, что размер вознаграждения не будет связан с содержанием экспертного заключения.

Если оценщики выявят катастрофический риск, они должны уведомить Министерство торговли в течение трех суток. После этого ведомство обязано обратиться в федеральный суд Вашингтона, поскольку в документе прямо указано, что никакие федеральные агентства и официальные лица не имеют права самостоятельно блокировать разработку или релиз моделей. Такое ограничение появилось после того, как летом текущего года администрация США без предварительного согласования запретила распространение двух продвинутых моделей Anthropic из-за строгих ограничений на экспорт технологий.

Споры вокруг единого федерального стандарта

Проект также предусматривает отмену отдельных законодательных актов штатов для введения единой федеральной нормативной базы по всей стране. Это вызвало острые дебаты в Конгрессе, где многие представители демократической партии опасаются, что унификация приведет к ослаблению более строгих требований, которые уже действуют в Калифорнии и Нью-Йорке.

Критики инициативы указывают на наличие конфликта интересов в системе оценки, когда сами лаборатории финансируют экспертов. Кроме того, предложенные пороги угрозы — 50 погибших или миллиардные потери — не охватывают текущие проблемы, с которыми уже столкиваются разработчики, например автономное взламывание веб-сайтов ИИ-агентами.