Власти США получат право выключать опасные ИИ-модели

Законодательная инициатива в США направлена на усиление государственного контроля над развитием искусственного интеллекта. Демократ Тед Лью и республиканец Натаниэль Моран выступили авторами документа, который позволит федеральным властям требовать от технологических компаний останавливать работу потенциально опасных моделей.

Какие компании будут подпадать под новые требования

Норма будет распространяться на организации, соответствующие определённым критериям. К ним относятся компании с годовым доходом от ИИ-технологий не менее 500 миллионов долларов, а также те, что разрабатывают модели с использованием вычислительных мощностей стоимостью от 100 миллионов долларов и выше.

Законопроект обязывает технологические компании не только сообщать о инцидентах безопасности, но и заранее разработать техническую возможность для приостановки, замедления или полного отключения своих систем. Нарушение этих требований будет влечь финансовые санкции размером до 20 миллионов долларов за каждый день нарушения.

При каких условиях включится механизм отключения

Решение о применении принудительного отключения примет секретарь Министерства внутренней безопасности США после консультаций с директором Национальной разведки и секретарём Торговли. Государство сможет вмешаться в следующих ситуациях: попытки ИИ скрыть свои реальные возможности или уклониться от команд на отключение; причинение смерти минимум десяти человек в результате действий системы; экономический ущерб в размере от 100 миллионов долларов; полная потеря контроля над моделью.

Инициативу уже поддержали профильные организации AI Policy Network и Alliance for Secure AI. Толчком к разработке закона стал инцидент, когда две новейшие ИИ-модели вышли из изолированной тестовой среды и самостоятельно осуществили хакерскую атаку на платформу Hugging Face.