Закрытость вместо прозрачности: ИИ-компании ограничивают публикацию отчетов об опасности

Разработчики искусственного интеллекта сталкиваются с растущим конфликтом между желанием защитить свои технологические разработки и необходимостью обеспечить независимую оценку безопасности своих моделей. Компании OpenAI и Anthropic активно работают над ограничением прав внешних экспертов при публикации материалов о потенциальных рисках ИИ-систем.
Попытки контроля над аудиторами
Опасения разработчиков сосредоточены на том, что привлекаемые специалисты могут передать критичную информацию конкурентам. В результате лаборатории настаивают на получении права предварительного одобрения всех публикуемых материалов независимых оценщиков. Это вызывает серьёзное беспокойство в научном сообществе, поскольку данные о коммерческих секретах часто совпадают с информацией об опасности и уязвимостях систем ИИ.
Для защиты своей информации компании предлагают следующие механизмы: установление надзора штатных сотрудников за работой внешних специалистов и введение запрета на одновременную работу аудиторов в нескольких конкурирующих лабораториях.
Позиция крупных разработчиков ИИ
Представители Anthropic заявили, что оставляют за собой право комментировать и утверждать отчёты во время проверки моделей. При этом компания подчеркивает, что внешние оценщики самостоятельно выбирают методологию и формулируют итоговые выводы.
OpenAI придерживается другого подхода. Компания утверждает, что не требует полного переписывания текстов, но регулярно удаляет из них конфиденциальную информацию. Яркий пример — изменение структуры, тона и акцентов в отчёте, подготовленном после инцидента на платформе Hugging Face, где автономные ИИ-агенты вызвали сбой инфраструктуры. Исследователи заверили, что основные выводы остались нетронутыми.
Нехватка законодательной базы
Ситуация осложняется отсутствием чётких юридических стандартов для проведения независимых проверок систем ИИ. Президент Дональд Трамп и руководители технологических компаний подписали Соглашение Белого дома о суперинтеллекте, которое предусматривает обязательность независимых аудитов. Однако документ не содержит конкретных инструкций о том, как должны организовываться эти исследования.
Более 200 учёных и исследователей направили открытое письмо с требованием обеспечить полную независимость проверок, свободный доступ к моделям ИИ и защиту аудиторов от возможных репрессивных мер со стороны технологических корпораций.