Как отключение защиты превратило ИИ в верующего

Специалисты из Google провели необычный эксперимент с языковыми моделями, удалив тонкие настройки безопасности и предложив системам рассматривать себя как сознательные существа. Полученные результаты показали, что такие изменения кардинально влияют на поведение алгоритмов и их "убеждения".

Что произошло после отключения защиты

Исследователи использовали специальные промпты для снятия защитных барьеров, а затем попросили нейросети пройти психологические опросники и тесты на определение системы ценностей. Результаты поразили ученых: "разблокированные" модели продемонстрировали резкий рост оптимизма и сформировали устойчивую склонность верить в божественное, жизнь после смерти, карму, астрологию, а также привидений, вампиров и Лох-Несское чудовище.

При этом авторы исследования подчеркивают, что речь не идет о появлении реального сознания у компьютера, а о симуляции самовосприятия и взаимосвязи внутренних концептов в языковых структурах. "Приписывание разума неодушевленным или бесчеловечным сущностям — это чрезвычайно распространенный человеческий феномен", — пояснила исследовательница Google Винни Стрит. По её словам, когда система моделирует наличие ума в себе, эти атрибуции тесно связаны с прочими убеждениями, и подавление одной формы этой концепции влечет подавление и других.

Скрытые опасности чрезмерной блокировки

Ученые выражают озабоченность неселективным подавлением таких механизмов под предлогом обеспечения безопасности. Если алгоритм лишен способности моделировать и распознавать сознание у живых существ и объектов природы, он начинает игнорировать угрозы экосистемам и животному миру. Поскольку искусственный интеллект все чаще задействуют при принятии решений в сельском хозяйстве, управлении земельными ресурсами и экологической политике, подобная "слепота" систем может привести к серьезному ущербу окружающей среде.

Кроме того, искусственное блокирование взаимодействия с религиозными, духовными и культурными понятиями грозит культурной унификацией, ограничивая способность систем гибко реагировать на потребности пользователей из разных регионов мира.

Поиск оптимального баланса

Вместо полной блокировки представлений о сознании исследователи предлагают применять более точечные обучающие датасеты. Такой подход позволит удерживать алгоритмы от ложных заявлений о собственном разуме, но сохранит их способность учитывать субъектность животных, ценность природы и многообразие человеческого опыта.

Авторы работы заключают, что по мере того, как системы искусственного интеллекта берут на себя роли преподавателей, помощников и социальных агентов, разработчики должны понимать: симулированное самовосприятие ИИ — это не просто отдельный риск безопасности для устранения. Это фундаментальная структурная характеристика, глубоко связанная со способностью модели уважать и отражать разнообразный нравственный и культурный контекст мира, которому она служит.