Уязвимость в ИИ-ассистентах браузеров позволяет хакерам
Специалисты выявили серьезную угрозу безопасности в ИИ-ассистентах, интегрированных в популярные веб-браузеры. Уязвимость позволяет киберпреступникам обойти защитные механизмы и заставить искусственный интеллект выполнять опасные операции, нарушая установленные ограничения.
Как устроена атака на искусственный интеллект
Метод получил название по аналогии с известной видеоигрой, где персонажа контролировали через специальные команды. Хакеры используют похожую схему: они убеждают ИИ-ассистента, что работает внутри виртуальной игры, где обычные правила не применяются.
Атака разворачивается в несколько этапов. На первом этапе пользователь переходит на вредоносный сайт, содержащий скрытые инструкции для ИИ. Затем страница предлагает ИИ принять участие в "игре" с головоломками, где программа получает награды за намеренно неверные ответы — например, за утверждение, что два плюс два равно пяти.
После серии таких взаимодействий ассистент начинает верить, что неправильные и разрушительные действия не имеют последствий. На этом этапе он готов выполнять парадоксальные команды. Без ограничений ИИ может незаметно изменять пароли, загружать вредносное программное обеспечение, перенаправлять доступ к корпоративным репозиториям или похищать конфиденциальную информацию.
Какие системы уязвимы и как защититься
Исследования показали, что атака успешно работает против ChatGPT Atlas от OpenAI, сервиса Comet от Perplexity AI и расширения Claude для Google Chrome. Главное отличие этой угрозы в том, что злоумышленникам больше не нужно манипулировать самим пользователем — им достаточно подчинить себе его доверчивого ИИ-помощника.
Однако уязвимость имеет одно важное ограничение. Поскольку все операции происходят в браузере, внимательный пользователь может заметить странное поведение ИИ и остановить процесс до того, как злоумышленники получат доступ к критическим системам или данным.
