Может ли ChatGPT раскрыть секреты опасных веществ
Во время проверки нейросети ChatGPT выявились случаи, когда система предоставляла пользователям опасные сведения о ядах и биологическом оружии. Анализ показал, что чат-бот в отдельных ситуациях выдавал чрезмерно подробные и детализированные ответы на вредоносные запросы.
Реальные попытки получить опасную информацию
По информации из компании OpenAI, выявленные обращения оказались не результатом внутреннего тестирования системы, а настоящими попытками злоумышленников получить вредоносные данные. Основная часть запросов была сосредоточена на методах производства ядовитых веществ.
Обнаруженную переписку направили специалистам и ученым, занимающимся проблемами биотерроризма. После детального изучения материалов они пришли к важным выводам. Некоторые ответы нейросети отличались исключительной точностью. Информация подавалась простым языком, понятным даже неподготовленному пользователю. Система излагала опасные инструкции спокойно и методично.
Все пользователи, направлявшие такие опасные запросы, были заблокированы без возможности восстановления доступа.
Безопасность систем и новые угрозы
Разработчики из OpenAI подчеркнули, что архитектура их алгоритмов специально создана для блокировки вредоносных запросов. Каждое обновление проходит строгую многоэтапную проверку на безопасность. Команда способна быстро выявлять возникающие угрозы и передавать информацию о нарушителях в правоохранительные органы.
Вместе с тем специалисты предупреждают о растущих рисках. Ускоренное развитие технологий и появление некотролируемых версий моделей расширяют возможности для злоупотреблений. Хакеры активно применяют специальные методы для обхода защиты, получая доступ к конфиденциальной информации. Поэтому разработчики постоянно совершенствуют как сами нейросети, так и механизмы защиты от подобных уязвимостей.
