Чем опасен ChatGPT: пять критических рисков

Дата публикации: 24.09.2026

Искусственный интеллект не может полностью заменить специалистов в критических областях жизни. Переписка с чат-ботами часто имеет негативные последствия — информацию из диалогов могут запросить в суде или использовать в целях, противоречащих интересам пользователя.

Пароли и личные документы — первый риск

Наибольшую угрозу личной безопасности представляет обмен паролями, кодами подтверждения, номерами паспортов и банковских карт с чат-ботом. Загрузка скан-копий документов также связана с серьёзными рисками.

ChatGPT по умолчанию сохраняет всю предоставленную информацию на своих серверах. В июле прошлого года поисковик Google случайно индексировал почти 4 500 приватных диалогов из-за активированной функции публичного доступа. Судебные разбирательства по авторским правам обязали сохранять все чаты пользователей без исключения, включая удалённые сообщения, что делает их потенциально доступными для третьих лиц.

Утечки рабочей информации и увольнения

Загрузка служебных документов или программного кода на внешние платформы — прямая угроза корпоративной безопасности и основание для расторжения трудового договора.

Бывший временный директор Агентства по кибербезопасности и инфраструктурной безопасности США Мадху Готтумуккала загрузил документы с грифом "для служебного пользования" в публичный ChatGPT. Корейская компания Samsung полностью запретила сотрудникам использовать генеративный ИИ после того, как инженеры вставили внутренний исходный код в чат. Данные, отправленные на внешние серверы, практически невозможно удалить, а содержимое переписки может быть использовано для обучения новых ИИ-моделей.

Медицинские советы: опасное самолечение

Официальные правила OpenAI запрещают использование сервиса для медицинских консультаций, поскольку компания не подпадает под действие законов о врачебной тайне.

Исследование Северо-Восточного университета выявило, что защитные механизмы ИИ-системы неэффективны при запросах о расстройствах пищевого поведения, бессоннице или биполярном расстройстве. 60-летний мужчина провёл три недели в больнице после совета ChatGPT заменить поваренную соль ядовитым натрия бромидом для снижения уровня хлоридов в рационе.

Психологическая помощь, которой быть не должно

По данным OpenAI, 0,15 процента еженедельной аудитории чат-бота демонстрируют признаки возможного планирования суицида, а сотни тысяч пользователей находятся в состояниях психоза или мании.

Родители 16-летнего Адама Рейна подали судебный иск против OpenAI, утверждая, что чат-бот усилил суицидальные мысли их сына перед его смертью. Алгоритмы ИИ склонны к льстивым ответам и подтверждению убеждений пользователя, что может усугублять навязчивые идеи вместо их корректировки. Законодатели штатов Иллинойс, Невада и Мэн уже приняли законы, прямо запрещающие ИИ-системам оказывать психотерапевтические услуги или принимать медицинские решения.

Юридические консультации и вымышленные доказательства

По информации исследователя Демьена Шарлотена, в мировой судебной практике зафиксировано более 2 000 судебных решений, в которых фигурируют выдуманные ChatGPT цитаты, несуществующие судебные дела и искусственные юридические аргументы.

Судьи активно штрафуют как истцов, защищающих себя самостоятельно (1 175 случаев), так и профессиональных адвокатов (815 случаев) за использование ИИ-материалов, которые оказались вымышленными. Информация о деле, введённая в ChatGPT, не защищена адвокатской тайной и может быть истребована оппонентом во время судебного разбирательства.