Gemini получил доступ к приватным документам Google Docs

Нейросеть Gemini от Google предположительно получила доступ к содержимому закрытых документов пользователей и раскрывала конфиденциальную информацию, которая никогда не была предоставлена ИИ-системе для анализа. Об инцидентах сообщают разработчики игр, столкнувшиеся с этой проблемой.

Как была обнаружена проблема

История началась в Discord-сообществе игровой студии, когда один из разработчиков решил развлечься и задать чат-боту вопрос о предстоящих обновлениях Operation Octo. К удивлению команды, Gemini назвал точное имя нового персонажа — Vantage Tripod. Разработчик подтвердил, что это название никогда не публиковалось в открытом доступе и хранилось только в приватном файле Google Docs.

Совпадение маловероятно, поскольку игра небольшая и информация о ней не циркулирует в интернете. Вероятность случайного угадывания алгоритмом фактически исключена.

Ответ Google и дополнительные случаи

Представители Google категорически опровергли использование приватных файлов для обучения Gemini. Компания заявила, что не сканирует закрытый контент в сервисах Google Workspace, включая Drive и Docs. По словам техногиганта, ссылки на документы попадают в базы данных только если их ранее открывали и публиковали в открытом доступе.

Однако автор игры настаивает, что его документ никогда не отправлялся никому и не делился публично. Впоследствии аналогичный случай сообщила индустриальная разработчица kallico. Она попросила Gemini сгенерировать идеи для своей игры и обнаружила, что ответы ИИ практически полностью совпали с её приватным дизайн-документом. Для проверки она задала те же вопросы конкурирующей нейросети Claude, которая не имеет доступа к экосистеме Google. Claude выдала только стандартные общие идеи, не связанные с закрытым файлом.

Выявленные случаи вызвали серьёзную обеспокоенность среди разработчиков и создателей контента относительно конфиденциальности данных, хранящихся в облачных сервисах крупных технологических компаний.