Доклад KPMG отозван из-за массовых фейков от ИИ
Международная консалтинговая компания KPMG официально отозвала масштабный доклад "Total Experience: Redefining Excellence in the Age of Agentic AI" после выявления массовых ошибок и искусственно сгенерированного контента. Детальная техническая проверка показала, что аналитики компании чрезмерно полагались на инструменты искусственного интеллекта вместо проведения самостоятельной профессиональной верификации материалов.
Как нейросети фабриковали источники и цитаты
Специалисты компании GPTZero, занимающейся выявлением искусственно созданного контента, провели скрупулезный анализ 45 финальных ссылок из текста доклада. Результаты оказались критичными: лишь 5 цитат из всех 45 указывали на действительно существующие и точные источники информации.
Большинство библиографических ссылок оказались выдумкой языковых моделей. Исследователи назвали этот механизм "цитированием по ощущениям" — когда ИИ генерирует ссылки, основываясь не на реальных данных, а на вероятностных предположениях.
В 28 случаях система использовала настоящие названия компаний и публикаций, но существенно искажала содержание заголовков и добавляла вымышленные параметры. Еще 12 источников были описаны столь расплывчато, что проверить их реальное существование оказалось невозможно. По оценке экспертов, примерно половина основных тезисов отчета была полностью вымышлена или неправильно приписана организациям.
Компании опровергли ложные утверждения KPMG
В документе KPMG описывались якобы успешные внедрения агентского ИИ крупными корпорациями. Однако упомянутые организации быстро выступили с официальными возражениями.
Авиакомпания Emirates заявила, что консалтеры ошибочно описали чат-бота Sara как автономного агента, способного менять бронирования. На деле это обычный мобильный помощник образца 2023 года без функций искусственного интеллекта и прав на изменение резервирования.
Банк UBS назвал "фактически неверной" информацию о якобы интегрированных ИИ-агентах в инвестиционное консультирование и управление рисками. Швейцарская железнодорожная компания SBB полностью опровергла утверждения о том, что пассажиры планируют путешествия с использованием ИИ-оптимизаторов углеродного следа.
Руководитель GPTZero Эдвард Тиан предостерег о "критически опасных" последствиях этого инцидента. Поскольку доклады компаний "Большой четверки" консалтантов считаются образцом надежности и широко цитируются исследователями, СМИ и научным сообществом, подобные ошибки буквально "отравляют информационную экосистему".
Наиболее тревожный момент: сфабрикованные данные из удаленного отчета KPMG уже успели попасть в обучающие наборы ChatGPT (OpenAI) и Gemini (Google). Теперь эти модели распространяют вымышленные примеры как реальные факты, создавая опасную цепь вторичных галлюцинаций по всему интернету.
KPMG в настоящее время проводит внутреннее расследование в отношении ненадлежащего использования ИИ-технологий при подготовке материалов.
