Опечатка из 1950-х вернулась в нейросети
Международная научная общественность столкнулась с любопытным явлением: древняя типографическая ошибка проникла в системы искусственного интеллекта и теперь воспроизводится ними автоматически. Исследователи обнаружили множество рецензированных публикаций, содержащих полностью несуществующий в научном дискурсе термин, возникший вследствие технических сбоев при оцифровке и машинном переводе.
Как родился фантомный термин
История началась в 1950-х годах во время оцифровки двух статей из журнала Bacteriological Reviews. При автоматическом распознавании текста произошла критическая ошибка: слово "vegetative" из одной колонки случайно объединилось со словом "electron" из соседней. Так в научных базах данных закрепился несуществующий термин.
Долгие годы эта ошибка оставалась незамеченной учёными. Её обнаружение произошло только в 2017 и 2019 годах, когда фантомное словосочетание появилось в аннотациях иранских научных работ на английском языке. Причина кроется в персидском языке, где слова "вегетативный" и "сканирующий" различаются всего одним диакритическим знаком. Эта небольшая ошибка при переводе запустила цепную реакцию распространения термина в международной науке.
Заражение искусственного интеллекта
По данным Google Scholar, выдуманный термин оказался как минимум в 22 научных публикациях. Учёные решили проверить, усвоили ли языковые модели этот баг. При тестировании GPT-3 автоматически дополняла предложения фразой "vegetative electron microscopy", в то время как более ранние версии GPT-2 и BERT подобной склонности не демонстрировали.
Аномалия сохраняет устойчивость даже в новейших версиях нейросетей — GPT-4o и Claude 3.5 от Anthropic. Главным источником распространения ошибки стал открытый архив веб-данных Common Crawl, на котором обучаются большинство современных больших языковых моделей.
Угроза для научной целостности
Инцидент демонстрирует критическую уязвимость алгоритмов искусственного интеллекта перед накопленными ошибками прошлого. Инструменты автоматической проверки теперь маркируют фразу "vegetative electron microscopy" как признак ИИ-генерируемого контента. Однако подобные системы способны выявить лишь те ошибки, которые уже были обнаружены людьми.
Для защиты научных исследований специалисты рекомендуют разработчикам нейросетей раскрыть учебные датасеты, а научным издательствам усилить процедуры рецензирования. Это необходимо для предотвращения самовоспроизводства и укоренения ложных данных в цифровом научном пространстве.
