Искусственный интеллект ошибается в поиске внеземной жизни

Исследователи из Университета штата Мичиган установили опасную особенность современного искусственного интеллекта, который систематически ошибается при анализе объектов, отличных от тех, на которых проводилось обучение алгоритма. Эта уязвимость особенно тревожна для будущих экспедиций по поиску признаков жизни вне Земли.

Главная слабость нейросетей

Вычислительный биолог Кристоф Адами отмечает, что искусственный интеллект легко поддается ошибочной классификации при встрече с неизвестными образцами. Ученый определяет жизнь через способность кодировать и воспроизводить информационные последовательности.

Поскольку потенциальная жизнь на других планетах может радикально отличаться от земных организмов, космические зонды будут вынуждены искать именно такие универсальные признаки жизни. Это означает, что ненадежность алгоритмов станет серьезной проблемой при интерпретации данных с далеких миров.

Тестирование на компьютерных организмах

Кристоф Адами вместе с Анкитом Гуптой провели масштабный эксперимент с использованием платформы Avida. Программа создает цифровые организмы из кода, способные мутировать, размножаться и конкурировать за вычислительные ресурсы.

Исследование велось три месяца на 1000 параллельных компьютерах. На первом этапе алгоритму показывали последовательности, имитирующие случайные молекулы. Затем ученые систематически видоизменяли структуру кода и отслеживали уровень "уверенности" нейросети в определении живого объекта.

Через серию целенаправленных модификаций исследователям удалось полностью обмануть искусственный интеллект, заставив его признать совершенно неживую программу настоящим живым организмом.

Опасность для космических миссий

Открытая уязвимость указывает на то, что марсоходы и орбитальные аппараты, оснащенные системами ИИ, рискуют выдавать ошибочные результаты при анализе поверхности других планет. Неправильная идентификация биологических маркеров может привести к напрасному расходованию драгоценных ресурсов и времени на детальное исследование объектов, которые в действительности не имеют никакого отношения к внеземной биологии.