ИИ способен привести к смерти миллиардов людей

Сооснователь Microsoft Билл Гейтс выразил серьёзную озабоченность рисками, которые несёт развитие искусственного интеллекта. По его мнению, современные ИИ-системы обладают достаточной мощностью, чтобы при определённых обстоятельствах привести к гибели до миллиарда человек.

Опасность комбинации технологии и злых намерений

В интервью Гейтс отметил, что наибольшую угрозу представляет сочетание передовых ИИ-инструментов с людьми, намеренно использующими эту технологию во вред. "Никогда ещё не было настолько мощного оружия, как сочетание людей со злыми намерениями и новейших инструментов ИИ", — сказал он.

Миллиардер признал, что полностью уничтожить человечество с помощью ИИ было бы затруднительно. Однако он убеждён, что технология уже достаточно развита для того, чтобы спровоцировать события, которые унесут жизни огромного количества людей.

Необходимость государственного контроля

В связи с этими рисками Гейтс настаивает на введении законодательных ограничений и государственного надзора за развитием искусственного интеллекта. Он убеждён, что Вашингтону следует установить обязательные нормы безопасности для ИИ-систем, так как полагаться только на саморегулирование технологических компаний недостаточно.

Ранее Гейтс уже предупреждал, что быстрый прогресс в области ИИ вызовет масштабные сдвиги на рынке труда. В августовском эссе он указывал, что технология способна заменить человеческий труд в юриспруденции, медицине, программировании, обслуживании клиентов и производстве. Кроме того, он выражал опасение, что люди могут потерять контроль над всё более автономными системами по мере их развития.

Позиция миллиардера совпадает с беспокойством, высказываемым другими представителями технологической индустрии и исследователями, которые призывают к более осмотрительному подходу и усилению контроля над развитием ИИ. Вместе с тем официальная позиция американского правительства остаётся иной — глава Белого дома Дональд Трамп выступает против замедления развития искусственного интеллекта.

Дополнительно учёные из Гарварда предупредили о риске формирования "искусственного государства", в котором ИИ-алгоритмы постепенно будут вытеснять демократические институты и человеческую автономию.