Альтман объяснил различия в подходах OpenAI и Anthropic к развитию ИИ

Сэм Альтман, возглавляющий OpenAI, разъяснил фундаментальные расхождения в видении будущего искусственного интеллекта между его организацией и конкурентом Anthropic. По мнению главы OpenAI, человечество должно принять возможность отдельных негативных последствий для того, чтобы получить свободу действий и доступ к инструментам ИИ.
Противоположные подходы к развитию технологий
Долгие годы Anthropic позиционировала себя сторонницей жесткого государственного регулирования ИИ-индустрии, тогда как OpenAI отстаивала более гибкий подход к нормативным требованиям. Несмотря на некоторое сближение позиций в последние месяцы вследствие непредсказуемого поведения моделей и киберинцидентов, Альтман четко разграничивает стратегии обеих компаний.
Философия Anthropic строится на принципе повышенной предосторожности: сверхмощные технологии должны находиться под контролем ограниченного количества исследовательских центров во избежание их злоупотребления. OpenAI же отвергает идею полного ограничения распространения технологий, полагая, что позитивные результаты значительно превысят отрицательные последствия.
Катастрофические риски и методы контроля
При этом Альтман подчеркнул, что OpenAI не игнорирует глобальные угрозы. Компания поддерживает замедление разработки наиболее сложных и передовых моделей, а также привлечение независимых экспертов для оценки безопасности. Главной "красной линией" для организации остается предотвращение катастрофических сценариев, в частности полной потери контроля над ИИ.
Представители Anthropic, в свою очередь, отрицают обвинения в попытках монополизации рынка через регулирование. По словам Дарио Амодеи, главы Anthropic, нормативные инициативы компании касаются исключительно передовых моделей и направлены на замедление разработок крупных игроков, что создает более благоприятные условия для небольших конкурентов и стартапов.