Исследователь компании Anthropic Джейкоб Коксон решил покинуть индустрию искусственного интеллекта из-за опасений, что ведущие компании слишком быстро движутся к созданию систем, способных самостоятельно совершенствоваться. Он считает, что конкуренция между разработчиками может привести к появлению ИИ, который люди уже не смогут контролировать.
Об этом пишет The Wall Street Journal.
27-летний Коксон специализировался на предварительном обучении моделей и в течение последних трех лет работал сначала в OpenAI, а затем в Anthropic. По его словам, он ушел из OpenAI в начале 2026 года именно из-за опасений, связанных с безопасностью, и перешел в Anthropic, которая имеет репутацию компании, уделяющей больше внимания безопасному развитию ИИ.
Однако впоследствии исследователь пришел к выводу, что даже Anthropic не может ответственно разрабатывать системы, которые будут превосходить людей в широком спектре задач, без государственного вмешательства или согласованного замедления всей индустрии.
Коксон заявил, что внутри AI-компаний все чаще используют такие слова, как «решающий момент» и «эндшпиль», говоря о приближении к самосовершенствующимся моделям.
По его оценке, уже к концу 2027 года развитие событий может пойти по наиболее агрессивным сценариям, при которых системы ИИ начнут выходить из-под контроля человека. Он также убежден, что в условиях жесткой конкуренции между американскими компаниями и китайскими разработчиками компромиссы в вопросах безопасности неизбежны.
Опасения Коксона разделяют и некоторые другие специалисты отрасли. Один из исследователей Anthropic Эван Хубингер публично заявил, что лично оценивает вероятность того, что сверхмощный ИИ может привести к гибели человечества в течение следующего десятилетия, более чем в 10%.
Руководители Anthropic и OpenAI также в последнее время публично говорят о рисках стремительного развития искусственного интеллекта и необходимости защитных механизмов. При этом в США пока нет комплексного федерального регулирования, которое бы ограничивало создание сверхмощных моделей.
Коксон считает, что создание самосовершенствующегося ИИ не должно оставаться решением отдельных частных компаний и требует более широкого контроля со стороны государств и международной координации.
