Новое исследование предупреждает, что усовершенствованный искусственный интеллект может представлять катастрофический риск для человечества и уничтожить целые цивилизации, пишет The Independent.
Исследование, опубликованное на сервере препринтов arXiv, предполагает, что развитие искусственного интеллекта может стать тем катастрофическим риском, который потенциально может уничтожить целые цивилизации.
Автор исследования, Марк Бейли из Национального университета разведки (NIU) в США, выдвинул так называемый «аргумент второго вида», который предполагает возможность того, что продвинутый ИИ может эффективно вести себя как «второй разумный вид», с которым мы в конечном итоге разделим эту планету.
Исследователи из NIU заявили, что «потенциальные результаты мрачны». Исследование предупреждает, что мы не до конца понимаем ИИ, однако он быстро проникает в нашу жизнь.
«Будущий ИИ, вероятно, будет стремиться к более обобщенным, направленным на достижение цели системам с более значимым контролем, где последствия непредвиденных результатов станут значительно более серьезными”, — отметил Бейли.
“Мы должны спросить себя: как нам подготовиться к такой возможности?”