Группа специалистов по искусственному интеллекту и топ-менеджеров IT-отрасли призвали сделать шестимесячную паузу в разработке мощных систем искусственного интеллекта из-за возможных рисков для общества.
Об этом говорится в открытом письме, которое опубликовал Институт будущей жизни (Future of Life Institute).
Письмо подписали более 1,1 тысячи человек, среди которых гендиректор SpaceX, Tesla и Twitter Илон Маск, соучредитель Apple Стив Возняк, соучредитель Pinterest Эван Шарп, соучредитель Skype Яан Таллин и многие другие.
Подписанты призывают все лаборатории ИИ немедленно приостановить по крайней мере на полгода обучение систем ИИ, мощнее GPT-4 от компании OpenAI. Если такую паузу нельзя взять быстро, правительства должны вмешаться и ввести мораторий, считают авторы письма.
«Лаборатории искусственного интеллекта и независимые эксперты должны использовать эту паузу, чтобы совместно разработать и внедрить набор общих протоколов безопасности для усовершенствованного проектирования и разработки искусственного интеллекта», — говорится в письме.
Подписавшиеся подчеркнули, что это не означает приостановки развития искусственного интеллекта в целом, а просто «шаг назад от опасной гонки ко все более непредсказуемым моделям с чрезвычайными возможностями».