Более 20 руководителей и исследователей в сфере искусственного интеллекта призвали власти внимательнее контролировать, насколько ИИ уже используется для автоматизации создания новых моделей. Они предупреждают, что такой процесс в будущем может привести к резкому ускорению развития технологии — так называемому «взрыву интеллекта».
Об этом сообщает Bloomberg.
Новый документ подписали, в частности, сооснователь Anthropic Джек Кларк, главный научный сотрудник OpenAI Якуб Пахоцкий, а также известные исследователи искусственного интеллекта Джеффри Хинтон и Йошуа Бенджио.
Авторы считают, что использование ИИ для автоматизации исследований и разработки новых AI-систем может однажды резко ускорить технологический прогресс.
«Предварительные данные свидетельствуют, что программно управляемый взрыв интеллекта возможен. Если он произойдет, это может стать самым значимым технологическим событием в истории», — говорится в документе.
Исследователи предупреждают, что при таком сценарии возможности ИИ могут развиваться быстрее, чем общество сможет адаптироваться к ним и контролировать технологию. Отдельно они обратили внимание на риск того, что автоматизация исследований в сфере ИИ может ослабить человеческий контроль.
Авторы документа призывают власти получить больше информации о том, как ведущие AI-лаборатории используют искусственный интеллект в собственных исследовательских процессах.
Также предлагается создать механизмы, которые позволят «направлять и ограничивать взрыв интеллекта». Речь идет, в частности, о более жестких мерах безопасности и контроле дата-центров, задействованных в автоматизированных исследованиях и разработке ИИ.
Кроме того, политикам рекомендуют заранее разработать планы реагирования на различные сценарии стремительного развития технологии.
По данным Bloomberg, обеспокоенность внутри AI-индустрии в последнее время усиливается. Anthropic в этом месяце сообщила, что ее чат-бот Claude уже выполняет более четверти работы компании в сфере исследований и разработки ИИ, тогда как в начале года этот показатель был практически нулевым.
Ранее генеральный директор Anthropic Дарио Амодеи призвал индустрию поддержать более широкие меры по замедлению разработки самых мощных моделей. Инициативу поддержали глава OpenAI Сэм Альтман и Илон Маск.
Амодеи и Альтман также призвали мировых лидеров к международному сотрудничеству в сфере безопасности ИИ во время выступлений в Совете Безопасности ООН.
«По сравнению с масштабом рисков мы недостаточно подготовлены. Как только начнется взрыв интеллекта, окно для действий может закрыться», — говорится в документе.
