Институт будущего жизни объявил, что истратит пожертвование в размере 10 млн долларов, полученное от известного предпринимателя Элона Маска, на финансирование 37 научных проектов по контролю над искусственным интеллектом.
Эти проекты включают исследование с бюджетом в 136 тысяч долларов возможности создания систем вооружения с искусственным интеллектом и возможных методов управления ими.
Выделяется также 1,5 млн долларов на создание исследовательского центра по проблемам искусственного интеллекта.
Эти деньги поступили от благотворительной организации Open Philanthropy Project. Этот центр будет управляться совместно университетами Оксфорда и Кембриджа.
"Существуют причины полагать, что нерегулируемые и бесконтрольные разработки могут привести к опасным последствиям, как из-за безответственных правительств, так и ввиду беспрецедентных возможностей таких систем", - заявил представитель Оксфордского университета Ник Бостром.
"Этот центр будет заниматься долгосрочными последствиями применения искусственного интеллекта, который уже вскоре может превысить способности человека в большинстве интересующих нам сфер, и политическими решениями, которые могут быть использованы для уменьшения потенциальных рисков, связанных с такими устройствами", - говорит ученый.
Проекты, которые должны получить финансирование от Института будущего жизни, включают исследования того, как этические принципы и гуманистические ценности могут быть включены в работу над системами искусственного интеллекта.
Группа уже объявила, что получила почти 300 заявок на финансирование со всего мира.
Основатель корпорации Microsoft Билл Гейтс и профессор Стивен Хокинг, среди прочих, в прошлом не раз предупреждали о потенциальной опасности, связанной с созданием искусственного интеллекта, который может вырваться из-под контроля человека.
Президент Института Макс Тегмарк заявил, что его организация не будет заниматься кошмарными сценариями, предлагаемыми такими голливудскими фильмами как "Терминартор".
"Опасность сценария по типу "Терминатора" состоит не в том, что такое может случиться, а в том, что он отвлекает от реальных проблем будущих систем искусственного интеллекта", - заявил Тегмарк.
Элон Маск, основавший такие известные компании как Tesla Motors, PayPal и SpaceX, пожертвовал 10 млн долларов на эти исследования в январе этого года.