Понад 20 керівників і дослідників у сфері штучного інтелекту закликали владу уважніше контролювати, наскільки ШІ вже використовується для автоматизації створення нових моделей. Вони попереджають, що такий процес у майбутньому може спричинити різке прискорення розвитку технології — так званий “вибух інтелекту”.
Про це повідомляє Bloomberg.
Новий документ підписали, зокрема, співзасновник Anthropic Джек Кларк, головний науковий співробітник OpenAI Якуб Пахоцький, а також відомі дослідники штучного інтелекту Джеффрі Гінтон і Йошуа Бенджіо.
Автори вважають, що використання ШІ для автоматизації досліджень і розробок нових AI-систем може одного дня різко прискорити технологічний прогрес.
“Попередні дані свідчать, що програмно керований вибух інтелекту можливий. Якщо він станеться, це може стати найважливішою технологічною подією в історії”, — йдеться в документі.
Дослідники попереджають, що за такого сценарію можливості ШІ можуть розвиватися швидше, ніж суспільство зможе адаптуватися до них і контролювати технологію. Окремо вони звернули увагу на ризик того, що автоматизація досліджень у сфері ШІ може послабити людський нагляд.
Автори документа закликають владу отримати більше інформації про те, як провідні AI-лабораторії використовують штучний інтелект у власних дослідницьких процесах.
Також пропонується створити механізми, які дозволять “спрямовувати та обмежувати вибух інтелекту”. Йдеться, зокрема, про жорсткіші заходи безпеки та контроль дата-центрів, задіяних в автоматизованих дослідженнях і розробці ШІ.
Крім того, політикам рекомендують заздалегідь розробити плани реагування на різні сценарії стрімкого розвитку технології.
За даними Bloomberg, занепокоєння всередині AI-індустрії останнім часом посилюється. Anthropic цього місяця повідомила, що її чатбот Claude вже виконує понад чверть роботи компанії у сфері досліджень і розробок ШІ, тоді як на початку року цей показник був практично нульовим.
Раніше генеральний директор Anthropic Даріо Амодей закликав індустрію підтримати ширші заходи зі сповільнення розвитку найпотужніших моделей. Ініціативу підтримали глава OpenAI Сем Альтман та Ілон Маск.
Амодей та Альтман також закликали світових лідерів до міжнародної співпраці у сфері безпеки ШІ під час виступів у Раді Безпеки ООН.
“Порівняно з масштабом ризиків ми недостатньо підготовлені. Щойно почнеться вибух інтелекту, вікно для дій може закритися”, — йдеться в документі.
