Дослідник компанії Anthropic Джейкоб Коксон вирішив залишити індустрію штучного інтелекту через побоювання, що провідні компанії надто швидко рухаються до створення систем, здатних самостійно вдосконалюватися. Він вважає, що конкуренція між розробниками може призвести до появи ШІ, який люди вже не зможуть контролювати.
Про це пише The Wall Street Journal.
27-річний Коксон спеціалізувався на попередньому навчанні моделей і протягом останніх трьох років працював спочатку в OpenAI, а потім в Anthropic. За його словами, він залишив OpenAI на початку 2026 року саме через безпекові побоювання та перейшов до Anthropic, яка має репутацію компанії, що більше уваги приділяє безпечному розвитку ШІ.
Однак згодом дослідник дійшов висновку, що навіть Anthropic не може відповідально розробляти системи, які перевершуватимуть людей у широкому спектрі завдань, без державного втручання або узгодженого уповільнення всієї індустрії.
Коксон заявив, що всередині AI-компаній дедалі частіше використовують слова на кшталт “вирішальний момент” і “ендшпіль”, говорячи про наближення до самовдосконалюваних моделей.
За його оцінкою, уже до кінця 2027 року розвиток подій може піти за найагресивнішими сценаріями, за яких системи ШІ почнуть виходити з-під людського контролю. Він також переконаний, що в умовах жорсткої конкуренції між американськими компаніями та китайськими розробниками компроміси щодо безпеки неминучі.
Побоювання Коксона поділяють і деякі інші фахівці галузі. Один із дослідників Anthropic Еван Хубінгер публічно заявив, що особисто оцінює ймовірність того, що надпотужний ШІ може призвести до загибелі людства протягом наступного десятиліття, більш ніж у 10%.
Керівники Anthropic і OpenAI також останнім часом публічно говорять про ризики стрімкого розвитку штучного інтелекту та необхідність запобіжників. Водночас у США поки немає комплексного федерального регулювання, яке б обмежувало створення надпотужних моделей.
Коксон вважає, що створення самовдосконалюваного ШІ не повинно залишатися рішенням окремих приватних компаній і потребує ширшого контролю з боку держав та міжнародної координації.
