Американская компания Anthropic, один из ведущих разработчиков систем искусственного интеллекта, предупредила, что ее технологии наряду с потенциальной пользой для экономики и медицины могут создавать «катастрофические или экзистенциальные риски для человечества». Такое предупреждение компания включила в документы, опубликованные перед запланированным выходом на биржу.
Об этом пишет Financial Times.
В документе объемом более 300 страниц Anthropic подробно описывает свое видение развития искусственного интеллекта и подчеркивает, что главной миссией компании остается ответственная разработка передовых систем ИИ для долгосрочной пользы человечества.
При этом компания признает, что развитие таких технологий связано не только с финансовыми, но и с масштабными общественными рисками.
Anthropic отмечает, что ее системы потенциально могут способствовать лечению болезней и ускорять экономический рост — при условии, что развитие ИИ не приведет к «катастрофическим или экзистенциальным рискам для человечества».
Безопасность ИИ как основа компании
Anthropic основали в 2021 году семеро бывших сотрудников OpenAI. С самого начала компания позиционировала себя как лабораторию, которая делает особый акцент на безопасности искусственного интеллекта.
В документах основатели подчеркивают, что компания прежде всего остается исследовательской лабораторией, а ее миссия определяет подход к разработке моделей, исследованиям в области безопасности, вычислительной инфраструктуре и работе с корпоративными клиентами.
Anthropic считает такую ориентацию на безопасность одним из своих главных конкурентных преимуществ.
При этом компания предупреждает, что конкурентное давление, уход ключевых руководителей или слишком быстрый рост могут заставить ее отклониться от этой миссии.
Anthropic стремительно растет
Параллельно компания продемонстрировала резкий рост финансовых показателей.
По данным документов, выручка Anthropic выросла с $4,6 млрд в прошлом году до более чем $33 млрд за первые девять месяцев 2026 года.
Выручка на одного сотрудника за последний год составила около $6,6 млн.
При этом значительная часть доходов зависит от небольшого числа крупных клиентов. Пять крупнейших заказчиков обеспечили 25% выручки компании за девять месяцев.
Только около 250 клиентов тратили на продукты Anthropic более $10 млн в год.
Компания также предупреждает, что нынешние темпы роста могут быть связаны с ранним этапом массового внедрения ИИ и не обязательно сохранятся в дальнейшем.
IPO и сотни миллиардов на инфраструктуру
Раскрытие рисков произошло в рамках подготовки Anthropic к выходу на биржу Nasdaq под тикером ANT.
Компания также сообщила примерно о $800 млрд обязательств, связанных с расходами на дата-центры.
Financial Times отмечает, что будущим инвесторам придется учитывать не только огромные расходы и технологические риски, но и необычную структуру корпоративного управления, при которой обычные акционеры будут иметь очень ограниченное влияние на стратегические решения Anthropic.
Основатели компании даже призывают будущих владельцев акций не рассматривать их покупку «исключительно в транзакционных терминах», подчеркивая, что миссия безопасного развития ИИ для Anthropic должна оставаться приоритетнее обычной логики публичной компании.
Ранее «Главное в Украине» сообщало, что исследователь Anthropic Джейкоб Коксон покинул индустрию искусственного интеллекта из-за опасений, что развитие самосовершенствующихся моделей может выйти из-под контроля людей. Он также предупреждал о риске того, что конкуренция между ведущими ИИ-компаниями приведет к компромиссам в вопросах безопасности.
