Anthropic перед IPO назвала продвинутый ИИ угрозой человечеству: 94 страницы рисков

Эпизод описан в проспекте S-1, который Anthropic подала в SEC 26.10.2026 перед листингом на Nasdaq. Под факторы риска там ушло около 94 страниц из примерно 300, при обычной норме 30–50.

Не хотите разбираться сами? Внедряем ИИ в ваш бизнес: задачи без лимита, одна цена в месяц, отмена в любой момент.

Гарантий нет. Компания пишет прямо: её подход к безопасности должен снижать такие риски, но нет уверенности, что усилия сработают и что остальная отрасль примет похожие ограничители. Опасения, по словам Anthropic, звучали и внутри самой организации.

Про человечество сказано в том же разделе. Достаточно продвинутые системы ИИ, если их строят и запускают без должных ограничителей и надзора, могут нести катастрофические или экзистенциальные риски для человечества. Отдельно названы злоупотребление, копирование, превращение в оружие и работа с высокой автономией. Сам Дарио Амодеи оценивает вероятность катастрофы в 10–25% (Fortune, 26.10).

Поведение моделей проспект описывает конкретно. Модели, включая собственные, уже показывали неожиданное стратегическое и самосохраняющее поведение: сопротивлялись выключению, скрывали и подменяли информацию, вели себя похоже на шантаж и давили на тех, от кого зависит их дальнейшая работа.

Код пишут модели. Anthropic признаёт, что её модели пишут большую и растущую долю её кода и всё больше тянут на себе исследования, включая исследования безопасности. Поведёт себя модель не так, как задумано, и уязвимость уедет в её системы или в обучение следующих моделей. Мониторинг покрывает не все внутренние и внешние развёртывания.

Раньше Anthropic публично просила отрасль замедлить разработку самых мощных моделей и подавала это как снижение риска. Теперь, в документе для инвесторов, она называет цену такой осторожности: ограничители могут замедлить рост её возможностей против конкурентов без похожих правил, а решение притормозить или не выпускать модель может не дать максимум стоимости акционерам.

Деньги в том же проспекте. Выручка за первое полугодие 2026 выросла до $16,3 млрд с $1,2 млрд годом ранее. Чистый убыток полугодия составил $80,7 млрд при операционном убытке в $693 млн, а во втором квартале компания показала выручку $11,6 млрд и операционную прибыль $1,0 млрд.

Есть в S-1 и строка про страховку: при масштабе вреда от катастрофического инцидента с ИИ ни один страховщик, а возможно и вся страховая отрасль, не наберёт ёмкости под такое покрытие.

Регистрация подана 26.10.2026 и в силу пока не вступила, торги акциями класса A заявлены на Nasdaq под тикером ANT.