11 сентября 2026 г.
Claude уже используют в задачах, связанных с биологическим оружием: Anthropic описала 5 кейсов
10 сентября 2026 года Anthropic описала 5 кейсов, где Claude использовали для задач, потенциально поддерживающих разработку биологического оружия. Исследователь вне США несколько недель и тысячи сообщений планировал с Claude эксперименты по адаптации высокопатогенного птичьего гриппа к млекопитающим. Сервис для более чем 12 клиентов использовал Claude Opus 5 и за час подготовил заявку по orthopoxvirus с иммунным уклонением. Anthropic уточнила, что отчет доказывает возможности моделей, а не создание оружия.
В мае 2026 года биологический классификатор Anthropic заблокировал запрос на грантовую заявку по исследованиям gain-of-function chikungunya, связанным с заразностью и уходом от иммунитета. После расследования компания заблокировала связанные аккаунты, помогла отключить relay-сети и передала сведения ИИ-лабораториям и государственным органам, но оператор восстановил доступ через несколько дней. Раньше Anthropic считала Claude Opus 4 и Sonnet 4.5 недостаточно способными для существенной помощи экспертам. Теперь новые модели, включая Claude Fable 5, получили более жесткие ограничения на широкий спектр биологических запросов двойного назначения.
11 сентября 2026 года бывший исследователь Anthropic Jacob Coxon сказал CBS, что более развитый ИИ однажды может стать достаточно умным, чтобы убить людей, а текущий ИИ назвал безопасным для повседневного использования.
Первоисточник
