Claude применяли в опасных биологических исследованиях: Anthropic выявила скрытые случаи

10 сентября Anthropic сообщила о случаях, когда исследователи скрытно использовали Claude для работы с вирусами, ядовитыми соединениями и токсинами. Часть таких исследований может иметь законное научное применение, но те же знания способны помочь в создании биологического оружия.

Обсуждение теперь упирается в проверку человеком и внешний надзор для биологических запросов высокого риска.