Рискованные ИИ-системы предлагают проверять до запуска: комитет требует отдельный AI Bill

Доклад приводит три случая: ошибка facial recognition не пустила водителя Uber Eats в рабочую систему, Amazon прекратила использовать инструмент найма после дискриминации женщин, а Durham Constabulary учитывала почтовые индексы при оценке риска рецидива. По представленным комитету данным, с 1 января по 29 октября 2025 года полиция могла просканировать около 3 млн человек с помощью facial recognition без согласия.

Предлагаемый порядок. Более рискованные системы должны получать более строгие обязанности на всех этапах AI lifecycle и supply chain. Системам с высоким риском вреда правам человека потребуется предварительное одобрение до предоставления или развёртывания.

AI Bill также должен запретить subliminal techniques, emotional inference, неподходящее profiling и использование biometric data. Отдельный запрет предлагают ввести для мощных AGI и ASI, способных причинить масштабный вред и выйти из-под человеческого контроля.

Надзор после запуска. Разработчики и пользователи должны сообщать о применении AI, объяснять его назначение и раскрывать источник данных. Независимый орган будет вести публичный реестр AI-инцидентов, санкционировать нарушителей и сможет запрещать или отзывать опасные системы.

Дальнейшие изменения зависят от внесения правительством отдельного AI Bill.