Закон ЕС об ИИ 2026: обязанности прозрачности

Автор: Jonas Osman Abdelghafour.

Закон ЕС об искусственном интеллекте (AI Act) применяется горизонтально, и именно поэтому он неудобен для финансовых организаций: обязательства привязаны не к регулируемому виду деятельности, а к роли, которую организация играет по отношению к системе — поставщик, оператор (deployer), импортёр, дистрибьютор. Банк, который покупает инструмент скоринга, — это оператор; банк, который дообучает и выводит его на рынок под собственным брендом, становится ближе к поставщику. Ошибка в этой классификации — самая дорогая из возможных, поскольку именно она определяет весь набор обязательств.

Классификация — это первый контроль

Работу определяют два вопроса. Во-первых, подпадает ли система вообще под определение ИИ согласно Закону? Во-вторых, какая категория риска применяется? Для финансовых услуг наиболее чувствительны запрещённые практики (узкая, но абсолютная категория), высокорисковые применения — прежде всего оценка кредитоспособности физических лиц, а также оценка риска и тарификация в страховании жизни и здоровья — и уровень прозрачности, применимый к системам, взаимодействующим с людьми или генерирующим контент.

Всё дальнейшее зависит от этой классификации, поэтому она должна фиксироваться в реестре моделей как атрибут с ответственным лицом и датой пересмотра, а не в отдельной таблице комплаенса.

Прозрачность на практике

Обязанности по прозрачности обычно описывают как «сообщите людям, что они общаются с машиной». Операционная реальность шире. Системы, напрямую взаимодействующие с людьми, обязаны прояснять это в момент взаимодействия, в самом интерфейсе, а не в политике, спрятанной за тремя кликами. Синтетический или изменённый контент требует машиночитаемой маркировки. Функции распознавания эмоций и биометрической категоризации несут собственные обязанности по раскрытию информации и в контексте трудовых отношений жёстко ограничены.

Для розничного банка практический результат неброский: чат-интерфейсы, которые представляются как автоматизированные, скрипты контакт-центра, раскрывающие автоматизированную обработку обращений, конвейеры маркетингового контента, маркирующие сгенерированные материалы, и след доказательств, показывающий, когда каждое раскрытие было внедрено.

Обязанности для высокого риска ложатся на уже существующие контроли

Там, где применение попадает в категорию высокого риска — кредитный скоринг для потребителей, тарификация страхования в указанных линиях бизнеса, — требования читаются как хорошо выстроенная система риск-менеджмента моделей с дополнительным документооборотом: система управления рисками на протяжении жизненного цикла, управление данными с оценкой репрезентативности и предвзятости, техническая документация, автоматическое логирование, встроенный в рабочий процесс человеческий надзор, а также точность, устойчивость и кибербезопасность, соразмерные применению.

Эффективный ответ — сопоставление, а не дублирование. Требования к управлению данными сопоставляются с уже существующими контролями происхождения и качества данных. Техническая документация сопоставляется с документацией по разработке моделей, дополненной специфическими для Закона полями. Человеческий надзор сопоставляется с механизмом переопределения решений и эскалации, который валидация уже должна тестировать. Логирование сопоставляется с требованиями к аудиторскому следу. Организации, выстраивающие параллельный стек комплаенса под AI Act, в итоге ведут два описания одной и той же модели, которые в течение года расходятся.

Операторы также несут собственные обязанности — использовать систему в соответствии с инструкциями поставщика, обеспечивать релевантность входных данных, назначать компетентный человеческий надзор, отслеживать работу системы, а в ряде случаев информировать затронутых лиц. Банк не может переложить эти обязанности на поставщика.

Модели общего назначения и цепочка поставок

Большинство организаций потребляют модели общего назначения, а не создают их сами. Поставщик несёт ответственность за документацию и, выше порога системного риска, дополнительные обязательства; оператору при этом всё равно нужно достаточно информации, чтобы выполнить собственные обязанности. Это делает договорной доступ к технической документации, уведомление о существенных изменениях модели и подтверждение заявленного назначения не пожеланием, а требованием закупочного процесса. Если поставщик отказывается это предоставить, организации следует исходить из того, что потребуется компенсирующее тестирование, и учитывать это в решении «строить или покупать».

Что делать в ближайшие два квартала

• Пометить каждую систему ИИ в реестре ролью, категорией риска и правовым основанием и провести независимую проверку этой классификации.
• В первую очередь закрыть пробелы в прозрачности в клиентских каналах — они заметны, дёшевы в исправлении и проще всего фиксируются регулятором.
• Сопоставить требования для высокого риска с уже существующими артефактами риск-менеджмента моделей и закрыть только разницу, а не писать новые документы с нуля.
• Доработать шаблоны закупок так, чтобы документация, уведомление об изменениях и права аудита были стандартом.
• Встроить обязанности по ИИ-грамотности в обучение персонала, который эксплуатирует такие системы или осуществляет надзор за ними.

Организациям, чьё управление моделями уже производит доказательства по запросу, AI Act окажется вполне управляемым — для них это упражнение в классификации и раскрытии. Для тех, чей парк ИИ-систем не задокументирован, это прежде всего упражнение в инвентаризации — а инвентаризация под регуляторный дедлайн является самым дорогим способом узнать, чем вы владеете.

Первичные источники: Регламент (ЕС) 2024/1689 (AI Act); руководство службы поддержки Европейской комиссии по AI Act относительно обязанностей по прозрачности из статьи 50.