Отслеживание решений ИИ: недостающее звено в соблюдении норм ИИ в предприятиях

Запрос поступает во вторник от аудиторской группы, и он вежливо конкретен: для клиента, отмеченного 11 марта, покажите входные данные, которые использовала система, версию модели, которая работала, альтернативы, которые она оценивала, и имя того, кто проверял результат. Ваши инженеры могут повторно запустить конвейер — с сегодняшними данными, через сегодняшнюю модель, получая сегодняшний ответ. То, что они не могут сделать, так это показать, что произошло в марте, потому что модель была переобучена дважды с тех пор, снимок входных данных никогда не сохранялся, а "человеческая проверка" была просто лайком в Slack, который никто не архивировал.

Команда создаст что-то — правдоподобную реконструкцию, сопровождаемую извинениями за задержку. И именно это и есть то, что аудит должен отличать от доказательств. Реконструкция — это рассказ о том, что, вероятно, произошло. След — это запись того, что произошло.

Этот пост является инженерной частью трехсерийной публикации — после проблемы ответственности (почему не подотчетные автоматизированные решения заканчиваются катастрофой) и аудита решений ИИ (пяти полей самого отчета). Здесь: что означает отслеживание решений на практике, регуляторная карта с датами, как они фактически стоят после изменений 2026 года, четыре столпа реализации и как это сделать, даже если модель принадлежит кому-то другому.

Что на самом деле означает "отслеживание решений"

Каждая производственная система ведет журналы. Трассировка — это другая дисциплина с другим вопросом. Обычный журнал отвечает на вопрос что произошло: запрос получен, модель вызвана, ответ возвращен, 200 OK. Трассировка решения отвечает на вопрос почему результат был таким, каким он был — и для этого необходимо зафиксировать четыре вещи, которые обычные журналы почти никогда не сохраняют: аргументацию за выводом (факторы, аргументы или цепочка, которые его произвели), альтернативы, которые были рассмотрены и оценены, точную идентичность принимающего решение (версия модели и входные данные на тот момент, а не такие, какие они есть сегодня), и человеческие контрольные точки — кто проверял, что они изменили, что они отменили.

Связь с аудиторским следом из второй части этой серии проста: аудиторский след — это запись, которую оставляет одно решение, подверженное влиянию ИИ; отслеживание — это возможность, которая гарантирует, что такие записи существуют для каждого значимого решения, не могут быть тихо отредактированы и могут быть предоставлены по запросу через месяцы. Одно — это документ; другое — это система, которая делает документ надежным.

Регуляторная карта — с датами, как они есть на самом деле

Закон ЕС о ИИ является самым явным законодательным актом, когда-либо написанным о трассировке решений, и его календарь изменился в 2026 году, поэтому стоит точно указать. Для систем с высоким риском (области Приложения III: занятость, кредит, образование, жизненно важные услуги, правоохранительные органы и другие) Закон требует автоматической регистрации событий на протяжении всего срока службы системы (Статья 12), сохранения журналов как минимум на шесть месяцев как со стороны поставщиков, так и со стороны развертывателей (Статьи 19 и 26), технической документации, хранящейся в течение десяти лет (Статья 18), значимого человеческого надзора с правом вмешательства или отмены (Статья 14), сообщения о серьезных инцидентах — немедленно и не позднее 15 дней, сокращенного до двух дней для широко распространенных инцидентов (Статья 73) — и права на объяснение: затронутые лица могут требовать четкого объяснения роли ИИ в принятии решения о них (Статья 86). Штрафы достигают 35 миллионов евро или 7% от мирового оборота.

Дата: Цифровой Омнибус 2026 года (Регламент (ЕС) 2026/1744, вступающий в силу в июле 2026 года) перенес высокие рисковые обязательства с августа 2026 года на 2 декабря 2027 года — август 2028 года для ИИ, встроенного в продукты в соответствии с действующим законодательством ЕС о безопасности. Что не было перенесено: запреты (вступившие в силу с февраля 2025 года), обязанности по общему назначению ИИ (август 2025 года), обязанности по прозрачности и маркировке контента (август 2026 года) — и статья 22 GDPR, которая ограничивает исключительно автоматизированные решения с 2018 года и, согласно решению Суда ЕС по делу SCHUFA, охватывает даже оценку, произведенную третьей стороной, когда организация, принимающая решение, сильно на нее полагается. Если вы ждете декабря 2027 года, чтобы начать вести записи решений, вы уже опоздали для закона, который применяется сегодня.

Соединенные Штаты регулируют один и тот же сектор веществ по секторам. Банки действуют в соответствии с руководством Федеральной резервной системы SR 11-7 по модельным рискам с 2011 года — инвентаризация моделей, независимая валидация, документация, достаточная для того, чтобы третья сторона могла понять, как работает модель; это самое близкое к руководству по отслеживанию в производстве. Циркуляр CFPB 2022-03 обязывает кредиторов соблюдать требование ECOA о конкретных причинах независимо от сложности алгоритма. Местный закон 144 города Нью-Йорка требует ежегодных аудитов на наличие предвзятости и уведомления кандидатов для автоматизированных инструментов найма. А Колорадо — стоит упомянуть осторожно, потому что большинство резюме описывают закон, который больше не существует — отменил и заново принял свой закон о ИИ в мае 2026 года (SB 26-189, заменив никогда не действовавший SB 24-205): с 1 января 2027 года развертыватели ИИ в значительных решениях обязаны уведомлять потребителей до использования, проводить человеческий обзор и предоставлять письменное объяснение в течение 30 дней после неблагоприятного исхода, при этом разработчики обязаны предоставлять развертывателям техническую документацию; исполнение исключительное для генерального прокурора штата.

Вокруг статутов располагается добровольный каркас, который аудиторы все чаще рассматривают как ориентир: NIST AI Risk Management Framework (управление, картирование, измерение, управление) и ISO/IEC 42001, стандарт сертифицируемой системы управления ИИ. Ни один из них не является законом; оба превращают "мы серьезно относимся к управлению ИИ" в проверяемую структуру — и оба предполагают, что записи решений, о которых идет речь в этом посте, уже существуют.

Четыре столпа отслеживания решений

Уберите аббревиатуры, и каждая из вышеупомянутых структур требует одних и тех же четырех возможностей:

Мы используем сторонние модели — можем ли мы вообще соблюдать требования?

Да — и возражение ставит архитектуру с ног на голову. Вы не можете проследить внутренности модели поставщика, но обязательства, которые связывают вас как развертывателя, в основном не требуют этого. То, что они требуют, это ваша сторона решения: входные данные, которые вы отправили, выходные данные, которые вы получили, контекст, в котором вы это использовали, человек, который это проверил, и причины, которые вы можете дать затронутому лицу. Все это находится в слое трассировки, который вы контролируете, обернутом вокруг любого API, который стоит за этим.

Отношения с поставщиком добавляют три обязанности, а не убирают их: задокументировать, почему была выбрана эта модель и как она была проверена для вашего использования; зафиксировать и записать версию модели по каждому решению, чтобы "какая модель работала в марте" имела ответ даже после того, как поставщик выпустит обновление; и заключить контракт на поддержку аудита и хранение, чтобы вторая половина доказательств от поставщика была доступна, когда регулятор задаст вопрос. Честное признание: для действительно непрозрачных базовых моделей захват рассуждений на уровне модели ограничен — именно поэтому наиболее важным для захвата является рассуждение человека на контрольной точке, где вывод стал решением.

С чего начать — теперь, когда срок сдвинулся

16-месячная отсрочка не является причиной для ожидания; это окно, в котором строительство превосходит модернизацию. След, по определению, может быть создан только в момент принятия решения — все, что не будет зафиксировано с настоящего момента до декабря 2027 года, останется реконструкцией навсегда. И два режима, которые уже применяются, статья 22 и обычная аудируемость, не учитывают отсрочку.

Прагматическая последовательность состоит из трех шагов, ни один из которых не требует отдела соблюдения. Инвентаризируйте точки, где результаты ИИ влияют на важные решения — о людях, деньгах или стратегии — независимо от того, касаются ли они списка Приложения III. Оформите каждую точку в виде зафиксированного человеческого суждения: что рекомендовала система, кто принял решение и почему, записанное в момент принятия решения. Централизуйте записи в каком-то поисковом месте, чтобы "покажите мне решение от 11 марта" было запросом, а не проектом. Это составляет 80% отслеживания, и это стоит иметь, даже если ни один регулятор никогда не спросит — потому что ваши собственные посмертные анализы будут. (Для развертывания отслеживания в предприятиях — требования к аудиту, хранению, контролю доступа — свяжитесь с нашей командой.)

Где подходит Argumentree — слой человеческого принятия решений

Argumentree реализует основы для решений, которые люди принимают с помощью ИИ. ИИ структурирует аргументы и доказательства вокруг вопроса в виде дерева "за/против" (захват рассуждений в виде структуры, а не прозы); люди оценивают, опровергают и ранжируют аргументы, а назначенный решатель фиксирует результат (человек в процессе, при этом обзор сам по себе остается в записи); и завершенная дискуссия сохраняется как поисковая запись решения с полной историей аргументов (след, с возможностью анализа паттернов по решениям, поскольку записи структурированы, а не в свободном тексте).

Постройте сантехнику, прежде чем вам понадобятся доказательства.

Вернитесь к запросу во вторник. В организации с отслеживанием на него отвечают за полдня: вот снимок входных данных, вот версия модели, вот альтернативы, которые она оценила, вот записанное суждение рецензента и объяснение, которое был должен клиенту. Ничего героического — просто сантехника, которая была построена до того, как она понадобилась, фиксируя в момент принятия решения то, что никто не может честно воссоздать позже.

Это и есть истинное содержание "соответствия ИИ", когда акронимы убраны: решения, которые оставляют доказательства. Законы сходятся на этом, рамки предполагают это, и — та часть, которая делает это стоящим, независимо от календаря — ваша собственная организация работает лучше с этим, потому что тот же след, который удовлетворяет аудитора, является записью, которая предотвращает повторное разбирательство по уже решенному вопросу из памяти. Срок изменился. Направление осталось прежним.