AI意思決定トレーシング：企業AIコンプライアンスにおける欠落したリンク

リクエストは火曜日に監査チームから届き、丁寧に具体的です：3月11日にフラグが立てられた顧客について、システムが使用した入力、実行されたモデルのバージョン、スコアが付けられた代替案、そして結果をレビューした人の名前を示してください。エンジニアたちはパイプラインを再実行できます — 今日のデータを使い、今日のモデルを通して、今日の答えを出します。しかし、彼らができないのは3月に何が起こったかを示すことです。なぜなら、モデルはそれ以来2回再訓練されており、入力スナップショットは保存されておらず、「人間のレビュー」は誰もアーカイブしなかったSlackのサムズアップだったからです。

チームは何かを生み出します — 遅延に対する謝罪を添えた信頼できる再構築です。そして、それこそが監査が証拠と区別するために存在するものです。再構築は、おそらく起こったことについての物語です。痕跡は、実際に起こったことの記録です。

この投稿は三部構成のシリーズのエンジニアリング部分です — アカウンタビリティギャップ（説明責任のない自動化された決定がどのように災害につながるか）と AI決定監査トレイル（記録自体の五つの分野）の後に続きます。ここでは、実際における決定トレーシングの意味、2026年の変更後の実際の日付を含む規制マップ、実装の四つの柱、そしてモデルが他の誰かのものであってもそれをどのように行うかについて説明します。

「意思決定の追跡」が実際に意味すること

すべての生産システムはログを記録します。トレーシングは異なる質問を持つ異なる分野です。従来のログは何が起こったかに答えます：リクエストを受信、モデルを呼び出し、レスポンスを返し、200 OK。意思決定トレースは結果がそのようになった理由に答えます — そのためには、通常のログではほとんど保持されない4つのことを記録する必要があります：出力の背後にある推論（それを生み出した要因、議論、または連鎖）、考慮され評価された代替案、意思決定者の正確な身元（その瞬間のモデルバージョンと入力、今日のものではなく）、および人間のチェックポイント — 誰がレビューし、何を変更し、何を上書きしたか。

このシリーズの第2部における監査証跡との関係はシンプルです：監査証跡は、単一のAI影響を受けた決定が残す記録です；トレーシングは、そのような記録がすべての重要な決定に対して存在することを保証し、静かに編集されることがなく、数ヶ月後に要求に応じて生成できる能力です。一方は文書であり、もう一方はその文書を信頼できるものにするための配管です。

規制マップ — 実際の日時を反映したもの

EU AI法は、意思決定の追跡に関して書かれた最も明確な法律であり、そのカレンダーは2026年に変更されたため、正確に述べる価値があります。高リスクシステム（附属書IIIの分野：雇用、信用、教育、重要なサービス、法執行など）に対して、この法律は自動イベントログの記録をシステムのライフサイクル全体にわたって要求しています（第12条）、プロバイダーと展開者による少なくとも6か月のログ保持（第19条および第26条）、10年間の技術文書の保持（第18条）、介入または上書きする権限を持つ意味のある人間の監視（第14条）、重大なインシデントの報告 — 直ちに、遅くとも15日以内に、広範なインシデントの場合は2日以内に厳格化（第73条） — そして説明を求める権利: 影響を受けた人々は、彼らに関する決定におけるAIの役割について明確な説明を要求することができます（第86条）。罰金は最大3500万ユーロまたは世界の売上高の7%に達します。

日付：2026年デジタルオムニバス（規則（EU）2026/1744、2026年7月施行）は、高リスク義務を2026年8月から2027年12月2日に移動しました — 既存のEU安全法の下で製品に組み込まれたAIについては2028年8月です。移動しなかったもの：禁止事項（2025年2月から施行）、汎用AIの義務（2025年8月）、透明性およびコンテンツラベリングの義務（2026年8月） — そしてGDPR第22条、これは2018年から完全自動化された決定を制限しており、CJEUのSCHUFA判決に従い、決定機関がそれに大きく依存する場合、第三者によって生成されたスコアさえも含まれます。2027年12月まで決定記録を保持し始めるのを待っていると、今日適用される法律に対してすでに遅れています。

アメリカ合衆国は、同じ物質をセクターごとに規制しています。銀行は2011年から連邦準備制度のSR 11-7モデルリスクガイダンスの下で運営されており、モデルのインベントリ、独立した検証、モデルの動作を第三者が理解するために十分な文書が求められています。これは、どこでも生産されているトレーシングプレイブックに最も近いものです。CFPBの通達2022-03は、アルゴリズムの複雑さに関係なく、債権者にECOAの特定理由要件を遵守させています。ニューヨーク市のローカル法144は、自動化された採用ツールに対して年次バイアス監査と候補者通知を要求しています。そしてコロラド州は、もはや存在しない法律を説明する要約がほとんどであるため、慎重に引用する価値がありますが、2026年5月にAI法を廃止し再制定しました（SB 26-189、効果がなかったSB 24-205に代わるもの）：2027年1月1日から、重要な決定におけるAIの展開者は、消費者に対して使用前通知、人間によるレビュー、および不利な結果から30日以内に書面による説明を提供する義務があり、開発者は展開者に技術文書を提供する義務があります。執行は州の司法長官に独占されています。

像の周りには、監査人がますます参照として扱う自発的な足場が置かれています：NIST AIリスク管理フレームワーク（統治、マッピング、測定、管理）とISO/IEC 42001、認証可能なAI管理システム標準です。どちらも法律ではありませんが、両者は「私たちはAIガバナンスを真剣に考えています」をチェック可能な構造に変え、両者ともこの投稿が対象とする意思決定の記録がすでに存在することを前提としています。

意思決定トレーシングの四つの柱

頭字語を取り除くと、上記のすべてのフレームワークは同じ4つの能力を求めています：

「私たちはサードパーティのモデルを使用しています — それに従うことはできるのでしょうか？」

はい — そしてその反論はアーキテクチャを逆にしています。ベンダーのモデルの内部を追跡することはできませんが、デプロイヤーとしてあなたを束縛する義務はほとんどそれを求めていません。彼らが求めているのは、あなたの意思決定の側面です：あなたが送信した入力、受け取った出力、それを使用したコンテキスト、レビューした人間、そして影響を受けた人に提供できる理由です。これらすべては、あなたが所有するトレーシングレイヤーに存在し、その背後にあるAPIを包み込んでいます。

ベンダーとの関係は、義務を取り除くのではなく、3つの義務を追加します。まず、このモデルが選ばれた理由と、あなたの使用のためにどのように検証されたかを文書化します。次に、決定ごとにモデルのバージョンを記録し、「3月にどのモデルが実行されたか」という質問に、ベンダーが更新を出荷した後でも答えられるようにします。そして、監査サポートと保持の契約を結び、規制当局が求めたときに提供者の証拠の半分にアクセスできるようにします。正直な譲歩として、真に不透明な基盤モデルにおいては、モデルレベルでの推論のキャプチャは限られています。これは、キャプチャする上で最も重要な推論が、出力が決定に変わったチェックポイントでの人間のものである理由でもあります。

締切が変更された今、どこから始めればいいのか。

16ヶ月の延期は待つ理由ではなく、建設が改修に勝る期間です。トレースは定義上、決定時にのみ作成されるものであり、2027年12月までの間に捉えられないものは永遠に再構築されることになります。そして、すでに適用されている2つの制度、記事22と通常の監査可能性は、延期を考慮していません。

実用的な手順は3つのステップから成り立っており、いずれもコンプライアンス部門を必要としません。AIの出力が人、金、または戦略に関する重要な決定に影響を与えるポイントをインベントリします。 それが附属書IIIリストに触れるかどうかに関わらずです。各ポイントを記録された人間の判断で包みます: システムが推奨したこと、誰が決定したか、そしてその理由を、決定の瞬間に書き留めます。記録を中央集約化します。検索可能な場所に保存し、「3月11日の決定を見せて」といったクエリがプロジェクトではなくなるようにします。これがトレーシングの80%であり、規制当局が一度も尋ねなくても価値があります — なぜなら、自社の事後分析が求めるからです。（企業のトレーシング導入について — 監査要件、保持、アクセス制御 — 私たちのチームに相談してください。）

Argumentreeが適合する場所 — 人間の意思決定層

Argumentreeは、人々がAIの支援を受けて行う決定の柱を実装します。AIは、質問に関する議論と証拠を賛成/反対のツリーに構造化します（構造としての推論キャプチャ、散文ではなく）；人々は議論を評価し、反論し、評価を行い、名付けられた決定者が結果を記録します（ループ内の人間、レビュー自体が記録に残ります）；そして、完成した議論は、その完全な議論の履歴を持つ検索可能な決定記録として残ります（トレイル、記録が構造化されているため、決定間のパターンレビューが可能です）。

証拠が必要になる前に配管を作ってください。

火曜日のリクエストに戻ります。トレーシングのある組織では、午後に回答されます：ここに入力スナップショットがあります、ここにモデルバージョンがあります、ここにスコアが付けられた代替案があります、ここにレビュアーの記録された判断と顧客に提供されるべき説明があります。特別なことではなく、必要になる前に構築された配管であり、誰も後で正直に再現できないものを意思決定の時に捉えています。

それが「AIコンプライアンス」の本質であり、頭字語を取り除くと明らかになります：証拠を残す決定です。法律はそれに収束し、フレームワークはそれを前提とし、カレンダーに関係なく実行する価値がある部分は、あなた自身の組織がそれによってより良く機能することです。なぜなら、監査人を満足させる同じ痕跡が、定まった問題が記憶から再訴訟されるのを防ぐ記録だからです。締切は移動しましたが、方向性は変わりませんでした。