Jejak Keputusan AI: Rantaian yang Hilang dalam Pematuhan AI Perusahaan

Permintaan tiba pada hari Selasa, dari pasukan audit, dan ia secara sopan spesifik: untuk pelanggan yang ditandakan pada 11 Mac, tunjukkan input yang digunakan oleh sistem, versi model yang dijalankan, alternatif yang dinilai, dan nama sesiapa yang mengkaji hasilnya. Jurutera anda boleh menjalankan semula saluran — dengan data hari ini, melalui model hari ini, menghasilkan jawapan hari ini. Apa yang mereka tidak dapat lakukan adalah menunjukkan apa yang berlaku pada bulan Mac, kerana model telah dilatih semula dua kali sejak itu, snapshot input tidak pernah disimpan, dan "semakan manusia" adalah thumbs-up Slack yang tidak diarkib oleh sesiapa.

Pasukan akan menghasilkan sesuatu — satu pembinaan semula yang munasabah, disampaikan dengan permohonan maaf atas kelewatan. Dan itulah perkara yang diaudit wujud untuk membezakan daripada bukti. Pembinaan semula adalah cerita tentang apa yang mungkin berlaku. Jejak adalah rekod tentang apa yang telah berlaku.

Pos ini adalah separuh kejuruteraan daripada siri tiga bahagian — selepas jurang tanggungjawab (mengapa keputusan automatik yang tidak bertanggungjawab berakhir dengan bencana) dan jejak audit keputusan AI (lima bidang rekod itu sendiri). Di sini: apa maksud penjejakan keputusan dalam amalan, peta peraturan dengan tarikh seperti yang sebenarnya selepas perubahan 2026, empat tiang pelaksanaan, dan bagaimana untuk melakukannya walaupun model itu milik orang lain.

Apa yang dimaksudkan dengan "penjejakan keputusan"

Setiap sistem pengeluaran mencatat. Penjejakan adalah disiplin yang berbeza dengan soalan yang berbeza. Log konvensional menjawab apa yang berlaku: permintaan diterima, model dipanggil, respons dikembalikan, 200 OK. Jejak keputusan menjawab mengapa hasilnya adalah seperti itu — dan untuk itu, empat perkara perlu dirakam yang hampir tidak pernah disimpan oleh pencatatan biasa: penalaran di sebalik output (faktor, hujah atau rangkaian yang menghasilkannya), alternatif yang dipertimbangkan dan dinilai, identiti tepat pembuat keputusan (versi model dan input seperti yang ada pada saat itu, bukan seperti yang ada hari ini), dan titik pemeriksaan manusia — siapa yang mengkaji, apa yang mereka ubah, apa yang mereka batalkan.

Hubungan dengan jejak audit dari bahagian dua siri ini adalah mudah: jejak audit adalah rekod yang ditinggalkan oleh satu keputusan yang dipengaruhi AI; penjejakan adalah keupayaan yang menjamin rekod tersebut wujud untuk setiap keputusan yang berkesan, tidak boleh disunting secara senyap, dan boleh dihasilkan atas permintaan beberapa bulan kemudian. Satu adalah dokumen; yang lain adalah sistem paip yang menjadikan dokumen itu boleh dipercayai.

Peta pengawalseliaan — dengan tarikh seperti yang sebenarnya berlaku

Akta AI EU adalah undang-undang yang paling jelas pernah ditulis mengenai penjejakan keputusan, dan kalendarnya berubah pada tahun 2026, jadi adalah penting untuk menyatakannya dengan tepat. Untuk sistem berisiko tinggi (kawasan Lampiran III: pekerjaan, kredit, pendidikan, perkhidmatan penting, penguatkuasaan undang-undang dan lain-lain), Akta ini memerlukan pencatatan peristiwa automatik sepanjang hayat sistem (Artikel 12), penyimpanan log sekurang-kurangnya enam bulan oleh kedua-dua penyedia dan penyebar (Artikel 19 dan 26), dokumentasi teknikal disimpan selama sepuluh tahun (Artikel 18), pengawasan manusia yang bermakna dengan kuasa untuk campur tangan atau membatalkan (Artikel 14), laporan insiden serius — segera, dan tidak lewat daripada 15 hari, dipadatkan kepada serendah dua hari untuk insiden yang meluas (Artikel 73) — dan hak penjelasan: individu yang terjejas boleh menuntut penjelasan yang jelas mengenai peranan AI dalam keputusan tentang mereka (Artikel 86). Hukuman maksimum adalah €35 juta atau 7% daripada pendapatan global.

Tarikh: Digital Omnibus 2026 (Peraturan (EU) 2026/1744, berkuat kuasa Julai 2026) telah memindahkan kewajipan berisiko tinggi dari Ogos 2026 ke 2 Disember 2027 — Ogos 2028 untuk AI yang disematkan dalam produk di bawah undang-undang keselamatan EU yang sedia ada. Apa yang tidak dipindahkan: larangan (berkuat kuasa sejak Februari 2025), tanggungjawab AI tujuan umum (Ogos 2025), tanggungjawab ketelusan dan pelabelan kandungan (Ogos 2026) — dan Artikel 22 GDPR, yang telah mengehadkan keputusan yang sepenuhnya automatik sejak 2018 dan, menurut keputusan SCHUFA CJEU, merangkumi bahkan skor yang dihasilkan oleh pihak ketiga apabila organisasi yang membuat keputusan bergantung padanya dengan berat. Jika anda menunggu hingga Disember 2027 untuk mula menyimpan rekod keputusan, anda sudah terlambat untuk undang-undang yang berkuat kuasa hari ini.

Amerika Syarikat mengawal sektor bahan yang sama mengikut sektor. Bank-bank telah beroperasi di bawah panduan risiko model SR 11-7 Federal Reserve sejak 2011 — inventori model, pengesahan bebas, dokumentasi yang mencukupi untuk pihak ketiga memahami bagaimana model berfungsi; ia adalah perkara terdekat dengan buku panduan penjejakan dalam pengeluaran di mana-mana. Surat Pekeliling CFPB 2022-03 mengikat pemberi pinjaman kepada keperluan sebab tertentu ECOA tanpa mengira kerumitan algoritma. Undang-Undang Tempatan 144 New York City memerlukan audit bias tahunan dan pemberitahuan calon untuk alat pengambilan automatik. Dan Colorado — yang patut disebut dengan teliti, kerana kebanyakan ringkasan menggambarkan undang-undang yang tidak lagi wujud — telah membatalkan dan menghidupkan semula Akta AI-nya pada Mei 2026 (SB 26-189, menggantikan SB 24-205 yang tidak pernah berkuat kuasa): dari 1 Januari 2027, penyebar AI dalam keputusan yang berkesan berhutang kepada pengguna pemberitahuan pra-penggunaan, semakan manusia, dan penjelasan bertulis dalam masa 30 hari selepas hasil yang tidak menguntungkan, dengan pemaju berhutang kepada penyebar dokumentasi teknikal; penguatkuasaan adalah eksklusif kepada peguam negara negeri.

Di sekitar undang-undang terdapat perancah sukarela yang semakin dianggap sebagai rujukan oleh juruaudit: NIST AI Risk Management Framework (mentadbir, memetakan, mengukur, mengurus) dan ISO/IEC 42001, standard sistem pengurusan AI yang boleh disahkan. Kedua-duanya bukan undang-undang; kedua-duanya mengubah "kami mengambil tadbir urus AI dengan serius" menjadi struktur yang boleh diperiksa — dan kedua-duanya mengandaikan rekod keputusan yang dibincangkan dalam pos ini sudah wujud.

Empat tiang penjejakan keputusan

Buangkan akronim dan setiap rangka kerja di atas meminta empat keupayaan yang sama:

Kami menggunakan model pihak ketiga — bolehkah kami mematuhi?

Ya — dan bantahan itu membalikkan seni bina. Anda tidak dapat menelusuri dalaman model vendor, tetapi kewajipan yang mengikat anda sebagai penyebar kebanyakannya tidak meminta anda untuk melakukannya. Apa yang mereka minta adalah sebelah keputusan anda: input yang anda hantar, output yang anda terima, konteks di mana anda menggunakannya, manusia yang menyemaknya, dan alasan yang boleh anda berikan kepada orang yang terjejas. Semua itu wujud dalam lapisan penjejakan yang anda miliki, dibalut di sekitar mana-mana API yang ada di belakangnya.

Hubungan vendor menambah tiga tanggungjawab dan bukannya mengurangkannya: mendokumentasikan mengapa model ini dipilih dan bagaimana ia disahkan untuk penggunaan anda; menetapkan dan merekod versi model bagi setiap keputusan, jadi "model mana yang dijalankan pada bulan Mac" mempunyai jawapan walaupun selepas vendor menghantar kemas kini; dan mengadakan kontrak untuk sokongan audit dan penyimpanan, supaya separuh bukti daripada penyedia dapat diakses apabila pengawal selia meminta. Pengakuan yang jujur: untuk model asas yang benar-benar tidak telus, penangkapan alasan pada tahap model adalah terhad — yang merupakan sebab mengapa alasan yang paling penting untuk ditangkap adalah alasan manusia, di titik pemeriksaan di mana output menjadi keputusan.

Di mana untuk bermula — sekarang setelah tarikh akhir dipindahkan

Penangguhan selama 16 bulan bukanlah alasan untuk menunggu; ia adalah tempoh di mana pembinaan mengatasi pengubahsuaian. Jejak, mengikut definisi, hanya boleh dicipta pada waktu keputusan — apa sahaja yang tidak dirakam antara sekarang dan Disember 2027 akan menjadi pembinaan semula selamanya. Dan dua rejim yang sudah berkuat kuasa, Artikel 22 dan kebolehan diaudit biasa, tidak mengambil kira penangguhan tersebut.

Urutan pragmatik mempunyai tiga langkah, yang mana tiada satu pun memerlukan jabatan pematuhan. Inventori titik-titik di mana output AI mempengaruhi keputusan yang penting — tentang orang, wang, atau strategi — tanpa mengira sama ada ia menyentuh senarai Lampiran III. Balut setiap titik dalam penilaian manusia yang direkodkan: apa yang disyorkan oleh sistem, siapa yang memutuskan, dan mengapa, ditulis pada saat keputusan dibuat. Sentralisasikan rekod di tempat yang boleh dicari, jadi "tunjukkan kepada saya keputusan 11 Mac" adalah satu pertanyaan, bukan projek. Itu adalah 80% daripada penjejakan, dan ia berbaloi untuk ada walaupun tiada pengawal selia yang pernah bertanya — kerana post-mortem anda sendiri akan. (Untuk pelaksanaan penjejakan perusahaan — keperluan audit, penyimpanan, kawalan akses — bercakap dengan pasukan kami.)

Di mana Argumentree sesuai — lapisan keputusan manusia

Argumentree melaksanakan tiang-tiang untuk keputusan yang dibuat oleh orang dengan bantuan AI. AI menyusun hujah dan bukti di sekitar soalan ke dalam pokok pro/con (tangkapan penaakulan, sebagai struktur dan bukannya prosa); orang menilai, membantah, dan memberi penilaian terhadap hujah-hujah dan seorang penentu yang dinamakan merekodkan hasilnya (manusia dalam gelung, dengan semakan itu sendiri direkodkan); dan perbincangan yang telah siap kekal sebagai rekod keputusan yang boleh dicari dengan sejarah hujah penuh (jejak, dengan semakan corak merentasi keputusan yang tersedia kerana rekod tersebut disusun, bukan teks bebas).

Bina sistem paip sebelum anda memerlukan bukti

Kembali kepada permintaan hari Selasa. Dalam sebuah organisasi dengan penjejakan, ia dijawab pada waktu petang: inilah snapshot input, inilah versi model, inilah alternatif yang dinilai, inilah penilaian yang direkodkan oleh penilai dan penjelasan yang sepatutnya diberikan kepada pelanggan. Tiada yang heroik — hanya paip yang dibina sebelum ia diperlukan, menangkap pada waktu keputusan apa yang tidak dapat dicipta semula oleh sesiapa dengan jujur kemudian.

Itu adalah kandungan sebenar "kepatuhan AI," setelah akronim dibuang: keputusan yang meninggalkan bukti. Undang-undang berkumpul di sekitarnya, rangka kerja menganggapnya, dan — bahagian yang menjadikannya berbaloi untuk dilakukan tanpa mengira kalendar — organisasi anda sendiri berfungsi dengan lebih baik dengan itu, kerana jejak yang sama yang memuaskan juruaudit adalah rekod yang menghentikan soalan yang telah diselesaikan daripada dibangkitkan semula dari ingatan. Tarikh akhir telah berubah. Arah tidak.