Yapay Zeka Karar İzleme: Kurumsal Yapay Zeka Uyumunda Eksik Bağlantı

Talep, denetim ekibinden bir Salı günü gelir ve nazikçe spesifiktir: 11 Mart'ta işaretlenen müşteri için, sistemin kullandığı girdileri, çalışan modelin versiyonunu, puanladığı alternatifleri ve sonucu gözden geçiren kişinin adını gösterin. Mühendisleriniz, boru hattını yeniden çalıştırabilir — bugünün verileriyle, bugünün modeli üzerinden, bugünün cevabını üreterek. Ancak yapamayacakları şey, Mart ayında ne olduğunu göstermek, çünkü model o zamandan beri iki kez yeniden eğitildi, girdi anlık görüntüsü asla saklanmadı ve "insan incelemesi" kimsenin arşivlemediği bir Slack onayıydı.

Ekip bir şey üretecek — gecikme için bir özürle sunulan makul bir yeniden yapılandırma. Ve bir denetimin, kanıttan ayırt etmek için var olduğu şey tam olarak budur. Yeniden yapılandırma, muhtemelen ne olduğunu anlatan bir hikayedir. İz, ne olduğunu kaydeden bir belgedir.

Bu gönderi, üç bölümlük serinin mühendislik kısmıdır — sorumluluk açığı (hesap veremeyen otomatik kararların felaketle sonuçlanma nedenleri) ve AI karar denetim izi (kayıtların kendisinin beş alanı) sonrasında. Burada: karar izleme uygulamada ne anlama geliyor, 2026'daki değişikliklerden sonra gerçek durumu yansıtan düzenleyici harita, bir uygulamanın dört temel direği ve model başkalarına ait olsa bile bunu nasıl yapacağınız.

"Karar izleme" aslında ne anlama geliyor

Her üretim sistemi günlük tutar. İzleme, farklı bir soru ile farklı bir disiplindir. Geleneksel bir günlük ne olduğunu yanıtlar: istek alındı, model çağrıldı, yanıt döndürüldü, 200 Tamam. Bir karar izleme sonucun neden böyle olduğunu yanıtlar — ve bunun için, sıradan günlüklerin neredeyse hiç tutmadığı dört şeyin kaydedilmesi gerekir: çıktının arkasındaki mantık (onu üreten faktörler, argümanlar veya zincir), değerlendirilen ve puanlanan alternatifler, karar vericinin kesin kimliği (o anki model versiyonu ve girdileri, bugünkü gibi değil), ve insan kontrol noktaları — kim inceledi, neyi değiştirdi, neyi geçersiz kıldı.

Bu serinin ikinci bölümündeki denetim izinin ilişkisi basittir: denetim izi, tek bir AI etkili kararın geride bıraktığı kayıttır; izleme, böyle kayıtların her önemli karar için mevcut olmasını garanti eden yetkinliktir, sessizce düzenlenemez ve aylar sonra talep üzerine üretilebilir. Biri bir belgedir; diğeri belgeyi güvenilir kılan altyapıdır.

Regülasyon haritası — tarihler mevcut durumlarına göre

AB AI Yasası, karar izleme hakkında yazılmış en açık yasadır ve takvimi 2026'da değiştiği için tam olarak belirtmekte fayda var. Yüksek riskli sistemler için (Ek III alanları: istihdam, kredi, eğitim, temel hizmetler, kolluk kuvvetleri ve diğerleri), Yasa, sistemin ömrü boyunca otomatik olay kaydı (Madde 12), hem sağlayıcılar hem de uygulayıcılar tarafından en az altı ay süreyle kayıt tutulması (Maddeler 19 ve 26), on yıl süreyle teknik belgelerin saklanması (Madde 18), anlamlı insan denetimi ile müdahale etme veya geçersiz kılma yetkisi (Madde 14), ciddi olay raporlaması — derhal ve en geç 15 gün içinde, yaygın olaylar için iki güne kadar sıkılaştırılmış (Madde 73) — ve açıklama hakkı: etkilenen kişiler, kendileriyle ilgili bir karardaki yapay zekanın rolü hakkında net bir hesap talep edebilir (Madde 86). Cezalar 35 milyon € veya küresel cirosunun %7'si ile sınırlıdır.

Tarih: 2026 Dijital Omnibus (Regülasyon (AB) 2026/1744, Temmuz 2026'da yürürlüğe girecek) yüksek riskli yükümlülükleri Ağustos 2026'dan 2 Aralık 2027'ye — mevcut AB güvenlik yasası kapsamında ürünlere entegre edilmiş yapay zeka için Ağustos 2028'e erteledi. Taşınmayan şeyler: yasaklar (Şubat 2025'ten beri yürürlükte), genel amaçlı yapay zeka yükümlülükleri (Ağustos 2025), şeffaflık ve içerik etiketleme yükümlülükleri (Ağustos 2026) — ve GDPR Madde 22, 2018'den beri yalnızca otomatik kararları kısıtlamakta ve CJEU'nun SCHUFA kararına göre, karar veren kuruluşun buna büyük ölçüde dayanması durumunda üçüncü bir tarafça üretilen bir puanı bile kapsamaktadır. Karar kayıtlarını tutmaya Aralık 2027'yi bekleyerek başlarsanız, bugün geçerli olan yasayı kaçırmış olursunuz.

Amerika Birleşik Devletleri, aynı maddeyi sektör sektör düzenlemektedir. Bankalar, 2011 yılından beri Federal Reserve'in SR 11-7 model risk rehberliği altında faaliyet göstermektedir — model envanterleri, bağımsız doğrulama, modelin nasıl çalıştığını üçüncü bir tarafın anlayabilmesi için yeterli belgeler; bu, üretimdeki en yakın izleme kılavuzudur. CFPB'nin 2022-03 Sayılı Genelgesi, algoritmik karmaşıklıktan bağımsız olarak, alacaklıları ECOA'nın belirli nedenler gerekliliğine tabi tutmaktadır. New York Şehri'nin Yerel Kanun 144 otomatik işe alım araçları için yıllık önyargı denetimleri ve aday bildirimini gerektirmektedir. Ve Colorado — dikkatlice alıntı yapmak gerekir, çünkü çoğu özet artık var olmayan bir yasayı tanımlamaktadır — Mayıs 2026'da AI Yasası'nı iptal edip yeniden yürürlüğe sokmuştur (SB 26-189, asla etkili olmayan SB 24-205'i değiştirmiştir): 1 Ocak 2027'den itibaren, sonuçları önemli olan kararlar için AI kullananlar, tüketicilere ön kullanım bildirimi, insan incelemesi ve olumsuz bir sonuçtan sonraki 30 gün içinde yazılı bir açıklama sağlamakla yükümlüdür; geliştiriciler, uygulayıcılara teknik belgeler sağlamakla yükümlüdür; uygulama, yalnızca eyalet başsavcısına aittir.

Anayasa etrafında, denetçilerin giderek referans olarak kabul ettiği gönüllü iskeleler bulunmaktadır: NIST AI Risk Management Framework (yönet, haritalandır, ölç, yönet) ve ISO/IEC 42001, sertifikalandırılabilir AI yönetim sistemi standardı. Hiçbiri yasa değildir; her ikisi de "AI yönetimini ciddiye alıyoruz" ifadesini kontrol edilebilir bir yapıya dönüştürmektedir — ve her ikisi de bu gönderinin konusu olan karar kayıtlarının zaten mevcut olduğunu varsaymaktadır.

Karar izleme için dört temel sütun

Kısaltmaları bir kenara bırakın ve yukarıdaki her çerçeve aynı dört yeteneği talep ediyor:

Üçüncü taraf modeller kullanıyoruz — buna uyum sağlayabilir miyiz?

Evet — ve itiraz mimariyi tersine çeviriyor. Bir satıcının modelinin iç yapısını takip edemezsiniz, ancak sizi dağıtıcı olarak bağlayan yükümlülükler çoğunlukla bunu yapmanızı istemez. Onların istediği, sizin karar tarafınızdır: gönderdiğiniz girdiler, aldığınız çıktılar, bunu kullandığınız bağlam, gözden geçiren insan ve etkilenen kişiye verebileceğiniz nedenler. Tüm bunlar, arkasındaki herhangi bir API'nin etrafında sarılı sahip olduğunuz bir izleme katmanında yaşar.

Satıcı ilişkisi, görevleri ortadan kaldırmak yerine üç görev ekler: bu modelin neden seçildiğini ve kullanımınız için nasıl doğrulandığını belgeleyin; her karar için model sürümünü belirleyin ve kaydedin, böylece "Mart'ta hangi model çalıştı" sorusunun bir yanıtı olur, satıcı bir güncelleme gönderdiğinde bile; ve denetim desteği ve saklama için sözleşme yapın, böylece düzenleyici bir soru sorduğunda sağlayıcının kanıtlarının yarısına ulaşılabilir. Dürüst itiraf: gerçekten opak temel modeller için, model düzeyinde akıl yürütme yakalama sınırlıdır — bu nedenle, yakalanması en önemli akıl yürütme, çıktının bir karar haline geldiği kontrol noktasında insanın akıl yürütmesidir.

Nereden başlayacağım — şimdi son tarih değiştiği için

16 aylık erteleme beklemek için bir neden değildir; bu, inşaatın yenilemeye üstün geldiği bir penceredir. Bir iz, tanım gereği, yalnızca karar anında oluşturulabilir — şimdi ile Aralık 2027 arasında yakalanmayan her şey sonsuza dek yeniden inşa olacaktır. Ve zaten uygulanan iki rejim, Madde 22 ve olağan denetlenebilirlik, ertelemeyi dikkate almamaktadır.

Pragmatik sıralamanın üç adımı vardır, bunlardan hiçbiri bir uyum departmanı gerektirmez. Yapay zeka çıktılarının önemli kararları — insanlar, para veya strateji hakkında — etkilediği noktaları envanterini çıkarın, bunların Ek III listesine dokunup dokunmadığına bakılmaksızın. Her noktayı kaydedilmiş bir insan yargısıyla sarın: sistemin ne önerdiği, kimin karar verdiği ve neden, karar anında yazılmış. Kayıtları merkezi bir yerde toplayın, böylece "11 Mart kararını göster" bir sorgu olur, proje değil. Bu, izleme işleminin %80'idir ve hiçbir düzenleyici asla sormasa bile sahip olmaya değerdir — çünkü kendi ölüm sonrası analizleriniz soracaktır. (Kurumsal izleme uygulamaları için — denetim gereksinimleri, saklama, erişim kontrolleri — ekibimizle konuşun.)

Argumentree'nin nerede yer aldığı — insan karar katmanı

Argumentree, insanların AI yardımıyla aldıkları kararlar için temel unsurları uygular. AI, bir sorunun etrafındaki argümanları ve kanıtları bir artı/eksi ağacına (yapı olarak akıl yürütme kaydı, düz yazı yerine) yapılandırır; insanlar argümanları tartar, çürütür ve değerlendirir ve adlandırılmış bir karar verici sonucu kaydeder (insan döngüde, inceleme kendisi kayıtta); ve tamamlanan tartışma, tam argüman geçmişi ile birlikte aranabilir bir karar kaydı olarak kalır (iz, kararlar arasında desen incelemesi mevcut çünkü kayıtlar yapılandırılmış, serbest metin değil).

Kanıtı ihtiyaç duymadan önce tesisatı kurun.

Salı isteğine geri dön. İzleme olan bir organizasyonda, bir öğleden sonra yanıtlanır: işte girdi anlık görüntüsü, işte model versiyonu, işte puanladığı alternatifler, işte değerlendiricinin kaydedilmiş yargısı ve müşteriye borçlu olduğu açıklama. Kahramanlık yok — sadece ihtiyaç duyulmadan önce inşa edilmiş tesisat, karar anında kimsenin dürüstçe daha sonra yeniden yaratamayacağı şeyleri yakalıyor.

"AI uyumu"nun gerçek içeriği, kısaltmalar çıkarıldığında budur: kanıt bırakan kararlar. Yasalar buna odaklanır, çerçeveler bunu varsayar ve — takvimden bağımsız olarak bunu yapmayı değerli kılan kısım — kendi organizasyonunuz bununla daha iyi çalışır, çünkü bir denetçiyi tatmin eden aynı iz, yerleşik bir sorunun hafızadan yeniden dava edilmesini engelleyen kayıttır. Son tarih değişti. Yön değişmedi.