AI کی جوابدہی کا خلا: جب الگورڈمز ملین ڈالر کی غلطیاں کرتے ہیں تو ذمہ دار کون ہے؟
AI کی جوابدہی کا خلا ایک الگورڈم کے فیصلے اور اس کے لئے جوابدہ کسی انسان کے درمیان کا فاصلہ ہے۔ دستاویزی آفات حقیقی ہیں اور زیادہ تر جدید AI ریگولیشن سے پہلے کی ہیں: ڈچ بچوں کی دیکھ بھال کے فوائد کا اسکینڈل، جہاں ایک خطرے کی درجہ بندی کرنے والا الگورڈم جس نے قومیت کو ایک اشارے کے طور پر استعمال کیا، تقریباً 35,000 والدین کو غلط طور پر دھوکہ دہی کا الزام لگانے میں مدد دی اور 2021 میں حکومت کو گرا دیا (ڈچ ڈی پی اے نے ٹیکس انتظامیہ پر €2.75 ملین کا جرمانہ عائد کیا)؛ آسٹریلیا کا روبوڈیٹ اسکیم، جسے 2023 کی شاہی کمیشن نے غیر قانونی قرار دیا — "ایک خام اور ظالمانہ طریقہ کار، نہ تو منصفانہ اور نہ ہی قانونی"؛ ویلز فارگو کا رہن کی تبدیلی کا حساب کتاب کی غلطی (2010–2018)، جس نے تقریباً 870 تبدیلیوں کو غلط طور پر مسترد کیا اور 545 ضبطیوں میں مدد کی قبل اس کے کہ کسی نے اسے پکڑا؛ اور زلو کے الگورڈمک گھر خریدنے کا کاروبار، جو 2021 میں $304 ملین کی سہ ماہی انوینٹری کی کمی کے بعد بند کر دیا گیا۔ یہ خلا تین ناکامیوں میں تقسیم ہوتا ہے جنہیں ریگولیٹرز الگ الگ سمجھتے ہیں: وضاحت (نظام نے یہ فیصلہ کیوں کیا؟)، آڈٹ کی قابلیت (کیا آپ ثابت کر سکتے ہیں کہ یہ مخصوص فیصلہ کیسے ہوا؟)، اور جوابدہی (کون انسان اس کے لئے جوابدہ ہے؟)۔ قواعد ایک ہی مطالبے پر متفق ہو رہے ہیں: EU AI ایکٹ کا خطرے کی بنیاد پر نظام (فروری 2025 سے پابندیاں، اگست 2025 سے عمومی مقصد AI کی ذمہ داریاں، جبکہ اعلی خطرے کی ذمہ داریاں 2026 کے ڈیجیٹل اومنی بس سے 2 دسمبر 2027 تک ملتوی کی گئی ہیں، اور جرمانے €35M یا عالمی ٹرن اوور کا 7% تک)؛ GDPR آرٹیکل 22 جیسا کہ CJEU کے SCHUFA فیصلے کے ذریعے پڑھا گیا (کریڈٹ اسکورنگ خودکار فیصلہ سازی ہے)؛ CFPB کا بلیک باکس سرکلر ("کمپنیاں اپنے قانونی ذمہ داریوں سے آزاد نہیں ہوتیں جب وہ بلیک باکس ماڈل کو قرض دینے کے فیصلے کرنے دیتی ہیں")؛ اور نیو یارک شہر کا مقامی قانون 144 بھرتی کے آلات پر۔ خلا کو بند کرنا ہر اہم AI سے متاثرہ فیصلے پر ایک نامزد انسانی فیصلہ کا مطلب ہے، جسے اس کی وجہ کے ساتھ ریکارڈ کیا جائے — جو کہ Argumentree کی انسانی-ان-دی-لوپ ساخت پیدا کرتی ہے؛ اس کا بہن پروڈکٹ AIAgentree خود مختار ایجنٹ کے پہلو کا احاطہ کرتا ہے۔
جب ایک الگورڈم ایک اہم غلطی کرتا ہے، "نظام نے فیصلہ کیا" کسی بھی ریگولیٹر، کسی بھی عدالت، اور کسی بھی متاثرہ شخص کو مطمئن نہیں کرتا۔ دستاویزی آفات — ایک حکومت کا گرنا، ایک غیر قانونی فلاحی منصوبہ، غلط طور پر ضبط شدہ جائیدادیں — ایک ہی جڑ کو شیئر کرتی ہیں: ریکارڈ پر کوئی نامزد انسانی فیصلہ نہیں۔
- یہ کیس حقیقی ہیں اور زیادہ تر AI ریگولیشن سے پہلے کے ہیں: ڈچ بچوں کی دیکھ بھال کا اسکینڈل (~35,000 خاندان، €2.75M DPA جرمانہ، حکومت کا استعفیٰ)، روبوڈیٹ ("نہ تو منصفانہ اور نہ ہی قانونی" — رائل کمیشن)، ویلز فارگو کے 870 غلط طور پر مسترد کردہ ترمیمات، زلو کے $304M کی قیمت میں کمی
- یہ خلا تین ناکامیاں ہیں، ایک نہیں: وضاحت (کیوں؟)، آڈٹ کی قابلیت (ثابت کریں)، جوابدہی (کون جواب دیتا ہے؟)
- قواعد ایک ہی مطالبے پر متفق ہیں — EU AI ایکٹ (ہائی رسک ذمہ داریاں اب 2 دسمبر 2027 کو ڈیجیٹل اومنی بس کے بعد) ، GDPR آرٹیکل 22 SCHUFA فیصلے کے مطابق، CFPB کا بلیک باکس سرکلر، NYC مقامی قانون 144
- یہ اصلاح ساختی ہے: ہر اہم AI-متاثرہ فیصلے پر ایک نامزد انسانی فیصلہ، اس کی وجوہات کے ساتھ درج۔
جب الگورڈمز اہم فیصلوں کی تشکیل کرتے ہیں اور کوئی بھی ان کے پیچھے کی وجہ کو نہیں رکھتا: جوابدہی کا خلا اور اس کے پیچھے حقیقی تباہیاں، AI فیصلے کے آڈٹ کے راستے کی ساخت، اور فیصلے کی ٹریسنگ کی تعمیل کی انجینئرنگ۔
- 1.The AI Accountability Gap: When Algorithms Make Million-Dollar Mistakes, Who's Responsible?آپ یہاں ہیں
- 2.The AI Decision Audit Trail: Recording What the AI Recommended and What a Human Decided
- 3.AI Decision Tracing: The Missing Link in Enterprise AI Compliance
جنوری 2021 میں، نیدرلینڈز کی حکومت نے استعفیٰ دے دیا۔ یہ کسی جنگ یا بدعنوانی کے اسکینڈل کی وجہ سے نہیں تھا — بلکہ ایک الگورڈم کی وجہ سے۔ ٹیکس انتظامیہ کا خطرے کی درجہ بندی کا نظام بچوں کی دیکھ بھال کے فوائد کے لیے قومیت کو دھوکہ دہی کے اشارے کے طور پر استعمال کر رہا تھا، اور تقریباً 35,000 والدین — خاص طور پر دوہری یا غیر ڈچ قومیت کے خاندان — غلط طور پر دھوکہ باز قرار دیے گئے، انہیں ہزاروں یورو واپس کرنے کا حکم دیا گیا، اور قرض، طلاق، اور کھوئے ہوئے گھروں کی طرف دھکیل دیا گیا۔ 2,000 سے زیادہ بچوں کے والدین کے لیے، یہ سلسلہ بچوں کی دیکھ بھال میں لیے جانے پر ختم ہوا۔
یہاں وہ تفصیل ہے جو toeslagenaffaire کو AI کی جوابدہی کا بنیادی کیس بناتی ہے: سالوں تک، کسی کو بھی نشانہ نہیں بنایا جا سکا۔ متاثرہ والدین یہ نہیں جان سکے کہ انہیں کیوں نشان زد کیا گیا۔ کیس ورکرز نے نظام کی طرف رجوع کیا۔ نظام کا کوئی مصنف نہیں تھا جو اس کا جواب دے سکے۔ جب ڈچ ڈیٹا پروٹیکشن اتھارٹی نے آخر کار ٹیکس انتظامیہ پر 2.75 ملین یورو کا جرمانہ عائد کیا، تو اس میں سے ایک ملین ایک مخصوص عمل کے لیے تھا — خطرے کی درجہ بندی کے ماڈل میں قومیت کو ایک اشارے کے طور پر استعمال کرنا۔
یہ خلا — ایک الگورڈم کے فیصلے اور اس کے لئے جوابدہ کسی انسان کے درمیان — AI جوابدہی کا خلا ہے۔ یہ مضمون اس کے اندر موجود چیزوں کے بارے میں ہے: دستاویزی آفات، خلا کے اندر چھپے ہوئے تین مختلف ناکامیاں، وہ قواعد جو اب برسلز سے نیو یارک تک ایک ہی مطالبے پر مرکوز ہو رہے ہیں، اور وہ ساختی اصلاح جو کسی ریگولیٹر کا انتظار نہیں کرتی۔
غلطیاں کبھی بھی نظریاتی نہیں تھیں۔
غیر جوابدہ خودکار فیصلوں کے غلط ہونے کا سب سے مضبوط ثبوت یہ ہے کہ وہ پہلے ہی غلط ہو چکے ہیں — بار بار، مہنگے داموں، اور زیادہ تر آج کی AI لہر سے پہلے۔ چار دستاویزی کیسز، ہر ایک کے ساتھ ایک مختلف سبق:
ڈچ بچوں کی دیکھ بھال کے فوائد کا اسکینڈل (2013–2021)
ایک حکومتی رسک اسکورنگ الگورڈم نے قومیت کو دھوکہ دہی کے اشارے کے طور پر استعمال کیا؛ تقریباً 35,000 والدین کو غلط طور پر نشانہ بنایا گیا، اور اس پر کابینہ نے جنوری 2021 میں استعفیٰ دے دیا۔ ڈچ ڈی پی اے کا €2.75 ملین جرمانہ ناکامی کی تفصیل بیان کرتا ہے: دوسری قومیت کو غیر قانونی طور پر ذخیرہ کرنا، اور رسک ماڈل اور دھوکہ دہی کی شناخت میں قومیت کا استعمال کرنا۔ سبق: ایک امتیازی پیٹرن جس کا کوئی آڈٹ نہیں کرتا وہ پالیسی بن جاتا ہے۔
روبوڈیٹ، آسٹریلیا (2016–2020)
ایک خودکار اسکیم نے چالیس دنوں میں سالانہ آمدنی کا اوسط نکال کر فلاحی قرضوں کا حساب لگایا — ایک طریقہ جسے 2023 کی شاہی کمیشن نے غیر قانونی طور پر واحد بنیاد کے طور پر استعمال کیا تھا، جبکہ اعلیٰ عہدیداروں نے اس کے خلاف قانونی مشورے کو ظاہر نہیں کیا۔ لاکھوں قرضے ان لوگوں پر عائد کیے گئے جن پر کچھ بھی واجب الادا نہیں تھا۔ سبق: بڑے پیمانے پر خودکاری ایک قانونی شارٹ کٹ کو اجتماعی نقصان میں تبدیل کر دیتی ہے۔
ویلز فارگو کا ترمیمی انجن (2010–2018)
بینک کے قرض کی تبدیلی کے انڈر رائٹنگ ٹول میں ایک حسابی غلطی نے تقریباً 870 رہن کی تبدیلیوں کو غلط طور پر مسترد کر دیا اور 545 ضبطی میں اضافہ کیا — اور یہ انکشاف سے پہلے آٹھ سال تک جاری رہا۔ CFPB کا الگ 2022 کا حکم ($2B کی تلافی کے علاوہ $1.7B کا جرمانہ) میں، بہت سی دوسری چیزوں کے ساتھ، ہزاروں مزید غلط طور پر مسترد کی گئی تبدیلیوں کا احاطہ کیا۔ سبق: یہ تو "AI" بھی نہیں تھا — محض خودکار فیصلہ سازی کی منطق، بغیر نگرانی کے، لوگوں کو ان کے گھروں سے محروم کر دیا۔
زیلو آفرز (2018–2021)
زیلو کے الگورڈمک ہوم-بائنگ کاروبار نے ایسے قیمتوں پر گھر خریدے جن کی اس کے ماڈلز بعد میں حمایت نہیں کر سکے؛ کمپنی نے ایک ہی سہ ماہی کے لیے تقریباً 304 ملین ڈالر کے انوینٹری کی قیمت میں کمی کا اعلان کیا، کاروبار کو بند کر دیا، اور اپنے ورک فورس کا تقریباً 25% کم کر دیا۔ سبق: یہ فرق صرف حقوق کا مسئلہ نہیں ہے — ایک الگورڈمک فیصلہ سازی کا چکر بغیر مؤثر انسانی چیلنج کے اپنے بیلنس شیٹ پر نو اعداد و شمار کھو سکتا ہے۔
نوٹ کریں کہ ان چاروں میں کیا مشترک ہے۔ ہر ایک میں، فیصلہ سازی کا عمل خودکار تھا؛ نتائج لوگوں یا بیلنس شیٹ پر پڑے؛ اور تنظیم بعد میں یہ دکھانے کے لیے جدوجہد کرتی رہی کہ کس نے کیا فیصلہ کیا، کس بنیاد پر۔ ماڈلز مختلف تھے، ناکامی ایک جیسی تھی — اور ان میں سے کسی کو بھی بڑے زبان کے ماڈل کی ضرورت نہیں تھی۔ آج کی AI صرف فیصلوں میں آنے والی سفارشات کی مقدار اور روانی کو تبدیل کرتی ہے۔
روبوڈیٹ ایک خام اور ظالمانہ نظام تھا، نہ تو منصفانہ اور نہ ہی قانونی…
عوامی انتظامیہ کی ایک مہنگی ناکامی، انسانی اور اقتصادی دونوں لحاظ سے۔
روئل کمیشن برائے روبوڈیٹ اسکیم، حتمی رپورٹ (2023)
خلا کے اندر چھپے ہوئے تین ناکامیاں
"AI accountability" کو ایک دھندلا تصور کے طور پر استعمال کیا جاتا ہے، لیکن ریگولیٹرز اسے تین الگ سوالات کے طور پر لیتے ہیں — اور ایک تنظیم ایک سوال میں کامیاب ہو سکتی ہے جبکہ دوسرے میں ناکام ہو سکتی ہے۔ انہیں ملانا مہنگا ہے۔
وضاحت کا جواب دیتی ہے کہ نظام نے یہ نتیجہ کیوں پیدا کیا؟ جدید ٹولنگ بعد از وقوع وضاحتیں پیدا کر سکتی ہے — خصوصیت کی تفویض، اہمیت، قدرتی زبان کی وجوہات۔ یہ مفید ہیں، لیکن مجموعی وضاحت ("ماڈل عام طور پر آمدنی کو زیادہ وزن دیتا ہے") اس درخواست گزار کے بارے میں اس تاریخ پر جواب نہیں ہے — جو کہ منفی کارروائی کے قواعد اور وضاحت کے حقوق کی اصل ضرورت ہے۔
آڈٹ کی قابلیت کا جواب ہے کیا آپ ثابت کر سکتے ہیں کہ یہ مخصوص فیصلہ کیسے ہوا؟ ایک وضاحت جو درخواست پر، مہینوں بعد، ایک ماڈل سے تیار کی گئی ہے جسے اس کے بعد دوبارہ تربیت دی گئی ہے، ایک دوبارہ تعمیر ہے — نہ کہ ایک ریکارڈ۔ ایک ہم وقتی ریکارڈ اور ایک بعد از وقت توجیہ کے درمیان فرق ثبوت اور کہانی کے درمیان فرق ہے۔ آڈٹ کی قابلیت کا مطلب ہے کہ ان پٹ، آؤٹ پٹ، ماڈل کا ورژن، اور کوئی بھی انسانی جائزہ فیصلے کے وقت ریکارڈ کیا گیا تھا اور بعد میں خاموشی سے ترمیم نہیں کی جا سکتی۔
جوابدہی یہ بتاتی ہے کہ کون انسان ذمہ دار ہے؟ یہ وہ چیز ہے جسے بعد میں کسی بھی ٹولنگ سے پیدا نہیں کیا جا سکتا۔ اگر "کس نے فیصلہ کیا؟" کا ایماندار جواب "ماڈل" ہے، تو تنظیم نے ایک ایسا فیصلہ سونپ دیا ہے جس کا کوئی مالک نہیں — اور جب نقصان ظاہر ہوتا ہے، تو ذمہ داری بہرحال کسی ریگولیٹر، عدالت، یا شاہی کمیشن کے ذریعے ان کی شرائط پر تفویض کی جاتی ہے نہ کہ آپ کی۔ ان تینوں سوالات کے جواب دینے والے ریکارڈ کی ساخت ایک الگ موضوع ہے — ہم اسے AI فیصلہ آڈٹ ٹریل میں میدان بہ میدان بیان کرتے ہیں۔
کمپنیاں اپنی قانونی ذمہ داریوں سے بری الذمہ نہیں ہیں۔
جب وہ ایک بلیک باکس ماڈل کو قرض دینے کے فیصلے کرنے دیتے ہیں۔
روہت چوپڑا، CFPB کے ڈائریکٹر، الگورڈمک کریڈٹ فیصلوں پر سرکلر 2022-03 کا اعلان کرتے ہوئے (2022)
قواعد ایک ہی مطالبے پر متفق ہو رہے ہیں۔
ریگولیٹری منظر نامہ واقعی میں حرکت میں ہے — جس میں 2026 میں ایک اہم تاریخ کی تبدیلی شامل ہے — لیکن سمت ایک طرف ہے: اہم خودکار فیصلے ریکارڈ شدہ وجوہات اور انسانی نگرانی سے قابل ٹریس ہونے چاہئیں۔ یورپی یونین میں، AI ایکٹ خطرے کی بنیاد پر نقطہ نظر اپناتا ہے: مکمل پابندیاں فروری 2025 سے لاگو ہو چکی ہیں اور عمومی مقصد کی AI ذمہ داریاں اگست 2025 سے، جبکہ "ہائی رسک" نظاموں کے لیے بھاری ذمہ داریاں (ضمیمہ III کی فہرست میں ملازمت، کریڈٹ، تعلیم، اہم خدمات، قانون نافذ کرنے والے ادارے اور مزید شامل ہیں) — لاگنگ، تکنیکی دستاویزات، انسانی نگرانی، مطابقت کی جانچ — 2026 کے ڈیجیٹل اومنی بس کے ذریعے 2 دسمبر 2027 تک مؤخر کر دی گئیں (ریگولیٹڈ مصنوعات میں شامل AI کے لیے اگست 2028)۔ سزائیں اس پیمانے کے اوپر €35 ملین یا عالمی ٹرن اوور کا 7% تک پہنچ جاتی ہیں۔
تاہم، یورپی یونین نے وہاں سے آغاز نہیں کیا۔ جی ڈی پی آر آرٹیکل 22 نے 2018 سے قانونی یا اسی طرح کے اہم اثرات کے ساتھ مکمل طور پر خودکار فیصلوں کو محدود کر دیا ہے — اور SCHUFA کے فیصلے (دسمبر 2023) میں، عدالت نے فیصلہ دیا کہ ایک کریڈٹ ایجنسی کا اسکور خود ایک ایسا خودکار فیصلہ ہے جب قرض دہندگان اس پر بہت زیادہ انحصار کرتے ہیں۔ "خودکار فیصلہ سازی" کی حد زیادہ وسیع ہے جتنا کہ زیادہ تر تعمیل ٹیموں نے سمجھا۔
ریاستہائے متحدہ امریکہ شعبے کے لحاظ سے ضابطہ بندی کرتا ہے، اور پیغام میل کھاتا ہے۔ CFPB کا سرکلر 2022-03 بیان کرتا ہے کہ ECOA کے منفی کارروائی کے تقاضے پیچیدگی کے لیے نہیں جھک سکتے: ایک قرض دہندہ جو انکار کے لیے مخصوص، درست وجوہات فراہم نہیں کر سکتا وہ اس الگورڈم کا استعمال نہیں کر سکتا جو ان وجوہات کو نامعلوم بناتا ہے۔ نیو یارک شہر کا مقامی قانون 144 سالانہ تعصب کے آڈٹ اور خودکار بھرتی کے آلات کے لیے امیدواروں کو اطلاع دینے کی ضرورت رکھتا ہے۔ اور دباؤ کے پاس ایک ثبوتی پس منظر ہے: مارک اپ کا 2021 کا تجزیہ جو لاکھوں رہن کی درخواستوں کا ہے — 17 انڈر رائٹنگ عوامل کو مستقل رکھتے ہوئے — نے پایا کہ قرض دہندگان رنگین درخواست دہندگان کو سفید درخواست دہندگان کے مقابلے میں 40–80% زیادہ انکار کرنے کے امکانات رکھتے ہیں، یہ ایک ایسا نتیجہ ہے جس کا حوالہ وفاقی ایجنسیوں نے نئے منصفانہ قرض دینے کے نفاذ کے آغاز کے وقت دیا۔ ایسے نمونے بالکل وہی ہیں جن کے لیے آڈٹ کا ریکارڈ اندرونی طور پر سامنے لانے کے لیے موجود ہے، اس سے پہلے کہ کوئی تفتیشی نیوز روم یا ریگولیٹر انہیں آپ کے لیے سامنے لائے۔
کیا یہ بینکوں اور حکومتوں کے لیے مسئلہ نہیں ہے، ہمارے لیے نہیں؟
جزوی طور پر درست، اور اس بارے میں واضح ہونا ضروری ہے۔ زیادہ تر کاروباری فیصلے جو AI کی مدد سے کیے جاتے ہیں — ایک حکمت عملی کا انتخاب، ایک فروشندہ کا انتخاب، ایک مصنوعات کا فیصلہ — EU AI ایکٹ کی اعلی خطرے کی فہرست کے قریب بھی نہیں ہیں، اور ایکٹ کی سب سے زیادہ ذمہ داریاں اب کسی کو بھی 2027 کے آخر تک پابند نہیں کرتیں۔ اگر آپ کی فکر کرنے کی واحد وجہ ایک قانون ہے، تو آپ کے پاس وقت ہے۔
لیکن کیس کی فہرست کی طرف دیکھیں: اس میں ہر آفت ان قواعد کے پہلے ہوئی جو اب اس کا احاطہ کرتے ہیں۔ یہ ضابطہ نقصان کے بعد کا ہے، اور نقصان کو کبھی بھی ایک تعمیل کی درجہ بندی کی ضرورت نہیں تھی — اسے ایک خودکار فیصلہ کی ضرورت تھی جس کا کوئی مالک نہیں تھا۔ ایک عام تنظیم کے لیے عملی خطرہ کوئی جرمانہ نہیں ہے؛ یہ وہ لمحہ ہے جب ایک صارف، ایک بورڈ کے رکن، یا آپ کی اپنی پوسٹ مارٹم پوچھتا ہے "ہم نے یہ فیصلہ کیوں کیا؟" اور فائل میں موجود جواب ایک ماڈل کا اعتماد اسکور ہے۔ فیصلہ کرنے کے وقت جوابدہی ریکارڈ کرنا سستا ہے اور بعد میں ایمانداری سے دوبارہ تعمیر کرنا ناممکن ہے — یہ عدم توازن، نہ کہ نفاذ کا کیلنڈر، اب شروع کرنے کے حق میں دلیل ہے۔
خلا کو بند کرنا: ہر اہم فیصلے پر ایک نامزد فیصلہ
یہ حل کم از کم AI نہیں ہے — سفارشات واقعی مفید ہیں — اور یہ ایک حکومتی بائنڈر نہیں ہے۔ یہ ایک ساختی عادت ہے: ہر اہم AI سے متاثرہ فیصلہ ایک نامزد انسانی فیصلہ کے ساتھ، اس کی وجہ کے ساتھ ریکارڈ کیا جاتا ہے، جس لمحے یہ کیا جاتا ہے۔ نظام نے کیا سفارش کی؛ شخص نے کیا فیصلہ کیا؛ کیوں۔ تین شعبے، ایمانداری سے رکھے گئے، زیادہ تر خلا کو بند کر دیتے ہیں — وہ وضاحت کو اس کا موضوع، آڈٹ کو اس کا ریکارڈ، اور جوابدہی کو اس کا نام دیتے ہیں۔ اس کے گرد انجینئرنگ — برقرار رکھنا، لاگنگ، جعل سازی کے ثبوت، ریگولیٹری تفصیلات — AI فیصلہ ٹریسنگ کا موضوع ہے، اس سیریز کا تیسرا حصہ۔
جہاں Argumentree فٹ ہوتا ہے — اور جہاں اس کا بہن بھائی فٹ ہوتا ہے
Argumentree بالکل اسی عادت کو انسانی مداخلت کے ساتھ AI کی مدد سے فیصلوں کے لیے عملی شکل دیتا ہے۔ AI ایک سوال کے گرد دلائل اور شواہد کو پرو/کن درخت میں نکالتا اور ترتیب دیتا ہے — لیکن لوگ دلائل کا وزن کرتے ہیں، ان کا جواب دیتے ہیں، اور ان کی درجہ بندی کرتے ہیں، اور نتیجہ اس کی وضاحت کے ساتھ لکھا جاتا ہے۔ نتیجہ ایک فیصلہ ریکارڈ ہے جہاں آپ ہمیشہ دیکھ سکتے ہیں کہ مشین نے کیا پیش کیا، انسانوں نے کیا فیصلہ کیا، کس نے فیصلہ کیا، اور کیوں — جوابدہی کا خلا تعمیر کے ذریعے بند کیا گیا ہے نہ کہ پالیسی کے ذریعے۔
دائرہ کار پر ایک نوٹ: جب فیصلے خود مختار AI ایجنٹس کے ذریعے کیے جاتے ہیں نہ کہ لوگوں کے ذریعے — پائپ لائنیں اپنے نتائج پر عمل کرتی ہیں — تو ٹریسنگ کا مسئلہ شکل بدل لیتا ہے، اور یہ ہمارے بہن کے پروڈکٹ AIAgentree کا دائرہ ہے، جو ایجنٹ کی سوچ اور جائزہ کے واقعات کو آڈٹ کے لیے ریکارڈ کرتا ہے۔ اگر کوئی انسان AI کی مدد سے فیصلہ کرتا ہے تو Argumentree موزوں ہے؛ اگر ایجنٹس خود مختاری سے عمل کرتے ہیں تو یہ AIAgentree کا علاقہ ہے۔
فاصلہ، ماپا گیا
اس مہینے آپ کی تنظیم نے جو ایک AI کی مدد سے فیصلہ کیا ہے، اس کا انتخاب کریں۔ کیا آپ اس انسان کا نام بتا سکتے ہیں جس نے اس کا مالک بنایا، دیکھ سکتے ہیں کہ ماڈل نے کیا تجویز کیا، اور پڑھ سکتے ہیں کہ انہوں نے اسے کیوں قبول کیا یا اس پر کیوں نظرثانی کی؟ جو کچھ آپ فراہم نہیں کر سکتے — وہ آپ کی ذمہ داری کا خلا ہے۔
ذمہ داری غائب نہیں ہوتی۔ یہ بس بعد میں، کسی اور کے ذریعے تفویض کی جاتی ہے۔
ڈچ والدین کو آخرکار جوابات مل گئے — پارلیمانی تحقیقات، ایک ڈیٹا-تحفظ اتھارٹی، اور ایک حکومت کی استعفیٰ سے۔ روبوڈیٹ کے متاثرین کو یہ جوابات ایک شاہی کمیشن سے ملے۔ دونوں صورتوں میں، فیصلہ کرنے کے وقت جو جوابدہی غائب تھی، بعد میں بڑی قیمت پر ان اداروں کے ذریعے دوبارہ تعمیر کی گئی جن کے پاس سمن جاری کرنے کا اختیار تھا اور جن پر مہربانی کرنے کی کوئی ذمہ داری نہیں تھی۔ یہ واقعی وہ انتخاب ہے جو جوابدہی کے خلا کو پیش کرتا ہے: انسانی فیصلے کو اب ریکارڈ کریں، یا بعد میں کسی اور کو ذمہ داری تفویض کرنے دیں۔
وہ تنظیمیں جو آنے والے نفاذ کے دور میں آرام دہ ہوں گی — اور، اس سے بھی زیادہ اہم، اپنی ہی فیصلوں کے ساتھ آرام دہ ہوں گی — وہ ہیں جو ہر اہم AI سے متاثرہ انتخاب کو اسی طرح سنجیدگی سے لیتی ہیں جیسے وہ ایک دستخط شدہ معاہدے کو لیتی ہیں: تحریر کردہ، منطقی، تاریخ شدہ، اور ریکارڈ پر۔ اس کے لیے مشینری کوئی عجیب و غریب چیز نہیں ہے۔ یہ ایک فیصلہ سازی کا عمل ہے جہاں AI تجویز کرتا ہے، ایک نامزد شخص فیصلہ کرتا ہے، اور منطق برقرار رہتی ہے۔ (جہاں یہ نظم و ضبط بورڈ کی سطح پر جا رہا ہے — اور جو کیس لا نے ہمیشہ مطالبہ کیا ہے — وہ 2030 میں بورڈ روم کا موضوع ہے۔)
"الگورڈم نے فیصلہ کیا" جواب نہیں ہے۔ یہ اس بات کا اعتراف ہے کہ کسی نے کچھ نہیں کیا۔
ریکارڈ پر ایک نامزد انسانی فیصلہ درج کریں۔
Argumentree ساختیں AI کی معلومات کو دلائل میں ترتیب دیتی ہیں جن پر لوگ غور کرتے ہیں، فیصلہ کرتے ہیں، اور ریکارڈ کرتے ہیں — اس طرح ہر AI کی مدد سے کیا گیا فیصلہ کا ایک مالک اور ایک وجہ ہوتی ہے۔
ذرائع اور مزید مطالعہ
- آٹوریٹی پرسنزگڈین (ڈچ ڈی پی اے) کا فیصلہ، دسمبر 2021 — €2.75 ملین جرمانہ ٹیکس انتظامیہ پر (بچوں کی دیکھ بھال کے فوائد کے خطرے کا ماڈل)۔تفصیلی جرمانہ: غیر قانونی طور پر دوسری قومیت کا ذخیرہ، قومیت بطور خطرے کے ماڈل کا اشارہ، دھوکہ دہی کی شناخت میں قومیت۔ کابینہ کا استعفیٰ: جنوری 2021؛ ~35,000 والدین متاثر۔
- روئل کمیشن برائے روبوڈیٹ اسکیم (2023)۔ حتمی رپورٹ، کمشنر کیتھرین ہولمز۔اوپر ذکر کردہ عین نتائج؛ آمدنی کی اوسط کو قرضوں کے غیر قانونی ہونے کی واحد بنیاد کے طور پر؛ اہلکاروں نے متضاد قانونی مشورے کو ظاہر کرنے میں ناکامی کا سامنا کیا۔
- CFPB (2022). ویلز فارگو کے خلاف حکم — $3.7 بلین ($2B صارفین کی تلافی، $1.7B جرمانہ)، بشمول غلط طور پر مسترد کردہ رہن کی تبدیلیاں۔الگ 2018 کا انکشاف: ترمیم کے ٹول (2010–2018) میں ایک حسابی غلطی نے ~870 ترمیمات کو غلط طور پر مسترد کر دیا اور 545 ضبطی میں اضافہ کیا۔
- زیلو گروپ (2021). Q3 2021 کے نتائج اور زیلو آفرز کو بند کرنے کا منصوبہ۔چوتھائی کے لیے ~$304M کا انوینٹری لکھنے کا نقصان؛ iBuying کاروبار کا خاتمہ؛ ~25% ملازمین کی کمی۔
- CFPB سرکلر 2022-03: پیچیدہ الگورڈمز کی بنیاد پر کریڈٹ فیصلوں کے سلسلے میں منفی کارروائی کی اطلاع کی ضروریات۔چوپڑا کے اقتباس کا ماخذ؛ ECOA کی مخصوص وجوہات کی ضرورت ماڈل کی پیچیدگی کے سامنے نہیں جھکتی۔
- مارٹینیز، ای۔، اور کرچنر، ایل۔ (2021). رہن کی منظوری کے الگورڈمز میں چھپا ہوا خفیہ تعصب۔ دی مارک اپ۔2019 کی لاکھوں درخواستیں، 17 عوامل مستقل رکھے گئے: قرض دینے والے رنگین درخواست دہندگان کو 40–80% زیادہ مسترد کرنے کے امکانات رکھتے ہیں؛ بعد میں نافذ کرنے والے وفاقی ایجنسیوں کی جانب سے حوالہ دیا گیا۔
- ریگولیشن (EU) 2024/1689 (AI ایکٹ)، جس میں 2026 ڈیجیٹل اومنی بس کے ذریعے ترمیم کی گئی ہے — 2 دسمبر 2027 سے ہائی رسک (ضمیمہ III) کی ذمہ داریاں۔خطرے کی بنیاد پر نظام: فروری 2025 سے پابندیاں، اگست 2025 سے GPAI کی ذمہ داریاں، اگست 2026 سے شفافیت کی ذمہ داریاں؛ زیادہ سے زیادہ جرمانے €35M / عالمی کاروبار کا 7%۔
- CJEU، کیس C-634/21 SCHUFA ہولڈنگ (7 دسمبر 2023)۔ایک کریڈٹ ایجنسی کا اسکور جی ڈی پی آر آرٹیکل 22 کے تحت خودکار انفرادی فیصلہ سازی ہے جب قرض دہندگان اس پر بہت زیادہ انحصار کرتے ہیں۔
اکثر پوچھے جانے والے سوالات
AI کی جوابدہی کا خلا کیا ہے؟
AI کی جوابدہی کا خلا ایک الگورڈم کے فیصلے اور اس کے لئے جوابدہ کسی انسان کے درمیان کا فاصلہ ہے۔ جب ایک نظام کسی فائدے سے انکار کرتا ہے، کسی صارف کو پرچم لگاتا ہے، یا کسی خطرے کی قیمت لگاتا ہے، تو زیادہ تر تنظیمیں بعد میں یہ نہیں دکھا سکتیں کہ کون سے ان پٹ استعمال ہوئے، نظام نے کیا تجویز کیا، کس شخص نے اس کا جائزہ لیا، یا آخری فیصلہ اس طرح کیوں ہوا۔ یہ خلا تین مختلف ناکامیوں میں تقسیم ہوتا ہے: وضاحت (نظام نے یہ فیصلہ کیوں کیا؟)، آڈٹ کی قابلیت (کیا آپ ثابت کر سکتے ہیں کہ یہ مخصوص فیصلہ کیسے ہوا؟)، اور جوابدہی (کون نامزد انسان ذمہ دار ہے؟)۔ دستاویزی تباہیاں — ڈچ بچوں کی دیکھ بھال کے فوائد کا اسکینڈل، آسٹریلیا کا روبوڈیٹ، ویلز فارگو کی غلط طور پر مسترد کردہ رہن کی تبدیلیاں — سب میں ریکارڈ پر انسانی فیصلے کی کمی ہے۔
جب ایک AI نظام نقصان دہ فیصلہ کرتا ہے تو قانونی طور پر کون ذمہ دار ہے؟
یہ دائرہ اختیار اور شعبے پر منحصر ہے، لیکن رجحان مستقل ہے: نظام کو نافذ کرنے والی تنظیم اس کی پیداوار کے لیے جوابدہ ہوتی ہے۔ یورپی یونین کے AI ایکٹ کے ہائی رسک نظام کے تحت، فراہم کنندگان اور نافذ کنندگان دونوں پر ذمہ داریاں عائد ہوتی ہیں — ایک بینک جو تیسرے فریق کے اسکورنگ ماڈل کا استعمال کرتا ہے، وہ فروش کی طرف اشارہ نہیں کر سکتا۔ امریکہ میں، CFPB کا سرکلر 2022-03 قرض دہندگان کو ECOA کی مخصوص وجوہات کی ضرورت کے تحت رکھتا ہے چاہے ماڈل کی پیچیدگی کچھ بھی ہو، اور CJEU کا SCHUFA فیصلہ GDPR کے آرٹیکل 22 کو ان کریڈٹ اسکورز تک بڑھاتا ہے جن پر قرض دہندگان بہت زیادہ انحصار کرتے ہیں۔ عملی طور پر: 'الگورڈم نے یہ کیا' کبھی بھی دفاع کے طور پر کامیاب نہیں ہوا، اور مقدمات یہ ظاہر کرتے ہیں کہ ذمہ داری آخر کار تفویض کی جاتی ہے — ریگولیٹرز، عدالتوں، یا کمیشنوں کے ذریعے — جب یہ فیصلہ کے وقت ریکارڈ نہیں کی گئی تھی۔
EU AI ایکٹ دراصل کیا تقاضا کرتا ہے، اور کب تک؟
یہ ایک خطرے پر مبنی قانون ہے۔ ممنوعہ طریقے (سماجی اسکورنگ، کچھ بایومیٹرک استعمالات) فروری 2025 سے ممنوع ہیں؛ عمومی مقصد کے AI ماڈل کی ذمہ داریاں اگست 2025 سے لاگو ہو چکی ہیں؛ شفافیت اور AI مواد کی لیبلنگ کی ذمہ داریاں اگست 2026 سے ہیں۔ بھاری اعلی خطرے کا نظام — خودکار لاگنگ، تکنیکی دستاویزات، انسانی نگرانی، مطابقت کی جانچ، مارکیٹ کے بعد کی نگرانی — ضمیمہ III کے علاقوں (روزگار، کریڈٹ، تعلیم، بنیادی خدمات، قانون نافذ کرنے والے ادارے اور دیگر) کا احاطہ کرتا ہے اور 2026 کے ڈیجیٹل اومنی بس کی وجہ سے اگست 2026 سے 2 دسمبر 2027 تک مؤخر کر دیا گیا ہے (ریگولیٹڈ مصنوعات میں شامل AI کے لیے اگست 2028)۔ اعلی درجے کے جرمانے €35 ملین یا عالمی سالانہ کاروبار کا 7% تک پہنچ جاتے ہیں۔
AI وضاحت اور AI آڈٹ کی قابلیت میں کیا فرق ہے؟
وضاحت یہ جواب دیتی ہے کہ 'نظام نے یہ نتیجہ کیوں پیدا کیا؟' — قابل تفہیم ماڈلز یا بعد از وقت تکنیکوں کے ذریعے۔ آڈٹ ایبلٹی یہ جواب دیتی ہے کہ 'کیا ہم ثابت کر سکتے ہیں کہ یہ مخصوص فیصلہ اس طرح ہوا جیسا کہ ہم کہتے ہیں؟' — جس کے لیے ان پٹس، آؤٹ پٹ، ماڈل کا ورژن، اور کسی بھی انسانی جائزے کا فیصلہ کے وقت ریکارڈ ہونا ضروری ہے، جو کہ چھیڑ چھاڑ کے ثبوت کے ساتھ ہو۔ ایک نظام وضاحت کرنے کے قابل ہو سکتا ہے لیکن آڈٹ کرنے کے قابل نہیں (درخواست پر فراہم کردہ وضاحتیں ایک دوبارہ تربیت شدہ ماڈل سے تیار کردہ ہیں، ریکارڈ نہیں) اور آڈٹ کرنے کے قابل ہو سکتا ہے لیکن وضاحت کرنے کے قابل نہیں (سب کچھ لاگ کیا گیا، کچھ بھی قابل تفہیم نہیں)۔ جوابدہی تیسرا، علیحدہ سوال ہے: کون سا نامزد انسان اس فیصلے کے لیے جوابدہ ہے۔ اس خلا کو بند کرنے کے لیے تینوں کی ضرورت ہے۔
AI کی جوابدہی کے خلا کی وجہ سے نقصان پہنچانے کے بہترین دستاویزی کیسز کون سے ہیں؟
ڈچ بچوں کی دیکھ بھال کے فوائد کا اسکینڈل: ایک ٹیکس اتھارٹی کے خطرے کا الگورڈم جس میں قومیت کو دھوکہ دہی کے اشارے کے طور پر استعمال کیا گیا، ~35,000 والدین کے خلاف غلط طور پر دھوکہ دہی کے الزامات عائد کرنے کا باعث بنا؛ حکومت نے جنوری 2021 میں استعفیٰ دیا اور ڈچ ڈی پی اے نے ٹیکس انتظامیہ پر €2.75 ملین کا جرمانہ عائد کیا۔ آسٹریلیا کا روبوڈیٹ: خودکار آمدنی کی اوسط نے بڑے پیمانے پر غیر قانونی فلاحی قرضے بڑھا دیے؛ 2023 کی شاہی کمیشن نے اسے 'ایک خام اور ظالمانہ طریقہ کار، نہ تو منصفانہ اور نہ ہی قانونی' قرار دیا۔ ویلز فارگو: ایک تبدیلی کے ٹول کی حساب کتاب کی غلطی (2010–2018) نے ~870 رہن کی تبدیلیوں کو غلط طور پر مسترد کر دیا اور 545 ضبطی میں اضافہ کیا۔ اور تجارتی پہلو پر، زلو نے 2021 میں اپنے الگورڈمک گھر خریدنے کے کاروبار کو بند کر دیا بعد ازاں ~$304M کی سہ ماہی کی کمی کے۔ ان میں سے کسی نے بھی جدید تخلیقی AI کی ضرورت نہیں تھی — صرف خودکار فیصلے تھے جن کا کوئی مالک نہیں تھا۔
تنظیموں کو اب کس طرح تیاری کرنی چاہیے، جب کہ خطرے کی بلند سطح کی ڈیڈ لائنز 2027 تک منتقل ہو گئی ہیں؟
اضافی وقت کو ڈھانچے کے لیے استعمال کریں، تاخیر کے لیے نہیں۔ تین اقدامات: (1) یہ جانچیں کہ AI کے نتائج کن اہم فیصلوں پر اثر انداز ہوتے ہیں — لوگوں، پیسوں، یا حکمت عملی کے بارے میں — چاہے وہ EU AI ایکٹ کی ہائی رسک فہرست میں ہوں یا نہ ہوں۔ (2) ہر ایک پر ایک نامزد انسانی فیصلہ شامل کریں: نظام نے کیا تجویز کیا، شخص نے کیا فیصلہ کیا، کیوں — فیصلہ کرنے کے وقت ریکارڈ کیا گیا۔ (3) اس راستے کو ورک فلو میں شامل کریں نہ کہ اس کے گرد، تاکہ ریکارڈ فیصلہ کرنے کا ایک ضمنی نتیجہ ہو، نہ کہ ایک اضافی مرحلہ جسے لوگ چھوڑ دیں۔ کسی واقعے کے بعد جوابدہی کو دوبارہ ترتیب دینا اس استدلال کی تعمیر نو کرنا ہے جسے کسی نے نہیں لکھا؛ جیسے جیسے آپ آگے بڑھتے ہیں اسے ریکارڈ کرنا تقریباً مفت ہے۔
کسی اور کے اس کا اندازہ لگانے سے پہلے فرق کو بند کرو۔
منظم دلائل، ایک نامزد فیصلہ ساز، اور ہر AI کی مدد سے کیے گئے فیصلے پر ایک ریکارڈ شدہ وجہ — تعمیر کے ذریعے جوابدہی، بائنڈر کے ذریعے نہیں۔
کے بارے میں Argumentree Team
AI Ethics & Governance
The Argumentree team is building the collaborative decision-making platform Argumentree. Our mission is to transform how organizations make, document, and learn from decisions.
متعلقہ مضامین
بحث میں شامل ہوں
جب ایک الگورڈم غلطی کرتا ہے تو جواب کس کو دینا چاہیے — فروشندہ، تعینات کرنے والا، یا وہ شخص جس نے قبول کرنے پر کلک کیا؟ اپنی بات کمیونٹی میں پیش کریں۔
Argumentree فورم پر بحث کریں