Rashin Alhakin AI: Lokacin da Algorithms ke Yin Kurakurai na Miliyan Dala, Wa ke da Alhakin?
Gajeren tazara na alhakin AI shine sararin tsakanin hukuncin algorithm da kowanne mutum da zai iya amsa don shi. Abubuwan da aka rubuta suna da gaske kuma yawancinsu sun faru kafin dokokin AI na zamani: shahararren lamari na tallafin kula da yara na Dutch, inda algorithm mai kimanta hadari da ta yi amfani da ƙasa a matsayin alama ta haifar da kusan iyaye 35,000 da aka zargi da zamba ba daidai ba kuma ta jawo faduwar gwamnati a 2021 (DPA na Dutch ta tara hukumar haraji €2.75 miliyan); shirin Robodebt na Australia, wanda wani bincike na 2023 ya gano ba bisa ka'ida ba — "matsala mai rauni da zalunci, ba ta dace ba ko kuma ta doka"; kuskuren lissafin gyaran bashi na Wells Fargo (2010–2018), wanda ya ki amincewa da kusan gyare-gyare 870 da ya haifar da 545 na kaddamar da bashi kafin kowa ya gano; da kasuwancin sayen gida na algorithm na Zillow, wanda aka rufe a 2021 bayan ragin kasafin kuɗi na $304 miliyan a kowane kwata. Tazarar tana rabuwa zuwa kuskure uku da masu kula da su ke ɗauka daban: bayyana (me yasa tsarin ya yanke wannan hukuncin?), duba (za ka iya tabbatar da yadda wannan hukuncin ya faru?), da alhaki (wanne mutum ne ke amsa don shi?). Dokokin suna haɗuwa kan bukatar guda ɗaya: tsarin haɗin gwiwar haɗarin dokar EU AI (haramta tun daga Fabrairu 2025, nauyin AI na gaba ɗaya tun daga Agusta 2025, tare da nauyin haɗari mai yawa da aka jinkirta ta hanyar 2026 Digital Omnibus zuwa 2 ga Disamba, 2027, da tara har zuwa €35M ko 7% na juyin duniya), GDPR Article 22 kamar yadda CJEU's SCHUFA hukuncin ya karanta (kimanta bashi yana nufin yanke hukunci ta atomatik), takardar zagaye ta CFPB na akwati baki ("Kamfanoni ba su tsira daga alhakin doka ba idan sun bar samfurin akwati baki ya yanke hukunci kan bayar da bashi"), da Dokar Gari ta New York City 144 kan kayan aikin daukar ma'aikata. Rufe tazara yana nufin hukuncin mutum da aka ambata, wanda aka rubuta tare da dalilinsa, akan kowanne hukunci mai tasiri da AI ya shafa — wanda tsarin mutum a cikin jiki na Argumentree ke samarwa; samfurin 'yar uwarta AIAgentree yana rufe gefen wakilin mai zaman kansa.
Lokacin da algorithm ya yi kuskure mai tasiri, " tsarin ya yanke hukunci" ba ya gamsar da kowanne mai kula, kotu, ko kuma wanda abin ya shafa. Mummunan lamura da aka rubuta — gwamnatin da aka rushe, shirin tallafi na rashin doka, gurbataccen karbar bashi — suna da tushen guda daya: babu hukuncin mutum da aka ambata a cikin rajista.
- Lamarin suna da gaske kuma yawanci sun faru kafin dokar AI: shahararren lamari na kula da yara a Holland (~35,000 iyalai, tara €2.75M DPA, istifafin gwamnati), Robodebt ("ba daidai ba ko doka" — Kwamitin Sarauta), Wells Fargo's 870 da aka ki amincewa da gyare-gyare, Zillow's $304M ragin darajar.
- Rashin daidaito yana da gazawa uku, ba guda ba: bayyanawa (me ya sa?), bincike (ka tabbatar da shi), alhakin (wa ya amsa?)
- Dokokin suna haɗuwa kan bukatar guda ɗaya — Dokar AI ta EU (aikin haɗari mai yawa yanzu yana buƙatar 2 ga Disamba, 2027 bayan Digital Omnibus), GDPR Article 22 bisa ga hukuncin SCHUFA, takardar zagaye ta CFPB, Dokar Gari ta NYC 144
- Gyaran yana da tsarin: hukuncin mutum mai suna, wanda aka rubuta tare da dalilinsa, akan kowanne hukunci mai tasiri da AI ya shafa.
Me ke faruwa idan algorithms suka tsara muhimman shawara kuma babu wanda ke adana dalilin: gibin alhakin da gaske da bala'o'in da ke bayan sa, tsarin binciken shawarar AI, da kuma injiniyan bin doka na bin diddigin shawara.
- 1.The AI Accountability Gap: When Algorithms Make Million-Dollar Mistakes, Who's Responsible?Kana nan
- 2.The AI Decision Audit Trail: Recording What the AI Recommended and What a Human Decided
- 3.AI Decision Tracing: The Missing Link in Enterprise AI Compliance
A watan Janairu na shekarar 2021, gwamnatin Netherlands ta yi murabus. Ba saboda yaki ko wani shari'ar cin hanci ba — saboda wani algorithm. Tsarin kimanta hadarin hukumar haraji na tallafin kula da yara ya kasance yana daukar kabilanci a matsayin alamar zamba, kuma kusan iyaye 35,000 — musamman iyalai masu kabilar biyu ko wadanda ba su da kabilar Dutch — an yi musu kuskure a matsayin masu zamba, an umarce su da su maido da dubban euros, kuma an tilasta su shiga cikin bashi, rabuwa, da rasa gidaje. Ga iyayen fiye da yara 2,000, wannan lamari ya kare da karbar yaran.
Ga bayani da ke sa toeslagenaffaire zama shari'ar kafa na alhakin AI: tsawon shekaru, ba a iya nuna kowa ba. Iyayen da abin ya shafa ba su iya gano dalilin da ya sa aka yi musu alama ba. Masu kula da shari'a sun jefa alhakin ga tsarin. Tsarin ba shi da mai rubutawa da zai amsa masa. Lokacin da hukumar kare bayanai ta Holland ta yi hukunci kan hukumar haraji da €2.75 miliyan, miliyan ɗaya daga ciki ya kasance saboda wani takamaiman aiki — amfani da ƙabilanci a matsayin alamar a cikin tsarin rarrabawa na haɗari.
Wannan sarari — tsakanin hukuncin algorithm da kowanne mutum da zai iya amsa don shi — shine rashin amincewa da AI. Wannan rubutun yana magana akan abin da ke cike da shi: hadarurrukan da aka rubuta, uku na gazawa daban-daban da ke ɓoye a cikin wannan sararin, dokokin da yanzu suke haɗuwa kan bukatar guda ɗaya daga Brussels zuwa New York, da gyaran tsarin da ba ya jira mai kula.
Kurakuran ba su taɓa zama tunani ba.
Shaida mafi karfi cewa yanke shawara ta atomatik ba tare da accountability ba na iya zama kuskure shine cewa sun riga sun faru — akai-akai, da tsada, kuma mafi yawansu kafin wannan lokacin na AI na yau. Hujja hudu da aka rubuta, kowanne yana da darasi daban:
Tarin cin hanci na tallafin kula da yara na Dutch (2013–2021)
Wani tsarin lissafin hadari na gwamnati ya yi amfani da ƙabilanci a matsayin alamar zamba; ~35,000 iyaye an bi su ba daidai ba, kuma majalisar ta yi murabus a kan wannan a watan Janairu 2021. Hukumar Kula da Bayanai ta Netherlands ta sanya tarar €2.75M wanda ya bayyana gazawar: adana ƙabilanci na biyu ba bisa ka'ida ba, da kuma amfani da ƙabilanci a cikin tsarin hadari da gano zamba. Darasi: tsarin nuna bambanci wanda babu wanda ya duba yana zama doka.
Robodebt, Ostiraliya (2016–2020)
Wani tsarin atomatik ya ƙididdige bashin jin daɗi ta hanyar lissafin matsakaicin kudin shiga na shekara a cikin makonni biyu - wata hanya da Hukumar Sarauta ta 2023 ta gano an yi amfani da ita a matsayin tushen doka ba bisa ka'ida ba, tare da manyan jami'ai suna ƙin bayyana shawarwarin doka da ke ƙin goyon bayan hakan. Dubban dubban bashin an ɗaga akan mutane da ba su da wani bashi. Darasi: aikin atomatik a cikin manyan aiyuka yana canza hanyar doka zuwa cutarwa ga taron jama'a.
Injin gyaran Wells Fargo (2010–2018)
Kuskuren lissafi a cikin kayan aikin gyaran bashi na banki ya hana kusan 870 na gyaran mortgage da kusan 545 na kaddamar da gidaje — kuma ya ci gaba na tsawon shekaru takwas kafin a bayyana. Umarni na daban na CFPB na 2022 ($2B a cikin diyya tare da tara $1.7B) ya shafi, daga cikin abubuwa da yawa, dubban gyaran da aka hana ba daidai ba. Darasi: wannan ba "AI" ba ne — kawai tsarin yanke shawara na atomatik, ba tare da kulawa ba, ya jawo wa mutane asarar gidajensu.
Zillow Offers (2018–2021)
Kasuwancin sayen gidaje na algorithm na Zillow ya sayi gidaje a farashi da samfurorinsa ba su iya goyon baya daga baya ba; kamfanin ya sanar da wani ragin kaya na ~$304 miliyan a cikin kwata guda, ya rufe kasuwancin, kuma ya rage kusan 25% na ma'aikatansa. Darasi: gibin ba matsalar hakki kawai ba ne — zagaye na yanke shawara na algorithm ba tare da kalubale mai tasiri daga mutum ba na iya rasa lambobi tara a kan takardar kudi ta kansa.
Ka lura da abin da hudu ke da shi a cikin juna. A kowanne daga cikinsu, tsarin yanke shawara an yi masa atomatik; sakamakon ya sauka kan mutane ko kuma a kan takardar kudi; kuma kungiyar ta yi wahala bayan haka don nuna .who had judged what, on what basis. Samfuran sun bambanta, amma gazawar ta kasance iri daya — kuma babu wani abu daga cikinsa da ya bukaci babban samfurin harshe. Abin da AI na yau ke canza shi ne kawai yawan da kuma lafazin shawarwarin da ke shiga cikin yanke shawara.
Robodebt wata hanya ce mai rauni da zalunci, ba ta da adalci ko doka…
matsala mai tsada ta gudanar da harkokin gwamnati, a cikin duka ma'anar mutum da ta tattalin arziki.
Kwamitin Sarauta kan Tsarin Robodebt, rahoton karshe (2023)
Kuskuren uku da ke ɓoye a cikin tazara
"Alhakin AI" ana amfani da shi a matsayin guda ɗaya, amma masu tsara dokoki suna ɗaukar sa a matsayin tambayoyi guda uku daban-daban — kuma wata ƙungiya na iya wuce ɗaya yayin da take fadi a sauran. Rikice-rikicen su yana da tsada.
Bayyanawa na amsa me ya sa tsarin ya samar da wannan fitarwa? Kayan aikin zamani na iya samar da bayanan bayan-gani — kaddarorin fasali, haske, dalilan yare na halitta. Mai amfani, amma bayyanawar tarayya ("samfurin yana nauyin kuɗi sosai") ba amsa ce game da wannan mai nema a wannan ranar — wanda dokokin matakan mummuna da hakkin bayani ke bukata.
Auditability yana amsa shin za ka iya tabbatar da yadda wannan shawarar ta faru? Bayani da aka samar bisa ga bukata, watanni bayan haka, daga wani samfurin da aka sake horar da shi, yana da sake gina — ba tarihin ba. Bambanci tsakanin tarihin da aka rubuta a lokacin da ya faru da kuma bayanin da aka yi bayan haka shine bambanci tsakanin shaida da labari. Auditability yana nufin an kama shigarwa, fitarwa, sigar samfurin, da duk wani bincike na mutum a lokacin yanke shawara kuma ba za a iya gyara su a hankali bayan haka ba.
Alhakin yana amsa wane mutum ne ke da alhaki? Wannan shine wanda babu adadin kayan aiki da zai iya samarwa bayan gaskiya. Idan amsar gaskiya ga "wanene ya yanke shawara?" ita ce "samfurin," to kungiyar ta ba da hukunci wanda babu wanda ke da shi — kuma lokacin da cutar ta bayyana, alhaki yana samun rarrabawa duk da haka, ta hanyar mai kula, kotu, ko Kwamitin Sarauta, bisa ga sharuɗɗansu maimakon naka. Tsarin rajistar da ke amsa dukkan tambayoyin guda uku yana da taken nasa — muna tafiya daki-daki a cikin hanyar binciken yanke shawarar AI.
Kamfanoni ba su da 'yancin kauce wa nauyin doka.
lokacin da suka ba wani samfurin baƙar fata damar yanke shawarar bayar da bashi.
Rohit Chopra, Daraktan CFPB, yana sanar da Takardar 2022-03 kan yanke shawarar bashi ta hanyar algorithm (2022)
Dokokin suna haɗuwa kan bukatar guda ɗaya.
Yanayin tsarawa yana cikin motsi sosai — ciki har da canjin ranar babban a 2026 — amma hanyar tana da ɗaya: dole ne a iya bin diddigin yanke shawarar atomatik masu tasiri zuwa ga dalilan da aka rubuta da kulawar mutum. A cikin EU, Dokar AI tana ɗaukar hanyar da ta danganta da haɗari: haramcin kai tsaye ya shafi tun daga Fabrairu 2025 da nauyin AI na gaba ɗaya tun daga Agusta 2025, yayin da nauyin da ya rataya kan tsarin "mai haɗari sosai" (jerin Annex III yana rufe aikin yi, bashi, ilimi, ayyuka masu mahimmanci, gudanar da doka da ƙari) — rajista, takardun fasaha, kulawar mutum, tantance daidaito — an jinkirta su ta hanyar Digital Omnibus na 2026 zuwa 2 ga Disamba, 2027 (Agusta 2028 don AI da aka haɗa cikin kayayyakin da aka tsara). Hukuncin a saman ma'auni yana kaiwa €35 miliyan ko 7% na jimillar kudaden shigar duniya.
EU ba ta fara daga nan ba, duk da haka. GDPR Article 22 ta takaita yanke shawara ta atomatik kawai tare da tasiri na doka ko makamancin haka tun daga 2018 — kuma a cikin hukuncin SCHUFA (Disamba 2023), Kotun Shari'a ta yanke hukunci cewa maki na hukumar bayar da bashi yana da kansa irin wannan yanke shawara ta atomatik lokacin da masu bayar da bashi suka dogara da shi sosai. Iyakokin "yanke shawara ta atomatik" sun fi yadda yawancin ƙungiyoyin bin doka suka yi tunani.
Amurka tana tsara ta hanyar sassa, kuma saƙon ya dace. Takardar Shawara ta CFPB ta 2022-03 ta bayyana cewa bukatun ECOA na matakan mummunan aiki ba su canza saboda rikitarwa ba: mai ba da bashi da ba zai iya bayar da dalilai na musamman, daidai ba don kin amincewa ba zai iya amfani da algorithm da ke sa waɗannan dalilan su zama marasa sani ba. Dokar Kasa ta Local Law 144 ta birnin New York tana buƙatar gudanar da binciken son kai na shekara-shekara da sanar da masu neman aiki don kayan aikin daukar ma'aikata na atomatik. Kuma matsin lamba yana da tushe na shaidar: Binciken Markup na 2021 na miliyoyin aikace-aikacen bashi — yana riƙe da abubuwa 17 na tantancewa a matsayin dindindin — ya gano cewa masu ba da bashi sun fi kashi 40–80% yiwuwar kin amincewa da masu nema masu launin fata fiye da masu nema fararen fata, wani bincike da hukumomin tarayya suka ambata lokacin da suka kaddamar da sabbin tsare-tsaren tabbatar da adalci a cikin bayar da bashi. Hanyoyin kamar wannan sune ainihin abin da hanyar bincike ke wanzuwa don bayyana a cikin gida, kafin wani labarin bincike ko mai kula da su bayyana su a gare ku.
Shin wannan ba matsala bane ga bankuna da gwamnatoci, ba gare mu ba?
Wani ɓangare gaskiya ne, kuma yana da kyau a kasance da takamaiman bayani. Mafi yawan shawarar kasuwanci da aka yanke tare da taimakon AI — zaɓin dabaru, zaɓin mai sayarwa, zaɓin samfur — ba su kusa da jerin haɗarin babban haɗari na Dokar AI ta EU, kuma mafi nauyin dokokin Dokar yanzu ba su tilasta wa kowa ba har zuwa ƙarshen 2027. Idan dalilin ka na damuwa kawai shine doka, kana da lokaci.
Amma duba jerin shari'ar: kowanne bala'i a ciki ya faru kafin dokokin da yanzu ke magance shi. Dokar tana bayan cutar, kuma cutar ba ta taɓa buƙatar wani rukuni na bin doka — tana buƙatar hukunci na atomatik wanda ba wanda ya mallake. Abin da ke da mahimmanci ga wata ƙungiya ta yau da kullum ba shine tara tara ba; shine lokacin da wani abokin ciniki, wani mamba na kwamitin, ko kuma binciken bayan mutuwa naka ya tambayi "me ya sa muka yanke wannan shawarar?" kuma amsar da ke cikin fayil shine maki amincewar samfur. Kula da alhakin yana da rahusa a rubuta a lokacin yanke shawara kuma yana da wahala a sake gina shi da gaskiya bayan haka — wannan rashin daidaito, ba kalandar aiwatarwa ba, shine hujjar farawa yanzu.
Rufe tazara: hukunci mai suna akan kowanne shawara mai tasiri
Gyaran ba ya rage AI — shawarwarin suna da amfani sosai — kuma ba takardar gudanarwa ba ce. Hali ne na tsari: duk shawarar da AI ta shafa wacce take da tasiri tana samun hukuncin mutum mai suna, wanda aka rubuta tare da dalilinta, a lokacin da aka yanke shawarar. Menene tsarin ya ba da shawara; menene mutumin ya yanke; me ya sa. Filaye uku, da gaske aka kiyaye, suna rufe mafi yawan tazara — suna ba da bayani ga batun, binciken ga rajista, da kuma alhakin ga suna. Injiniyan da ke kewaye da wannan — adanawa, rajista, shaidar canji, takamaiman dokoki — shine batun binciken shawarar AI, ɓangare na uku na wannan jerin.
Inda Argumentree ya dace — da inda ɗan'uwansa ya dace
Argumentree yana aiwatar da wannan dabi'a daidai don yanke shawara tare da taimakon AI tare da mutum a cikin tsarin. AI yana fitar da kuma tsara hujjoji da shaidu a kan tambaya cikin itacen pro/con — amma mutane suna auna, musanta, da kimanta hujjojin, kuma sakamakon yana rubuce tare da dalilin sa. Sakamakon shine rajistar yanke shawara inda zaka iya ganin abin da na'ura ta bayyana, abin da mutane suka yanke hukunci, wanda ya yanke shawara, da dalilin — tazarar alhaki an rufe ta ta hanyar gini maimakon ta hanyar manufofi.
Wani bayani kan fadin: lokacin da aka yanke shawara ta hanyar masu aikin AI masu zaman kansu maimakon mutane — hanyoyin da ke aiki bisa ga sakamakon su — matsalar bin diddigi tana canza siffa, kuma wannan shine fannin samfurinmu na 'yan uwa AIAgentree, wanda ke rubuta tunanin wakilai da abubuwan duba don bincike. Idan mutum ne ya yanke shawara tare da taimakon AI, Argumentree shine dace; idan wakilai suna aiki da kansu, wannan shine yankin AIAgentree.
Tazarar, an auna
Zaɓi ɗaya daga cikin shawarar da ƙungiyarku ta yi tare da taimakon AI a wannan watan. Shin za ku iya ambaton mutumin da ya mallaki wannan shawarar, ganin abin da samfurin ya ba da shawara, da karanta dalilin da ya sa suka yarda ko suka wuce ta? Duk abin da ba za ku iya samarwa ba — wannan shine gibin alhakin ku.
Alhakin ba ya bace. Ana ba da shi ne daga baya, ta hannun wani.
Iyayen Dutch a ƙarshe sun sami amsoshi — daga binciken majalisar dokoki, hukumar kare bayanai, da kuma istifan gwamnati. Wadanda suka sha wahala daga Robodebt sun sami nasu daga Kwamitin Sarauta. A dukkanin lokuta, alhakin da ya ɓace a lokacin yanke shawara an sake gina shi daga baya, da tsada mai yawa, ta hanyar hukumomi masu ikon kira da ba su da wajibi su zama masu jin kai. Wannan shine ainihin zaɓin da gibin alhaki ke bayarwa: a rubuta hukuncin ɗan adam yanzu, ko a bar wani ya ba da alhaki daga baya.
Kungiyoyin da za su ji dadin zamanin aiwatarwa mai zuwa — kuma, mafi mahimmanci, jin dadin yanke shawarar su — sune wadanda ke kula da kowanne zabi mai tasiri da AI ya shafa kamar yadda suke kula da kwangila da aka sanya hannu: an rubuta, an yi tunani, an sanya kwanan wata, kuma an adana shi a cikin rajista. Na'urar da ke wannan ba ta da ban mamaki. Tsarin yanke shawara ne inda AI ke bayar da shawara, mutum mai suna ke yanke hukunci, kuma tunanin yana ci gaba. (Inda wannan tsari ke tafiya a matakin hukumar — da abin da dokokin shari'a suka bukata tun daga farko — shine batun dakin taron hukumar a 2030.)
"Algorithm din ya yanke hukunci" ba amsa ba ne. Wannan shine shaida cewa babu wanda ya yi.
Sanya hukuncin mutum mai suna a cikin rajista.
Argumentree yana tsara shigarwar AI cikin hujjoji da mutane ke duba, yanke shawara a kai, da kuma rubuta — don haka kowace shawara da aka taimaka da AI tana da mai ita da dalilin da ya sa.
Hanyoyin da za a samu karin bayani
- Hukuncin Autoriteit Persoonsgegevens (Dutch DPA), Disamba 2021 — tara €2.75M akan Hukumar Haraji (samfurin haɗarin tallafin kula da yara).Kudin hukunci da aka lissafa: adana kasa na biyu ba bisa ka'ida ba, kasa a matsayin alamar haɗari, kasa a cikin gano zamba. Aikin ficewa daga majalisa: Janairu 2021; ~35,000 iyaye sun shafa.
- Kwamitin Sarauta kan Tsarin Robodebt (2023). Rahoton karshe, Kwamishina Catherine Holmes.Sakamakon da aka ambata a sama; rarraba kudin shiga a matsayin tushen kadai don bashi da aka samu ba bisa ka'ida ba; jami'ai sun kasa bayyana shawarar shari'a da ta sabawa.
- CFPB (2022). Umarni kan Wells Fargo — $3.7 biliyan ($2B gyaran hakkin masu amfani, $1.7B hukunci), ciki har da kin amincewa da gyaran bashi na gida da ba daidai ba.Bayanan daban na 2018: kuskuren lissafi a cikin kayan aikin gyara (2010–2018) ya hana kusan ~870 gyare-gyare da ya taimaka wajen samun 545 gagarumin rufewa.
- Zillow Group (2021). Sakamakon Q3 2021 da shirin rufewa na Zillow Offers.~$304M ragin kayan ajiyar a cikin kwata; rufewar kasuwancin iBuying; ~25% rage ma'aikata.
- CFPB Circular 2022-03: Bukatun sanar da matakan mummunan aiki dangane da yanke shawarar bashi bisa ga tsarin lissafi mai rikitarwa.Tushen maganar Chopra; bukatar dalilai na musamman na ECOA ba ta yarda da wahalar samfur ba.
- Martinez, E., & Kirchner, L. (2021). Sirrin son zuciya da aka ɓoye a cikin algorithms na amincewa da bashi. The Markup.Miliyoyin aikace-aikacen 2019, abubuwa 17 an riƙe su a matsayin dindindin: masu ba da rance suna da yuwuwar ƙin amincewa da masu nema launin fata daga kashi 40–80% fiye da sauran; an ambata hakan daga hukumomin tarayya a cikin aiwatarwa na gaba.
- Dokar (EU) 2024/1689 (AI Act), kamar yadda aka gyara ta cikin 2026 Digital Omnibus — wajibi masu haɗari (Annex III) daga ranar 2 ga Disamba, 2027.Tsarin bisa haɗari: haramcin tun Fabrairu 2025, ayyukan GPAI tun Agusta 2025, ayyukan bayyana a Agusta 2026; manyan tara €35M / 7% na jimlar kuɗin shiga na duniya.
- CJEU, Shari'a C-634/21 SCHUFA Holding (7 Disamba 2023).Matsayin hukumar bashi yana zama yanke shawara na mutum ta atomatik a ƙarƙashin GDPR Article 22 lokacin da masu ba da bashi suka dogara da shi sosai.
Tambayoyi da ake yawan yi
Menene gibin alhakin AI?
Gajeren hanzari na AI shine sararin tsakanin hukuncin algorithm da kowanne mutum da zai iya amsa masa. Lokacin da tsarin ya ki bayar da wani fa'ida, ya yi wa wani abokin ciniki gargadi, ko kuma ya sanya farashin wani hadari, mafi yawan kungiyoyi ba za su iya nuna wanda aka yi amfani da shi ba, abin da tsarin ya ba da shawara, wanda ya duba shi, ko dalilin da ya sa hukuncin karshe ya tafi yadda ya yi ba. Gajeren hanzarin yana rarrabuwa zuwa kuskure guda uku: bayyana (me ya sa tsarin ya yanke wannan hukuncin?), duba (za ka iya tabbatar da yadda wannan hukuncin ya faru?), da kuma amincewa (wace mutum ce ta sanya hannu a kai?). Hadarin da aka rubuta - sharrin fa'idodin kula da yara na Dutch, Robodebt na Australia, da kuma gyare-gyaren bashi na Wells Fargo da aka ki yarda da su - duk suna da wannan rashin hukuncin mutum a cikin rajista.
Waye ke da alhakin doka idan tsarin AI ya yanke shawara mai cutarwa?
Ya danganta da ikon shari'a da sashen, amma yanayin yana daidai: kungiyar da ke amfani da tsarin tana amsa ga sakamakon ta. A ƙarƙashin tsarin haɗari mai girma na Dokar AI ta EU, duka masu bayarwa da masu amfani suna da wajibai — banki da ke amfani da samfurin ƙididdiga na ɓangare na uku ba zai iya nuna wa mai sayarwa ba. A Amurka, Takardar Shawara ta CFPB ta 2022-03 tana tilasta wa masu ba da bashi bin bukatun dalilai na ECOA ba tare da la'akari da wahalar samfurin ba, kuma hukuncin CJEU na SCHUFA ya faɗaɗa Artikel 22 na GDPR zuwa ƙididdigar bashi da masu ba da bashi ke dogara da su sosai. A aikace: 'algoritm din ya yi' ba ta taɓa samun nasara a matsayin kariya ba, kuma shari'o'in suna nuna cewa alhakin yana ƙarshe ana ba da shi — ta hanyar masu kula, kotu, ko kwamitoci — lokacin da ba a rubuta shi a lokacin yanke shawara ba.
Menene ainihin abin da Dokar AI ta EU ke bukata, kuma a wane lokaci?
Dokar tana bisa ga haɗari. An haramta ayyukan da aka hana (kimanta zamantakewa, wasu amfani da bayanan jiki) tun daga Fabrairu 2025; an fara amfani da nau'ikan aikin AI na gaba ɗaya tun daga Agusta 2025; an fara amfani da ka'idojin bayyana da alamar abun ciki na AI tun daga Agusta 2026. Tsarin haɗari mai nauyi - rajistar atomatik, takardun fasaha, kulawar mutum, tantance daidaito, sa ido bayan kasuwa - yana rufe yankunan Annex III (aiki, bashi, ilimi, ayyuka masu mahimmanci, gudanar da doka da sauransu) kuma an jinkirta shi daga Agusta 2026 zuwa 2 ga Disamba, 2027 (Agusta 2028 don AI da aka haɗa cikin kayayyakin da aka tsara). Hukuncin tara mafi girma yana kaiwa €35 miliyan ko 7% na kudaden shiga na duniya na shekara.
Menene bambanci tsakanin bayyana AI da duba AI?
Fassarar bayani tana amsa 'me ya sa tsarin ya samar da wannan fitarwa?' — ta hanyar samfuran da za a iya fassara ko hanyoyin bayanai na bayan lokaci. Duba inganci tana amsa 'shin za mu iya tabbatar da cewa wannan takamaiman hukunci ya faru yadda muke cewa ya faru?' — wanda ke buƙatar a rubuta shigarwa, fitarwa, sigar samfur, da duk wani bincike na mutum a lokacin yanke hukunci, cikin hanyar da za a iya ganowa idan an canza. Tsarin na iya zama mai bayyana amma ba mai duba inganci ba (fassarorin da aka samar bisa buƙata daga samfurin da aka sake horarwa suna zama sake gina, ba rajista ba) da kuma mai duba inganci amma ba mai bayyana ba (duk abin da aka rubuta, babu abin da za a iya fassara). Alhakin shine tambaya ta uku, daban: wane mutum ne aka ambata don amsa hukuncin. Cika gibin yana buƙatar dukkan su uku.
Menene mafi kyawun shaidar shari'o'in da ke nuna gibin alhakin AI yana haifar da lahani?
Matsalar tallafin kula da yara na Dutch: wani algorithm na haɗarin hukumomin haraji da ke amfani da ƙabilanci a matsayin alamar zamba ya haifar da kusan iyaye 35,000 da aka bi su ba daidai ba don zamba; gwamnatin ta yi murabus a watan Janairu 2021 kuma hukumar haraji ta Dutch ta tara hukumar haraji €2.75 miliyan. Robodebt na Australia: ƙididdigar samun kuɗi ta atomatik ta haifar da bashin tallafi na doka a cikin manyan adadi; Kwamitin Sarauta na 2023 ya kira shi 'hanyar da ba ta da kyau kuma mai zalunci, ba ta dace ba ko doka.' Wells Fargo: kuskuren lissafin kayan gyara (2010–2018) ya hana kusan gyare-gyare 870 na mortgage da ya haifar da 545 na fitar da gida. Kuma a ɓangaren kasuwanci, Zillow ta rufe kasuwancin sayen gida na algorithmic a 2021 bayan ta yi kusan $304M na ragin kudi na kwata. Babu ɗayan waɗannan da suka buƙaci AI mai ƙirƙira na zamani — kawai yanke shawara ta atomatik wanda ba wanda ya mallake.
Ta yaya kungiyoyi ya kamata su shirya yanzu, la'akari da cewa an matsa wa lokacin haɗari mai yawa zuwa 2027?
Yi amfani da karin lokacin don tsari, ba jinkiri ba. Matakai uku: (1) Yi nazari kan inda fitar AI ke shafar manyan shawara — game da mutane, kudi, ko dabaru — ba tare da la'akari da ko sun kai jerin hadarin babban hadari na dokar AI ta EU ba. (2) Sanya hukuncin mutum mai suna a kan kowanne: abin da tsarin ya ba da shawara, abin da mutum ya yanke shawara, dalilin — an rubuta shi a lokacin yanke shawara. (3) Gina hanyar a cikin aikin maimakon kewaye shi, don haka rajistar ta zama samfurin yanke shawara, ba mataki na kari da mutane ke tsallakewa ba. Sake gina alhakin bayan wani lamari yana nufin sake gina tunani wanda babu wanda ya rubuta; yin rajista yayin da kake tafiya yana kusa da kyauta.
Rufe tazara kafin wani ya auna ta.
Tsarin hujjoji, mai yanke hukunci da aka ambata, da kuma dalilin da aka rubuta akan kowace shawara da aka taimaka da AI — alhakin ta hanyar gini, ba ta hanyar bindiga ba.
Game da Argumentree Team
AI Ethics & Governance
The Argumentree team is building the collaborative decision-making platform Argumentree. Our mission is to transform how organizations make, document, and learn from decisions.
Littattafan da suka shafi wannan
Shiga tattaunawar
Wane ne ya kamata ya amsa idan algorithm ta yi kuskure — mai sayarwa, mai amfani, ko mutumin da ya danna karɓa? Yi hujja a cikin al'umma.
Tattauna a shafin Argumentree Forum