Pengo la Uwajibikaji wa AI: Wakati Algorithimu Zinapofanya Makosa ya Milioni ya Dola, Nani Anawajibika?

Mnamo Januari 2021, serikali ya Uholanzi ilijiuzulu. Si kwa sababu ya vita au udanganyifu — bali kwa sababu ya algorithimu. Mfumo wa alama za hatari wa utawala wa ushuru kwa manufaa ya huduma za watoto ulikuwa ukitafsiri utaifa kama kiashiria cha udanganyifu, na karibu wazazi 35,000 — hasa familia zenye utaifa wa pande mbili au zisizo za Uholanzi — walitambulika vibaya kama wadanganyifu, wakagizwa kulipa maelfu ya euro, na kusukumwa katika deni, talaka, na kupoteza makazi. Kwa wazazi zaidi ya watoto 2,000, mfuatano huo ulimalizika kwa watoto kuchukuliwa kwa malezi.

Hapa kuna maelezo yanayofanya toeslagenaffaire kuwa kesi ya msingi ya uwajibikaji wa AI: kwa miaka, hakuna mtu ambaye angeweza kuashiriwa. Wazazi waliokumbwa na athari hawakuweza kujua ni kwa nini walitambuliwa. Wafanyakazi wa kesi walikubali mfumo. Mfumo huo haukuwa na mwandishi wa kujibu kwa ajili yake. Wakati mamlaka ya ulinzi wa data ya Uholanzi hatimaye ilipomfunga utawala wa ushuru €2.75 milioni, milioni moja ilikuwa kwa kitendo kimoja maalum — kutumia utaifa kama kiashiria katika mfano wa uainishaji wa hatari.

Nafasi hiyo — kati ya uamuzi wa algorithimu na mtu yeyote ambaye anaweza kujibu kwa ajili yake — ni pengo la uwajibikaji wa AI. Chapisho hili linahusu kile kinachojaza pengo hilo: majanga yaliyoandikwa, kushindwa kwa aina tatu tofauti zinazofichwa ndani ya pengo hilo, sheria zinazokusanyika sasa kwenye hitaji sawa kutoka Brussels hadi New York, na suluhisho la kimuundo ambalo halisubiri msimamizi.

Makosa hayakuwa ya dhana kamwe.

Ushahidi wenye nguvu zaidi kwamba maamuzi ya kiotomatiki yasiyo na uwajibikaji yanaweza kukosea ni kwamba tayari yamekosea — mara kwa mara, kwa gharama kubwa, na hasa kabla ya wimbi la AI la leo. Kesi nne zilizorekodiwa, kila moja ikiwa na somo tofauti:

Tazama kile ambacho vinne vinafanana. Katika kila moja, mchakato wa uamuzi ulikuwa wa kiotomatiki; matokeo yaligonga watu au kwenye ripoti ya fedha; na shirika lilikumbana na changamoto baadaye kuonyesha nani alikuwa amehukumu nini, kwa msingi gani. Mifano zilikuwa tofauti, kushindwa kulikuwa sawa — na hakuna hata moja ilihitaji mfano mkubwa wa lugha. Kile ambacho AI ya leo inabadilisha ni tu kiasi na ufasaha wa mapendekezo yanayoingia kwenye maamuzi.

Mshindo tatu unafichwa ndani ya pengo

"Uwajibikaji wa AI" unatumika kama neno moja, lakini waangalizi wanachukulia kama maswali matatu tofauti — na shirika linaweza kufaulu moja huku likishindwa mengine. Kuyachanganya ni gharama kubwa.

Ufafanuzi unajibu kwa nini mfumo ulitoa matokeo haya? Vifaa vya kisasa vinaweza kuunda maelezo ya baada ya tukio — attributions za kipengele, umuhimu, sababu za lugha ya asili. Ni muhimu, lakini ufafanuzi wa jumla ("mfano kwa ujumla unatoa uzito mkubwa kwa mapato") si jibu kuhusu mwanakandarasi huyu kwenye tarehe hii — ambayo ndiyo inahitajiwa na sheria za hatua mbaya na haki za maelezo.

Uthibitishaji unajibu je, unaweza kuthibitisha jinsi uamuzi huu maalum ulivyotokea? Maelezo yanayotolewa kwa ombi, miezi baadaye, kutoka kwa mfano ambao tangu wakati huo umefundishwa upya, ni upyaishaji — si rekodi. Tofauti kati ya rekodi ya wakati huo na uhalalishaji wa baada ya tukio ni tofauti kati ya ushahidi na hadithi. Uthibitishaji unamaanisha kuwa ingizo, matokeo, toleo la mfano, na ukaguzi wowote wa kibinadamu vilikamatwa wakati wa uamuzi na haviwezi kubadilishwa kimya kimya baadaye.

Uwajibikaji unajibu nani binadamu anayehusika? Hii ni moja ambayo hakuna kiasi cha zana kinachoweza kuunda baada ya ukweli. Ikiwa jibu la kweli kwa "nani aliamua?" ni "mfano," shirika limehamasisha hukumu ambayo hakuna anayeimiliki — na wakati madhara yanajitokeza, uwajibikaji unateuliwa hata hivyo, na mdhibiti, mahakama, au Tume ya Kifalme, kwa masharti yao badala ya yako. Msururu wa rekodi inayojibu maswali yote matatu ni mada yake mwenyewe — tunatembea nayo uwanja kwa uwanja katika mchakato wa ukaguzi wa maamuzi ya AI.

Sheria zinakutana kwenye hitaji sawa.

Mandhari ya udhibiti kwa kweli iko katika mchakato — ikiwa ni pamoja na mabadiliko makubwa ya tarehe mwaka 2026 — lakini mwelekeo ni wa upande mmoja: maamuzi ya kiotomatiki yenye matokeo lazima yaweze kufuatiliwa hadi kwenye mantiki iliyorekodiwa na usimamizi wa kibinadamu. Katika EU, Sheria ya AI inachukua mtazamo wa msingi wa hatari: marufuku kamili zimeanza kutumika tangu Februari 2025 na wajibu wa AI wa matumizi ya jumla tangu Agosti 2025, wakati wajibu mzito kwa mifumo ya "hatari kubwa" (orodha ya Annex III inajumuisha ajira, mikopo, elimu, huduma muhimu, utekelezaji wa sheria na zaidi) — urekodi, nyaraka za kiufundi, usimamizi wa kibinadamu, tathmini ya ufanisi — zilicheleweshwa na Digital Omnibus ya mwaka 2026 hadi Desemba 2, 2027 (Agosti 2028 kwa AI iliyojumuishwa katika bidhaa zilizosimamiwa). Adhabu katika kiwango cha juu zinafikia €35 milioni au 7% ya mapato ya kimataifa.

EU haikuanzisha hapo, ingawa. GDPR Kifungu cha 22 kimepunguza maamuzi yaliyofanywa kiotomatiki pekee yenye athari za kisheria au zinazofanana tangu 2018 — na katika hukumu ya SCHUFA (Desemba 2023), Mahakama ya Haki ilitawala kwamba alama ya wakala wa mikopo ni maamuzi kama hayo ya kiotomatiki wakati wakopeshaji wanategemea sana. Mipaka ya "utengenezaji wa maamuzi kiotomatiki" ni pana zaidi kuliko ilivyodhaniwa na timu nyingi za ufuatiliaji.

Marekani inasimamia kwa sekta, na ujumbe unalingana. Mzunguko wa CFPB wa 2022-03 unasema kwamba mahitaji ya hatua mbaya ya ECOA hayawezi kubadilishwa kwa sababu ya ugumu: mkopeshaji ambaye hawezi kutoa sababu maalum na sahihi za kukataliwa hawezi kutumia algorithimu inayofanya sababu hizo zisijulikane. Sheria ya Local Law 144 ya Jiji la New York inahitaji ukaguzi wa upendeleo wa kila mwaka na taarifa kwa wagombea kwa zana za kuajiri za kiotomatiki. Na shinikizo lina msingi wa ushahidi: uchambuzi wa The Markup wa mwaka 2021 wa maombi milioni ya mkopo wa nyumba — ukishikilia mambo 17 ya underwriting kuwa thabiti — uligundua kuwa wakopeshaji walikuwa na uwezekano wa 40–80% kukataa waombaji wa rangi kuliko waombaji wa kibaguzi, matokeo ambayo mashirika ya shirikisho yalitaja walipoanzisha utekelezaji mpya wa mikopo ya haki. Mifumo kama hiyo ndiyo hasa ambayo njia ya ukaguzi inakusudia kuibua ndani, kabla ya chumba cha habari cha uchunguzi au mdhibiti kuibua kwako.

Hii si tatizo kwa benki na serikali, si kwetu?

Sehemu fulani ya ukweli, na inafaa kuwa sahihi kuhusu hilo. Maamuzi mengi ya kibiashara yanayofanywa kwa msaada wa AI — chaguo la mkakati, uchaguzi wa muuzaji, uamuzi wa bidhaa — hayako karibu na orodha ya hatari kubwa ya Sheria ya AI ya EU, na wajibu mzito zaidi wa Sheria hiyo sasa hauwafungii mtu yeyote hadi mwishoni mwa mwaka wa 2027. Ikiwa sababu yako pekee ya kujali ni sheria, una muda.

Lakini angalia orodha ya kesi: kila janga katika hiyo lilitokea kabla ya sheria ambazo sasa zinashughulikia hilo. Kanuni hiyo iko chini ya madhara, na madhara hayo hayakuhitaji kipengele cha utii — yalihitaji hukumu ya kiotomatiki ambayo hakuna aliyeimiliki. Kiwango halisi kwa shirika la kawaida si faini; ni wakati mteja, mwanachama wa bodi, au uchambuzi wako wa baada ya kifo unapohoji "kwa nini tuliamua hivi?" na jibu lililo kwenye faili ni alama ya kujiamini ya mfano. Uwajibikaji ni rahisi kurekodi wakati wa uamuzi na haiwezekani kuijenga tena kwa uaminifu baadaye — asimetria hiyo, si kalenda ya utekelezaji, ndiyo hoja ya kuanza sasa.

Kufunga pengo: hukumu iliyopewa jina juu ya kila uamuzi wenye matokeo

Suluhisho si kidogo AI — mapendekezo ni ya kweli yanayofaa — na si jalada la utawala. Ni tabia ya kimuundo: kila uamuzi muhimu ulioathiriwa na AI unapata hukumu ya binadamu iliyopewa jina, iliyorekodiwa na sababu zake, wakati inafanywa. Mfumo ulipendekeza nini; mtu aliamua nini; kwa nini. Sehemu tatu, kwa uaminifu, zinakaribia kufunga pengo — zinatoa mada ya maelezo, rekodi ya ukaguzi, na jina la uwajibikaji. Uhandisi unaohusiana na hili — uhifadhi, urekodi, ushahidi wa kuingiliwa, maelezo maalum ya kisheria — ni mada ya kufuatilia maamuzi ya AI, sehemu ya tatu ya mfululizo huu.

Mahali Argumentree inafaa — na mahali ndugu yake inafaa

Argumentree inatekeleza kwa usahihi tabia hiyo kwa maamuzi yanayosaidiwa na AI na binadamu katika mchakato. AI inatoa na kuunda hoja na ushahidi kuhusu swali katika mti wa faida hasara — lakini watu wanapima, wanakanusha, na wanakadiria hoja hizo, na matokeo yanaandikwa pamoja na sababu zake. Matokeo ni rekodi ya maamuzi ambapo unaweza kila wakati kuona kile mashine ilichokitoa, kile binadamu walichokadiria, nani aliamua, na kwa nini — pengo la uwajibikaji limefungwa kwa ujenzi badala ya sera.

Wajibu haupotei. Unapewa tu baadaye, na mtu mwingine.

Wazazi wa Kiholanzi hatimaye walipata majibu — kutoka kwa uchunguzi wa bunge, mamlaka ya ulinzi wa data, na kujiuzulu kwa serikali. Waathirika wa Robodebt walipata yao kutoka kwa Tume ya Kifalme. Katika kila kesi, uwajibikaji ambao haukuwepo wakati wa maamuzi ulijengwa tena baadaye, kwa gharama kubwa, na taasisi zenye nguvu za kutaka taarifa na bila wajibu wa kuwa na huruma. Hiyo ndiyo chaguo halisi ambalo pengo la uwajibikaji linatoa: rekodi hukumu ya kibinadamu sasa, au acha mtu mwingine apange uwajibikaji baadaye.

Mashirika ambayo yatakuwa na faraja katika enzi ya utekelezaji inayokuja — na, muhimu zaidi, faraja na maamuzi yao wenyewe — ni yale yanayot treating kila uchaguzi wa AI unaosababisha kama wanavyotreat mkataba ulioandikwa: umeandikwa, umeelezwa, umewekwa tarehe, na uko kwenye rekodi. Mashine ya hilo si ya kigeni. Ni mchakato wa maamuzi ambapo AI inapendekeza, mtu aliyepewa jina anatoa uamuzi, na mantiki inabaki. (Mahali ambapo nidhamu hiyo inaelekea katika ngazi ya bodi — na kile ambacho sheria ya kesi imehitaji kila wakati — ni mada ya bodi ya wakurugenzi mwaka 2030.)