根據(jù)人權(quán)觀察組織（Human Rights Watch）日前公布的一項(xiàng)調(diào)查，世界銀行資助的一種用于確定哪些家庭應(yīng)該在約旦獲得經(jīng)濟(jì)援助的算法，可能將符合條件的人排除在外。

這個(gè)名為 Takaful 的算法系統(tǒng)使用一種保密的計(jì)算方法，對(duì) 57 個(gè)社會(huì)經(jīng)濟(jì)指標(biāo)進(jìn)行加權(quán)，將申請(qǐng)?jiān)募彝グ凑肇毨С潭扰琶?。然而，申?qǐng)人表示，這種計(jì)算方法并不能反映現(xiàn)實(shí)情況，而且過于簡(jiǎn)單化了人們的經(jīng)濟(jì)狀況，有時(shí)是不準(zhǔn)確或不公平的。Takaful 已經(jīng)花費(fèi)了 10 多億美元，世界銀行正在為中東和非洲的其他八個(gè)國(guó)家的類似項(xiàng)目提供資金。

(資料圖片僅供參考)

（來源：HUMAN RIGHTS WATCH）

人權(quán)觀察發(fā)現(xiàn)了算法系統(tǒng)的幾個(gè)根本問題，這些問題導(dǎo)致了偏見和不準(zhǔn)確。例如，申請(qǐng)人被問及他們消耗了多少水和電，這是進(jìn)入排名系統(tǒng)的兩個(gè)指標(biāo)。

該報(bào)告的作者得出結(jié)論，這些不一定是可靠的貧困指標(biāo)。一些接受采訪的家庭認(rèn)為，他們擁有一輛車的情況影響了他們的排名，即使這輛車很舊、是上班交通所必需的。

報(bào)告寫道，“這種統(tǒng)計(jì)客觀性的外表掩蓋了一個(gè)更復(fù)雜的現(xiàn)實(shí)：人們所承受的經(jīng)濟(jì)壓力和他們所處的困境往往是算法看不到的?！?

報(bào)告援引阿卜杜勒哈馬德（Abdelhamad）的話說：“所問的問題并沒有反映出我們所處的現(xiàn)實(shí)?！彼莾蓚€(gè)孩子的父親，每月收入僅有 250 第納爾（353 美元），生活入不敷出。

Takaful 還用帶有性別歧視的法律法規(guī)強(qiáng)化了已有的性別歧視狀況?，F(xiàn)金援助只提供給約旦公民，同時(shí)算法考慮的一個(gè)指標(biāo)是家庭規(guī)模，而與非公民結(jié)婚的約旦男子可以將公民身份傳給配偶，但反過來約旦女性不能。對(duì)于這些女性來說，這導(dǎo)致可報(bào)告的家庭規(guī)模較小，使她們不太可能獲得援助。

該報(bào)告基于人權(quán)觀察在過去兩年中進(jìn)行的 70 次采訪，而不是定量評(píng)估，因?yàn)槭澜玢y行和約旦政府沒有公開披露 57 項(xiàng)指標(biāo)的清單、指標(biāo)的加權(quán)明細(xì)，也沒有公開有關(guān)算法決策的全面數(shù)據(jù)。

人權(quán)觀察的人工智能和人權(quán)研究員、該報(bào)告的作者阿莫斯·托（）表示，這些發(fā)現(xiàn)表明對(duì)于使用算法決策的政府項(xiàng)目來說，有必要提高它的透明度。許多受訪家庭對(duì)排名方法表示不信任和困惑。他說：“約旦政府有責(zé)任讓其更加透明。”

人工智能倫理和公平的研究人員呼吁對(duì)福利系統(tǒng)中越來越多的算法進(jìn)行更多的審查。美國(guó)紐約大學(xué)教授梅雷迪思·布魯薩德（）說：“當(dāng)你開始為這個(gè)特定的目的構(gòu)建算法，以決定誰有權(quán)獲得時(shí)，總是會(huì)發(fā)生需要幫助的人被排除在外的情況?！?

她說：“這似乎是又一個(gè)糟糕設(shè)計(jì)的例子，它最終限制了最需要援助的人獲得援助?！?

世界銀行資助了該項(xiàng)目，該項(xiàng)目由約旦國(guó)家援助基金管理，該基金是政府的一個(gè)社會(huì)保護(hù)機(jī)構(gòu)。針對(duì)該報(bào)告，世界銀行表示，計(jì)劃于 2023 年 7 月發(fā)布有關(guān) Takaful 計(jì)劃的更多信息，并重申其“致力于推進(jìn)普遍社會(huì)保障的實(shí)施，并努力確保所有人都能獲得社會(huì)保障?！?

該組織鼓勵(lì)在 Takaful 等涉及資金的項(xiàng)目中使用數(shù)據(jù)技術(shù)，稱其提高了成本效益，提高了分配的公平性。

支持：Ren

排版：朵克斯

關(guān)鍵詞：