AI 技術拋棄貧困者，政府要怎麼亡羊補牢？

文／林冠廷 (OCF Lab)

世界各地吹起數位政府的風潮，看似提升了效率，卻同時加劇數位落差造成的資源分配不均。印度政府在福利制度引進 AI，卻沒有考慮低收入戶難以使用線上服務的困境，釀成多起悲劇。

圖片來源：Photo by **Jonathan Kho** on Unsplash

2019 年 5 月 22 日，一名窮人因為無法獲得低收補貼，而飢餓枉死，在13億人口的印度引起輿論譁然。

50 歲的 Motka Manjhi 被妻子 Alabati Dev i與鄰居發現倒在位於加爾克漢德邦（Jharkhand）的自家門口，救護車緊急出動救人，最後仍回天乏術。

印度政府並沒有指出死因，但家人相信 Manjhi 是因為飢餓而死。Devi 回憶道：「他求職回來後說道：『不給我食物，我就會死，』」

在事後的調查中，媒體發現 Manjhi 和 Dev i身為全國成千上萬低收入戶之一，卻沒有領到應得的補給。Devi 甚至從1月就開始沒收到政府津貼，中間至少一季的空窗期，間接導致無病無痛的 Manjhi 連飯都吃不起。

Manjhi 一家為何無法領取賴以維生的補貼？答案是「系統因素」。

政府推出新的便捷科技方案，卻大幅增加福利制度使用門檻?

英國《衛報》指出，印度政府在 2009 年推出全世界最大的生物識別系統 Aadhaar 後，隨著政策推廣，所有領受補助的居民都要按捺指紋，連結到 12 碼身分證字號的 Aadhaar 系統，確認福利身分。

Manjhi 在配給站想要驗明正身，卻被告知指紋沒有登錄在系統中，而要求他進行「線上更新」。這對 Manjhi 來說並不容易，他得拖著飢腸轆轆的身體，花費大約一天路程來回村外的服務中心，而且因為網路時常斷線，Manjhi 還不見得可以「更新」成功。

原本信誓旦旦將為福利制度帶來革新、效率，防範詐欺的印度政府，卻沒有考慮居民最基本的生存環境，而這絕非個案。

20 世紀末期，各國政府紛紛擁抱新自由主義，打著自由市場大旗，開始將政府福利機制私有、民營化，拋棄政府認為無用的預算開支，將負擔不起商業服務的窮人拋棄在福利政策之外。

到了 21 世紀，政府對於效率的癡迷進入新的層次。Manjhi 的案例則揭示了各地政府的新政策趨勢：政府祭出 AI、演算法、大數據，這些新型科技加快了政府施政速度，也順便將使用不起科技工具的窮人徹底地隔絕在國家服務之外。光是加爾克漢德邦，就至少有 13 人因此餓死，其中一名罹難者甚至是 11 歲的幼童。

新時代新產物：數位貧民窟

《衛報》在一系列「貧窮自動化」的報導中，引述了美國政治學者　Virginia Eubanks　的評價，批評此現象造就了「數位貧民窟」（the digital poorhouse）。

不只是印度，美國、英國、澳洲等高收入國家同樣無情。他們為了提升「效率」與「透明度」，也為了省錢，紛紛引入各種科技，一方面利用 AI 快速決定居民能否領取福利，一方面將福利窗口換成冰冷、沒有轉圜餘地的電子螢幕。

在數位貧民窟裡面，失業救濟金、扶養津貼、住宅與糧食補助核准與否，往往是窮困者命懸一線的關鍵。而他們能否生存，卻由人工智慧與演算法逕行裁決；居民不再有機會跟公務員交談，電腦變成風險社會的守門員，試圖精算財務、定義效率。

此外，人類的刻板印象與偏誤，也被帶進 AI。科技巨頭對弱勢族群存在歧視的人工智慧技術已經惹出不少批評，例如亞馬遜就在自家求職系統中使用了帶有偏見的演算法，遇到「女人的」一詞就自動扣分。相關研究、開發資源不如科技公司的國家，其政府卻仍無視缺陷，繼續推動 AI 方案。

政府不只用 AI 發放福利，也用 AI 向人民收錢。美國伊利諾州政府與聯邦政府開始共同偵測「超領」福利的居民，並向他們追討久達 30 年的溢領款項。

臺灣推動人工智慧政策的速度雖然不及國外積極，但也開始利用 AI 裁罰污染企業，開罰金額超過 2300 萬元。行政院科技會報在5月中向媒體宣傳，強調人工智慧是「邁向智慧國家」的關鍵，但對於臺灣是否會邁向歧視國家，則尚未有相關說明。

如何避免數位場域成為階級再製的修羅場？

各種服務數位化，除了服務本身的歧視外，還存在著當代資本社會中，消費者科技的長久不平等：不是所有人都能平等地接觸這些服務。

英國公民科技組織 mySociety 幾年前推出了「寫信給他們」（WriteToThem）服務，讓民眾可以直接利用網站輕鬆聯繫議員或其他政府代表。

mySociety 在10月22日發表了一篇報告，指出「寫信給他們」確實提升貧困地區與政府溝通的郵件數量，但在比例上仍然無法與貧窮人口相比。在 2018 年，55%「寫信給他們」的信件則是男性寄出，代表女性使用率仍然不足。

新自由主義下社會安全網的空缺，以及長期無解的階級問題，往往由非營利組織試圖填補，但仍有不足。男性與女性在社會中的資本基礎原本就有嚴重落差，新工具卻只能讓落差加劇的速度變慢。

數位服務沒有統計到的指標，則有更多弱勢者藏身在黑數之中。例如讀不懂網站介面的居民、買不起電腦或手機的居民、難以使用科技設備的身障者，他們發聲的管道直接被科技隔絕，與社會服務的關係也相對其他居民來得更遠。

身為推動數位服務的主力，多數政府缺乏配套措施，理應負起責任彌補。愛沙尼亞是臺灣政府推動數位服務的典範國家，早在 2000 年通過法案宣布網路是基本人權。

除了讓民眾有資源使用數位服務，也要保障民眾有選擇不使用新科技的權利。舊金山在今年中就通過新規定，要求所有商店都要收現金，讓基本民生消費不是辦得起信用卡、買得起行動支付裝備者的專利。

根據調查，臺灣在 2018 年的曾經上網率是 82.1%，代表 12 歲以上仍有17.9%民眾沒有上網的習慣。而即使是多數上過網的民眾，也不見得有能力順暢連接各項數位服務，或是在日後遭到 AI 侵害權利時自我救濟。臺灣與世界各國在科技普及的同時，推動新政策必須三思而後行，才不會再有下一位因數位福利系統問題而枉死的 Manjhi。

參考資料

本文章授權條款為以下：
文章發佈 48 小時內，採創用 CC BY-NC-ND (姓名標示-非商業性-禁止改作) 3.0 台灣。
文章發佈 48 小時後，採創用 CC BY (姓名標示) 3.0 台灣。

※本文章為 OCF Lab 與《天下》雜誌合作的專欄：駭！公民，同步刊載於《天下》雜誌網站，標題和前言與《天下》刊出版本略有不同。