有些人即使沒有負面的行為紀錄，卻還是有負面的分數
整理撰文｜陳廷彥、林冠廷
看起來很公平的信用評分，背後卻暗藏偏見！
德國開放知識基金會在今年二月推出「OpenSCHUFA」計畫，要透過資料分析，來查核德國信用評級機構 SCHUFA 的信用評分是否公平正確。推動十個月以來，這個計畫已經有初步成果，不但有超過 30000 萬筆針對 SCHUFA 的查核申請，也有 3000 人貢獻自己的信用評分資料。
1.經過初步分析，德國開放知識基金會發現了這個信用評分系統幾個嚴重的問題：有些人即使沒有負面的行為紀錄，卻還是有負面的分數，這意味著 SCHUFA 會把無辜的人標記為「高風險者」。
2. SCHUFA 聲稱資料準確，但實際上他們缺乏許多使用者的資料，有快四分之一的使用者的信用評分都只有不超過三份資料來佐證。
3. 年齡、性別等人口特質會影響信用評分，這使得 SCHUFA 隱含歧視的可能性。
4. 有些評分已經過時，但當機構拿到的是過去的評分，可能會造成偏見。
正因這些問題，德國開放知識基金會要求 SCHUFA 應進一步將評分機制公開，德國消費者諮詢事務委員會（SRVR）也提議他們應公開背後的演算法。
德州採用新平臺改善使用者線上體驗
長期以來，美國德州政府提供國民的52項電子服務，存在著登入資訊分開存放的不便與風險。為了解決這個問題，德州決定導入中心化的「識別與存取管理」（identity and access management，簡稱IAM）系統，讓民眾登入一次就能查看所有相關服務的資訊。他們花了大約2個月修改第一套電子服務以支援IAM，接下來再花幾週就能把後續工作完成。
房東壞壞，房客怎辦？
紐約的包租婆、包租公數量不少，其中有一群人擁有許多品質不佳的房產，卻用不同公司的名義，讓房客很難找到其他受害者，並組織起來。曾在布魯克林租屋受了一肚子氣得 Dan Kass，決定開發 Who Owns What 資料庫，除了揭露壞房東擁有的房產，也收集各種違規行為，甚至是驅逐住戶的紀錄，讓這些破壞居住正義的人無所遁形。該團隊也曾參與過美國 Civic Hall 的活動。
補習太貴，印度網路公司出招媒合教師與學生
印度是補習大國，以德里為例，無論公私立學校的學童，均有 61% 至 69% 不等的補習率。不過昂貴的補習班一年要花費 600 到 800 美元買家教服務、以及超過 1500 美元的測驗準備費。因此隨著網路變便宜，一群從印度理工學院畢業的教師組成了名為 Vedantu 的團隊，專門在線上以低價、高品質媒合學生與老師，現在已經有萬餘名學生受益。
Google辦活動消除AI的種族偏見
你可能知道，人工智慧的機器學習透過大量樣本讓電腦變得更聰明。但也因為收集樣本的人往往來自特定西方背景，因此被這群人訓練出來的人工智慧自然存有文化偏見。Google 認為，除了收集更多樣的資料以外，機器學習的演算法也應該調整。因此他們與神經資訊處理系統（NeurIPS）研討會合作舉辦競賽，鼓勵全世界投稿照片來讓機器辨認，並讓上百組參與系統試圖辨認穿著印度紗麗的新娘服，而不只是穿白紗的西方式新娘服。雖然前五名的成果中只有一組能成功辨認，但至少是邁向平等的一小步。
本文章授權條款為以下：
文章發佈 48 小時內，採創用 CC BY-NC-ND (姓名標示-非商業性-禁止改作) 3.0 台灣。
文章發佈 48 小時後，採創用 CC BY (姓名標示) 3.0 台灣。
OCF Lab 開放實驗室 