有些人即使沒有負面的行為紀錄,卻還是有負面的分數

整理撰文|陳廷彥、林冠廷

看起來很公平的信用評分,背後卻暗藏偏見!

Photo credit by Open Knowledge foundation

德國開放知識基金會在今年二月推出「OpenSCHUFA」計畫,要透過資料分析,來查核德國信用評級機構 SCHUFA 的信用評分是否公平正確。推動十個月以來,這個計畫已經有初步成果,不但有超過 30000 萬筆針對 SCHUFA 的查核申請,也有 3000 人貢獻自己的信用評分資料。

1.經過初步分析,德國開放知識基金會發現了這個信用評分系統幾個嚴重的問題:有些人即使沒有負面的行為紀錄,卻還是有負面的分數,這意味著 SCHUFA 會把無辜的人標記為「高風險者」。

2. SCHUFA 聲稱資料準確,但實際上他們缺乏許多使用者的資料,有快四分之一的使用者的信用評分都只有不超過三份資料來佐證。

3. 年齡、性別等人口特質會影響信用評分,這使得 SCHUFA 隱含歧視的可能性。

4. 有些評分已經過時,但當機構拿到的是過去的評分,可能會造成偏見。

正因這些問題,德國開放知識基金會要求 SCHUFA 應進一步將評分機制公開,德國消費者諮詢事務委員會(SRVR)也提議他們應公開背後的演算法。

德州採用新平臺改善使用者線上體驗

screenshot by 德州政府官網

長期以來,美國德州政府提供國民的52項電子服務,存在著登入資訊分開存放的不便與風險。為了解決這個問題,德州決定導入中心化的「識別與存取管理」(identity and access management,簡稱IAM)系統,讓民眾登入一次就能查看所有相關服務的資訊。他們花了大約2個月修改第一套電子服務以支援IAM,接下來再花幾週就能把後續工作完成。

房東壞壞,房客怎辦?

Photo credit by Heat seek twitter

紐約的包租婆、包租公數量不少,其中有一群人擁有許多品質不佳的房產,卻用不同公司的名義,讓房客很難找到其他受害者,並組織起來。曾在布魯克林租屋受了一肚子氣得 Dan Kass,決定開發 Who Owns What 資料庫,除了揭露壞房東擁有的房產,也收集各種違規行為,甚至是驅逐住戶的紀錄,讓這些破壞居住正義的人無所遁形。該團隊也曾參與過美國 Civic Hall 的活動。

補習太貴,印度網路公司出招媒合教師與學生

Photo credit by Vedantu

印度是補習大國,以德里為例,無論公私立學校的學童,均有 61% 至 69% 不等的補習率。不過昂貴的補習班一年要花費 600 到 800 美元買家教服務、以及超過 1500 美元的測驗準備費。因此隨著網路變便宜,一群從印度理工學院畢業的教師組成了名為 Vedantu 的團隊,專門在線上以低價、高品質媒合學生與老師,現在已經有萬餘名學生受益。

Google辦活動消除AI的種族偏見

Photo credit by Philippe Santini , (CC BY-NC-SA 2.0)

你可能知道,人工智慧的機器學習透過大量樣本讓電腦變得更聰明。但也因為收集樣本的人往往來自特定西方背景,因此被這群人訓練出來的人工智慧自然存有文化偏見。Google 認為,除了收集更多樣的資料以外,機器學習的演算法也應該調整。因此他們與神經資訊處理系統(NeurIPS)研討會合作舉辦競賽,鼓勵全世界投稿照片來讓機器辨認,並讓上百組參與系統試圖辨認穿著印度紗麗的新娘服,而不只是穿白紗的西方式新娘服。雖然前五名的成果中只有一組能成功辨認,但至少是邁向平等的一小步。


本文章授權條款為以下:
文章發佈 48 小時內,採創用 CC BY-NC-ND (姓名標示-非商業性-禁止改作) 3.0 台灣。
文章發佈 48 小時後,採創用 CC BY (姓名標示) 3.0 台灣。

發表迴響

在下方填入你的資料或按右方圖示以社群網站登入:

WordPress.com 標誌

您的留言將使用 WordPress.com 帳號。 登出 /  變更 )

Google photo

您的留言將使用 Google 帳號。 登出 /  變更 )

Twitter picture

您的留言將使用 Twitter 帳號。 登出 /  變更 )

Facebook照片

您的留言將使用 Facebook 帳號。 登出 /  變更 )

連結到 %s

This site uses Akismet to reduce spam. Learn how your comment data is processed.