消弭不當言論或侵權審查發言，爭議性服務你怎麼看？

整理撰文｜陳廷彥、林冠廷 － 編輯 | 耿璐、郭景晏

涵蓋全球200地區、95種語言，仇恨言論資料庫能讓歧視無所遁形？

隨著社群媒體盛行，仇恨言論在各平台間造成的影響則越被關注。位於加拿大的「仇恨資料庫」（Hatebase），即是將分析各地區仇恨言論，並售出資料庫給無技術能力的單位為主要業務的公司。他們利用 Twitter 等社群媒體資訊，將仇恨言論送至自然語言處理程式「仇恨腦」（Hatebrain）解析，透過大量累積的資訊，就能偵測其它貼文是否為仇恨言論，進而達到抑止歧視、網路霸凌的效果。抖音的國際版 TikTok 就購買了這樣的服務，可以即時判斷內容並刪文，避免成為仇恨溫床而遭到裁罰。對於非營利組織與學術用途，Hatebase 甚至不用錢。

不過這種服務一向存在疑慮——內容審查或許會對人民言論自由造成損害，並可能誤判，在不同地區同一句話亦有不同意思；同時，上網收集語料，也可能侵害民眾隱私。Hatebase 的應對方案是請志願者協助檢視資料庫內容，並提出意見。但此方法的效果，仍要看志願者的組成是否足夠多元來決定。

搶當「老大哥」！監控技術「先進」的中國不甘寂寞，協助中亞政府破壞人民隱私

中國政府與某些企業以製造監控科技聞名。這些技術可以輔助該國的「信用評分」系統，對每個國民打分數，好讓民眾服從政府。據報，某些中國企業正大量輸出其監控商品至中亞地區，如：中國電子進出口有限公司（Chinese National Electronics Import & Export Corporation），正免費贈送其開發應用於新疆的臉部識別技術產品給吉爾吉斯。當地民眾在接受 Eurasianet （關注中亞地區新聞的媒體平台）的採訪中指出，不希望處處受到監控。此外，烏茲別克則遭到政黨色彩濃厚的華為公司暗示，要接受監視系統才能獲得中國投資。
同是監控系統「死忠用戶」，在新疆邊界另一側的塔吉克，則被政府要求，凡擁有手機門號的民眾都得交出姓名、地址、指紋、血型，才能換取新的身分證明文件。沒人知道這個政策與中國是否又有千絲萬縷的關係。這幾個中亞國家的臉部資料，目前則不確定儲存於何處，但技術上確實可能保存在中國伺服器中。

利用AI、太陽能、生物技術，「綠色女孩組織」讓女性培力女性改善環保

「綠色女孩組織」（Green Girls Organisation）甫獲得 Visa 公司的社會影響挑戰（Social Impact Challenge）比賽之 10 萬美元獎金，這個組織使用名為「MNKB92」的演算法計算能源策略，培訓撒哈拉以南非洲地區的女性組裝、銷售太陽能燈，並建置生物技術系統，讓各地可以分解甲烷用以烹飪，或是當作肥料。

受培力的女性可以免費索取原料製作太陽能燈或甲烷，只要將營收 40% 回饋組織即可。這個計畫不止環保，還幫助許多村莊獲得足夠照明、提高識字率 70%；女性也不再需要冒著風險進入森林尋找柴火來燒；且在改善女性 / 兒童因烹飪生火而受傷、或吸入廢氣產生肺部疾病等健康方面幾乎立即見效。

音樂家要求演唱會公司停止使用臉部辨識技術取代票券

「討伐體制」（Rage Against the Machine）樂團前成員 Tom Morello，以及樂團 Speedy Ortiz 宣布加入數位權利倡議活動「為未來而戰」（Fight for the Future）。這個倡議活動的背景是售票網站「Ticketmaster」的母公司 Live Nation 於 5 月宣布，和「閃爍識別」（Blink Identity）合作，要用臉部辨識取代現場音樂表演中的票券。雖然確實可以省下很多時間，但 Tom Morello 質疑這是「老大哥式」的舉動，會對樂迷帶來隱私風險。
「閃爍識別」於 2018 年曾經利用在泰勒絲的演唱會，搜尋樂迷中的已知跟蹤者；也曾經拿來在張學友的中國演唱會中逮捕經濟犯罪者。倫敦警察局也承認，「閃爍識別」技術的資料庫曾經用來發展該局的臉部識別系統。

司法引入演算法更公平？肯塔基州演算法系統強化種族不平等

2011 年，肯塔基州立法院引進演算法，藉由計算不出庭或再犯的「風險分數」（risk score），判斷被告是否需要現金交保，還是可以直接回家等待審判。他們期待，無人為介入評估的「風險分數」較為客觀，且可以降低美國監獄的關押人數，也減輕政府的開銷。

結果幾年下來，不但關押人數減少的幅度沒有很大，不平等的情況還加強了——白人有超過 35% 的機率獲得無保釋放，而黑人只有約 25%。這可能是因為法官對於演算法建議結果的採納程度不一，有高達三分之二的演算法建議都被推翻，也在這過程中引入了種族、社會階級、貧富差異等偏見，致使判斷結果失去公平性。

---

本文章授權條款為以下：
文章發佈 48 小時內，採創用 CC BY-NC-ND (姓名標示-非商業性-禁止改作) 3.0 台灣。
文章發佈 48 小時後，採創用 CC BY (姓名標示) 3.0 台灣。