消弭不當言論或侵權審查發言,爭議性服務你怎麼看?

整理撰文|陳廷彥、林冠廷 - 編輯 | 耿璐、郭景晏

涵蓋全球200地區、95種語言,仇恨言論資料庫能讓歧視無所遁形?

Photo credit by Gerd Altmann on pixabay

隨著社群媒體盛行,仇恨言論在各平台間造成的影響則越被關注。位於加拿大的「仇恨資料庫」(Hatebase),即是將分析各地區仇恨言論,並售出資料庫給無技術能力的單位為主要業務的公司。他們利用 Twitter 等社群媒體資訊,將仇恨言論送至自然語言處理程式「仇恨腦」(Hatebrain)解析,透過大量累積的資訊,就能偵測其它貼文是否為仇恨言論,進而達到抑止歧視、網路霸凌的效果。抖音的國際版 TikTok 就購買了這樣的服務,可以即時判斷內容並刪文,避免成為仇恨溫床而遭到裁罰。對於非營利組織與學術用途,Hatebase 甚至不用錢。

不過這種服務一向存在疑慮——內容審查或許會對人民言論自由造成損害,並可能誤判,在不同地區同一句話亦有不同意思;同時,上網收集語料,也可能侵害民眾隱私。Hatebase 的應對方案是請志願者協助檢視資料庫內容,並提出意見。但此方法的效果,仍要看志願者的組成是否足夠多元來決定。

搶當「老大哥」!監控技術「先進」的中國不甘寂寞,協助中亞政府破壞人民隱私

Photo by Parker Coffman on Unsplash

中國政府與某些企業以製造監控科技聞名。這些技術可以輔助該國的「信用評分」系統,對每個國民打分數,好讓民眾服從政府。據報,某些中國企業正大量輸出其監控商品至中亞地區,如:中國電子進出口有限公司(Chinese National Electronics Import & Export Corporation),正免費贈送其開發應用於新疆的臉部識別技術產品給吉爾吉斯。當地民眾在接受 Eurasianet (關注中亞地區新聞的媒體平台)的採訪中指出,不希望處處受到監控。此外,烏茲別克則遭到政黨色彩濃厚的華為公司暗示,要接受監視系統才能獲得中國投資。
同是監控系統「死忠用戶」,在新疆邊界另一側的塔吉克,則被政府要求,凡擁有手機門號的民眾都得交出姓名、地址、指紋、血型,才能換取新的身分證明文件。沒人知道這個政策與中國是否又有千絲萬縷的關係。這幾個中亞國家的臉部資料,目前則不確定儲存於何處,但技術上確實可能保存在中國伺服器中。

利用AI、太陽能、生物技術,「綠色女孩組織」讓女性培力女性改善環保

Photo credit by rawpixel on pixabay

「綠色女孩組織」(Green Girls Organisation)甫獲得 Visa 公司的社會影響挑戰(Social Impact Challenge)比賽之 10 萬美元獎金,這個組織使用名為「MNKB92」的演算法計算能源策略,培訓撒哈拉以南非洲地區的女性組裝、銷售太陽能燈,並建置生物技術系統,讓各地可以分解甲烷用以烹飪,或是當作肥料。

受培力的女性可以免費索取原料製作太陽能燈或甲烷,只要將營收 40% 回饋組織即可。這個計畫不止環保,還幫助許多村莊獲得足夠照明、提高識字率 70%;女性也不再需要冒著風險進入森林尋找柴火來燒;且在改善女性 / 兒童因烹飪生火而受傷、或吸入廢氣產生肺部疾病等健康方面幾乎立即見效。

音樂家要求演唱會公司停止使用臉部辨識技術取代票券

Photo by Matthew Kalapuch on Unsplash

「討伐體制」(Rage Against the Machine)樂團前成員 Tom Morello,以及樂團 Speedy Ortiz 宣布加入數位權利倡議活動「為未來而戰」(Fight for the Future)。這個倡議活動的背景是售票網站「Ticketmaster」的母公司 Live Nation 於 5 月宣布,和「閃爍識別」(Blink Identity)合作,要用臉部辨識取代現場音樂表演中的票券。雖然確實可以省下很多時間,但 Tom Morello 質疑這是「老大哥式」的舉動,會對樂迷帶來隱私風險。
「閃爍識別」於 2018 年曾經利用在泰勒絲的演唱會,搜尋樂迷中的已知跟蹤者;也曾經拿來在張學友的中國演唱會中逮捕經濟犯罪者。倫敦警察局也承認,「閃爍識別」技術的資料庫曾經用來發展該局的臉部識別系統。

司法引入演算法更公平?肯塔基州演算法系統強化種族不平等

Photo credit by angela n. on flickr (CC BY 2.0)

2011 年,肯塔基州立法院引進演算法,藉由計算不出庭或再犯的「風險分數」(risk score),判斷被告是否需要現金交保,還是可以直接回家等待審判。他們期待,無人為介入評估的「風險分數」較為客觀,且可以降低美國監獄的關押人數,也減輕政府的開銷。

結果幾年下來,不但關押人數減少的幅度沒有很大,不平等的情況還加強了——白人有超過 35% 的機率獲得無保釋放,而黑人只有約 25%。這可能是因為法官對於演算法建議結果的採納程度不一,有高達三分之二的演算法建議都被推翻,也在這過程中引入了種族、社會階級、貧富差異等偏見,致使判斷結果失去公平性。


本文章授權條款為以下:
文章發佈 48 小時內,採創用 CC BY-NC-ND (姓名標示-非商業性-禁止改作) 3.0 台灣。
文章發佈 48 小時後,採創用 CC BY (姓名標示) 3.0 台灣。

發表迴響

在下方填入你的資料或按右方圖示以社群網站登入:

WordPress.com 標誌

您的留言將使用 WordPress.com 帳號。 登出 /  變更 )

Google photo

您的留言將使用 Google 帳號。 登出 /  變更 )

Twitter picture

您的留言將使用 Twitter 帳號。 登出 /  變更 )

Facebook照片

您的留言將使用 Facebook 帳號。 登出 /  變更 )

連結到 %s

This site uses Akismet to reduce spam. Learn how your comment data is processed.