藉由執法與偵查,收購人民 Google 搜尋關鍵字、智慧手錶行跡等生活側寫,不知不覺成功監控。老大哥還在看著你,只是比以往躲得更深。
整理撰文|陳廷彥、林冠廷;編輯|OCF Lab
搜尋記錄、智慧裝置的使用數據,都成了國家監視的工具
隨著科技公司搜集資料的範圍愈來愈廣,這些原本只是用來更新演算法的資料,最後時常成為國家執法機關偵查犯罪的工具。
藉由執法與偵查,收購人民 Google 搜尋關鍵字、智慧手錶行跡等生活側寫,不知不覺成功監控。老大哥還在看著你,只是比以往躲得更深。
整理撰文|陳廷彥、林冠廷;編輯|OCF Lab
隨著科技公司搜集資料的範圍愈來愈廣,這些原本只是用來更新演算法的資料,最後時常成為國家執法機關偵查犯罪的工具。
當技術超前法律制度與觀念,科技倫理將面臨全新挑戰。AI 可被利用做大量資料分析、深度學習,但如何不讓它被利用於犯罪、侵犯隱私、助長偏見?Mozilla 最新白皮書,教你如何「建立可信任的人工智慧」。
整理撰文|陳廷彥、林冠廷;編輯|OCF Lab
過去網路興起,社會對於科技倫理的討論多聚焦於網路匿名性,或是言論審查所帶來的種種問題。現在 AI 成為新寵,AI 與其相關應用遍布於日常生活的網路和電子產品中,我們的關注也應該有所改變。
誓言要推動「網路健康」的 Mozilla 基金會,發布了一篇文章,主題是「可信賴的 AI」。文章作者 Mark Surman 指出 AI 的八大挑戰——偏見、隱私、透明、安全、巨型科技公司對 AI 的權力等等,且當 AI 系統性且自動化地蒐集與散布偏見資訊,沒有任何問責制度。AI 在看得見、看不見的層面正在大幅改變我們生活,要如何因應,可參考原文中的《建立可信任的AI》白皮書。
Netflix 強大的資料分析技術,兩年內將上萬影片依法規自動分成 5 級,未來演算法或可決定你「應該」看什麼電影。
整理撰文|陳廷彥、林冠廷;編輯|OCF Lab
Netflix 對於資料分析的功力眾所皆知,在平臺上,影劇被分成千萬種類別,並依照每個使用者的特性與喜好,建立專屬播放推薦清單。之所以能做到如此精細的分類,是因為 Netflix 聘用專人觀賞所有影片,並把影片中各個內容做成標籤再分類。
根據 BBC,Netflix 與英國電影分級委員會(British Board of Film Classification)合作,讓員工觀影後特別將性愛、暴力、罵髒話等的片段與數量輸入系統,讓演算法除了標註這是一部「80 年代的青少年浪漫喜劇」外,還可以將照片中裸露場景等「兒童不宜」指標,在兩年之內把 10000 多部影片按照國家規範分為 U、PG、12A、15、18 五級,進而「保護孩童」。BBC 引述英國電影分級委員會調查,指出 85% 的家長與 95% 青少年「想要串流平臺上有年齡分級」。
不僅台灣有網路內容過濾,日本、挪維等國也相繼出現類似的網站封鎖情況,此類不透明的管理機制一旦落實,即等同奠定網路監控與審查基礎。
整理撰文|陳廷彥、林冠廷;編輯|OCF Lab
過全球公開網路伺服器的資料,美國密西根大學的研究團隊 Censored Planet 最近指出,網路言論的審查在看起來最民主自由的國家中,也難以倖免。
密西根大學團隊研發的自動審查追蹤系統「Censored Planet」,可將公眾網路伺服器(Public IInternet servers)轉化為自動哨兵,監視並回報網站被封鎖的狀況。其研究全球 221 國家,在 20 個月內蒐集超過 20 億次測量值,有高達 103 個國家都出現了網路審查增加的情況,其中挪威、日本、義大利等一般被認為高度民主的國家,都在近兩年內發生了過去從未被偵測過的審查狀況,如日本在 2019 舉行 G20 峰會期間,某些新聞網站即被一些網路封鎖。
許多國家立法要求網路服務供應商阻擋特定內容,但審查機制通常不透明,這種規定一旦成形,就表示政府可阻止任一網頁,奠定了審查網路言論的基礎。
在幅員遼闊的美國,民主投票制度常常造成各地烽火四起。VotingWorks 用開源技術最佳化投票與審計流程,未來超方便投票指日可待!
整理撰文|陳廷彥、林冠廷;編輯|OCF Lab
2020 總統選舉把太平洋另一端的美國鬧得滿城風雨。法律戰蔓延到各州、甚至聯邦最高法院,並且變成全球動蕩的不確定因素。不過,有沒有任何方法,可以讓川普再也說不出「他們把選舉偷走了」這種沒根據的言論?開放原始碼或許可以幫忙。從知名創投加速器 YC 「畢業」的新創公司「投票工作」(VotingWorks),從密西西比州的農村開始,試圖用開源技術改善投票流程。根據 TechCrunch,他們甚至可以使用現有的硬體設備建立服務。新的技術除了改善投票流程,讓密西西比州在更改州旗的選票上可以印出彩色圖片外,更重要的是,「投票工作」建立更完善的審計流程,讓假新聞散布者也沒臉可以在選後說出「我贏了很多」這種不負責任的話。
隨著深偽技術漸趨成熟,加害者在社群中提供各種變造裸照的服務,照片越受歡迎、則猶如獲得遊戲成就,更受激勵。其中受害者多為女性,更不乏幼齡女童。
整理撰文|陳廷彥、林冠廷;編輯|OCF Lab
根據 MIT 科技評論轉述,美國心理學會進行的一項研究中,指出每 12 名女性一生中至少會成為一次復仇式色情(Revenge Porn)的受害者。過去復仇式色情指的是將被害者裸照、私密影片在未經同意的情況中上傳,但現在因為科技演進,電腦已經可以逐幀合成裸體照片,把未帶有情色意味的生活照、日常影片,變成受害者人生夢魘。
如同 2019 年一月出現的 DeepNude 手機 app,可讓用戶以 USD$50 一次的價格上傳女性照片,並載回該女性看似真實的「裸照」。此應用 deepfake (深偽技術)技術的 app 一時瘋傳,雖後來開發者緊急下架,但也已經造成眾多女性的合成照流入網路。
根據 Karen Hao 在 MIT 科技評論中名為〈深度合成機器人被拿來對未成年女孩「寬衣解帶」〉的文章中,某些社交平臺甚至成為深度合成的溫床,散播名人合成裸體影像,甚至有「性騷擾遊戲化」(The gamification of harassment)的趨勢,照片越受歡迎,合成者則越獲得成就與獎勵感,讓此非法行為變本加厲。
政府出包,全民受罪!Excel 屢犯錯,政府機關應採開放格式與開放軟體、客製統計系統,避免一個差池危害國民權益。
整理撰文|陳廷彥、林冠廷;編輯|OCF Lab
根據 The Conversation,英國曾經承諾要用 120 億英鎊打造「世界一流」的系統來追蹤 Covid-19 案例,然而政府人員最後卻使用微軟的 Excel 儲存陽性案例名單,結果因資料超過 Excel 系統上限,而導致大約 16000 筆病患的資料直接消失。
微軟的 Excel 一向被廣泛運用在政府、商業公司與各個組織內部,其固然功能便利,但在存取重要資料時也往往發生重大錯誤。如英國政府,已不是第一次發生此類恐怖事件。2012 年,英國交通部因為供給投標廠商的 Excel 的財務模型產生錯誤,致使花費 3 億英鎊的納稅錢,來處理撤資、賠償、重新投標等事;1999 年也因為國有的核電公司員工,利用 Excel 易操作又無法查看編輯記錄等特性,惡意假造進出口數據,而慘付巨額賠償金。
此次面對 COVID-19 疫情間的重大失誤,英國網友用 Office 經典吉祥物嘲笑首相 Johnson;但政府除了被幽上一默外,更應該反思,重大公共政策資料是否該確實使用可靠的開放格式與開放軟體,並因應不同案件需求制訂格式,才能降低往後出包機率。
闖紅燈扣分、做義工加分,還會影響社會福利索取!利益導向誘使人民「有文明」真的好嗎?
整理撰文|陳廷彥、林冠廷;編輯|OCF Lab
根據《立場新聞》,過去中國各地政府面對 COVID 疫情時,紛紛推出「健康碼」App,只要居民被電腦判定沒有健康風險,就會提供綠色的健康碼儲存在手機中,做為通行許可證在各地之間移動。
不過蘇州政府變本加厲,除了「健康碼」外,更添加「文明碼」,每位居民一開始會有 1000 分的基礎分數,只要違反交通規定等就會被扣分,當志工、義工等鼓勵善良風俗行為就可以加分,且此分數影響到享有居民福利的優先順序;目前有「文明交通指數」及「文明志願指數」兩個功能。《立場新聞》指出,這項措施遭到批評過度干涉人民私生活;且不遵循法規本就會遭到處罰,再扣分可說是雙重罰則。但蘇州市政府辯稱「文明碼」還在測試階段,所以還沒有市民遭到不公平對待。
2 撇步落實開源與開放政府,證明「訓練心態」比「訓練技巧」更重要。
整理撰文|陳廷彥、林冠廷;編輯|OCF Lab
商業軟體在公部門營運中的廣泛使用,對居民來說通常都不是好事——不斷更新所需的花費、專有格式、難以保證的安全性等,常常花費大量納稅錢,甚至導致居民往往需要購買額外軟硬體,才能使用政府提供的檔案。
認清了這一點,土耳其伊斯坦堡 Eyüpsultan 區的政府,大膽挑戰將辦公室中的資訊系統,改成開源的 Linux 作業系統 Pardus 與辦公軟體 LibreOffice,作為節省財務與便民的第一步。官員 Hüseyin GÜÇ 撰文指出,轉換系統的同時,需要逐步教育與訓練使用者的心態和培養習慣。從 2015 年起,政府即展開內部溝通和培訓課程,更開始以 LibreOffice 全面處理公務文書,才能無痛接軌開源;同時也客製化 Pardus 的軟體,只留下必要的部份在安裝檔中,精簡使用與安裝步驟,讓使用者可以輕鬆操作,降低排斥感。種種長期計劃的觀念養成,是這個政策邁向成功開源的重要關鍵。