【數位公民雙週報】出售使用者數位足跡與智慧裝置記錄!科技公司成國家監控最大功臣

藉由執法與偵查,收購人民 Google 搜尋關鍵字、智慧手錶行跡等生活側寫,不知不覺成功監控。老大哥還在看著你,只是比以往躲得更深。

整理撰文|陳廷彥、林冠廷;編輯|OCF Lab

搜尋記錄、智慧裝置的使用數據,都成了國家監視的工具

(Photo by Murai .hr on Unsplash)

隨著科技公司搜集資料的範圍愈來愈廣,這些原本只是用來更新演算法的資料,最後時常成為國家執法機關偵查犯罪的工具。

週報

【數位公民雙週報】Mozilla 發表白皮書,揭示 AI 技術面臨的 8 大挑戰!

當技術超前法律制度與觀念,科技倫理將面臨全新挑戰。AI 可被利用做大量資料分析、深度學習,但如何不讓它被利用於犯罪、侵犯隱私、助長偏見?Mozilla 最新白皮書,教你如何「建立可信任的人工智慧」。

整理撰文|陳廷彥、林冠廷;編輯|OCF Lab

Mozilla 呼籲建立可信任的人工智慧

(Photo credit by michellekoebke on Pixapay)

過去網路興起,社會對於科技倫理的討論多聚焦於網路匿名性,或是言論審查所帶來的種種問題。現在 AI 成為新寵,AI 與其相關應用遍布於日常生活的網路和電子產品中,我們的關注也應該有所改變。
誓言要推動「網路健康」的 Mozilla 基金會,發布了一篇文章,主題是「可信賴的 AI」。文章作者 Mark Surman 指出 AI 的八大挑戰——偏見、隱私、透明、安全、巨型科技公司對 AI 的權力等等,且當 AI 系統性且自動化地蒐集與散布偏見資訊,沒有任何問責制度。AI 在看得見、看不見的層面正在大幅改變我們生活,要如何因應,可參考原文中的《建立可信任的AI》白皮書。

週報

【數位公民雙週報】你覺得電影應保留分級制度嗎?Netflix 演算法:「Yes」

Netflix 強大的資料分析技術,兩年內將上萬影片依法規自動分成 5 級,未來演算法或可決定你「應該」看什麼電影。

整理撰文|陳廷彥、林冠廷;編輯|OCF Lab

演算法將決定青少年能不能看特定影劇

Netflix 對於資料分析的功力眾所皆知,在平臺上,影劇被分成千萬種類別,並依照每個使用者的特性與喜好,建立專屬播放推薦清單。之所以能做到如此精細的分類,是因為 Netflix 聘用專人觀賞所有影片,並把影片中各個內容做成標籤再分類。
根據 BBC,Netflix 與英國電影分級委員會(British Board of Film Classification)合作,讓員工觀影後特別將性愛、暴力、罵髒話等的片段與數量輸入系統,讓演算法除了標註這是一部「80 年代的青少年浪漫喜劇」外,還可以將照片中裸露場景等「兒童不宜」指標,在兩年之內把 10000 多部影片按照國家規範分為 U、PG、12A、15、18 五級,進而「保護孩童」。BBC 引述英國電影分級委員會調查,指出 85% 的家長與 95% 青少年「想要串流平臺上有年齡分級」。

週報

【數位公民雙週報】破壞民主價值?政府線上擴權,多國立法核准網路內容審查

不僅台灣有網路內容過濾,日本、挪維等國也相繼出現類似的網站封鎖情況,此類不透明的管理機制一旦落實,即等同奠定網路監控與審查基礎。

整理撰文|陳廷彥、林冠廷;編輯|OCF Lab

網路審查無所不在,最民主的國家也不例外

(Photo credit on Censored Planet)

過全球公開網路伺服器的資料,美國密西根大學的研究團隊 Censored Planet 最近指出,網路言論的審查在看起來最民主自由的國家中,也難以倖免。
密西根大學團隊研發的自動審查追蹤系統「Censored Planet」,可將公眾網路伺服器(Public IInternet servers)轉化為自動哨兵,監視並回報網站被封鎖的狀況。其研究全球 221 國家,在 20 個月內蒐集超過 20 億次測量值,有高達 103 個國家都出現了網路審查增加的情況,其中挪威、日本、義大利等一般被認為高度民主的國家,都在近兩年內發生了過去從未被偵測過的審查狀況,如日本在 2019 舉行 G20 峰會期間,某些新聞網站即被一些網路封鎖。
許多國家立法要求網路服務供應商阻擋特定內容,但審查機制通常不透明,這種規定一旦成形,就表示政府可阻止任一網頁,奠定了審查網路言論的基礎。

週報

【數位公民雙週報】用開源改善美國投票流程,再也沒有人敢「偷走選舉」!

在幅員遼闊的美國,民主投票制度常常造成各地烽火四起。VotingWorks 用開源技術最佳化投票與審計流程,未來超方便投票指日可待!

整理撰文|陳廷彥、林冠廷;編輯|OCF Lab

不必要的流言退散!用開放原始碼重建選民對美國選舉信心

2020 總統選舉把太平洋另一端的美國鬧得滿城風雨。法律戰蔓延到各州、甚至聯邦最高法院,並且變成全球動蕩的不確定因素。不過,有沒有任何方法,可以讓川普再也說不出「他們把選舉偷走了」這種沒根據的言論?開放原始碼或許可以幫忙。從知名創投加速器 YC 「畢業」的新創公司「投票工作」(VotingWorks),從密西西比州的農村開始,試圖用開源技術改善投票流程。根據 TechCrunch,他們甚至可以使用現有的硬體設備建立服務。新的技術除了改善投票流程,讓密西西比州在更改州旗的選票上可以印出彩色圖片外,更重要的是,「投票工作」建立更完善的審計流程,讓假新聞散布者也沒臉可以在選後說出「我贏了很多」這種不負責任的話。

週報

【數位公民雙週報】當科技遇上性犯罪--Deepfake 助長「騷擾遊戲化」趨勢!

隨著深偽技術漸趨成熟,加害者在社群中提供各種變造裸照的服務,照片越受歡迎、則猶如獲得遊戲成就,更受激勵。其中受害者多為女性,更不乏幼齡女童。

整理撰文|陳廷彥、林冠廷;編輯|OCF Lab

噁心「深度合成」機器人正在散播兒童合成裸照

根據 MIT 科技評論轉述,美國心理學會進行的一項研究中,指出每 12 名女性一生中至少會成為一次復仇式色情(Revenge Porn)的受害者。過去復仇式色情指的是將被害者裸照、私密影片在未經同意的情況中上傳,但現在因為科技演進,電腦已經可以逐幀合成裸體照片,把未帶有情色意味的生活照、日常影片,變成受害者人生夢魘。
如同 2019 年一月出現的 DeepNude 手機 app,可讓用戶以 USD$50 一次的價格上傳女性照片,並載回該女性看似真實的「裸照」。此應用 deepfake (深偽技術)技術的 app 一時瘋傳,雖後來開發者緊急下架,但也已經造成眾多女性的合成照流入網路。
根據 Karen Hao 在 MIT 科技評論中名為〈深度合成機器人被拿來對未成年女孩「寬衣解帶」〉的文章中,某些社交平臺甚至成為深度合成的溫床,散播名人合成裸體影像,甚至有「性騷擾遊戲化」(The gamification of harassment)的趨勢,照片越受歡迎,合成者則越獲得成就與獎勵感,讓此非法行為變本加厲。

週報

【數位公民雙週報】尷尬了!英國政府用 Excel 存新冠肺炎名單,萬筆陽性病患資料全消失

政府出包,全民受罪!Excel 屢犯錯,政府機關應採開放格式與開放軟體、客製統計系統,避免一個差池危害國民權益。

整理撰文|陳廷彥、林冠廷;編輯|OCF Lab

還敢把微軟 Office 當作你的第一選擇嗎?英國防疫因選用 Excel 出大包

根據 The Conversation,英國曾經承諾要用 120 億英鎊打造「世界一流」的系統來追蹤 Covid-19 案例,然而政府人員最後卻使用微軟的 Excel 儲存陽性案例名單,結果因資料超過 Excel 系統上限,而導致大約 16000 筆病患的資料直接消失。
微軟的 Excel 一向被廣泛運用在政府、商業公司與各個組織內部,其固然功能便利,但在存取重要資料時也往往發生重大錯誤。如英國政府,已不是第一次發生此類恐怖事件。2012 年,英國交通部因為供給投標廠商的 Excel 的財務模型產生錯誤,致使花費 3 億英鎊的納稅錢,來處理撤資、賠償、重新投標等事;1999 年也因為國有的核電公司員工,利用 Excel 易操作又無法查看編輯記錄等特性,惡意假造進出口數據,而慘付巨額賠償金。
此次面對 COVID-19 疫情間的重大失誤,英國網友用 Office 經典吉祥物嘲笑首相 Johnson;但政府除了被幽上一默外,更應該反思,重大公共政策資料是否該確實使用可靠的開放格式與開放軟體,並因應不同案件需求制訂格式,才能降低往後出包機率。

週報

科技人九月流行招呼語:軟體自由日快樂!到底什麼意思

全球歡慶的軟體自由日已來到第 15 年,來介紹究竟軟體自由、自由軟體跟開源有什麼關係?台灣歷年又怎麼參與這個盛會吧!

撰文|林冠廷、陳廷彥;編輯|OCF Lab

(Photo credit by Daisuke, 活動相簿:9/19 開放文化基金會, MozTW 軟體自由日派對)

每年 9 月第三個星期六的軟體自由日,由數位自由基金會(Digital Freedom Foundation)從 2005 年開始推廣,如今已是世界各地提倡開源與自由軟體的社群串連響應,橫跨五大洲的盛事。
軟體自由日是一個慶祝自由與開放原始碼軟體(FOSS,即 free and open source software 的簡稱)的活動。然而單純以軟體自由來說,軟體自由運動不但邁向式微,還有缺乏性別素養的核心成員,發言時常引發非議,這個運動近年有何觀念轉折、在 2020 年與未來有什麼新契機?這篇文章中,我們會介紹其定義、在臺灣的歷史,一直到今年的最新發展。

專文

【數位公民雙週報】不要再為我打分數!中國蘇州「文明積分」App 引眾怒

闖紅燈扣分、做義工加分,還會影響社會福利索取!利益導向誘使人民「有文明」真的好嗎?

整理撰文|陳廷彥、林冠廷;編輯|OCF Lab

中國全面監控再升級:從 0 到 1000 分,你有多「文明」?

根據《立場新聞》,過去中國各地政府面對 COVID 疫情時,紛紛推出「健康碼」App,只要居民被電腦判定沒有健康風險,就會提供綠色的健康碼儲存在手機中,做為通行許可證在各地之間移動。
不過蘇州政府變本加厲,除了「健康碼」外,更添加「文明碼」,每位居民一開始會有 1000 分的基礎分數,只要違反交通規定等就會被扣分,當志工、義工等鼓勵善良風俗行為就可以加分,且此分數影響到享有居民福利的優先順序;目前有「文明交通指數」及「文明志願指數」兩個功能。《立場新聞》指出,這項措施遭到批評過度干涉人民私生活;且不遵循法規本就會遭到處罰,再扣分可說是雙重罰則。但蘇州市政府辯稱「文明碼」還在測試階段,所以還沒有市民遭到不公平對待。

週報

【數位公民雙週報】五年內讓公務員改用 Linux 和 LibreOffice,伊斯坦堡政府做到了!

2 撇步落實開源與開放政府,證明「訓練心態」比「訓練技巧」更重要。

整理撰文|陳廷彥、林冠廷;編輯|OCF Lab

在伊斯坦堡,公務員開始擁抱開源

(Photo credit by Tedd on Pixabay)

商業軟體在公部門營運中的廣泛使用,對居民來說通常都不是好事——不斷更新所需的花費、專有格式、難以保證的安全性等,常常花費大量納稅錢,甚至導致居民往往需要購買額外軟硬體,才能使用政府提供的檔案。
認清了這一點,土耳其伊斯坦堡 Eyüpsultan 區的政府,大膽挑戰將辦公室中的資訊系統,改成開源的 Linux 作業系統 Pardus 與辦公軟體 LibreOffice,作為節省財務與便民的第一步。官員 Hüseyin GÜÇ 撰文指出,轉換系統的同時,需要逐步教育與訓練使用者的心態和培養習慣。從 2015 年起,政府即展開內部溝通和培訓課程,更開始以 LibreOffice 全面處理公務文書,才能無痛接軌開源;同時也客製化 Pardus 的軟體,只留下必要的部份在安裝檔中,精簡使用與安裝步驟,讓使用者可以輕鬆操作,降低排斥感。種種長期計劃的觀念養成,是這個政策邁向成功開源的重要關鍵。

週報