翻譯｜孔德晴、編輯｜開放文化基金會（OCF)
編按：此篇為翻譯文，原文來自於 Mozilla 的部落格，而這篇文章是 Mozilla 一份重要研究報告的摘要介紹，Mozilla 於 2020 年 12 月發表「打造值得信賴的 AI」白皮書，當中深入研究 AI (Artificial Intelligence 人工智慧）對人類社會的影響，並提出如何打造值得信賴的 AI 系統。
兩年多前，Mozilla 基金會開始著手一項規模不小的專案：集中精力於帶動人們專注於建設一個更健康的數位世界。在這過程中，Mozilla 選擇將「打造值得信賴的 AI」此想法付諸實現。
Mozilla 成立於 1998 年。當時網際網路的發展逐漸主導電腦科技（computing）的走向，因此 Mozilla 決定專注發展網頁標準 （web standards）並打造自家瀏覽器（註：Firefox）。時至今日，電腦科技以及我們身處的數位社會，被海量的數據、繁複的演算法和無所不在的感應器和裝置定義著。AI (Artificial Intelligence 人工智慧）時代已然降臨。相較於二十年前人們會問：「如和讓網際網路維持公開與自由？」，今日的大哉問則是：「這項科技的應用能否提升人類的能力？使用者能否掌控自身數據的去向？」
當今電腦科技，以及它形塑全球超過四十億人每天使用網路科技的方式，涉及了龐大的利益。無論是智慧型手機、社群網路、網路商店、車輛、居家語音助理或幾乎所有其他電子裝備，由 AI 驅動的狀況與日俱增。如此強大且無所不在的 AI 科技究竟能否提供幫助並賦能於人，抑或是充滿漏洞而造成剝削和排他效應，都將深深影響人類社會未來幾十年的發展走向。
總之，我們只要一不小心就會誤入歧途。當人們爭先恐後在幾乎所有裝置內建立數據收集和自動化的功能後，大家已親眼見證 AI 是如何加深既存的刻板印象，或是推播有害內容。此外，當 AI 系統散佈假訊息，或是錯誤辨識人臉時，卻極少有公開透明的資訊或課責機制。一般民眾鮮少能控制自身資料的去向，以及由這些資料所驅動的自動化決策。若這種趨勢持續，我們身處的世界很可能成為由 AI 主宰的反烏托邦，在那個世界裏，掌權階級與無權者的鴻溝將會加深。
不過，有許多人開始對這樣的危險趨勢感到警覺，同時他們也認為事態可以有不同的發展。和早期的開放原始碼 (open source) 運動一樣，現在也有一群科技專家、研究人員、政策制定者、律師和維權人士，積極地將電腦科技的未來推向得以為人類賦能的方向。這群人正在發展可以偵測 AI 偏見的軟體、制定資料保護法規、訂定全新的法律工具讓人們可以掌控自己的相關數據。他們也成立公民團體，致力於提倡合乎倫理、公平正義的 AI。假若包含 Mozilla 在內的這些團體能夠取得成功，我們就有可能打造一個以 AI 幫助人類的世界，而不是適得其反。
和這些志同道合的夥伴交流的經驗，也促使 Mozilla 將每年編列給倡議行動的兩千多萬美元預算投入「打造值得信賴的 AI」這項議題。2020 年，Mozilla 著手編纂了同名白皮書，目的是為了記錄過去一年的交流經驗中遇到的各種挑戰，和激盪出的想法。2020 年 12 月 15 日，白皮書的最終版本也正式發佈了。
這份「白皮書」與其說是一份典型的研究報告，不如說更像一份行動計畫書。白皮書中列舉 Mozilla 和其他志同道合的夥伴為了讓「值得信賴的 AI」成真，可以採取什麼步驟。這樣的改變絕對是可能的，就如同人類社會過去成功因應大眾和社會的需求，讓大眾能享用乾淨的水源、更安全的車輛。白皮書中也針對應該撰寫的程式、應該贊助的計畫、應該提倡的議題、應該制定的法律提供建議，可作為供科技專家、慈善家、維權人士和立法者的參考工具。
白皮書中的重點是，在我們每天使用的消費端網路科技應用 AI，會對世界構成的挑戰包含：偏見、隱私、資訊透明、資料安全，以及 AI 的掌控集中於少數大型科技公司手中。文中也整理出四個可以因應上述挑戰的機會，都圍繞同一個中心想法：有那麼一群軟體開發商、投資人、政策制定者和普羅大眾都想要確保 AI 能有所不同，且對我們有利。若人們能攜手合作，就有機會可以透過程式撰寫、資料處理、法律制定、科技選擇，藉此步入正軌。
編按：研究報告中列舉的挑戰為 1) 壟斷與集中化、2) 數據隱私及治理、3) 偏見與歧視、4) 問責制度和透明度、5) 行業規範、6) 對勞動者和環境的剝削、7) 安全與保護。
編按：報告中列舉的四項改變機會則是：1) 行業規範的改變、2) 打造新思維的科技和產品、3) 產生符合使用者需求的服務、4) 建立有效的法規和獎勵措施。
如同 Mozilla 的所有主要計畫，白皮書是以開源的方式撰寫而成。2020 年 5 月發表的初稿歷經 18 個月的交流、研究、實驗後寫成，之後邀請各界提供回饋，獲得各界熱烈響應。無論是波蘭的數位人權組織、美國的公民倡議團體、北美的機器學習專家、歐洲的最高層級政要、常春藤名校教授，以及各方維運人士、作家、創作者，許多組織與個人都不吝給予此份白皮書寶貴的意見，根據這些回饋進行修改後，白皮書內容也得以更佳精實。各界的回饋協助這份研究釐清「AI」和「消費端科技（consumer technology）」的定義、提升「種族正義」在這項議題中的份量，也幫助我們在白皮書中結合在地域、種族、性別更多元的觀點。
在接下來的幾年中，Mozilla 預計專注於發展研究、倡議與獎助計畫，並以這份文件會作為 行動的藍圖。而已經展現成果的行動為：針對 YouTube 播放建議的倡議，已經揭示 AI 主導的內容篩選將多麼有問題。其他行動包括與其他組織合作，攜手建立「數據未來實驗室」(Data Futures Lab) 和 「歐洲 AI 基金」(European AI Fund)，來支持那些建立可信賴的 AI 設計與平台應用的計畫。而 Mozilla 的研究員和得獎人，像是英國伯明罕大學德拉克羅瓦 (Sylvie Delacroix) 教授、加拿大社會企業家拉吉 (Deborah Raji) 女士、烏干達公民科技團體創辦人埃俄 (Neema Iyer) 女士，都在研究 AI 對數據治理、平等、和系統性偏見的影響。這些過去與現行的計畫也讓 Mozilla 從實作中學習，為白皮書的內容加持。
Mozilla 希望這份文件能為科技人開啟一扇機會的大門。長久以來，重視使用者所打造的科技，都等同於幾乎不去收集人們的資料。雖然隱私是 Mozilla 等組織的核心焦點，但必須要尋找平衡方案，要能在收集數據並使用數據來提供使用者想要的體驗之餘，又可保護與支持使用者。如同白皮書中所述，有越來越多的工程師，包含許多 Mozilla 的同仁，都致力於朝向這個方向發展。
原文作者 Mark Surman – Mozilla 基金會執行董事：「感謝各位撥冗閱讀，也期待我們能攜手合作，讓計畫成真。」
本文章授權條款採 創用 CC BY (姓名標示) 4.0。
OCF Lab 開放實驗室 