翻譯|孔德晴、編輯|開放文化基金會(OCF)

編按:此篇為翻譯文,原文來自於 Mozilla 的部落格,而這篇文章是 Mozilla 一份重要研究報告的摘要介紹,Mozilla 於 2020 年 12 月發表「打造值得信賴的 AI」白皮書,當中深入研究 AI (Artificial Intelligence 人工智慧)對人類社會的影響,並提出如何打造值得信賴的 AI 系統。

兩年多前,Mozilla 基金會開始著手一項規模不小的專案:集中精力於帶動人們專注於建設一個更健康的數位世界。在這過程中,Mozilla 選擇將「打造值得信賴的 AI」此想法付諸實現。

Photo by mohamed hassan

Mozilla 成立於 1998 年。當時網際網路的發展逐漸主導電腦科技(computing)的走向,因此 Mozilla 決定專注發展網頁標準 (web standards)並打造自家瀏覽器(註:Firefox)。時至今日,電腦科技以及我們身處的數位社會,被海量的數據、繁複的演算法和無所不在的感應器和裝置定義著。AI (Artificial Intelligence 人工智慧)時代已然降臨。相較於二十年前人們會問:「如和讓網際網路維持公開與自由?」,今日的大哉問則是:「這項科技的應用能否提升人類的能力?使用者能否掌控自身數據的去向?」

當今電腦科技,以及它形塑全球超過四十億人每天使用網路科技的方式,涉及了龐大的利益。無論是智慧型手機、社群網路、網路商店、車輛、居家語音助理或幾乎所有其他電子裝備,由 AI 驅動的狀況與日俱增。如此強大且無所不在的 AI 科技究竟能否提供幫助並賦能於人,抑或是充滿漏洞而造成剝削和排他效應,都將深深影響人類社會未來幾十年的發展走向。

總之,我們只要一不小心就會誤入歧途。當人們爭先恐後在幾乎所有裝置內建立數據收集和自動化的功能後,大家已親眼見證 AI 是如何加深既存的刻板印象,或是推播有害內容。此外,當 AI 系統散佈假訊息,或是錯誤辨識人臉時,卻極少有公開透明的資訊或課責機制。一般民眾鮮少能控制自身資料的去向,以及由這些資料所驅動的自動化決策。若這種趨勢持續,我們身處的世界很可能成為由 AI 主宰的反烏托邦,在那個世界裏,掌權階級與無權者的鴻溝將會加深。

不過,有許多人開始對這樣的危險趨勢感到警覺,同時他們也認為事態可以有不同的發展。和早期的開放原始碼 (open source) 運動一樣,現在也有一群科技專家、研究人員、政策制定者、律師和維權人士,積極地將電腦科技的未來推向得以為人類賦能的方向。這群人正在發展可以偵測 AI 偏見的軟體、制定資料保護法規、訂定全新的法律工具讓人們可以掌控自己的相關數據。他們也成立公民團體,致力於提倡合乎倫理、公平正義的 AI。假若包含 Mozilla 在內的這些團體能夠取得成功,我們就有可能打造一個以 AI 幫助人類的世界,而不是適得其反。

和這些志同道合的夥伴交流的經驗,也促使 Mozilla 將每年編列給倡議行動的兩千多萬美元預算投入「打造值得信賴的 AI」這項議題。2020 年,Mozilla 著手編纂了同名白皮書,目的是為了記錄過去一年的交流經驗中遇到的各種挑戰,和激盪出的想法。2020 年 12 月 15 日,白皮書的最終版本也正式發佈了。

這份「白皮書」與其說是一份典型的研究報告,不如說更像一份行動計畫書。白皮書中列舉 Mozilla 和其他志同道合的夥伴為了讓「值得信賴的 AI」成真,可以採取什麼步驟。這樣的改變絕對是可能的,就如同人類社會過去成功因應大眾和社會的需求,讓大眾能享用乾淨的水源、更安全的車輛。白皮書中也針對應該撰寫的程式、應該贊助的計畫、應該提倡的議題、應該制定的法律提供建議,可作為供科技專家、慈善家、維權人士和立法者的參考工具。

白皮書中的重點是,在我們每天使用的消費端網路科技應用 AI,會對世界構成的挑戰包含:偏見、隱私、資訊透明、資料安全,以及 AI 的掌控集中於少數大型科技公司手中。文中也整理出四個可以因應上述挑戰的機會,都圍繞同一個中心想法:有那麼一群軟體開發商、投資人、政策制定者和普羅大眾都想要確保 AI 能有所不同,且對我們有利。若人們能攜手合作,就有機會可以透過程式撰寫、資料處理、法律制定、科技選擇,藉此步入正軌。

編按:研究報告中列舉的挑戰為 1) 壟斷與集中化、2) 數據隱私及治理、3) 偏見與歧視、4) 問責制度和透明度、5) 行業規範、6) 對勞動者和環境的剝削、7) 安全與保護。

編按:報告中列舉的四項改變機會則是:1) 行業規範的改變、2) 打造新思維的科技和產品、3) 產生符合使用者需求的服務、4) 建立有效的法規和獎勵措施。

如同 Mozilla 的所有主要計畫,白皮書是以開源的方式撰寫而成。2020 年 5 月發表的初稿歷經 18 個月的交流、研究、實驗後寫成,之後邀請各界提供回饋,獲得各界熱烈響應。無論是波蘭的數位人權組織、美國的公民倡議團體、北美的機器學習專家、歐洲的最高層級政要、常春藤名校教授,以及各方維運人士、作家、創作者,許多組織與個人都不吝給予此份白皮書寶貴的意見,根據這些回饋進行修改後,白皮書內容也得以更佳精實。各界的回饋協助這份研究釐清「AI」和「消費端科技(consumer technology)」的定義、提升「種族正義」在這項議題中的份量,也幫助我們在白皮書中結合在地域、種族、性別更多元的觀點。

在接下來的幾年中,Mozilla 預計專注於發展研究、倡議與獎助計畫,並以這份文件會作為 行動的藍圖。而已經展現成果的行動為:針對 YouTube 播放建議的倡議,已經揭示 AI 主導的內容篩選將多麼有問題。其他行動包括與其他組織合作,攜手建立「數據未來實驗室」(Data Futures Lab) 「歐洲 AI 基金」(European AI Fund),來支持那些建立可信賴的 AI 設計與平台應用的計畫。而 Mozilla 的研究員和得獎人,像是英國伯明罕大學德拉克羅瓦 (Sylvie Delacroix) 教授加拿大社會企業家拉吉 (Deborah Raji) 女士烏干達公民科技團體創辦人埃俄 (Neema Iyer) 女士,都在研究 AI 對數據治理、平等、和系統性偏見的影響。這些過去與現行的計畫也讓 Mozilla 從實作中學習,為白皮書的內容加持。

Mozilla 希望這份文件能為科技人開啟一扇機會的大門。長久以來,重視使用者所打造的科技,都等同於幾乎不去收集人們的資料。雖然隱私是 Mozilla 等組織的核心焦點,但必須要尋找平衡方案,要能在收集數據並使用數據來提供使用者想要的體驗之餘,又可保護與支持使用者。如同白皮書中所述,有越來越多的工程師,包含許多 Mozilla 的同仁,都致力於朝向這個方向發展。

原文作者 Mark Surman – Mozilla 基金會執行董事:「感謝各位撥冗閱讀,也期待我們能攜手合作,讓計畫成真。」


本文章授權條款採 創用 CC BY (姓名標示) 4.0

發表迴響

在下方填入你的資料或按右方圖示以社群網站登入:

WordPress.com 標誌

您的留言將使用 WordPress.com 帳號。 登出 /  變更 )

Google photo

您的留言將使用 Google 帳號。 登出 /  變更 )

Twitter picture

您的留言將使用 Twitter 帳號。 登出 /  變更 )

Facebook照片

您的留言將使用 Facebook 帳號。 登出 /  變更 )

連結到 %s

This site uses Akismet to reduce spam. Learn how your comment data is processed.