歐盟議會發布《可信賴人工智慧倫理準則》

  2019年4月9日,歐盟議會發布《可信賴人工智慧倫理準則》(Ethics Guidelines for Trustworthy AI)。此次內容大致延續歐盟人工智慧高階專家小組(High-level Expert Group on Artificial Intelligence)於2018年12月18日發布的《可信賴人工智慧倫理準則草案》(Draft Ethics Guidelines for Trustworthy Artificial Intelligence)之內容,要求人工智慧須遵守行善(do good)、不作惡(do no harm)、保護人類(preserve human Agency)、公平(be fair)與公開透明(operate transparency)等倫理原則;並在4月9日發布的正式內容中更加具體描述可信賴的人工智慧的具體要件,共計七面向概述如下:

  1. 人類自主性和監控(Human agency and oversight):AI係為強化人類能力而存在,使人類使用者能夠做出更明智的決策並培養自身的基礎能力。同時,AI應有相關監控機制以確保AI系統不會侵害人類自主性或是引發其他負面效果。本準則建議,監控機制應可透過人機混合(一種整合人工智慧與人類協作的系統,例如human-in-the-loop, human-on-the-loop, and human-in-command)的操作方法來實現。
  2. 技術穩健性和安全性(Technical Robustness and safety):為防止損害擴張與確保損害最小化,AI系統除需具備準確性、可靠性和可重複性等技術特質,同時也需在出現問題前訂定完善的備援計劃。
  3. 隱私和資料治理(Privacy and data governance):除了確保充分尊重隱私和資料保護之外,還必須確保適當的資料治理機制,同時考慮到資料的品質和完整性,並確保合法近用資料為可行。
  4. 透明度(Transparency):資料、系統和AI的商業模型應該是透明的。可追溯性機制(Traceability mechanisms)有助於實現這一目標。此外,應以利害關係人能夠理解的方式解釋AI系統的邏輯及運作模式。人類參與者和使用者需要意識到他們正在與AI系統進行互動,並且必須了解AI系統的功能和限制。
  5. 保持多樣性、不歧視和公平(Diversity, non-discrimination and fairness):AI不公平的偏見可能會加劇對弱勢群體的偏見和歧視,導致邊緣化現象更為嚴重。為避免此種情況,AI系統應該設計為所有人皆可以近用,達成使用者多樣性的目標。
  6. 社會和環境福祉(Societal and environmental well-being):AI應該使包含我們的後代在內的所有人類受益。因此AI必須兼顧永續發展、環境友善,並能提供正向的社會影響。 
  7. 問責制(Accountability):應建立機制以妥當處理AI所導致的結果的責任歸屬,演算法的可審計性(Auditability)為關鍵。此外,應確保補救措施為無障礙設計。

相關附件
※ 歐盟議會發布《可信賴人工智慧倫理準則》, 資訊工業策進會科技法律研究所, https://stli.iii.org.tw/article-detail.aspx?d=8248&no=57&tp=1 (最後瀏覽日:2026/02/27)
引註此篇文章
你可能還會想看
Tesla開放所有專利

  過去,在Tesla的總部大廳有一道專利牆,然現在已將它們移除,並不代表任何意義了,象徵進入推動類似「開放原始碼軟體」的概念,促進電動交通工具科技的發展。電動車製造商Tesla 的執行長Elon Musk表示S電動車款將仿效「開放原始碼軟體」的概念,免費提供製造者使用相關專利,以加速電動車產業的發展,因電動汽車的銷售量,仍未及一般汽車銷售量的1%;再者,假如電動車廣泛的發展,亦可降低電池交換站等基礎設施的成本。   Tesla為促進永續運輸的發展,將釋出數百件專利,且不會針對任何基於善意使用Tesla技術的人,提起專利訴訟,並進一步表示「假如我們是創造電動交通工具的開路先鋒,卻同時佈下許多智財地雷,禁止其他人踏入電動車產業領域,豈不是和我們的理念背道而馳。」Elon Musk坦言當他經營第一間公司時,認為專利等同於獎勵,因此設法努力取得專利;但之後體認到專利某程度阻礙進步,且保護的是大企業而非發明人本身,亦即企業有如獲得一場訴訟的門票,必須盡量避免運用此手段。   每年全球有100億元的新車產量,Tesla的生產速度根本不足以應對碳危機,易言之,在如此廣大的市場,Tesla真正的敵人為世界各地工廠每日傾瀉出產的汽油車,而非其他的電動車製造商,故釋出專利的舉動,相信將能促始其他電動車製造商,甚至全世界的電動車產業,因此共同且加速發展的科技平台而受惠。

奧克蘭市(Oakland)成為美國第三個禁止公部門使用人臉辨識技術的城市

  近年來,人臉辨識(Face recognition)技術迅速發展,增加便利性的同時,也伴隨了種種隱憂,如:對隱私權的侵害、公部門權力濫用等,是以加州舊金山市(San Francisco)和麻薩諸塞州薩默維爾市(Somerville)分別在今年(2019)5月和6月發布公部門使用人臉辨識技術的相關禁令,加州奧克蘭市(Oakland)並於7月16日跟進,成為美國第三個禁止公部門使用人臉辨識技術的城市。   2018年麻省理工學院曾針對人臉辨識技術的正確率做過研究,其研究結果報告顯示黑人女性辨識錯誤率超過30%,遠不如白人男性;美國公民自由聯盟(American Civil Liberties Union, ACLU)也針對Amazon人臉辨識軟體Rekognition做過測驗,結果該系統竟誤將28名美國國會議員顯示為嫌疑犯,這兩項研究顯示,人臉辨識技術存有極高錯誤率且對種族間存有很大的偏見與歧視。對此奧克蘭市議會主席卡普蘭(Rebecca Kaplan)一項聲明中表示:「當多項研究都指出一項新興技術具有缺陷,且造成寒蟬效應的時候,我們必須站出來」。   卡普蘭並表示:「建立社區和警察間信任與良好關係以及導正種族偏見是很重要的,人臉辨識技術卻反而加深此問題」、「對於隱私權和平等權的保護是最基本的」,故奧克蘭市通過禁止公部門使用人臉辨識技術的法令,原因如下: 人臉辨識系統所依賴的資料集,具高度不準確性。 對於人臉辨識技術的使用與共享,尚缺乏標準。 這項技術本身具有侵犯性,如:侵犯個人隱私權。 政府如果濫用該技術所得之資訊,可導致對弱勢族群的迫害。   雖然目前美國僅有三個城市通過政府機關禁止使用人臉辨識技術的法令,但依照目前的發展狀態,其他的城市甚至州在未來也可能會跟進頒布禁令。

日本計劃於今年秋天提出中小企業智財保護指針,防止大企業不當取得智財

  近年日本中小企業與大型企業合作研發、進行交易合作的商業型態日益增加,故日本中小企業廳自2017年1月至2020年3月為止(約三年間),針對日本的中小企業進行了訪談,調查了中小企業與大型企業間約12,000筆合作研發等商業行為,從中發現了許多問題,如大型企業常藉由合作研發,參觀中小企業工廠的名義,實際上是竊取中小企業技術、know how;其他還有以共同研發為名,擅自將研發成果使用在其他領域的案例等。   由於中小企業常在商業合作上處與弱勢,故日本政府為促使中小企業與大型企業的合作能符合公平交易原則、以及保護中小企業的智慧財產、技術,防止中小企業的智慧財產、技術、Know how等無形資產被商業合作夥伴(大型企業)不當使用或以非法的方式取得、使用,故日本政府計劃於今年秋天發布「中小企業智慧財產、技術保護指針」。   為改善中小企業與大型企業合作時,可能遭遇的智財、技術歸屬等問題,除透過「中小企業智慧財產、技術保護指針」提供具體的對策與措施,日本中小企業廳將於2021年編列相關預算,以智慧財產權的角度協助中小企業解決智財相關問題,並強化中小企業保護智慧財產權之意識,另外還會提供中小企業智財諮詢等相關支援。 「本文同步刊登於TIPS網站(https://www.tips.org.tw )」

美國聯邦地方法院就Sanford Wallace散佈間諜軟體案作成判決

  美國聯邦交易委員會指控 Sanford Wallace 氏及其所經營的 Smartbot.Net 公司,利用 IE 瀏覽器的安全漏洞散佈間諜軟體一案,日前新罕布夏州聯邦地方法院作成判決。   被告散佈之軟體會將受害者的光碟機托盤彈出,同時在螢幕顯示「最後警告」等字樣,附帶一則訊息告訴受害者,「如果您面臨光碟機托盤彈出的狀況,代表間諜軟體已經入侵您的電腦系統,安全已經出現漏洞,敬請立刻下載本公司出品,以資因應!」趁機推銷該公司出品,定價 30 美元之 Spy Wiper 跟 Spy Deleter 軟體,號稱足以因應間諜軟體相關問題。實際上,被告未經用戶同意逕予散佈植入的,性質上即係間諜軟體,不僅會偷偷更改用戶電腦的設定,持續不斷跳出廣告視窗,造成用戶之電腦運作不順或者當機,還可能洩漏電腦裡頭所儲存的資料。   日前新罕布夏州聯邦地方法院就本件作成判決,命被告必須償還不法取得的利益,共計 408 萬餘美元;不得繼續傳輸散佈間諜軟體至用戶之個人電腦;不得未經同意逕行傳輸任何軟體予用戶;不得將用戶之電腦導向彼等並未打算瀏覽或連結的網站或伺服器;不得更動用戶瀏覽器所預設的首頁;不得更動或調整搜尋引擎的功能或成果。

TOP