歐盟執委會提出「具可信度之人工智慧倫理指引」

  歐盟執委會人工智慧高級專家小組(High-Level Expert Group on Artificial Intelligence)於2019年4月8日公布「具可信度之人工智慧倫理指引」(Ethics Guidelines For Trustworthy AI)。該指引首先指出,具可信度之人工智慧需具備三個關鍵特徵:(1)合法(Lawful):應遵守所有適用於人工智慧之法規;(2)合乎倫理(Ethical):確保人工智慧符合倫理原則與價值;(3)健全(Robust):自技術與社會層面觀之,避免人工智慧於無意間造成傷害。

  該指引並進一步指出人工智慧應遵守以下四項倫理原則:

(1) 尊重人類之自主權(Respect for Human Autonomy):歐盟之核心價值在於尊重人類之自由與自主,與人工智慧系統互動之個人,仍應享有充分且有效之自我決定空間。因此,人工智慧之運用,不應脅迫、欺騙或操縱人類,人工智慧應被設計為輔助與增強人類之社會文化技能與認知。

(2) 避免傷害(Prevention of Harm):人工智慧不應對人類造成不利之影響,亦不應加劇既有的衝突或傷害。人工智慧之系統運行環境應具備安全性,技術上則應健全,且確保不會被惡意濫用。此外,弱勢族群應於人工智慧運用中受到更多關注,並被視為服務對象。

(3) 公平(Fairness):人工智慧系統之開發、布建與利用,必須具備公平性。除了透過實質承諾與規範,進行平等與公正之利益與成本分配外,亦須透過救濟程序確保個人或特定族群不受到歧視與偏見之侵害,並可對人工智慧之自動化決策結果提出質疑,且獲得有效之補救。

(4) 可解釋性(Explicability):人工智慧應盡量避免黑箱(Black Box)決策,其系統處理程序須公開透明,並盡可能使相關決策結果具備可解釋性,分析特定訊息可能導致之決策結果,此外亦需具備可溯性且可接受審核。

本文為「經濟部產業技術司科技專案成果」

※ 歐盟執委會提出「具可信度之人工智慧倫理指引」, 資訊工業策進會科技法律研究所, https://stli.iii.org.tw/article-detail.aspx?d=8236&no=57&tp=5 (最後瀏覽日:2026/04/20)
引註此篇文章
你可能還會想看
美國聯邦通訊傳播委員會完成空白頻段干擾測試

  美國聯邦通訊傳播委員會(Federal Communications Commission, FCC)於今(2008)年初完成700MHz頻譜拍賣後,在8月份針對空白頻段(white space)中可用以抗干擾之技術進行測試,並於8月11日完成測試。完整的測試報告預計將在9月份公布。FCC並可望在未來幾個月內表決是否開放空白頻段。   所謂「空白頻段」係指無線電視數位化之後,位於各電視頻道之間未被使用之閒置頻段。Google、Motorola、Microsoft等公司近一、二年來持續遊說FCC開放空白頻段(white space)免執照使用,以促進無線寬頻服務之發展。   儘管數位無線電視台及Verizon等正使用該頻段之業者有干擾疑慮,然主張開放空白頻段之公司深信開放空白頻段對於新興無線寬頻服務之發展將大有助益,且透過感測技術(sensing technology)或地理定位科技(geolocation technology),即可使得無線裝置於使用空白頻段之同時,不至於干擾數位無線電視台或其他取得執照使用該頻段之業者。   關於試驗結果,無線麥克風業者Shure之資深公關經理Mark Brunner 表示,感測技術幾乎完全無法準確偵測使用中之無線麥克風或電視頻道是否正播送中,自然無法避免干擾發生。支持開放空白頻段之Motorola公司則表示,儘管感測技術無法避免干擾發生,但是Motorola所使用之地理偵測科技則在測試中被證實可有效避開正在使用中之頻段,避免干擾情況發生。

英國政府公布物聯網設備安全設計報告及製造商應遵循之設計準則草案

  英國數位文化媒體與體育部於2018年3月8日公布「安全設計:促進IoT用戶網路安全(Secure by Design: Improving the cyber security of consumer Internet of Things)」報告,目的在於讓物聯網設備製造商於製程中即採取具有安全性之設計,以確保用戶之資訊安全。此報告經英國國家網路安全中心(National Cyber Security Centre, NCSC)、製造商及零售商共同討論,並提出了一份可供製造商遵循之行為準則(Code of Practice)草案。   此行為準則中指出,除設備製造商之外,其他包含IoT服務提供者、行動電話軟體開發者與零售商等也是重要的利益相關人。   其中提出了13項行為準則: 不應設定預設密碼(default password); 應實施漏洞揭露政策; 應持續更新軟體; 應確保機密與具有安全敏感性的資訊受到保護; 應確保通訊之安全; 應最小化設備可能受到網路攻擊的區域; 應確保軟體的可信性; 應確保設備上之個資受到妥善保障; 應確保系統對於停電事故具有可回復性; 應監督設備自動傳輸之數據; 應使用戶可以簡易的方式刪除個人資訊; 應使設備可被容易的安裝與維護; 應驗證輸入設備之數據。   此草案將接受公眾意見至2018年4月25日,並規劃於2018年期間進一步檢視是否應立相關法律與規範,以促進英國成為領導國際之數位國家,並減輕消費者之負擔並保障其隱私與安全權益。

<開原碼條例>建置醫療資源共享架構

  UCLA醫學中心以開放原始碼軟體Zope建置資訊系統,展開一項稱為「治療成效開放式架構」(OIO, Open Infrastructure for Outcomes) 的計畫,構築起未來醫療資訊系統的新基石。讓治療成效的資訊,能在一個共通的平台架構上進行資源分享。   長期以來,醫療資訊系統面臨的挑戰主要來自於下列三個面向:一、如何讓資訊系統提供令人滿意的服務功能,以取代將醫療記錄登載在紙張上的傳統方式。二、資訊系統的需求經常會改變,如何快速因應系統的改變需求。三、如何與其他醫療團隊夥伴,共同分享資料與工具。   OIO計劃透過資訊共享可加速醫療研究。開放式架構計畫的主要目的,並不是用來要求臨床工作者與醫療研究中心分享病歷資料,而是提供一個分享管理工具的機制,讓使用者能夠利用這些管理工具,進行資料的收集與分析,並和特定的診療研究人員進行溝通,而透過系統安全的機制,在過程當中並不會讓其他人得知資料內容。不過,如果有人想要進行管理工具或資料的進一步加值利用,僅需額外投入相當小的成本。   另外, 開放式架構計畫的設計極具彈性,除了目前所專注的治療成效資訊統計之外,其系統概念也可以用來管理客戶資訊、進銷存資訊、會計資訊等。整個系統開發環境是針對使用者而設計,而非程式人員,並且以網頁應用程式來實作,力求操作的便利性,目的之一是讓使用者能夠動手創造出自己所需的表格資料。另一方面,設計上也面對來自於法律與技術層面的挑戰,例如取得病患的同意及對系統的信任感,促使這套系統在實作時,必須能夠提供高度的修改彈性與安全性。   由於 OIO 在設計上,包含低成本、高效益、使用者導向、架構具有彈性等特色,並以開放源碼開發模式來鼓勵使用者測試及提供回饋意見,目前的應用效果持續擴大中。

美國生技學名藥法案不利廉價藥品供應

  近來國際藥商逐漸將研發眼光放在市面上既存的蛋白質生技學名藥(follow-on biologics, Biosimilar, Biogenerics)上,顧名思義,生技學名藥乃是仿製市面上的生技藥品,而在臨床效用上與所仿製的藥品完全一樣或只是做些微調整改良。   目前生技學名藥並無法適用Hatch-Waxman Act下之「簡易新藥申請」(Abbreviated New Drug Application,ANDA)程序,原因在於生技製藥通常為複雜的大分子,難以確認其與上市產品100%相同,故美國FDA採取另立新法管理的態度,但迄今仍未通過任何法律。在歐盟,由歐洲藥品管理局(European Medicines Agency)所發布的生技學名藥核准準則只要求藥商提出其分子具有與上市藥品相同之物理特性及毒性安全數據即可上市,故現行已有少部分生技學名藥在歐洲上市。   因而藥商在無簡易上市的程序下,只能循完整的臨床有效性試驗程序。事實上這與現行美國擬對生技學名藥上市管理所提出的法律草案內容一致,目前提出於國會山莊的三個法律草案版本(Sen. Ted Kennedy’s S.1695, Sen. Judd Gregg’s S.1505 & Rep. Anna Eshoo’s H.R.5629)皆強制大部分生技學名藥上市前必須經過完整的臨床有效性試驗。   相反的,傳統學名藥在自1984年的Hatch-Waxman Act以來,並無需進行最昂貴的第二及第三階段之臨床試驗,也因此對於病患、消費者等而言,生技學名藥價格並不友善,通常只比其所仿製的上市藥品便宜一至二成,在有市場利基的功用調整下則有可能更貴;這比起競爭激烈的學名藥價格動輒較其原始藥品便宜五成以上相去甚多。並且所費不貲的臨床實驗亦將使生技學名藥只有擁有龐大資源的少數大藥廠能取得入場門票,因此專家預估生技學名藥的立法並不會像Hatch-Waxman Act一樣,進而形成生技學名藥業(generic biotech industry),而是形成所謂的生技仿製業(me-too industry)。

TOP