歐盟議會發布《可信賴人工智慧倫理準則》

  2019年4月9日,歐盟議會發布《可信賴人工智慧倫理準則》(Ethics Guidelines for Trustworthy AI)。此次內容大致延續歐盟人工智慧高階專家小組(High-level Expert Group on Artificial Intelligence)於2018年12月18日發布的《可信賴人工智慧倫理準則草案》(Draft Ethics Guidelines for Trustworthy Artificial Intelligence)之內容,要求人工智慧須遵守行善(do good)、不作惡(do no harm)、保護人類(preserve human Agency)、公平(be fair)與公開透明(operate transparency)等倫理原則;並在4月9日發布的正式內容中更加具體描述可信賴的人工智慧的具體要件,共計七面向概述如下:

  1. 人類自主性和監控(Human agency and oversight):AI係為強化人類能力而存在,使人類使用者能夠做出更明智的決策並培養自身的基礎能力。同時,AI應有相關監控機制以確保AI系統不會侵害人類自主性或是引發其他負面效果。本準則建議,監控機制應可透過人機混合(一種整合人工智慧與人類協作的系統,例如human-in-the-loop, human-on-the-loop, and human-in-command)的操作方法來實現。
  2. 技術穩健性和安全性(Technical Robustness and safety):為防止損害擴張與確保損害最小化,AI系統除需具備準確性、可靠性和可重複性等技術特質,同時也需在出現問題前訂定完善的備援計劃。
  3. 隱私和資料治理(Privacy and data governance):除了確保充分尊重隱私和資料保護之外,還必須確保適當的資料治理機制,同時考慮到資料的品質和完整性,並確保合法近用資料為可行。
  4. 透明度(Transparency):資料、系統和AI的商業模型應該是透明的。可追溯性機制(Traceability mechanisms)有助於實現這一目標。此外,應以利害關係人能夠理解的方式解釋AI系統的邏輯及運作模式。人類參與者和使用者需要意識到他們正在與AI系統進行互動,並且必須了解AI系統的功能和限制。
  5. 保持多樣性、不歧視和公平(Diversity, non-discrimination and fairness):AI不公平的偏見可能會加劇對弱勢群體的偏見和歧視,導致邊緣化現象更為嚴重。為避免此種情況,AI系統應該設計為所有人皆可以近用,達成使用者多樣性的目標。
  6. 社會和環境福祉(Societal and environmental well-being):AI應該使包含我們的後代在內的所有人類受益。因此AI必須兼顧永續發展、環境友善,並能提供正向的社會影響。 
  7. 問責制(Accountability):應建立機制以妥當處理AI所導致的結果的責任歸屬,演算法的可審計性(Auditability)為關鍵。此外,應確保補救措施為無障礙設計。

相關附件
你可能會想參加
※ 歐盟議會發布《可信賴人工智慧倫理準則》, 資訊工業策進會科技法律研究所, https://stli.iii.org.tw/article-detail.aspx?d=8248&no=57&tp=1 (最後瀏覽日:2026/11/16)
引註此篇文章
你可能還會想看
美國如何管制新興技術出口

  美國國會於2018年8月13日通過之《出口管制改革法》(Export Control Reform Act of 2018, ECRA)第1758條,以國家安全為由,授權商務部建立對美國新興與基礎技術出口、再出口或移轉之認定與管制程序。有鑑於此,商務部下轄之工業安全局(Bureau of Industry and Security, BIS)於同年11月19日發布了法規制定預告(advance notice of proposed rulemaking),對外徵求關於認定「新興技術」之意見。   BIS指出,美國政府多年來依循《出口管制條例》(Export Administration Regulations, EAR)限制特定敏感技術或產品出口,以避免關鍵技術落入他國手中。惟既有之審查範圍已不足以涵蓋近年許多重大創新技術,故BIS先行臚列了14項擬在未來實施出口管制的新興科技,向公眾徵求其是否確屬「涉及國家安全之特定新興技術」相關意見。該14項科技包含:(1)生物技術;(2)人工智慧與機器學習技術;(3) 定位、導航和定時技術;(4)微處理器技術;(5)先進計算技術;(6)數據分析技術;(7)量子信息和傳感技術;(8)物流技術;(9)積層製造技術;(10)機器人;(11)腦機介面;(12)高超聲速;(13)先進材料;(14)先進監控技術。   除此之外,民眾亦得對如何認定「新興技術」提出一般性之意見,俾將來政策實施更加周全。意見徵求期間從2018年11月19日起,至2019年1月10日截止。

德國聯邦政府公布2016年《研究與創新成果報告》

  德國聯邦教育及研究部於6月1日公布《2016年德國研究與創新報告》(簡稱為BUFI) ,由聯邦教育及研究部部長Johanna Wanka 公布,這份報告每兩年由德國聯邦教育與研究部製作一次,作為2016年的趨勢展望。以下為報告中幾項重點:   德國政府在研發的支出創下歷史新高,在最新統計數據中,就2014年已有近840億歐元投入研究和發展領域,在歐洲位居首位。另外,德國聯邦政府在產業界投入570億歐元,占德國研發總預算約三分之二,已創下歷史新高。而2015年對產業界投入的研發支出又比前一年成長6.4%。而德國勞動總人口約434萬,目前統計從事研發活動的人口約60萬人,首次創下勞動人口比例歷史新紀錄。在歐盟國家中德國本已位於領先地位,在世界競爭力指數(WCI)排名中,德國更是遙遙領先其他國家,在140個國家中排名第六。德國的研究成果亦獲得國際間的肯定,德國在學術界的地位在最近一年持續領先。在德國關於德國科學家的著作,是躋身全球最常被引用的出版物的前十分之一。德國的專利申請數量在世界上排名領先,平均註冊專利數量從2003-2013年成長約9%,在歐盟遙遙領先其他成員國,在世界上專利數量則是美國的兩倍。   德國同時是研發產品輸出為主的國家,特別是在高科技產品輸出方面,即使中國如今名列前茅,德國依舊占據前排位置。在歐盟國家中,德國則位居第一。聯邦政府將研究與創新為財政編列預算優先事項,聯邦政府持續增加研發支出,根據目前2016年的總預算中,針對研發編列了1兆5800億歐元。聯邦政府補助德國在未來重點新興領域的研發及加強中小企業創新能力。聯邦政府在高科技戰略中所列的各大議題氣候變化與能源、健康與營養、移動、安全與通訊都將予以補助。又2015年政府已針對中小企業投資了1兆4500億歐元。各邦政府在研發支出亦占各邦年度總預算比例高達40%,由此可看出德國政府對創新與研發的重視。

美國聯邦加強導入節能績效保證專案,並規劃採購實務增訂規範

  美國總統歐巴馬於2011年12月發布備忘錄(Presidential Memorandum),要求美國聯邦政府應加強「導入節能績效保證專案(Implementation of Energy Savings Projects and Performance-Based Contracting for Energy Savings)」,並宣布未來24個月內最少將投入20億(billion)美元經費,推動聯邦機構採購實施節能績效保證專案,以改善建築物能源效率。基於政策指示,美國能源部(Department of Energy)下屬聯邦能源管理推動機構(Federal Energy Management Program,以下簡稱FEMP),研議規劃配套機制,協助導入「節能績效保證專案(Energy Savings Performance Contract,以下簡稱ESPC)」,更精簡、效率、低成本之實施模式,並助益美國能源技術服務產業(Energy Service Companies,以下簡稱ESCO)發展。   美國FEMP於2012年2月公告ESPC採購關於「資金(Financing)」部分之「資訊徵求意見書(Request for Information,RFI)」,廣詢實務各界意見,希望能繼而落實於政府採購規範及契約範本之研議,並協助ESCO業者能更順利取得資金,並協助ESCO業者能更順利取得資金,及降低資金取得成本,如此亦可有利益於所採購導入之聯邦機構。   FEMP主要係規劃探討關於ESPC融資資金,最合理且有吸引力之利率,所應考慮各項要件及利率定價模式,並且規劃建立資金協助者之優先名單(Preferred Financiers),以利配套選用。再者FEMP為推動整合,特別探討ESPC跨專案(Project Aggregation (Combining))時,可能影響資金協助者之融資與財務評估,例如數ESPC專案、數ESCO業者、由同一資金協助者承接,或是數ESPC專案、數實施地點、同一ESCO業者,同一資金協助者,亦或者數ESPC專案、數實施地點、數ESCO業者、但同一政府機構、且同一資金協助者,研析相關影響要件。   以及,FEMP並探討ESPC實施「量測驗證(Measurement and Verification),對於取得融資評估過程是否增加複雜影響因素,以及資金協助者對於量測驗證機制,是否認為將增加風險並致更高融資利率,均為重要探討議題。此項意見徵求書,未來將落實於聯邦機構政府採購之實務規範上,相關內容再持續觀察追蹤。

美國FTC警告科技公司,不應迫於外國勢力而削弱對消費者之隱私與資料安全保障

美國聯邦貿易委員會(Federal Trade Commission)主席Andrew N. Ferguson於2025年8月21日發信給13家科技公司,其中包含Alphabet、Amazon、Apple、Microsoft、Meta、X等國際知名科技公司,警告他們有義務保護美國消費者隱私與資料安全,若在外國政府施壓下審查美國公民的資料,將有違反《聯邦貿易委員會法》(Federal Trade Commission Act, FTC Act)之虞。 信中指出,科技公司可能為遵循外國法規或迫於外國政府壓力,削弱對美國公民的隱私及資料安全保護。如歐盟《數位服務法》(Digital Services Act)、英國《網路安全法》(Online Safety Act)期望科技公司審查用戶言論內容;而英國《調查權力法》(Investigatory Powers Act)則為滿足英國政府取得用戶儲存資料之目的,要求科技公司削弱原本對用戶採行之點對點加密措施。Ferguson主席更表示:「外國勢力審查及削弱加密措施等行動,將侵害美國公民的自由或使美國公民遭受各種危害,例如受外國政府監視、增加身分盜用與詐騙風險」。 信中亦提及,科技公司在遵守外國法律及相關要求的同時,仍須遵守FTC Act第5條規定,亦即禁止企業在市場中進行不公平或欺騙性行為的規定。同時也表示,過去20年來,FTC已對未能履行消費者資料安全或隱私承諾之公司提起數十起訴訟,並將持續要求蒐集、使用、分享或傳輸消費者個人資料的公司,應採取合理的安全措施,藉此確保消費者權益。

TOP