歐盟議會發布《可信賴人工智慧倫理準則》

  2019年4月9日,歐盟議會發布《可信賴人工智慧倫理準則》(Ethics Guidelines for Trustworthy AI)。此次內容大致延續歐盟人工智慧高階專家小組(High-level Expert Group on Artificial Intelligence)於2018年12月18日發布的《可信賴人工智慧倫理準則草案》(Draft Ethics Guidelines for Trustworthy Artificial Intelligence)之內容,要求人工智慧須遵守行善(do good)、不作惡(do no harm)、保護人類(preserve human Agency)、公平(be fair)與公開透明(operate transparency)等倫理原則;並在4月9日發布的正式內容中更加具體描述可信賴的人工智慧的具體要件,共計七面向概述如下:

  1. 人類自主性和監控(Human agency and oversight):AI係為強化人類能力而存在,使人類使用者能夠做出更明智的決策並培養自身的基礎能力。同時,AI應有相關監控機制以確保AI系統不會侵害人類自主性或是引發其他負面效果。本準則建議,監控機制應可透過人機混合(一種整合人工智慧與人類協作的系統,例如human-in-the-loop, human-on-the-loop, and human-in-command)的操作方法來實現。
  2. 技術穩健性和安全性(Technical Robustness and safety):為防止損害擴張與確保損害最小化,AI系統除需具備準確性、可靠性和可重複性等技術特質,同時也需在出現問題前訂定完善的備援計劃。
  3. 隱私和資料治理(Privacy and data governance):除了確保充分尊重隱私和資料保護之外,還必須確保適當的資料治理機制,同時考慮到資料的品質和完整性,並確保合法近用資料為可行。
  4. 透明度(Transparency):資料、系統和AI的商業模型應該是透明的。可追溯性機制(Traceability mechanisms)有助於實現這一目標。此外,應以利害關係人能夠理解的方式解釋AI系統的邏輯及運作模式。人類參與者和使用者需要意識到他們正在與AI系統進行互動,並且必須了解AI系統的功能和限制。
  5. 保持多樣性、不歧視和公平(Diversity, non-discrimination and fairness):AI不公平的偏見可能會加劇對弱勢群體的偏見和歧視,導致邊緣化現象更為嚴重。為避免此種情況,AI系統應該設計為所有人皆可以近用,達成使用者多樣性的目標。
  6. 社會和環境福祉(Societal and environmental well-being):AI應該使包含我們的後代在內的所有人類受益。因此AI必須兼顧永續發展、環境友善,並能提供正向的社會影響。 
  7. 問責制(Accountability):應建立機制以妥當處理AI所導致的結果的責任歸屬,演算法的可審計性(Auditability)為關鍵。此外,應確保補救措施為無障礙設計。

相關附件
※ 歐盟議會發布《可信賴人工智慧倫理準則》, 資訊工業策進會科技法律研究所, https://stli.iii.org.tw/article-detail.aspx?d=8248&no=67&tp=1 (最後瀏覽日:2025/11/27)
引註此篇文章
你可能還會想看
OECD啟動全球首創的《開發先進人工智慧系統組織的報告框架》

2025年2月7日,經濟合作暨發展組織(Organization for Economic Cooperation and Development,OECD)正式啟動《開發先進人工智慧系統組織的報告框架》(Reporting Framework for the Hiroshima Process International Code of Conduct for Organizations Developing Advanced AI Systems,簡稱G7AI風險報告框架)。 該框架之目的是具體落實《廣島進程國際行為準則》(Hiroshima Process International Code of Conduct)的11項行動,促進開發先進人工智慧系統(Advanced AI Systems)的組織建立透明度和問責制。該框架為組織提供標準化方法,使其能夠證明自身符合《廣島進程國際行為準則》的行動,並首次讓組織可以提供有關其人工智慧風險管理實踐、風險評估、事件報告等資訊。對於從事先進人工智慧開發的企業與組織而言,該框架將成為未來風險管理、透明度揭露與國際合規的重要依據。 G7 AI風險報告框架設計,對應《廣島進程國際行為準則》的11項行動,提出七個核心關注面向,具體說明組織於AI系統開發、部署與治理過程中應採取之措施: 1. 組織如何進行AI風險識別與評估; 2. 組織如何進行AI風險管理與資訊安全; 3. 組織如何進行先進AI系統的透明度報告; 4. 組織如何將AI風險管理納入治理框架; 5. 組織如何進行內容驗證與來源追溯機制; 6. 組織如何投資、研究AI安全與如何降低AI社會風險; 7. 組織如何促進AI對人類與全球的利益。 為協助G7推動《廣島進程國際行為準則》,OECD建構G7「AI風險報告框架」網路平台,鼓勵開發先進人工智慧的組織與企業於2025年4月15日前提交首份人工智慧風險報告至該平台(https://transparency.oecd.ai/),目前已有包含OpenAI等超過15家國際企業提交報告。OECD亦呼籲企業與組織每年定期更新報告,以提升全球利益相關者之間的透明度與合作。 目前雖屬自願性報告,然考量到國際監理機關對生成式AI及高風險AI 系統透明度、可問責性(Accountability)的日益關注,G7 AI風險報告框架內容可能成為未來立法與監管的參考作法之一。建議企業組織持續觀測國際AI治理政策變化,預做合規準備。

歐盟執委會通過「歐洲創新議程」,加速深度技術創新並資助新創事業

  歐盟執委會(European Commission, EC)於2022年7月5日通過「新歐洲創新議程」(New European Innovation Agenda,下稱創新議程),藉由引領創新,特別是在「深度技術」(Deep Tech),例如AI、量子科學、光子技術等領域之創新,強化歐洲在綠色轉型和數位轉型的中心角色,並為氣候變遷及網路威脅等迫切的社會問題,提供創新的解決方案,以減少能源依賴、改善民眾健康,並繁榮歐洲經濟。創新議程包括以下5項旗艦項目: (1)資助新創公司(start-ups):使歐洲私人機構及其他私人投資者更願意投資於「深度技術」之新創公司。除此之外,簡化上市規則,使公司上市成本減少,以增加公司上市意願,更易於向公眾募集資金。 (2)重視實驗場域及創新採購:讓創新的企業可藉由「監理沙盒」(Regulatory Sandbox)等實驗場域(experimentation spaces)驗證其概念,政府則加強對創新產品和服務的公共採購(public procurement),促進創新研發。 (3)打造歐洲創新生態系(European Innovation Ecosystems):支持包括低度開發地區在內的區域,建立多個「區域創新谷」(regional innovation valleys),以強化歐洲創新者間的連結,並促進會員國投入至少100億歐元於各區域創新谷包含「深度技術」在內的創新專案。 (4)育才、攬才及留才:確保「深度技術」的人才能來到歐盟國家,並在歐盟國家間流動及發展,當中包括針對新創公司的創新實習生計畫、幫助新創公司尋找非歐盟人才的歐盟人才資料庫(talent pool)計畫、女性創業和領導計畫、新創公司員工有認股權(stock option)等。 (5)優化政策制定之流程及架構,促進歐盟內部協調一致:藉由開發可供各國比對的資料集(data set),以及對於新創公司設立階段(start-up)及成長階段(scale-up)之共通定義,提升並強化政策的傳播及落實,並確保在歐洲創新理事會論壇(European Innovation Council)有更好的政策協調。

中國大陸商務部擬整併外資三法重新建構外資企業管理規範

中國大陸商務部擬整併外資三法重新建構外資企業管理規範 資策會科技法律研究所 法律研究員 丘瀚文 104年12月 壹、前言   中國大陸自1979年開始為引進並規範外國投資,陸續頒布《中外合資經營企業法》、《中外合作經營企業法》《外資企業法》(下稱外資三法),雖外資三法奠定了中國大陸開放外資的基礎,惟頒布日期年代久遠,最近一次的修訂是在2000年和2001年,已難以跟上世界潮流。包括外資三法之逐案審批制以及對外國投資者企業組織型態之規定等,皆不利於外資進入中國大陸。因此中國大陸在第十八屆三中全會提出「構建開放型經濟新體制」、「統一內外資法律法規」與「改革涉外投資審批體制」等方針。   有鑑於此,中國大陸商務部隨後於2015年1月提出《外國投資法》草案,並廣徵外界意見。依據商務部草案徵求意見稿說明,《外國投資法》立法目的有三;一為外資三法確立的逐案審批制管理模式已不能適應構建開放型經濟新體制的需要,應建立新管理模式。二為外資三法中關於企業組織形式、經營活動等規定和《公司法》等相關法律重複且適用衝突;三是外資併購、國家安全審查等重要制度需要納入外國投資的基礎性法律建構。草案內容對我方業者影響甚钜,本文將說明《外國投資法》草案重點,供各界瞭解並預為因應[1]。 貳、《外國投資法》草案主要內容 一、外資投資項目:負面表單模式   現行外資三法對於外商投資項目規範方式係採逐案審批制,舉凡一切外國投資事項,例如合資企業與合作企業之契約、章程內容與修正等,皆須經由各主管機關審批方得執行。而由於各地政府於審批時所使用標準不同,容易造成外資審批程序不透明、審查時間長短不同等困擾。國務院為解決此一問題,於2015年頒布〈國務院辦公廳關於印發自由貿易試驗區外商投資准入特別管理措施的通知〉,針對自由貿易試驗區之外商投資案件改採負面表列方式管理,非負面表列之行業均按照內外資一致原則實施管理。   商務部於2015年1月所提出之《外國投資法》草案中,亦承繼此宗旨採取相同管理方式。依《外國投資法》草案第25條與26條之規定,中國大陸官方應設置「禁止實施目錄」與「限制實施目錄」,其中禁止實施目錄指外國投資者不得投資之項目,限制實施目錄則係指外國投資者經須由主管部門許可方得投資之項目,主管部門並得限制如持股比例、投資區域等條件。簡言之,於《外國投資法》草案中,取消了審批制度,除了「禁止實施目錄」與「限制實施目錄」所負面表列之項目外,原則上外資毋庸經主管機關許可即可投資。 二、外商投資組織變更   關於中國大陸外商投資組織,由於外資三法以及各種實施細則對外資企業設有特殊組織機構規範,造成《公司法》頒佈後同時有兩種外資投資組織體系併存,在法制運作實務上迭生困擾。例如關於董事會之職權,依《中外合資經營企業法》董事會為合營企業最高權利機關[2],且合營企業性質為有限責任公司[3];惟依《公司法》規範體系觀之,有限責任公司最高權利機關卻為股東會,兩者規範顯有衝突。   本次草案中雖廢除了外資三法適用,惟並未對外資企業形式做出具體規範,僅提及應按《公司法》、《合夥企業法》、《個人獨資企業法》等法律法規變更企業組織形式和組織機構,因此現有外商投資企業若組織形式與《公司法》、《合夥企業法》、《個人獨資企業法》法律規定不一致,則須依該等規範進行調整。 三、外國投資安全審查   為避免外國投資者進入,影響國家安全或造成中國大陸產業打壓可危,國務院已於2011年2月發佈了〈國務院辦公廳關於建立外國投資者並購境內企業安全審查制度的通知〉,並建立了一套國家安全審查體系。而為了鞏固國家經濟體質,本次草案中仍承繼原有的國家安全審查體系,內容包含國外投資者在投資特定項目時,應經由國家審查通過後方得進行,包含外國投資者應透露投資金額、出資比例、經營計畫並與主管機關進行預約商談等程序。而所謂影響國家安全或造成中國大陸產業打壓,則需考量外國投資者投資對國家關鍵研發能力、技術領先地位、國家經濟運行影響等要件。審查結果則分為三類:1.外國投資無危害國家安全疑慮者可通過審查;2.外國投資可能危害國家安全但可藉由限制性條件消除者,可附條件通過審查;3.外國投資危害國家安全重大者不予通過。 四、外國投資企業事前報告與事後監督制度   為顧及國內產業推動,本次草案中並新增訊息報告制度,要求外國投資者在投資實施前或投資實施日起30日內,須向主管機關提交訊息報告,報告內容包含外國投資金額、領域、方式、出資比例等;且外國投資者亦須於每年4月30日前,提交上一年度資訊報告予主管機關。主管機關則具有監督管理之責,應檢察企業「是否投資禁止實施目錄」、「是否履行訊息報告義務」、「是否違反主管機關設立投資限制目錄許可要件」。若審查結果發現確實違反規定,該外資將面臨罰款、沒收非法投資所得並吊銷許可等行政罰,違反訊息報告義務情節重大者,尚可處以最高1年以下之有期徒刑或拘役。 五、判別外資標準:實質控制   本次《外國投資法》草案第15條,重新定義對所謂「外國投資」進行定義,其中最重要是明文限制過去遊走於法律灰色地帶的「協定控管」(Variable Interest Entity)。   由於中國大陸對於外資投資領域的限制相當嚴格,尤其是電信業、金融業、媒體業、出版業等,因此實務上外資則常透過「協定控管」之方式規避官方禁止投資項目[4]。所謂「協定控管」係指外國公司為規避投資項目限制,不以直接購買股份的方式投資,而透過合約方式列協議達到實質上控制境內公司,如此外觀上非屬外國投資企業,即可規避外資三法所設立之外商投資項目限制。   商務部發現外國投資企業可能利用「協定控管」規避負面表單所表列項目,故於本次草案中明文規定外國投資者定義包含受外資「實質控制」的境內公司,而將「協定控管」的投資納入外國投資定義中[5]。值得一提的是,外國投資者如受中國大陸投資者控制,其在境內之投資可視為中國大陸投資者投資,不適用《外國投資法》。簡言之,《外國投資法》建立雙向判定的實質控制標準,判別方式則視「外國投資者是否實質控制企業」以辨別外國投資者與中國大陸投資者。 參、結論   大陸近來對於外資整體管理方向皆為改革開放路線與降低投資標準,本次由商務部所提出之《外國投資法》草案,亦承繼此改革開放精神,進一步擴張了外資投資項目,並加入了事前報告與事後監督制度,一方面放寬外資進入的門檻,同時加強外資進入後的監督。此一作法對於我方業者造成之影響整理如下: 一、契約、章程內容更加靈活   依現行投資三法規定,合資企業與合作企業之契約、章程內容與修正均需得主管機關同意。而《外國投資法》草案中,關於投資契約、章程規定並非審查之重點,縱使投資契約變更亦無須主管機關再次審查,此點變更可使我方業者投資時,契約與章程內容設立、變更皆能更因應情勢而有變化,為雙方交易帶來更大的利益。 二、台商組織變更   本次草案將外資三法之企業組織體系廢除,我方業者商業組織結構應隨之變更。又考量到此一變更將提升外國企業管理成本,商務部亦於草案中規定三年之緩衝期間,亦即應於草案生效後三年內變更完成之。惟企業若經營期限在該法生效後三年內屆滿且擬延長經營期限的,應在企業既有經營期限內進行變更[6]。若相關企業未在規定期限內完成該等變更,根據《外國投資法》草案第151條之規定,主管部門可吊銷許可證件或營業執照,並依法追究刑事責任。 三、投資項目增多   草案將投資項目審閱更改為負面表單方式,即除特定項目外,其他項目均予以開放,並將外國投資項目未在禁止實施目錄與限制實施目錄者,放寬至等同國民待遇,即毋須主管機關核可即可依法辦理工商登記,與舊制之逐案審查制不同。   依草案23條規定禁止實施目錄與限制實施目錄均由相關部門提出,並交由國務院審議後公佈[7]。商務部亦於2015年3月公佈「外商投資產業指導目錄」,關於數位內容產業部份,新版內容將「網路出版服務」列入禁止外商投資產業目錄,惟草案所稱之禁止實施目錄是否會等同於外商投資產業指導目錄,仍需追蹤後續發展。整體而言本次管制鬆綁對於外商投資發展具正面意義,業者可預先構思法案施行後,進入未列入負面表單項目之市場時點與相關策略作法;惟草案同時放寬了外資入門門檻與提升主管機關監督義務之規定,是否會影響我方業者於大陸市場之競爭力,則仍有待持續觀察。 [1] 本文下稱法條、機構,均指中國大陸,合先敘明。 [2] 中外合資經營企業法第6條「 合營企業設董事會,其人數組成由合營各方協商,在合同、章程中確定,並由合營各方委派和撤換。董事長和副董事長由合營各方協商確定或由董事會選舉產生。中外合營者的一方擔任董事長的,由他方擔任副董事長。董事會根據平等互利的原則,決定合營企業的重大問題。」 [3] 中外合資經營企業法第4條「合營企業的形式為有限責任公司。在合營企業的註冊資本中,外國合營者的投資比例一般不低於百分之二十五。合營各方按註冊資本比例分享利潤和分擔風險及虧損。合營者的註冊資本如果轉讓必須經合營各方同意。」 [4] 李貴敏,〈貴在立法:大陸投資法變革,台商應及早因應〉,卡優新聞網,2015/07/28,http://www.cardu.com.tw/news/detail.php?nt_pk=22&ns_pk=26931(最後瀏覽日期:2015/10/22) [5] 外國投資法第11條2項「受前款(外國投資者)規定的主體控制的境內企業,視同外國投資者。」與《外國投資法》草案第15條2項「境外交易導致境內企業的實際控制權向外國投資者轉移的,視同外國投資者在中國境內投資。」 [6] 《外國投資法》草案第157條規定:「本法生效前依法存續的外國投資企業,在本法生效後三年內應按照《公司法》、《合夥企業法》、《個人獨資企業法》等法律法規變更企業組織形式和組織機構,但企業既有經營期限在本法生效後三年內屆滿且擬延長經營期限的,應在企業既有經營期限內進行變更。」 [7] 《外國投資法》草案第23條「特別管理措施目錄由國務院統一制定並發佈。國務院外國投資主管部門會同有關部門,根據國家締結的多雙邊、區域投資條約、公約、協定和有關外國投資的法律、行政法規、國務院決定,提出制定或調整特別管理措施目錄的建議,提交國務院審議。」

歐盟著作權指令實行至今未達促進網路服務成長之目的

  歐洲委員會委託荷蘭「阿姆斯特丹大學資訊法律學院」及倫敦「皇后瑪莉智慧財產中心」,就歐盟2001年通過之著作權指令於各會員國實行之情況與對市場之影響進行評估,並於2007年2月完成評估報告。該份報告指出,歐盟著作權指令就推動線上內容服務成長之目的僅達成少部分目標,若歐盟未來可能成為網路服務之單一市場,則本指令必須加以修改。   報告指出,部分指令內容的欠缺明確,留給各會員國極大的裁量空間於內國法排除規範之訂定與限制規範之研擬,此一情況實為該指令功能未能彰顯之重要因素。且因各會員國幾乎可完全自由決定欲採用之制度,將嚴重影響跨疆界網路內容服務的建構,尤其調和規範之欠缺,直接影響關於市場玩家提供跨疆界網路服務相關法律的明確性。而由於規範的不確定性,則迫使使用者於面臨跨疆界著作之使用時,需與每位權利人就使用受保障著作的範圍進行協商,導致交易成本之增加。另外,該指令之規範亦轉變了科技法律之態樣,推翻舊有權利平衡,而創造出偏向權利人、遠離著作使用者的規範模式,擴張的重製權賦予權利人幾乎完全的控制權力,而此一權利實非於實體世界權利人所能專享。   此份報告建議,為達成會員國規範具某程度的一致性,未來宜就該指令可附加之限制,明列簡短的必要禁止規範,各國亦可依據自身需求附加進一步的排除條款。同時建議歐洲各國可參考德國強制將數位權力管理資訊、著作使用範圍與特性於產品上附加說明之模式,作為未來規範訂定之參考。

TOP