歐盟提出人工智慧法律調和規則草案
歐盟執委會（European Commission）於2021年4月21日提出「人工智慧法律調和規則草案」（Proposal for a Regulation Laying Down Harmonised Rules on Artificial Intelligence (Artificial Intelligence Act) and Amending Certain Union Legislative Acts）（簡稱AI規則草案），旨在平衡「AI運用所帶來的優勢」與「AI對個人或社會所帶來的潛在負面衝擊」，促使會員國在發展及運用AI時，能採取協調一致的態度及方法，共同維護歐洲公民基本權利與歐盟價值。
歐盟自2019年起即倡議發展「值得信賴的AI」（Trustworthy AI）。AI規則草案之提出，除了落實執委會2019年至2024年之政策願景外，亦呼應2020年歐洲議會（European Parliament）之建議—針對AI應用之機會與利益採取立法行動，並確保合乎倫理原則。惟鑒於歐盟在環境、健康、公共事務、金融、交通、農業等領域對AI應用之高度需求，以及企業仰賴AI技術提升競爭優勢等因素，執委會係以「風險為基礎」之概念取向（risk-based approach）制定AI規則草案，避免對新技術發展造成不必要的限制或阻礙。
本規則草案將AI系統，依其「對歐盟基本權利或價值所創造的風險程度」，分為下列三種類型，並施以不同程度的監理方式：
一、不可接受之風險：原則上禁止使用此類型AI系統或使其進入歐盟市場。例如：利用潛意識技術操控個人、在公共場合利用「即時遠端生物辨識系統」進行執法、公務機關普遍對個人進行社會評分等。
二、高風險：於附錄中列出所謂高風險AI系統，要求高風險AI系統之提供者遵循風險管理、資料治理、文件紀錄保存、透明性與資訊揭露、人為監督、健全性、準確性與資安等要求；且AI系統進入歐盟市場前，需進行符合性評估（conformity assessment），進入市場後，則需持續監控。
三、非不可接受之風險亦非高風險：鼓勵AI系統提供者或使用者，自願建立行為準則（codes of conduct）。
AI規則草案亦鼓勵會員國建立AI監理沙盒（regulatory sandbox）機制，且以中小企業、新創公司為優先對象，使創新AI系統進入市場之前，能於可控環境中依明確計畫進行開發、測試與驗證。
張腕純
組長 編譯整理
EUROPEAN COMMISSION, Proposal for a Regulation Laying down Harmonised Rules on Artificial Intelligence (Artificial Intelligence Act) and Amending Certain Union Legislative Acts (2021), https://ec.europa.eu/newsroom/dae/document.cfm?doc_id=75788 (last visited Apr. 30, 2021).
Shaping Europe’s Digital Future: A European Approach to Artificial Intelligence, European Commission, https://digital-strategy.ec.europa.eu/en/policies/european-approach-artificial-intelligence (last visited Apr. 30, 2021).
Ursula von der Leyen, My Agenda for Europe: Political Guidelines for the Next European Commission 2019-2024 (2019), https://ec.europa.eu/info/sites/default/files/political-guidelines-next-commission_en_0.pdf (last visited Apr. 30, 2021).
落實完善數位資料管理機制， 有助於降低AI歧視及資料外洩風險 資訊工業策進會科技法律研究所 2023年07月07日 近年來，科技快速發展，AI(人工智慧)等技術日新月異，在公私部門的應用日益廣泛，而且根據美國資訊科技研究與顧問公司Gartner在2023年5月發布的調查指出，隨著由OpenAI開發的ChatGPT取得成功，更促使各領域對於AI應用的高度重視與投入[1]，與此同時，AI歧視及資料外洩等問題，亦成為社會各界的重大關切議題。 壹、事件摘要 目前AI科技發展已牽動全球經濟發展，根據麥肯錫公司近期發布的《生成式人工智慧的經濟潛力：下一個生產力前沿(The next productivity frontier)》研究報告指出，預測生成式AI(Generative AI)有望每年為全球經濟增加2.6兆至4.4兆的經濟價值[2]。同時在美國資訊科技研究與顧問公司Gartner對於超過2500名高階主管的調查中，45%受訪者認為ChatGPT問世，增加其對於AI的投資。而且68%受訪者認為AI的好處大於風險，僅有5%受訪者認為風險大於好處[3]。然而有社會輿論認為AI的判斷依賴訓練資料，將可能複製人類偏見，造成AI歧視問題，而且若程式碼有漏洞或帳戶被盜用時，亦會造成資料外洩問題。 貳、重點說明 首先，關於AI歧視問題，以金融領域為例，近期歐盟委員會副主席Margrethe Vestager強調若AI用於可能影響他人生計的關鍵決策時，如決定是否能取得貸款，應確保申請人不受性別或膚色等歧視[4]，同時亦有論者認為若用於訓練AI的歷史資料，本身存有偏見問題，則可能導致系統自動拒絕向邊緣化族群貸款，在無形之中加劇，甚至永久化對於特定種族或性別的歧視[5]。 其次，關於資料外洩問題，資安公司Group-IB指出因目前在預設情況下，ChatGPT將保存使用者查詢及AI回應的訊息紀錄，若帳戶被盜，則可能洩露機敏資訊。據統計在2022年6月至2023年5月間，在亞太地區有近41000個帳戶被盜，而在中東和非洲地區有近25000個帳戶被盜，甚至在歐洲地區也有近17000個帳戶被盜[6]。另外在2023年3月時，ChatGPT除了發生部分用戶能夠檢視他人聊天紀錄標題的問題外，甚至發生個人資料外洩問題，即用戶可能知悉他人的姓名、電子郵件，付款地址，信用卡到期日及號碼末四碼等資料[7]。 參、事件評析 對於AI歧視及資料外洩等問題，應透過落實完善數位資料治理與管理機制，以降低問題發生的風險。首先，在收集訓練資料時，為篩選適合作為模型或演算法基礎的資料，應建立資料評估或審查機制，減少或避免使用有潛在歧視問題的資料，以確保分析結果之精確性。 其次，不論對於訓練資料、分析所得資料或用戶個人資料等，均應落實嚴謹的資料保密措施，避免資料外洩，如必須對於資料進行標示或分類，並依照不同標示或分類，評估及採取適當程度的保密措施。同時應對於資料進行格式轉換，以無法直接開啟的檔案格式進行留存，縱使未來可能不慎發生資料外洩，任意第三人仍難以直接開啟或解析資料內容。甚至在傳送帳戶登入訊息時，亦應採取適當加密傳送機制，避免遭他人竊取，盜取帳戶或個人資料。 財團法人資訊工業策進會科技法律研究所長期致力於促進國家科技法制環境完善，於2021年7月發布「重要數位資料治理暨管理制度規範（Essential Data Governance and Management System，簡稱EDGS）」，完整涵蓋數位資料的生成、保護與維護，以及存證資訊的取得、維護與驗證的流程化管理機制，故對於不同公私部門的AI相關資料，均可參考EDGS，建立系統性數位資料管理機制或強化既有機制。 本文同步刊登於TIPS網站（https://www.tips.org.tw） [1]Gartner, Gartner Poll Finds 45% of Executives Say ChatGPT Has Prompted an Increase in AI Investment (May 3, 2023), https://www.gartner.com/en/newsroom/press-releases/2023-05-03-gartner-poll-finds-45-percent-of-executives-say-chatgpt-has-prompted-an-increase-in-ai-investment (last visited June 30, 2023). [2]McKinsey, The economic potential of generative AI: The next productivity frontier (June 14, 2023), https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/the-economic-potential-of-generative-AI-the-next-productivity-frontier#introduction (last visited June 30, 2023). [3]Gartner, supra note 1. [4]Zoe Kleinman, Philippa Wain & Ashleigh Swan, Using AI for loans and mortgages is big risk, warns EU boss (June 14, 2023), https://www.bbc.com/news/technology-65881389 (last visited June 30, 2023). [5]Ryan Browne & MacKenzie Sigalos, A.I. has a discrimination problem. In banking, the consequences can be severe (June 23, 2023), https://www.cnbc.com/2023/06/23/ai-has-a-discrimination-problem-in-banking-that-can-be-devastating.html (last visited June 30, 2023). [6]Group-IB, Group-IB Discovers 100K+ Compromised ChatGPT Accounts on Dark Web Marketplaces; Asia-Pacific region tops the list (June 20, 2023), https://www.group-ib.com/media-center/press-releases/stealers-chatgpt-credentials/ (last visited June 30, 2023). [7]OpenAI, March 20 ChatGPT outage: Here’s what happened (Mar. 24, 2023),https://openai.com/blog/march-20-chatgpt-outage (last visited June 30, 2023).
歐盟檢視「2005-2009年歐洲奈米科學與技術行動計畫」之執行成效歐盟執委會(European Commission)於今年9月初公佈了「『2005-2009年歐洲奈米科學與技術行動計畫』(Nanosciences and Nanotechnologies: An action plan for Europe 2005-2009)之期中執行報告」，文中總結了於2005至2007年有關該計劃重點領域執行之相關的活動及進程。 在該報告中，歐盟執委會也在報告中指出歐洲在奈米科學與技術發展上的一些弱點，包括：主要跨領域基礎設施的缺乏、私資金在奈米科技產業研發創新上的短缺（儘管「歐洲技術平台」積極鼓勵私人參與奈米科學與技術的投資，但目前私資金仍只佔全部資金之55%）、以及隨著歐盟會員國投資的增加，重複研究及分裂研究的風險也隨之增加。此外，奈米科技跨領域及創新的本質對於既有之研究、教育、專利授予及規範等方法也形成不少的挑戰。 另一方面，報告也指出歐洲在一些重點區域研究的整合相當成功；例如，在中小企業參與第六期研發綱領計畫(FP6) 中之奈米科學與技術計畫的部份，即由2003-2004年的18%成長至2006年的37%。此外，歐盟執委會也有計劃地來支持技術商業化的發展，像是競爭及創新計畫(Competitiveness and Innovation Programme)、財務風險分攤機制（Risk Sharing Financial Facility）、以及接收利用奈米技術為基礎之控制管路(pilot lines)；未來，歐盟執委會計畫對負責任奈米科學與技術之研究採取自願性的行為規範。 下一份奈米科學與技術行動計畫之執行報告預計在2009年底公佈。
印度民航局發布無人機規則草案印度民航局（Directorate General of Civil Aviation，以下簡稱DGCA）在禁止公眾使用無人機多年後，終於在2017年11月1日發布無人機使用規則（草案），並於網站上公開徵求意見。民航局部長P Ashok Gajapathi Raju表示，草案將於接下來的30日內，與所有利益相關者進行交流，一旦協商完成，將會確定無人機監管框架。預計今年12月底前完成訂定無人機使用管理規範，包含商業用途無人機。 根據規則草案，無人機依照最大起飛重量將其分為五類，分別為： 奈米（nano）無人機：重量小於250克； 微型（micro）無人機：重量在250克和2公斤之間； 迷你無人機（mini）：重量介於2公斤至25公斤； 小型無人機：重量25公斤至150公斤； 大型無人機：重量150公斤以上。 除了飛行能力不超過50英尺高度的奈米無人機，所有無人機必須依照DGCA規定取得識別碼（Unique Identification Number）。針對2公斤以上的無人機需有無人機操作員許可證（Unmanned Aircraft Operator Permit），任何無人機的遙控飛行員必須年滿18歲，且需受過規定的培訓。 另，基於安全考量，草案規定禁止飛行無人機之區域，例如：機場範圍半徑5公里內、國際邊界50公里範圍內、戰略區域500公尺以內的國家重地、人口稠密地區、影響公共安全或正在進行緊急行動的地區、移動式平台（如：汽車、飛機或輪船）、及國家公園和野生動物保護區等生態敏感區域（eco-sensitive areas）等，違規者將依印度刑法之規定起訴。
USPTO 宣佈將加速綠色科技專利案件審查美國專利商標局USPTO日前宣佈一項專為綠色科技(Green Technologies)而設的前導計劃(Pilot Program)，透過這項計劃期望能將相關溫室氣體排減、節約能源等申請案加速其審查、公開及訴願程序，至少縮短流程一年。目前平均來說從申請至最終結果出爐需耗時40個月。這項消息係由美國商務部長駱家輝(Gary Locke)所宣佈，普遍被認為是為了呼應於哥本哈根舉行的聯合國氣候變化框架公約第15次締約方會議。 符合條件的申請案必須於2009年12月8日前送件，而且必須是尚未收到第一次官方通知(First Office Action，包括限縮專利範圍的通知)，另外申請人還必須於2010年12月8日前以電子檔提交「特別審查程序」(petition to make special)並符合下列要求： ●必須是正式發明申請案(non provisional utility application)，不適用於再領證(reissue) 與再審查(re-examine) 專利 ●必須是上述前導計劃中所包括的約79項專利項目之一 ●申請案必須不包含超過3個獨立項與20個專利申請範圍 ●如欲提早公告需附上申請書 (petition) ●如果USPTO判定為超過一項的發明，申請人必須同意用電話做出選擇 雖然USPTO預估目前有25,000件審核中的專利符合加速審理的資格，但他們預計只受理最初的3000件申請以評估這項計劃的效益與工作量。至於有意提出申請者則需要審慎評估快速審查之外的其他利弊，例如提早公告，限縮的運用範圍與專利申請範圍等。這項計劃公佈的同時USPTO的局長 David Kappos 亦承諾將定期對外更新該計劃的進度，並將成立一個網上的交流平台讓大眾可以對此計劃提出意見。