歐盟執委會(European Commission)於2021年4月21日提出「人工智慧法律調和規則草案」(Proposal for a Regulation Laying Down Harmonised Rules on Artificial Intelligence (Artificial Intelligence Act) and Amending Certain Union Legislative Acts)(簡稱AI規則草案),旨在平衡「AI運用所帶來的優勢」與「AI對個人或社會所帶來的潛在負面衝擊」,促使會員國在發展及運用AI時,能採取協調一致的態度及方法,共同維護歐洲公民基本權利與歐盟價值。 歐盟自2019年起即倡議發展「值得信賴的AI」(Trustworthy AI)。AI規則草案之提出,除了落實執委會2019年至2024年之政策願景外,亦呼應2020年歐洲議會(European Parliament)之建議—針對AI應用之機會與利益採取立法行動,並確保合乎倫理原則。惟鑒於歐盟在環境、健康、公共事務、金融、交通、農業等領域對AI應用之高度需求,以及企業仰賴AI技術提升競爭優勢等因素,執委會係以「風險為基礎」之概念取向(risk-based approach)制定AI規則草案,避免對新技術發展造成不必要的限制或阻礙。 本規則草案將AI系統,依其「對歐盟基本權利或價值所創造的風險程度」,分為下列三種類型,並施以不同程度的監理方式: 一、不可接受之風險:原則上禁止使用此類型AI系統或使其進入歐盟市場。例如:利用潛意識技術操控個人、在公共場合利用「即時遠端生物辨識系統」進行執法、公務機關普遍對個人進行社會評分等。 二、高風險:於附錄中列出所謂高風險AI系統,要求高風險AI系統之提供者遵循風險管理、資料治理、文件紀錄保存、透明性與資訊揭露、人為監督、健全性、準確性與資安等要求;且AI系統進入歐盟市場前,需進行符合性評估(conformity assessment),進入市場後,則需持續監控。 三、非不可接受之風險亦非高風險:鼓勵AI系統提供者或使用者,自願建立行為準則(codes of conduct)。 AI規則草案亦鼓勵會員國建立AI監理沙盒(regulatory sandbox)機制,且以中小企業、新創公司為優先對象,使創新AI系統進入市場之前,能於可控環境中依明確計畫進行開發、測試與驗證。
英國提出因應GDPR自動化決策與資料剖析規定之細部指導文件2018年5月,英國資訊專員辦公室(Information Commissioner’s Office, ICO)針對歐盟GDPR有關資料自動化決策與資料剖析之規定,公布了細部指導文件(detailed guidance on automated decision-making and profiling),供企業、組織參考。 在人工智慧與大數據分析潮流下,越來越多企業、組織透過完全自動化方式,廣泛蒐集個人資料並進行剖析,預測個人偏好或做出決策,使個人難以察覺或期待。為確保個人權利和自由,GDPR第22條規定資料當事人應有權免受會產生法律或相類重大效果的單純自動化處理決策(a decision based solely on automated processing)之影響,包括對個人的資料剖析(profiling),僅得於三種例外情況下進行單純自動化決策: 為簽訂或履行契約所必要; 歐盟或會員國法律所授權; 基於個人明示同意。 英國2018年新通過之資料保護法(Data Protection Act 2018)亦配合GDPR第22條規定,制定相應國內規範,改變1998年資料保護法原則上容許資料自動化決策而僅於重大影響時通知當事人之規定。 根據指導文件,企業、組織為因應GDPR而需特別留意或做出改變的事項有: 記錄資料處理活動,以幫助確認資料處理是否符合GDPR第22(1)條單純自動化決策之定義。 倘資料處理涉及資料剖析或重大自動化決策,應進行資料保護影響評估(Data Protection Impact Assessment, DPIA),判斷是否有GDPR第22條之適用,並及早了解相關風險以便因應處理。 提供給資料當事人的隱私權資訊(privacy information),必須包含自動化決策之資訊。 應確保組織有相關程序能接受資料當事人的申訴或異議,並有獨立審查機制。 指導文件並解釋所謂「單純自動化決策」、「資料剖析」、「有法律效果或相類重大影響」之意義,另就可進行單純自動化決策的三種例外情況簡單舉例。此外,縱使符合例外情況得進行單純自動化決策,資料控制者(data controller)仍必須提供重要資訊(meaningful information)給資料當事人,包括使用個人資料與自動化決策邏輯上的關聯性、對資料當事人可能產生的結果。指導文件亦針對如何向資料當事人解釋自動化決策處理及提供資訊較佳的方式舉例說明。
英國推動智慧電網 – 對隱私疑慮的回應與提供用戶能源使用量資訊之規劃 美國商務部取消對來自敏感國家之外國科學家使用部分研究設備之限制911 恐怖攻擊以來,美國持續加強國土安全保護,而為保障國家安全及科技競爭力,美國商務部( US Department of Commerce )原本打算制定安全管制規定, 對來自敏感國家之外國科學家, 限制其 使用部分的實驗研究設備。所謂敏感國家( countries of concern ),包括巴基斯坦、印度、俄羅斯及中國,來自於這些國家的科學研究人員若要在美國境內的從事特定實驗研究,因而需要使用特定設施設備者(主要是可用於軍事用途者),不論研究設施設備是屬於聯邦或民間所有,在開始操作、進行安裝、維護與修繕等之前,必須先向美國政府提出申請始可近用。 現行美國有關技術管制規定主要係針對敏感科技的出口,商務部自 2004 年起,即打算推動修正此等規定,進一步將部分可用於軍事用途之研究設施設備予以立法管制,從美國政府所公布的管制清單來看,其涵蓋範圍甚廣,從化學、雷射到細菌培養等各領域之研究設施設備,均涵蓋在內,故商務部此項修法計畫一經公開,立即震撼外界,除學術界及產業界強烈外抨擊,就連聯邦實驗室也大表反對。反對意見多認為,預計的修正規定將會破壞大學校園中之開放精神,影響科學自由的研究環境;而研究設施設備近用之事前許可制,亦將造成學界與業界的負擔;甚至可能阻礙未來大學或業界延攬外國科技人才參與研究計畫之進行,長期而言,實將會戕害美國的國際競爭力。 面對各界反對聲浪,為避免降低研究型企業之生產力,美國商務部在今年 5 月底宣布取消原來的立法管制計畫,不過,商務部將會召集產學研各界專家,組成一個十二人的委員會,持續就實驗室安全管制的問題交換意見,期能獲致更有效之解決之道。