英國政府提交予國會「人工智慧監管規範政策報告」
英國政府由數位文化媒體與體育大臣（Secretary of State for Digital, Culture, Media and Sport）與商業能源與工業策略大臣（Secretary of State for Business, Energy and Industrial Strategy）代表，於2022年7月18日提交予國會一份「人工智慧監管規範政策報告」（AI Regulation Policy Paper）。內容除定義「人工智慧」（Artificial Intelligence）外，並說明未來政府建立監管框架的方針與內涵。
在定義方面，英國政府認為人工智慧依據具體領域、部門之技術跟案例有不同特徵。但在監管層面上，人工智慧產物則主要包含以下兩大「關鍵特徵」，造成現有法規可能不完全適用情形：
（1）具有「適應性」，擅於以人類難以辨識的意圖或邏輯學習並歸納反饋，因此應對其學習方式與內容進行剖析，避免安全與隱私問題。
（2）具有「自主性」，擅於自動化複雜的認知任務，在動態的狀況下持續判斷並決策，因此應對其決策的原理原則進行剖析，避免風險控制與責任分配問題。
在新監管框架的方針方面，英國政府期望所提出的監管框架依循下列方針：
（1）針對技術應用的具體情況設計，允許監管機構根據其特定領域或部門制定和發展更詳細的人工智慧定義，藉以在維持監管目標確定與規範連貫性的同時，仍然能實現靈活性。
（2）主要針對具有真實、可識別與不可接受的風險水準的人工智慧應用進行規範，以避免範圍過大扼殺創新。
（3）制定具有連貫性的跨領域、跨部門原則，確保人工智慧生態系統簡單、清晰、可預測且穩定。
（4）要求監管機構考量更寬鬆的選擇，以指導和產業自願性措施為主。
在跨領域、跨部門原則方面，英國政府則建議所有針對人工智慧的監管遵循六個總體性原則，以保障規範連貫性與精簡程度。這六個原則是基於經濟合作暨發展組織（OECD）的相關原則，並證明了英國對此些原則的承諾：
1.確保人工智慧技術是以安全的方式使用
2.確保人工智慧是技術上安全的並按設計運行
3.確保人工智慧具有適當的透明性與可解釋性
4.闡述何謂公平及其實施內涵並將對公平的考量寫入人工智慧系統
5.規範人工智慧治理中法律主體的責任
6.釋明救濟途徑
除了「人工智慧監管政策說明」外，英國政府也發布了「人工智慧行動計畫」（AI Action Plan）文件，彙整了為推動英國「國家人工智慧策略」（National AI Strategy）而施行的相關行動。前述計畫中亦指出，今年底英國政府將發布人工智慧治理白皮書並辦理相關公聽會。
魏徹
副法律研究員 編譯整理
Establishing a pro-innovation approach to regulating AI, GOV.UK, https://www.gov.uk/government/publications/establishing-a-pro-innovation-approach-to-regulating-ai/establishing-a-pro-innovation-approach-to-regulating-ai-policy-statement#next-steps, (last visited Aug. 23, 2022)
UK Government Sets Out Sector-Specific Vision for Regulating AI, Covington & Burling LLP, https://www.insideprivacy.com/artificial-intelligence/uk-government-sets-out-sector-specific-vision-for-regulating-ai/, (last visited Aug. 23, 2022)
德國聯邦議會於2015年12月3日通過「健康制度安全數位通訊與應用法」 (下稱數位健康法，Gesetz für sichere digitale Kommunikation und Anwendungen im Gesundheitswesen, e-Health-Gesetz)，本法無須經過聯邦參議院同意，最快將於2016 年初生效。 該法係以患者的權益和隱私為中心而制定。其中安全的數位基礎設施將改善健康照護、加強病患的自我決定權。數位健康法要求於全德範圍內，從2016 年中期開始至 2018年中，依法定之資訊技術基礎設施的時間表引進相關技術與設施，在醫療診所和醫院之間全面進行電信基礎設施的連結。 本法案要點摘要如下: • 最新一代的主資料管理（Stammdatenmanagement） (被保險人主資料（Versichertenstammdaten）的測試及更新) 將提供醫生最新資料和防止醫療給付濫用。這個數位健康卡第一個線上應用，將在2018 年中全面引進。而 2018 年 7 月 1 日起未參加線上被保險人主資料驗證之醫生，其補貼亦將削減。 • 醫療用緊急資料（Notfalldaten）應從 2018 年開始依被保險人意願在數位健康卡上儲存，以避免危險藥物的交互作用。因此，從2016 年 10 月開始，使用三種以上藥物患者，將收到藥物治療計畫（Medikationsplan）。而藥劑師自始即有義務在被保險人變更處方時更新之。從 2018 年開始，用藥計畫可以以電子傳輸方式從數位健康卡卡中檢索。 • 數位健康法將促進電子病歷（Arztbriefe）的推動。病患可以對其主治者告知其最重要的健康資料，並以數位資料形式儲存使用。另外，病患的權益和自主決定是本法重點，患者不僅可自行決定何種醫療資料應以卡片儲存，並可決定誰有權查閱。病患亦得提取卡片中儲存之資料。如血糖測量值、從可穿戴裝置或隨身手圈所量測的資料。 • 為提倡遠距醫療（Telemedizin），從 2017 年4 月開始遠距 x 光診斷評估和從 2017年7 月起，線上視訊諮詢時段納入醫療合約給付中。使病患更易獲取醫療訊息，同時在預後諮詢和監控諮詢中亦能得到醫療服務。 • 為進入遠端醫療時代，必須確保各種 IT 系統可以進行溝通，故須在 2017 年 6 月 30 日前提出互通性指引（Interoperabilitätsverzeichnis），使衛生部門不同的 IT 系統所採用的標準簡明化。 • 智慧手機和其他行動裝置使用健康APP已漸普及，到 2016 年底前應確認，被保險人是否可以使用相關設備來行使他們的醫療資料存取權限以及資料是否能夠相互連結進行傳輸。
美國廢止FCC對ISP之隱私權規則2016年10月27日，FCC依據傳播法案(Communication Act)第222條通過《寬頻用戶隱私保護規則》(Rules to Protect Broadband Consumer Privacy, 下稱2016 Privacy Order)。2016 Privacy Order主要包含以下三點： 選擇加入（Opt-in）：當使用或分享消費者之「敏感資訊」，須事先取得消費者明確之同意。「敏感資訊」包括精確的地理定位資訊、財務資訊、健康資訊、孩童資訊、社會安全號碼(Social Security Number, SSN)、網站瀏覽與應用程式使用紀錄，以及通訊內容。 選擇退出（Opt-out）：對於符合消費者期待的「非敏感資訊」，除非客戶Opt-out，ISP業者皆能在未取得消費者事先同意之情況下自由使用與分享。例如電子郵件位址與服務介面資訊(service tier information)。 例外：推定客戶會同意之資訊，例如在客戶與ISP業者建立關係後，不須額外取得寬頻服務或計費之同意。 2016 Privacy Order通過後受到ISP業者大力抨擊，尤其是網站瀏覽與應用程式使用紀錄亦須取得消費者事先同意之部分，其認為如此可能扼殺電子商務發展，消費者亦可能被不必要的警示轟炸。由於2016 Privacy Order引起諸多不平，因此通過後半年，美國參議院與眾議院分別於2017年3月投票廢止，總統並於4月3日正式簽署此份國會審查法案(Congressional Review Act)。 廢止《寬頻用戶隱私保護規則》之原因為，消費者之個人資料雖可受到保護，但該規則僅適用於寬頻服務提供者與其他電信供應商，並不包含網站與前端服務(edge services)。是以僅ISP業者受到較嚴厲之管制，其餘網路服務則由FTC管轄，而FTC對隱私權之規範較為寬鬆，因此可能發生提供不同服務的兩家業者使用同一份客戶資料，受到的管制程度卻不同之情形。 贊成2016 Privacy Order之議員與消費者自助組織(consumer-advocacy groups)表示ISP業者應受到較嚴厲之規範，因消費者能輕易在網站間轉換，卻不能輕易更換ISP，且ISP得以取得消費者在所有網站上之瀏覽資料，但如Google與Facebook等大廠雖非ISP業者，卻亦能取得不限於自身網站的客戶瀏覽資料。 由於《寬頻用戶隱私保護規則》已正式廢止，FCC將不得再通過其他相同或實質上相同之規範，對ISP業者之管制回歸《傳播法案》第222條，亦即，對於網站瀏覽與應用程式使用紀錄之使用或分享，不須取得客戶之事先同意。
保護、分級與言論（上） 歐洲議會通過《人工智慧法案》朝向全球首部人工智慧監管標準邁進下一步歐洲議會通過《人工智慧法案》 朝向全球首部人工智慧監管標準邁進下一步 資訊工業策進會科技法律研究所 2023年06月26日 觀察今年的科技盛事屬ChatGPT討論度最高，將人們從區塊鏈、元宇宙中，帶入人工智慧（AI）領域的新發展。ChatGPT於2022年11月由OpenAI開發的生成式人工智慧，透過深度學習模型，理解和生成自然語言，其功能包含回答各類型問題（如科學、歷史）、生成邏輯結構之文章（如翻譯、新聞標題）、圖形、影像等內容。然而對於人工智慧的發展，究竟如何去處理人機間互動關係，對於風險之管理及相關應用之規範又該如何，或許可從歐盟的法制發展看出端倪。 壹、事件摘要 面對人工智慧的發展及應用，歐盟執委會（European Commission）早在2018年6月成立人工智慧高級專家組（AI HLEG），並於隔年（2019）4月提出「可信賴的人工智慧倫理準則」（Ethics Guidelines for Trustworthy AI），要求人工智慧需遵守人類自主、傷害預防、公平、透明公開等倫理原則。於2021年4月21日歐盟執委會提出「人工智慧法律調和規則草案」（Proposal for a Regulation Laying Down Harmonised Rules on Artificial Intelligence (Artificial Intelligence Act) and Amending Certain Union Legislative Acts）（以下稱人工智慧法案），於2023年內部市場委員會（Internal Market Committee）與公民自由委員會（Civil Liberties Committee）通過並交由歐洲議會審議（European Parliament），最終《人工智慧法案》於2023年6月14日通過。後續將再歐盟理事會（Council of the European Union）與辯論協商，尋求具共識的最終文本[1]。 貳、重點說明 由於「歐盟議會通過」不等於「法案通過」，實際上歐盟立法機制不同於我國，以下透過法案內容說明的契機，概述一般情況下歐盟之立法流程： 一、歐盟立法過程 通常情況下，法案由歐盟執委會（下簡稱執委會）提出，送交歐盟理事會及歐洲議會，作為歐盟的「立法者」歐洲理事會（下簡稱理事會）與歐洲議會（下簡稱議會）將針對法案獨立討論並取得各自機關內之共識。大致上立法程序有可分為三階段，在一讀階段若理事會與議會對於執委會版本無修改且通過，則法案通過，若任一機關修改，則會進行到二讀階段。針對法案二讀若仍無法取得共識，則可召開調解委員會（Conciliation）協商，取得共識後進入三讀。簡單來說，法案是否能通過，取決於理事會與議會是否取得共識，並於各自機關內表決通過[2]。 目前《人工智慧法案》仍處於一讀階段，由於法案具備爭議性且人工智慧發展所因應而生之爭議迫在眉睫，議會通過後將與執委會、理事會進入「三方會談」（Trilogue）的非正式會議，期望針對法案內容取得共識。 二、人工智慧法案 （一）規範客體 《人工智慧法案》依風險及危害性程度分級，其中「不可接受風險」因抵觸歐盟基本價值原則禁止（符合公益目標，如重大或特定犯罪調查、防止人身安全遭受危害等例外許可）。「高風險」則為法案規範之重點，除針對系統技術穩健、資料處理及保存訂有規範外，針對人為介入、安全性等也訂定標準。 而針對高風險之範疇，此次議會決議即擴大其適用範圍，將涉及兒童認知、情緒等教育及深度偽造技術（Deepfake）納入高風險系統，並強調應遵循歐盟個人資料保護規範。此外對於社會具有高影響力之系統或社群平臺（法案以4500萬用戶做為判斷基準），由執委會評估是否列為高風險系統。針對目前討論度高的生成式人工智慧（ChatGPT），議會針對法案增訂其系統於訓練及應用目的上，應揭露其為生成式人工智慧所產出之內容或結果，並摘要說明所涉及之智慧財產權[3]。 （二）禁止項目 關於《人工智慧法案》對於高風險系統之要求，從執委會及理事會的觀點來看，原則上重點在於對弱勢的保護及生物資料辨識之權限。歐盟禁止人工智慧系統影響身理及心理，包含對於特定族群如孩童、身心障礙者等弱勢族群之不平等待遇。同時原則禁止即時遠端的生物辨識利用，包含對於人性分析、動作預測等對於人類評價、分類之應用，例外情況如犯罪調查、協尋失蹤兒童、預防恐怖攻擊、關鍵基礎設施破壞等情況時方被允許。此次議會決議提高禁止即時遠端生物辨識的標準，包含納入敏感資訊的蒐集如性別、種族、政治傾向等，及其他臉部辨識、執法、邊境管制、情緒辨識等項目[4]。 參、事件評析 有關《人工智慧法案》雖歐洲議會已一讀通過，然而後續仍要面對與歐盟理事會的協商討論，並取得共識才能規範整個歐盟市場。因此上述規範仍有變數，但仍可推敲出歐盟對於人工智慧（含生成式）的應用規範態度。在面對日新月異的新興科技發展，其立法管制措施也將隨著橫向發展，納入更多種面向並預測其走向趨勢。因人工智慧有應用多元無法一概而論及管制阻礙創新等疑慮，觀察目前國際上仍以政策或指引等文件，宣示人工智慧應用倫理原則或其風險之管理，偏重產業推動與自律。 觀察歐盟《人工智慧法案》之監管目的，似期望透過其市場規模影響國際間對於人工智慧的監管標準。倘若法案後續順利完成協商並取得共識通過，對於如OpenAI等大型人工系統開發商或社群平臺等，若經執委會評估認定為高風險系統，勢必對於未來開發、應用帶來一定衝擊。因此，歐盟對於人工智慧監管的態度及措施實則牽一髮而動全身，仍有持續觀察之必要。 本文同步刊登於TIPS網站（https://www.tips.org.tw） [1]The AI Act, Future of Life Institute, https://artificialintelligenceact.eu/developments/ (last visited Jun. 20, 2023) [2]The ordinary legislative procedure, Council of European Union, https://www.consilium.europa.eu/en/council-eu/decision-making/ordinary-legislative-procedure/ (last visited Jun. 19, 2023) [3]EU AI Act: first regulation on artificial intelligence, European Parliament, Jun. 14, 2023, https://www.europarl.europa.eu/news/en/headlines/society/20230601STO93804/eu-ai-act-first-regulation-on-artificial-intelligence (last visited Jun. 21, 2023) [4]MEPs ready to negotiate first-ever rules for safe and transparent AI, European Parliament, Jun. 14, 2023, https://www.europarl.europa.eu/news/en/press-room/20230609IPR96212/meps-ready-to-negotiate-first-ever-rules-for-safe-and-transparent-ai(last visited Jun. 21, 2023)