德國向歐盟提交《人工智慧白皮書-歐洲卓越與信任概念》及《人工智慧，物聯網和機器人技術對安全和責任之影響報告》意見
德國聯邦政府於2020年6月29日，針對歐盟執委會於2020年2月19日公布的《人工智慧白皮書-歐洲卓越與信任概念》(Weißbuch zur Künstlichen Intelligenz – ein europäisches Konzept für Exzellenz und Vertrauen)及《人工智慧，物聯網和機器人技術對安全和責任之影響報告》(Bericht über die Auswirkungen künstlicher Intelligenz, des Internets der Dinge und der Robotik in Hinblick auf Sicherheit und Haftung) 提交意見，期能促進以負責任、公益導向、以人為本的人工智慧開發及使用行為，並同時提升歐盟的競爭力及創新能力。
歐盟執委會所發布的人工智慧的白皮書及人工智慧對安全和責任的影響報告，一方面可促進人工智慧使用，另一方面則藉此提醒相關風險。本次意見主要集結德國聯邦經濟與能源部、教育與研究部、勞動與社會事務部、內政、建築及社區部以及司法與消費者保護部之意見。德國政府表示，投資人工智慧為重要計畫之一，可確保未來的創新和競爭力，以及應對諸如COVID-19疫情等危機。最重要的是，可透過人工智慧的應用扶持中小型公司。然而在進行監管時，必須注意應促進技術發展而非抑制創新。
在《人工智會白皮書-歐洲卓越與信任概念》中指出，人工智慧發展應在充分尊重歐盟公民的價值觀和權利的前提下，實現AI的可信賴性和安全發展之政策抉擇，並於整體價值鏈中實現「卓越生態系統」（Ökosystem für Exzellenz），並建立適當獎勵機制，以加速採用AI技術為基礎之解決方案。未來歐洲AI監管框架將創建一個獨特的「信任生態系統」（Ökosystem für Vertrauen），並確保其能遵守歐盟法規，包括保護基本權利和消費者權益，尤其對於在歐盟營運且具有高風險的AI系統更應嚴格遵守。此外，應使公民有信心接受AI，並提供公司和公共組織使用AI進行創新之法律確定性。歐盟執委會將大力支持建立以人為本之AI開發方法，並考慮將AI專家小組制定的道德準則投入試行階段。德國政府指出，除了要制定並遵守歐洲AI的監管政策外，應特別注重保護人民之基本權，例如個人資料與隱私、消費者安全、資料自決權、職業自由、平等待遇等，並呼籲國際間應密切合作，運用人工智慧技術克服疫情、社會和生態永續性等挑戰。另外，德國政府亦支持將人工智慧測試中心與真實實驗室（監理沙盒場域）相結合，以助於加速企業實際運用，也將帶頭促進AI在公部門之運用。
在《人工智慧，物聯網和機器人技術對安全和責任之影響報告》中則指出，歐洲希望成為AI、IoT和機器人技術的領導者，將需要清楚、可預測的法律框架來應對技術的挑戰，包括明確的安全和責任框架，以確保消費者保護及企業合法性。AI、IoT和機器人技術等新數位技術的出現，將對產品安全性和責任方面出現新挑戰，而在當前的產品安全法規上，缺乏相關規範，特別是在一般產品的安全指令，機械指令，無線電設備指令等，未來將以一致地在各框架內針對不同法律進行調修。在責任方面，雖然原則上現有法令尚仍可應對新興技術，但人工智慧規模的的不斷變化和綜合影響，將可能增加對受害者提供賠償的困難度，導致不公平或效率低下的情形產生，為改善此一潛在不確定性，可考慮在歐盟層級調修產品責任指令和國家責任制度，以顧及不同AI應用所帶來的不同風險。德國政府除了支持歐盟作法，在創新與監管取得平衡，更強調應不斷檢視產品安全和產品責任法是否可滿足技術發展，尤其是對重要特定產業的要求，甚至修改舉證責任。並可透過標準化制定，加速人工智慧相關產品與服務的開發。另外，應依照風險高低擬定分類方法，並建議創建高風險AI系統之註冊與事故報告義務，以及相關數據保存、記錄及資料提供之義務，針對低風險AI應用則採自願認證制度。
本文為「經濟部產業技術司科技專案成果」
潘俊良
高級法律研究員 編譯整理
莊貫勤，〈歐盟發布「人工智慧白皮書」以因應人工智慧未來可能的機遇與挑戰〉，資策會科法所法律要聞，https://stli.iii.org.tw/article-detail.aspx?tp=1&i=180&d=8438&no=64 （最後瀏覽日：2020/09/23）。
在獲准件數方面，2005年我國人民向美國專利商標局申請獲准專利案件計5,993件，較上年減少16.84%，維持第3名，次於日本（31,834件）及德國（9,575件）；向日本特許廳申請專利獲准案計2,305件，較上年增加24.33%，居所有外國人專利核准案件數第2名，次於美國；向歐洲專利局申請專利獲准案件計133件，較上年成長17.70%。 專利可反映一個國家或區域的創新活動，同時可展現該國或區域發揮知識力量，並將其轉換為有潛力的經濟產出的能力。專利獲准的條件是必須具新穎性、進步性及產業利用性，因此，專利的數量及其相關指標可說是衡量研究及發展（R&D）投入所獲產值的最佳工具。 根據智慧財產局最近發布之「2005年我國與美日歐專利申請暨核准概況分析」， 2005年我國向美國專利商標局、日本特許廳及歐洲專利局之申請與核准專利件數較往年雖有成長，但我國向美國申請專利件數已由2004年的居所有外國申請人之第3名下降為第4名，被南韓所超越，南韓的大幅成長值得關注。 美國依然是我國人民提出專利申請的主要國家，2005年我國人民向美國專利商標局申請專利案計16,617件，較上年增加10.36﹪，居所有外國人新申請案第4名。而南韓向美國專利商標局提出專利申請案自2003年之10,411件，成長至2004年之13,646件，2005年更以17,217件超越我國，攀至第3名。在日本方面，我國人民向日本特許廳申請專利每年超過3,000件，2005年排名第3，次於美國（9,177件）、韓國（5,990件）；而在歐洲專利局方面，2005年我國人民共申請679件，有逐年增加趨勢，在亞洲國家中次於日本（21,461件）、南韓（3,853件）。
日本政府公布「日本再興戰略2016 (草案) 」，並以實現第四次工業革命為主軸日本首相官邸之「日本經濟再生本部」於2016年5月19日召開第27次「產業競爭力會議」，並於該會議上提出「日本再興戰略2016（草案）」進行討論。再興戰略以實現「第四次工業革命」為主軸，透過活用IoT、巨量資料、人工智慧（AI）、機器人等技術，目標在2020年創造出30兆日圓的市場附加價值。為了推動相關政策，今年夏天將會成立具備統整指揮機能之「第四次工業革命官民會議」，該會議下並設置「人工智慧技術戰略會議」、「第四次工業革命 人才育成推動會議（暫定名稱）」，以及「機器人革命實現會議」。 「日本再興戰略2016（草案）」，特別對於製造業相關之議題提出討論。再興戰略指出，日本相較他國，雖然在網路空間的「虛擬資料（バーチャルデータ）」平台方面發展較晚，然而在健康資料、交通資料、工廠設備運轉等「即時資料（リアルデータ）」領域有潛在的優勢，因此為了讓日本的企業超越目前的框架，將以建構取得「即時資料」之平台為目標。綜整「日本再興戰略2016（草案）」具體重要政策方面如述，包括： (1)日本政府認為，第四次工業革命普及的關鍵，在於根據中小企業的現場需求，導入IT及機器人等技術，因此將請機器人專家支援，在兩年內將技術導入1萬家以上的企業。 (2)人工智慧的研發係屬第四次工業革命的基礎技術，因此要建構提供AI軟體模組工具，以及推動標準化的完善環境，並於今年內提出研發及產業化的具體施政內容，並留意開發人工智慧的透明性、控制可能性等原則及國際動向。 (3)關於產業活用區塊鏈技術（Block chain）、整備制度促進資料流通等議題，預計於今年秋天提出對應方針。 (4)於「機器人革命倡議協議會」檢討製造業之商業模式改革、與德國共同提案國際標準化及先進案例。 (5)於2020年以前，運用傳感器蒐集資料，創造50件以上，工廠和總公司間，企業和企業間等超越組織框架的先進案例，並提出國際標準。 (6)進行智慧工廠實證，建構具備AI技術的自動化模組以及智慧的產業保全。此外，為超越既有企業間的框架，將於機器設備進行資料共有及活用的實證，並根據實證結果修正相關制度。 (7)整備促進資料利用的環境，特別著重能夠蒐集、分析的資料平台，形成健全的資料流通市場。因此，為釐清彼此的權利義務關係，今年內個人資料保護委員會將提出相關交易指針。 (8)強化智財紛爭處理系統，將徵詢產業界的意見，於今年提出法制改革的結論。 (9)強化中小企業的智財戰略以及必要審查體制，協助其申請及活用專利權，預計明年度開始擴大支援業務，負責機關為獨立行政法人工業所有權資料‧研修館（INPIT）。
美國國家標準暨技術研究院規劃建立「人工智慧風險管理框架」，並徵詢公眾對於該框架之意見美國國家標準暨技術研究院（National Institute of Standards and Technology, NIST）為管理人工智慧對於個人、組織以及社會所帶來之風險，於2021年7月29日提出將建立「人工智慧風險管理框架」（Artificial Intelligence Risk Management Framework, AI RMF）之規畫並徵詢公眾意見，截止日為9月15日，並預計於10月發布正式報告。 依照NIST說明，公眾所建議之人工智慧風險管理框架，可促進人工智慧之可信賴性，其中包含如何應對並解決人工智慧於設計、發展及使用過程中所遭遇之「精確度」（accuracy）、「可解釋性」（explainability）、「偏見」（bias）等議題。此外，上開管理框架預計為非強制性、供企業自願性使用於人工智慧設計、發展、使用、衡量及評估之人工智慧標準。 依現有公眾意見徵詢結果，其中DeepMind公司建議於人工智慧設計初期，必須預先構思整體系統之假設是否符合真正社會因果關係。舉例言之，當設計一套可預測民眾健保需求程度之系統時，如輸入參數僅考量民眾於醫療上的花費，將使僅有可負擔較高醫療費用之民眾被歸類為健保需求程度較高者，從而導致健保制度排擠經濟負擔程度較差之公民，故在設計系統時，應從預先設定之假設事實反面（counter-factual）思考並驗證是否會產生誤差或公平性之問題（例如預先思考並驗證「醫療費用支出較低之民眾是否即可被正確歸類為健保需求度低之民眾」）。惟進行上述驗證需要大量社會資料，因此DeepMind也建議NIST應建立相關機制，使這些社會資料可以被蒐集、使用。 此外，亦有民眾建議管理框架應有明確之衡量方法以及數值指標，以供工程界遵循。同時鑒於人工智慧發展極為快速，未來可能有不同於以往之人工智慧類型出現，故亦建議NIST應思考如何在「建構一套完整且詳細之人工智慧治理框架」與「保持人工智慧治理框架之彈性與靈活性」之間取得平衡。 最後，目前也有許多徵詢意見指出，許多人工智慧治理之目標會相互衝突。舉例言之，當NIST要求人工智慧系統應符合可解釋性，則人工智慧公司勢必需要經常抽取人工智慧系統中之「數據軌跡」（audit logs），惟數據軌跡可能被認為是使用者之個人資料，因此如何平衡或完善不同治理框架下之目標，為未來應持續關注之議題。
美國消費者金融保護局發布最終規則強化消費者金融資料控制權與隱私保護.Pindent{text-indent: 2em;} .Noindent{margin-left: 22px;} .NoPindent{text-indent: 2em; margin-left: 38px;} .No2indent{margin-left: 3em;} .No2Pindent{text-indent: 2em; margin-left: 3em} .No3indent{margin-left: 4em;} .No3Pindent{text-indent: 2em; margin-left: 4em} 美國消費者金融保護局發布最終規則強化消費者金融資料控制權與隱私保護 資訊工業策進會科技法律研究所 2024年12月10日 美國消費者金融保護局（Consumer Financial Protection Bureau, CFPB）於2024年10月22日發布最終規則以落實2010年《消費者金融保護法》（Consumer Financial Protection Act, CFPA）第1033條規定之個人金融資料權利[1]，該規則即通常所稱之「開放銀行」（Open Banking）規則。 壹、事件摘要 本次CFPB頒布最終規則旨在賦予消費者對其個人金融資料更大的權利、隱私與安全性。透過開放消費者金融資料，消費者得更自由地更換金融服務提供者以尋求最佳交易，從而促進市場競爭，並激勵金融機構精進其產品與服務[2]。 貳、重點說明 最終規則要求資料提供者在消費者及授權第三方之請求下，提供消費者金融產品或服務相關資料，並應以消費者及授權第三方可使用之電子形式提供。最終規則亦制定標準，以促進資料標準化格式（standardized formats）之發展和使用，同時規範第三方近用消費者資料義務，包括對資料之蒐集、利用及保留限制。相關重點如下： 一、受規範機構主體 最終規則規範對象為資料提供者（data provider），包含銀行、信用合作社等存款機構（depository institution）；發行信用卡、持有交易帳戶、發行用於近用帳戶設備或提供支付促進服務（payment facilitation service）等非存款機構[3]。值得注意者，最終規則將數位錢包（digital wallet）及支付應用程式（payment app）業者納入資料提供者範圍，亦即被廣泛使用的金融科技服務亦將受到開放銀行規範體系之約束。此外，資料提供者不得向消費者或第三方收取資料近用之費用。 二、受規範資料範圍 最終規則規範之資料範圍涵蓋：資料提供者控制或擁有之24個月內之歷史交易資訊、帳戶餘額、付款資訊、契約條款與條件、即將到期之帳單、以及基本帳戶驗證資訊（Basic account verification information）等[4]，消費者得授權第三方近用此類資料。至於機密商業資訊、蒐集資料僅用於防止詐欺、洗錢，或為偵測或報告其他非法及潛在非法行為，又或基於其他法律要求保密之資訊，以及在正常業務過程中無法檢索之資料，則豁免最終規則之適用[5]。 三、消費者與開發者介面 根據最終規則，資料提供者須建立及維護兩個獨立的介面以利資料之近用，包含：消費者介面，例如提供消費者近用其資料之入口網站，以及授權第三方之開發者介面（developer interface），例如應用程式介面（Application Programming Interface, API），雖最終規則不要求使用任何特定技術，然仍要求資料提供者須以標準化機器可讀格式（Standardized and Machine-Readable Format）提供資料，介面功能要求須達每月最低99.5%之回應率（response rate）[6]。此類資訊須在每月最末日前揭露於資料提供者網站上。此外，介面之設計須遵守《美國金融服務業現代化法》(The Gramm-Leach-Bliley Act, GLBA)」及聯邦貿易委員會（Federal Trade Commission, FTC）之《消費者資訊保障標準》(Standards for Safeguarding Customer Information)等消費者資料保護法規義務[7]。 四、授權第三方之行為義務 授權第三方（authorized third party）為代表消費者向資料提供者請求近用資料，藉以提供消費者產品或服務者。為解決隱私與資料安全問題，該規則對尋求近用消費者資料之第三方提出數項要求[8]，包含但不限於： （一）知情同意之取得 第三方須取得消費者明確知情同意（express informed consent），以便代表消費者近用資料。 （二）資料利用之限制 第三方須確保將其資料之蒐集、利用及保留限制在提供消費者所請求的產品或服務之合理必要範圍內。就此部分，精準廣告（targeted advertising）、交叉銷售（Cross-selling），以及銷售資料並非提供產品或服務之合理必要範圍。 （三）遵守聯邦法規 第三方須依GLBA第501條規定或FTC之《消費者資訊保障標準》確保在其系統中採用「資訊安全計畫」（information security program）。 （四）政策與程序文件要求 第三方應擁有合理書面政策和程序，以確保從資料提供者處準確接收資料，並提供於其他第三方，即資料正確性之確保。 （五）資料撤回權之確保 第三方應向消費者提供撤回第三方授權之方法，撤回過程須簡易明瞭。在第三方收到消費者撤回授權之請求時，應通知資料提供者以及已向其提供消費者資料之其他第三方。 （六）第三方監督義務 第三方應透過契約要求其他第三方在向其提供消費者資料前遵守特定第三方法定義務。 （七）資料保存期限 消費者資料之保存期限最長為一年。若繼續蒐集，第三方應取得消費者重新授權。若消費者不提供重新授權或撤回授權，第三方應停止資料之蒐集，並停止利用與保留先前蒐集之資料。 五、實施日期 最終規則將依機構資產規模分階段實施[9]，最大規模之機構（資產總額為2500億美元以上之存款機構資料提供者，以及在2023年或2024年任一年中，總收入達到100億美元以上之非存款機構資料提供者）須在2026年4月1日前遵守最終規則。對於規模最小之機構（資產總額低於15億美元但高於8.5億美元之存款機構資料提供者）須於2030年4月1日前遵守該規則。另總資產低於8.5億美元之存款機構不受該規則限制，以減輕小型銀行及信用合作社合規負擔。 參、事件評析 CFPB之CFPA第1033條最終規則將重塑美國金融市場之監理格局，由市場驅動之開放銀行框架走向由政府透過法規實質監理之管制措施，要求業者開放消費者資料。值得留意者，歐盟執委會（European Commission）2023年6月推出之「金融資料近用」（Financial Data Access, FiDA）草案[10]亦基於消費者賦權理念，強化消費者對其資料權利之控制權。由此可觀察國際間金融資料利用與監理規範逐漸走向以消費者資料自主為中心之法制架構，當代金融資料監理趨勢或值得我國主管機關及業者留意關注，除可作為我國金融資料法制與政策制定之參考，亦供我國企業布局全球化金融服務提前作好準備。 [1]Required Rulemaking on Personal Financial Data Rights, 89 Fed. Reg. 90838. [2]Consumer Financial Protection Bureau, CFPB Finalizes Personal Financial Data Rights Rule to Boost Competition, Protect Privacy, and Give Families More Choice in Financial Services, available at https://www.consumerfinance.gov/about-us/newsroom/cfpb-finalizes-personal-financial-data-rights-rule-to-boost-competition-protect-privacy-and-give-families-more-choice-in-financial-services/(last visited Dec. 5, 2024). [3]12 C.F.R. § 1033.111. [4]12 C.F.R. § 1033.211. [5]12 C.F.R. § 1033.221. [6]12 C.F.R. § 1033.311. [7]See id. [8]12 C.F.R. § 1033.421. [9]12 C.F.R. § 1033.121. [10]Proposal for a REGULATION OF THE EUROPEAN PARLIAMENT AND OF THE COUNCIL on a framework for Financial Data Access and amending Regulations (EU) No 1093/2010, (EU) No 1094/2010, (EU) No 1095/2010 and (EU) 2022/2554.