德國聯邦資訊技術，電信和新媒體協會針對AI及自動決策技術利用提出建議指南
德國聯邦資訊技術，電信和新媒體協會於2018年2月6日在更安全的網路研討會中針對利用人工智慧及自動決策技術利用提出建議指南（Empfehlungen für den verantwortlichen Einsatz von KI und automatisierten Entscheidungen），旨在提升企業數位化與社會責任，並提升消費者權益保護。 本份指南提出六項建議：
- 促進企業內部及外部訂定相關準則
例如規定公司在利用演算法和AI時，必須將影響評估列入開發流程，並列為公司應遵守的道德倫理守則，以確保開發的產品或服務符合公平及道德。 - 提升透明度
使用者如有興趣了解演算法及其含義，企業應協助調查並了解使用者想獲知的訊息，並透過相關訊息管道提升產品及服務透明度。因此，企業應努力使演算法及其操作和含義能夠被使用者理解。此亦涉及即將實施的歐盟一般資料保護規則中的透明度義務。在機器學習或深度學習情況下，可能會增加理解性和可追溯性難度，但有助於分析流程並使其更接近人類理解的方法在科學和商業實踐中，應特別關注並進一步討論。另外，透過教育及使用說明協助及控制功能，教導消費者係建立雙方信任的重要手段。企業應在第一線中說明產品或服務中使用的手段（演算法，機器學習，AI）。除了解釋使用那些技術來改進產品和服務外，應一併解釋如何從技術控制過程中獲得相關知識以及提供那些後援支持。另外，例如透過幫助頁面，儀表板或部落格，解釋發生什麼以及如何做出某些影響深遠的自動化決策，使用戶更了解有關使用自動決策相關訊息。因此建議企業採取強制有效以建立信任的措施，使用戶理解是否及如何使用相關演算法，此可能包括使用自動化決策，使用特定資料組和使用技術的目的，亦即使用戶對演算法，機器學習或AI支持的決策有基本的了解。 - 為全體利益使用相關技術
人工智慧等新技術之重要性不應被低估，目前在生活和工業等眾多領域皆有廣泛應用。對於個人和集體而言，將可帶來巨大的利益，因此應該充分利用。例如，人工智慧可降低語言障礙，幫助行動不便的人可更加獨立自主生活，改善醫療診斷，提升能源供應效率，甚至是交通規劃和搜索停車位，都只是人工智慧偉大且已被使用的案例。為促進技術發展，應公平地利用其優勢並預留商業應用模式的空間，同時充分解決涉及的具體風險。產業特定的解決方案十分重要，但應兼顧受影響者的利益，並與廣大公眾利益找出妥協平衡點，且應排除不適當的歧視。建議在使用決策支持技術時，應事先檢查相關後果並與其利益比較。例如，可以在資料保護影響評估的框架進行。作為道德準則的一部分，必須確保演算法盡可能量準確地預測結果。 - 開發安全的資料基礎
資料係人工智慧支援決策的基礎。與人為決策者相同，資料不完整或錯誤，將導致做出錯誤的決定。因此決策系統的可靠性仍取決資料的準確性。但資料質量和資料來源始終不能追溯到源頭，如果可能的話，只有匯總或非個人資料可用於分析或分類用戶群組。因此，確切細節不可被使用或揭露。因此建議企業應考慮要使用的資料、資料的類別和在使用AI系統前仔細檢查資料使用情況，特別是在自我學習系統中資料引入的標準，並根據錯誤來源進行檢查，且儘可能全面記錄，針對個人資料部分更應謹慎處理。 - 解決機器偏差問題
應重視並解決所謂機器偏差和演算法選擇和模型建立領域的相關問題。解釋演算法，機器學習或AI在基層資料選擇和資料庫時所產生決策偏見相當重要，在開發預期用途的演算法時必須納入考量，對員工應針對道德影響進行培訓，並使用代表性紀錄來創建可以識別和最小化偏差的方法。企業並應該提高員工的敏感度並培訓如何解決並減少機器偏見問題，並特別注意資料饋送，以及開發用於檢測模式的內、外部測試流程。 - 適合個別領域的具體措施和文件
在特別需要負責的決策過程，例如在車輛的自動控制或醫療診斷中，應設計成由責任主體保留最終的決策權力，直到AI的控制品質已達到或高於所有參與者水平。對類人工智慧的信任，並非透過對方法的無條件追踪來實現，而是經過仔細測試，學習和記錄來實現
本文為「經濟部產業技術司科技專案成果」
潘俊良
法律研究員 編譯整理
Bitkom e.V. ,Empfehlungen für den verantwortlichen Einsatz von KI und automatisierten Entscheidungen, https://www.bitkom.org/Bitkom/Publikationen/Empfehlungen-fuer-den-verantwortlichen-Einsatz-von-KI-und-automatisierten-Entscheidungen-Corporate-Digital-Responsibility-and-Decision-Making.html
Bundesministerin der Justiz und für Verbraucherschutz, Impulspapier zur Konferenz am Safer Internet Day 2018 „Künstliche Intelligenz – Dein Freund und Helfer?“, https://www.bmjv.de/SharedDocs/Downloads/DE/News/Artikel/020618_SaferInternetDay_Impulspapier.pdf?__blob=publicationFile&v=1
「專利適格」（Patent Subject Matter Eligibility）用淺白的文字解釋，就是成取得專利的基礎門檻、資格。專利適格的司法排除事項（Judicial Exception）為：「自然法則、自然現象、抽象概念」。而「兩階段標準」的導入，是給司法排除事項「敗部復活」的機會。 可取得專利適格的標的於35 U.S.C. §101有明文：「任何人發明或發現新穎而有用之程序（Process）、機器（Machine）、製品（Manufacture）或物之組合（Composition of Matter），或其新穎而有用之改良，皆得依據本法所定規定及要件就其取得專利權利。」但符合§101的敘述，不必然具專利適格。最高法院表示：「自然法則、自然現象、抽象概念是科學與科技成品的基礎，不可被獨佔。」然而，隨愈來愈多的發明與發現推出、電腦文明的發展，司法排除事項亦受挑戰，在 Mayo v. Prometheus，最高法院首次針對自然法則和自然現象提出「兩階段標準」。基此，美國專利與商標局（USPTO）2012年發表專利審查綱要。後續，Alice v. CLS Bank中，引「兩階段標準」將兩階段標準應用在「電腦應用過程、電腦系統、減免交割風險的電腦可讀媒介」的抽象概念。USPTO也將「兩階段標準」編入專利審查手冊（Manual of Patent Examining Procedure）。 USPTO專利審查手冊公布的「兩階段標準」： 第1步：四種可取得專利適格的標的（35 U.S.C. §101） 程序、機器、製品、物之組合。 第2A步：司法排除事項 假設不是「自然法則、自然現象、抽象概念」三種司法排除事項，則具專利適格；若是司法排除事項，則進入第2B步。 第2B步：是否「更具意義」（Significantly More）？ 這一個步驟是「敗部復活」。如果該發明存在「發明概念」（Inventive Concept），則符合「更具意義」，可取得專利適格；反之，則無專利適格。
美國國家標準與技術研究院「隱私框架1.0版」美國國家標準與技術研究院（NIST）於2020年1月16日發布「隱私框架1.0版」（NIST Privacy Framework Version 1.0），為促進資料的有效利用並兼顧對隱私權的保障，以風險管理（risk management）的概念為基礎建構企業組織隱私權管理框架。本隱私框架依循NIST於2018年所提出的「健全關鍵基礎設施資安框架1.1版」（Framework for Improving Critical Infrastructure Cybersecurity Version 1.1）架構，包含框架核心（Core）、狀態評估（Profile）與實施層級（Implementation Tier），以利組織能夠同時導入隱私與資安兩種框架。由隱私框架核心所建構的風險管理機制，透過狀態評估來判斷當前與設定目標的實施層級，進而完成組織在隱私保護上的具體流程與資源配置。 NIST基於透明、共識、兼顧公私利害關係人的程序訂定本隱私框架，用以促進開發者導入隱私設計思維（privacy by design），以及協助組織保護個人隱私，其目標包含透過支持產品或服務設計中的倫理決策（ethical decision-making）及最小化對隱私的侵害來建立客戶的信任；在當前與未來的產品或服務中，因應持續變化的技術與政策環境遵守對隱私的保護義務；以及促進個人、企業夥伴、稽核者（assessor）與監管者（regulator）在隱私權保護實踐上的溝通與合作。 本隱私框架並非法律或法規，亦不具備法律效果，而是做為數位時代下NIST協助企業導入隱私權管理制度的參考工具，企業或組織將能基於本隱私框架靈活應對多樣化的隱私需求，掌握其產品或服務所隱含的隱私權侵害風險，並識別隱私權相關法律規範，包含加州消費者隱私法（California Consumer Privacy Act）與歐盟一般資料保護規則（General Data Protection Regulation, GDPR）等，提出更具創新性與有效性的解決方案，並有效因應AI與物聯網技術的發展趨勢。
歐洲資料保護委員會於2020年2月18日發布GDPR實施情形的報告「歐洲資料保護委員會」（European Data Protection Board, EDPB）於2020年2月18日發布GDPR實施情形的報告。報告內容主要聚焦於資料跨境傳輸機制、歐盟會員國間合作機制（含EDPB工作情形）以及中小企業法遵等其他議題。 在資料跨境傳輸機制方面，EDPB歡迎各國提出適足性認定的申請，並表達其在評估是否具有適足性時，將著重於相對方是否能使權利確實執行、矯正措施是否有效執行以及對於持續性的轉移是否有足夠保護措施等。EDPB特別建議執委會，應保守看待G20或G7等會議所進行的「資料自由流通」概念，並確保個資保護水準不會因此受到影響。 而在其他跨境傳輸機制上，EDPB建議歐盟執委會應儘速更新標準契約條款，使其能與GDPR規定相符；同時其公佈目前正在審查40個「拘束性企業規則」（Binding Cooperation Rules, BCR），預期至少半數將於2020年審結；而在驗證及行為準則方面，EDPB預期將於2020年底完成相關指引的公告。 在歐盟會員國間合作機制上，EDPB強調其將著重於探討新興技術發展如何兼顧個資保護，以使GDPR作為技術中立的架構，能在保護個資同時兼顧創新。此外，EDPB承認由於各國程序規範上的差異，使得合作面臨挑戰，其建議歐盟執委會持續觀察程序差異對於GDPR執行成效上的影響。EDPB同時認為目前各國監管機構所獲得的資源仍然不足，建議各會員國應提供監管機構更充足的資源。 在中小企業議題上，EDPB承認GDPR對中小企業帶來挑戰。對此，除已由各國監管機構提供相關支援外，EDPB也將持續投入相關支援工具的開發，以減輕中小企業的負擔。 整體而言，EDPB認為GDPR實施大體上是成功的，並能提高歐盟法律體系在全球的知名度，目前並無修改GDPR的需求。 根據GDPR第97條規定，歐盟執委會應於本年5月25日前針對跨境資料移轉、歐盟會員國間合作機制等GDPR落實情形向歐洲議會及歐盟理事會提交評估報告；並於此後每4年提交一次。EDPB此一報告係為提供執委會完成前述報告參考而做。
歐盟「第五洗錢防制指令」將新科技於金融體系的應用納入管制歐盟於2018年4月19日宣布通過「第五洗錢防制指令」(the Fifth Anti-Money Laundering Directive)，並於同年6月19日公布確定案文，其要求歐盟成員國必須於18個月內將該命令納入國內法律中。 歐盟在本次指令中，特別針對恐怖主義組織財政和運作方式揭示出所觀察的新趨勢，其指出某些作為替代金融體系的新技術服務越來越受歡迎，但卻不受法令所拘束，或是被豁免於相關法律適用外等不合理情事，因此「第五洗錢防制指令」為了跟上不斷進步的科技環境，乃要求法人、其他法律實體(legal entities)、信託及具有與信託類似結構或功能的法律協議(類似的法律協議) 應採取進一步措施，以確保提高金融交易的透明度，並藉此改進現有的預防框架，達到更有效地打擊資助恐怖主義行為的目的；另外歐盟亦於該指令中提醒所有採取的措施應和洗錢風險成比例。 有關「第五洗錢防制指令」主要新增及修正包含： 迎接新技術：託管錢包供應商(custodian wallet providers)和虛擬貨幣交換平臺將被視為新的義務主體而納入於洗錢防制法的範圍。另外「第五洗錢防制指令」還允許使用電子身分證明進行客戶盡職調查。 改進執法：各成員國須建立自身國家的銀行帳戶登記系統，以便執法當局能夠方便地查閱在該成員國內的所有銀行帳戶資訊。另外該登記系統須與其他成員國互相連線，並且即便在沒有提交可疑活動報告的情況下，執法當局也可以要求義務主體提供資料。 明確定義"重要政治性職務人士"：各成員國都必須發佈一份清單，列出哪些屬於 "重要的公共職能"。 針對高風險第三國為更嚴格的管制：「第五洗錢防制指令」要求涉及高風險第三國的商業關係或交易須採取強化盡職調查措施,，並允許成員國限制義務主體在高風險第三國設立分支機搆或子公司，亦禁止總部設在高風險第三國的義務主體於成員國設立分支機搆。 提高公司實質受益權的透明度：各成員國的公司實質受益權登記將放寬查詢限制，公眾無須提出任何合法權益證明即可查閱基本資訊。另外還要求企業(登記義務主體)必須針對持有資訊與在登記系統上資訊的差異提出報告。 信託的實質受益權：「第五洗錢防制指令」擴大實質受益權申報義務主體範圍，要求任何類似信託的法律安排及租稅中立性的信託均須申報；另外還擴大該實質受益權申報的查閱至任何能提出具有合法利益的人，但其並未對合法利益提出定義，而是讓各成員國自行訂定。然而「第五洗錢防制指令」指出，該合法利益的定義不應侷限在行政或法律訴訟未決的案件，而是應針對洗錢防制及反資助恐怖組織領域的預防工作為考量。 禁止匿名保險箱。 調整預付工具(prepaid instruments)需進行盡職調查的門檻(如禮品卡、旅遊卡)：價值要求從250歐元降低到150歐元。