德國資料保護會議通過「哈姆巴爾宣言」，針對人工智慧之運用提出七大個資保護要求
德國聯邦及各邦獨立資料保護監督機關（unabhängige Datenschutzaufsichtsbehörden）共同於2019年4月3日，召開第97屆資料保護會議通過哈姆巴爾宣言（Hambacher Erklärung，以下簡稱「Hambacher宣言」）。該宣言指出人工智慧雖然為人類帶來福祉，但同時對法律秩序內自由及民主體制造成巨大的威脅，特別是人工智慧系統可以透過自主學習不斷蒐集、處理與利用大量個人資料，並且透過自動化的演算系統，干預個人的權利與自由。
諸如人工智慧系統被運用於判讀應徵者履歷，其篩選結果給予女性較不利的評價時，則暴露出人工智慧處理大量資料時所產生的性別歧視，且該歧視結果無法藉由修正資料予以去除，否則將無法呈現原始資料之真實性。由於保護人民基本權利屬於國家之重要任務，國家有義務使人工智慧的發展與應用，符合民主法治國之制度框架。Hambacher宣言認為透過人工智慧系統運用個人資料時，應符合歐盟一般資料保護規則（The General Data Protection Regulation，以下簡稱GDPR）第5條個人資料蒐集、處理與利用之原則，並基於該原則針對人工智慧提出以下七點個資保護之要求：
（1）人工智慧不應使個人成為客體：依據德國基本法第1條第1項人性尊嚴之保障，資料主體得不受自動化利用後所做成，具有法律效果或類似重大不利影響之決策拘束。
（2）人工智慧應符合目的限制原則：透過人工智慧系統蒐集、處理與利用個人資料時，即使後續擴張利用亦應與原始目的具有一致性。
（3）人工智慧運用處理須透明、易於理解及具有可解釋性：人工智慧在蒐集、處理與利用個人資料時，其過程應保持透明且決策結果易於理解及可解釋，以利於追溯及識別決策流程與結果。
（4）人工智慧應避免產生歧視結果：人工智慧應避免蒐集資料不足或錯誤資料等原因，而產生具有歧視性之決策結果，控管者或處理者使用人工智慧前，應評估對人的權利或自由之風險並控管之。
（5）應遵循資料最少蒐集原則：人工智慧系統通常會蒐集大量資料，蒐集或處理個人資料應於必要範圍內為之，且不得逾越特定目的之必要範圍，並應檢查個人資料是否完全匿名化。
（6）人工智慧須設置問責機關進行監督：依據GDPR第12條、第32條及第35條規定，人工智慧系統內的控管者或處理者應識別風險、溝通責任及採取必要防範措施，以確保蒐集、處理與利用個人資料之安全性。
（7）人工智慧應採取適當技術與組織上的措施管理之：為了符合GDPR第24條及第25條規定，聯邦資料保護監督機關應確認，控管者或處理者採用適當的現有技術及組織措施予以保障個人資料。
綜上所述，Hambacher宣言內容旨在要求，人工智慧在蒐集、處理及利用個人資料時，除遵守歐盟一般資料保護規則之規範外，亦應遵守上述提出之七點原則，以避免其運用結果干預資料主體之基本權利。
- 零售業個資安全宣導暨安全維護計畫規劃說明會
- 數位經濟時代的隱私保護與商機－CBPR跨境隱私規則體系解析
- 2025科技研發法制推廣活動— 科專個資及反詐騙實務講座(實體)
- 2025科技研發法制推廣活動— 科專個資及反詐騙實務講座(直播)
- 零售業個資安全宣導暨安全維護計畫說明會（高雄場）
- 零售業個資安全宣導暨安全維護計畫說明會（台中場）
- 【台北場1】通訊傳播事業個資法遵教育訓練
- 【台中場】通訊傳播事業個資法遵教育訓練
- 【新北場】通訊傳播事業個資法遵教育訓練
- 【高雄場】通訊傳播事業個資法遵教育訓練
- 【台北場2】通訊傳播事業個資法遵教育訓練
- 零售業個資法遵實務與資訊安全說明會
- 114年資訊服務業者個資安維辦法宣導說明會
- 【線上】資訊服務業個資安維計畫說明會
- 【實體】資訊服務業個資安維計畫說明會暨交流工作坊
- 零售業個資法遵實務與資訊安全說明會（台中場）
- 【台北場1】通訊傳播事業個資保護實務專題講座
- 【台北場2】通訊傳播事業個資保護實務專題講座
- 【台北場3】通訊傳播事業個資保護實務專題講座
- 金融相關資服業者線上個資安維宣導說明會
陳咸蓁
法律研究員 編譯整理
Datenschutzkonferenz [DSK], Hambacher Erklärung zur Künstlichen Intelligenz, https://www.datenschutzkonferenz-online.de/media/en/20190405_hambacher_erklaerung.pdf (last visited May 20, 2019).
European Commission Page, https://ec.europa.eu/futurium/en/ai-alliance-consultation/guidelines (last visited May 20, 2019).
英國發布《AI保證介紹》指引，藉由落實AI保證以降低AI系統使用風險 資訊工業策進會科技法律研究所 2024年03月11日 人工智慧（AI）被稱作是第四次工業革命的核心，對於人們的生活形式和產業發展影響甚鉅。各國近年將AI列為重點發展的項目，陸續推動相關發展政策與規範，如歐盟《人工智慧法》（Artificial Intelligence Act, AI Act）、美國拜登總統簽署的第14110號行政命令「安全可靠且值得信賴的人工智慧開發暨使用」（Executive Order on the Safe, Secure, and Trustworthy Development and Use of Artificial Intelligence）、英國「支持創新的人工智慧監管政策白皮書」（A Pro-innovation Approach to AI Regulation）（下稱AI政策白皮書）等，各國期望發展新興技術的同時，亦能確保AI使用的安全性與公平性。 壹、事件摘要 英國科學、創新與技術部（Department for Science, Innovation and Technology，DSIT）於2024年2月12日發布《AI保證介紹》（Introduction to AI assurance）指引（下稱AI保證指引），AI保證係用於評測AI系統風險與可信度的措施，於該指引說明實施AI保證之範圍、原則與步驟，目的係為讓主管機關藉由落實AI保證，以降低AI系統使用之風險，並期望提高公眾對AI的信任。 AI保證指引係基於英國政府2023年3月發布之AI政策白皮書提出的五項跨部會AI原則所制定，五項原則分別為：安全、資安與穩健性（Safety, Security and Robustness）、適當的透明性與可解釋性（Appropriate Transparency and Explainability）、公平性（Fairness）、問責與治理（Accountability and Governance）以及可挑戰性 與補救措施（Contestability and Redress）。 貳、重點說明 AI保證指引內容包含：AI保證之適用範圍、AI保證的三大原則、執行AI保證的六項措施、評測標準以及建構AI保證的五個步驟，以下將重點介紹上開所列之規範內容： 一、AI保證之適用範圍： （一）、訓練資料（Training data）：係指研發階段用於訓練AI的資料。 （二）、AI模型（AI models）：係指模型會透過輸入的資料來學習某些指令與功能，以幫助建構模模型分析、解釋、預測或制定決策的能力，例如GPT-4。，如GPT-4。 （三）、AI系統（AI systems）：係利用AI模型幫助、解決問題的產品、工具、應用程式或設備的系統，可包含單一模型或多個模型於一個系統中。例如ChatGPT為一個AI系統，其使用的AI模型為GPT-4。 （四）、廣泛的AI使用（Broader operational context）：係指AI系統於更為廣泛的領域或主管機關中部署、使用的情形。 二、AI保證的三大原則：鑒於AI系統的複雜性，須建立AI保證措施的原則與方法，以使其有效執行。 （一）、衡量（Measure）：收集AI系統運行的相關統計資料，包含AI系統於不同環境中的性能、功能及潛在風險影響的資訊；以及存取與AI系統設計、管理的相關文件，以確保AI保證的有效執行。 （二）、評測（Evaluate）：根據監管指引或國際標準，評測AI系統的風險與影響，找出AI系統的問題與漏洞。 （三）、溝通（Communicate）：建立溝通機制，以確保主管機關間之交流，包含調查報告、AI系統的相關資料，以及與公眾的意見徵集，並將上開資訊作為主管機關監理決策之參考依據。 三、AI保證的六項措施：主管機關可依循以下措施評測、衡量AI系統的性能與安全性，以及其是否符合法律規範。 （一）、風險評估（Risk assessment）：評測AI系統於研發與部署時的風險，包含偏見、資料保護和隱私風險、使用AI技術的風險，以及是否影響主管機關聲譽等問題。 （二）、演算法－影響評估（Algorithmic－impact assessment）：用於預測AI系統、產品對於環境、人權、資料保護或其他結果更廣泛的影響。 （三）、偏差審計（Bias audit）：用於評估演算法系統的輸入和輸出，以評估輸入的資料、決策系統、指令或產出結果是否具有不公平偏差。 （四）、合規性審計（Compliance audit）：用於審查政策、法律及相關規定之遵循情形。 （五）、合規性評估（Conformity assessment）：用於評估AI系統或產品上市前的性能、安全性與風險。 （六）、型式驗證（Formal verification）：係指使用數學方法驗證AI系統是否滿足技術標準。 四、評測標準：以國際標準為基礎，建立、制定AI保證的共識與評測標準，評測標準應包含以下事項： （一）、基本原則與術語（Foundational and terminological）：提供共享的詞彙、術語、描述與定義，以建立各界對AI之共識。 （二）、介面與架構（Interface and architecture）：定義系統之通用協調標準、格式，如互通性、基礎架構、資料管理之標準等。 （三）、衡量與測試方式（Measurement and test methods）：提供評測AI系統的方法與標準，如資安標準、安全性。 （四）、流程、管理與治理（Process, management, and governance）：制定明確之流程、規章與管理辦法等。 （五）、產品及性能要求（Product and performance requirements）：設定具體的技術標準，確保AI產品與服務係符合規範，並透過設立安全與性能標準，以達到保護消費者與使用者之目標。 五、建構AI保證的步驟（Steps to build AI assurance） （一）、考量現有的法律規範（Consider existing regulations）：英國目前雖尚未針對AI制定的法律，但於AI研發、部署時仍會涉及相關法律，如英國《2018年資料保護法》（Data Protection Act 2018）等，故執行AI保證時應遵循、考量現有之法律規範。 （二）、提升主管機關的知識技能（Upskill within your organisation）：主管機關應積極了解AI系統的相關知識，並預測該機關未來業務的需求。 （三）、檢視內部風險管理問題（Review internal governance and risk management）：須適時的檢視主管機關內部的管理制度，機關於執行AI保證應以內部管理制度為基礎。 （四）、尋求新的監管指引（Look out for new regulatory guidance）：未來主管機關將制定具體的行業指引，並規範各領域實踐AI的原則與監管措施。 （五）、考量並參與AI標準化（Consider involvement in AI standardisation）：私人企業或主管機關應一同參與AI標準化的制定與協議，尤其中小企業，可與國際標準機構合作，並參訪AI標準中心（AI Standards Hubs），以取得、實施AI標準化的相關資訊與支援。 參、事件評析 AI保證指引係基於英國於2023年發布AI政策白皮書的五項跨部會原則所制定，冀望於主管機關落實AI保證，以降低AI系統使用之風險。AI保證係透過蒐集AI系統運行的相關資料，並根據國際標準與監管指引所制定之標準，以評測AI系統的安全性與其使用之相關影響風險。 隨著AI的快速進步及應用範疇持續擴大，於各領域皆日益重要，未來各國的不同領域之主管機關亦會持續制定、推出負責領域之AI相關政策框架與指引，引導各領域AI的開發、使用與佈署者能安全的使用AI。此外，應持續關注國際間推出的政策、指引或指引等，研析國際組織與各國的標準規範，借鏡國際間之推動作法，逐步建立我國的AI相關制度與規範，帶動我國智慧科技產業的穩定發展外，同時孕育AI新興產應用的發展並打造可信賴、安全的AI使用環境。
Refuah公司與紐約總檢察長達成和解並投資120萬美元保護病人資料紐約州總檢察長Letitia James於2024年1月5日與健康照護服務業者Refuah Health Center, Inc.（下稱Refuah公司）達成和解，主因為該公司遭受勒索軟體攻擊（ransomware attack），約25萬紐約州民個資遭到洩漏。和解協議要求Refuah公司支付共計45 萬美元之民事懲罰金及費用（penalties and costs），且應投資 120 萬美元加強網路安全（cybersecurity）。 Refuah公司主要業務為經營三家醫療機構和五輛行動醫療車（mobile medical vans）。2021 年 5 月，Refuah公司遭到勒索軟體攻擊，網路攻擊者得以近用數千名病人的資料，取得了包含姓名、地址、電話號碼、社會保險號碼、駕照號碼、出生日期、金融帳號、醫療保險號碼等資料。 依據檢察長辦公室的調查顯示，攻擊者之所以得近用這些資料，原因為 Refuah公司未採取適當安全維護措施，包括：未停用不活躍之使用者帳號（inactive user accounts）；未定期更換使用者帳號憑證（user account credentials）；未限制員工僅得近用其業務所必需之資源和資料；未使用多重要素驗證（multi-factor authentication）以及未加密病人資料。 依據協議內容，Refuah公司同意投資 120 萬美元，用於開發和維護更強大的資訊安全計畫（information security programs），以更妥適地保護病人資料。該協議還要求Refuah公司應： 1.維護全面的資訊安全計畫，以保護消費者資料的安全性、機密性和完整性； 2.實施並持續更新消費者資料近用限制相關政策和程序； 3.遠端近用資源和資料應使用多重要素驗證； 4.定期更新近用資源和資料的憑證； 5.至少每半年進行一次稽核，確保使用者僅近用其業務所必需之資源和資料； 6.對所有儲存或傳輸的消費者資料進行加密； 7.實施控制措施，監控和記錄公司網路和系統的所有安全和操作活動；以及 8.制定、實施和持續更新全面的事故應變計畫。 Refuah公司還須向州政府支付共計45 萬美元之民事懲罰金及費用，其中 10 萬美元將在該公司投入 120 萬美元開發和維護其資訊安全計畫後，得暫緩支付。
歐盟執委會將修正ePrivacy指令ePrivacy指令修正背景 原資料保護指令將於2018年由一般資料保護規則所取代，在此一背景下，電子隱私指令除補充資料保護指令外，亦訂定關於在電子通訊部門的個人資料處理的具體規則。具體作法，如在利用流量和位置資訊於商業目的之前，應徵得用戶的同意。在ePrivacy指令未特別規定的適用對象，將由資料保護指令（以及未來的GDPR）所涵蓋。如，個人的權利：獲得其個人資料的使用，修改或刪除的權利。 歐盟執委會為進行ePrivacy指令（Richtlinie über den Datenschutz in der elektronischen Kommunikation）改革，於2016年8月4日提出意見徵詢摘要報告，檢討修正ePrivacy指令時著重的的幾個標的： (1)確保ePrivacy規則與未來的一般資料保護規則之間的一致性。亦即評估現有規定是否存在任何重複、冗餘、不一致或不必要的複雜情況。（如個人資料洩漏時的通知） (2)指令僅適用於傳統的電信供應商，而在必要時應該以新市場和技術的現實的眼光，重行評估更新ePrivacy規則。對於已成為電子通信行業新興創新的市場參與者，如：提供即時通訊和語音通話（也稱為“OTT供應商”），由於目前不需要遵守ePrivacy指令主要規定，而應納入修正對象。 (3)加強整個歐盟通訊的安全性和保密性。ePrivacy指令在規範上，確保用戶的設備免受侵入、確保通信的安全性和保密性。本指令第5條第3項，儲存資訊、或近用已存儲在用戶設備之資訊，需得其的同意。該條款的有效性已有爭論，因為新的追踪技術，如：指紋識別設備可能無法被現有的規則所涵攝。最後，有認需得同意的例外規定列表，有必要延伸到對資訊之其他非侵入性的儲存/近用：如網路分析等。這些都是應予以仔細評價和檢視之對象。 公眾諮詢摘要報告內容 經過4月13日到7月5日的公眾諮詢，歐盟執委會於8月4日提出報告。 諮詢意見主要來自德（25.9%）、英(14.3%)、比(10%)、法(7.1%)的回覆。 一、是否有必要在電子通訊部門訂定隱私特別規定？ 市民與公民團體咸認有必要在電子通訊部門，甚至流量資料和位址資訊也應該訂定新規（83%）、企業則認為無甚需要，只有在秘密性規則（31%）與流量資料（26%）有需要訂定；主管機關則咸認需要特別規定。 二、現行指令是否已足達成其立法目的？76%市民和公民團體認為未達立法目的，理由如下： ePrivacy指令的範圍太狹小，不包括即時訊息、語音通話（VoIP）和電子郵件應用服務。 規範太模糊，導致會員國之間適用結果和保護程度的差異、不一致。 法律遵循的程度展法程度太差。 三、是否應為新通訊服務訂定新規？ 76%市民和公民團體認為適用範圍應該涵蓋到OTT上。
近來歐盟健康食品上市審查標準之實務觀察歐盟自2007年起開始實施「歐盟(EC)1924/2006號食品營養及健康訴求規則」(簡稱營養與健康訴求規則)以來，對於以營養與健康為訴求的產品，要求廠商上市販賣之產品，必須經過科學實證，產品標示必須簡易明瞭，強調科學實證必須證明食用該產品對人體有益，並證明食用產品與其功能效果間能建立因果關係，更強調文字敘述應貼近事實、清楚明瞭、確實可靠，避免使用模糊不清或造成不同解讀的文字，以便於消費者識別選購產品，滿足個人攝取這類食品的需求。 自規則實施以來，業者紛紛向歐盟食品安全管理局(European Food Safety Authority，簡稱EFSA)遞交申請案件，期待通過審查，獲准上市。然而，以營養與健康訴求規則中的第十四項減少疾病風險與促進兒童健康訴求，引起較多爭議。到2008年9月底，九件申請案當中已有八件遭到EFSA駁回，無不引起產業界的恐慌。僅Unilever(聯合利華公司，以下簡稱Unilever)的植物固醇產品(plant sterol)一案通過。反觀其餘個案，廠商遭EFSA駁回申請案的理由不一。例如，法國廠商Bio-Serae以仙人掌纖維衍生物申請具有降低血脂質的健康訴求，EFSA表示提交的證據資料不足以建立食用產品與效果功能間的因果關係。再者，另一件訴求ALA(α亞麻油酸)和LA(亞麻油酸)之攝取可以促進兒童生長的申請案中，EFSA接受廠商檢附的證據資料，但表示孩童經由正常飲食即可攝取足夠的ALA與LA，攝取量高於均衡飲食標準沒有益處。 雖然EFSA之意見不具有法律效力，且負面意見不表示否定產品之成分或功能，僅表示其依據資料不完整，不足以證明兩者具有因果關係，但卻具有相當之影響力。目前某些業者面對法令細節尚未明朗，同時負面意見多於正面意見的情形下，憂心負面意見恐將影響公司與產品形象，先行退出審查過程並暫緩產品上市。到2008年底，EFSA又駁回五件關於益生菌(probiotics)增進兒童健康的申請案，表示提供的證據資料不足以證明其功能為由。累計至去年底二十七申請案中(含上述五件益生菌申請案)，僅有五件申請案獲得EFSA之正面意見，負面意見依舊多於正面意見。 然而在2009年1月，EFSA核准西班牙廠商Danone促進兒童骨骼生長的健康訴求，表示證據資料足以建立因果關係，證明維他命D有助於鈣質攝取。顯示出業者提供充足科學證據資料與完整的產品說明，以證明其食用產品與功能效果間的因果關係，將利於審查作業進行，也將助於獲得EFSA之核准上市。