英國資訊委員辦公室提出人工智慧（AI）稽核框架
人工智慧（Artificial Intelligence, AI）的應用，已逐漸滲透到日常生活各領域中。為提升AI運用之效益，減少AI對個人與社會帶來之負面衝擊，英國資訊委員辦公室（Information Commissioner’s Office, ICO）於2019年3月提出「AI稽核框架」（Auditing Framework for Artificial Intelligence），作為確保AI應用合乎規範要求的方法論，並藉機引導公務機關和企業組織，評估與管理AI應用對資料保護之風險，進而建構一個可信賴的AI應用環境。
AI稽核框架主要由二大面向所構成—「治理與可歸責性」（governance and accountability）以及「AI特定風險領域」（AI-specific risk areas）。「治理與可歸責性」面向，係就公務機關和企業組織，應採取措施以遵循資料保護規範要求的角度切入，提出八項稽核重點，包括：風險偏好（risk appetite）、設計階段納入資料保護及透過預設保護資料（data protection by design and by default）、領導管理與監督（leadership management and oversight）、政策與程序（policies and procedures）、管理與通報架構（management and reporting structures）、文書作業與稽核紀錄（documentation and audit trails）、遵循與確保能力（compliance and assurance capabilities）、教育訓練與意識（training and awareness）。
「AI特定風險領域」面向，則是ICO特別針對AI，盤點下列八項潛在的資料保護風險，作為風險管理之關注重點：
一、 資料側寫之公平性與透明性（fairness and transparency in profiling）；
二、 準確性（accuracy）：包含AI開發過程中資料使用之準確性，以及應用AI所衍生資料之準確性；
三、 完全自動化決策模型（fully automated decision making models）：涉及人類介入AI決策之程度，歐盟一般資料保護規則（General Data Protection Regulation, GDPR）原則上禁止無人為介入的單純自動化決策；
四、 安全性與網路（security and cyber）：包括AI測試、委外處理資料、資料重新識別等風險；
五、 權衡（trade-offs）：不同規範原則之間的取捨，如隱私保護與資料準確性；
六、 資料最少化與目的限制（data minimization and purpose limitation）；
七、 資料當事人之權利行使（exercise of rights）；
八、 對廣泛公共利益和權利之衝擊（impact on broader public interests and rights）。
ICO將持續就前述AI特定風險領域，進行更深入的分析，並開放公眾討論，未來亦將提供相關技術和組織上之控制措施，供公務機關及企業組織進行稽核實務時之參考。
- 零售業個資安全宣導暨安全維護計畫規劃說明會
- 數位經濟時代的隱私保護與商機－CBPR跨境隱私規則體系解析
- 2025科技研發法制推廣活動— 科專個資及反詐騙實務講座(實體)
- 2025科技研發法制推廣活動— 科專個資及反詐騙實務講座(直播)
- 零售業個資安全宣導暨安全維護計畫說明會（高雄場）
- 零售業個資安全宣導暨安全維護計畫說明會（台中場）
- 【台北場1】通訊傳播事業個資法遵教育訓練
- 【台中場】通訊傳播事業個資法遵教育訓練
- 【新北場】通訊傳播事業個資法遵教育訓練
- 【高雄場】通訊傳播事業個資法遵教育訓練
- 【台北場2】通訊傳播事業個資法遵教育訓練
- 零售業個資法遵實務與資訊安全說明會
- 114年資訊服務業者個資安維辦法宣導說明會
- 【線上】資訊服務業個資安維計畫說明會
- 【實體】資訊服務業個資安維計畫說明會暨交流工作坊
- 零售業個資法遵實務與資訊安全說明會（台中場）
- 【台北場1】通訊傳播事業個資保護實務專題講座
- 【台北場2】通訊傳播事業個資保護實務專題講座
- 【台北場3】通訊傳播事業個資保護實務專題講座
- 金融相關資服業者線上個資安維宣導說明會
張腕純
組長 編譯整理
An Overview of the Auditing Framework for Artificial Intelligence and Its Core Components, AI Auditing Framework Blog, (Mar. 26, 2019), https://ai-auditingframework.blogspot.com/2019/03/an-overview-of-auditing-framework-for_26.html (last visited May 3, 2019).
A Call for Participation: Building the ICO’s Auditing Framework for Artificial Intelligence, AI Auditing Framework Blog, (Mar. 18, 2019), https://ai-auditingframework.blogspot.com/2019/03/simon-mcdougall-director-for-technology.html (last visited May 3, 2019).
為達成歐盟數位議程（Digital Agenda）中的單一數位市場（Digital Single Market）目標，歐盟執委會（EU Commission）提出了「開放資訊戰略」（Open Data Strategy for Europe）措施，預計可為歐洲地區創造出每年超過400億歐元的產值。 此方案係利用歐盟各會員國政府已蒐集的大量資訊，藉由免費或低收費的方式，提供全歐洲任意目的使用。目前英國、法國已完成相關整備，蓄勢待發 。 歐盟此目標包含三個具體措施：a.歐盟執委會將率先開始，利用新網站（data portals）免費開放資訊；b.建立全歐洲開放資訊的公平競爭環境；c.從2011至2013年投入共1億歐元，以進行資料處理研究。 此外執委會建議修正2003年公共部門資訊再利用指令（2003/98/EC），包含：a.所有公部門蒐集的資訊，在無妨礙著作權情形下，應開放予所有人任何目的使用；b.除了必要成本外，不得收取其他費用；c.任何機器均可使用，以確保資料有效重新利用；d.引入監管機制；e.擴展指令覆蓋範圍，包含博物館與圖書館等。 歐盟執委會現已著手建立新的專屬公開網站，未來該網站將可連結到歐盟各會員國公開資訊。該網站預計於2012年春季正式推出。
美國商品期貨交易委員會發布《自願碳額度衍生性金融商品上市指引》，闡述交易所上架自願碳額度衍生性金融商品時所應考量之因素.Pindent{text-indent: 2em;} .Noindent{margin-left: 2em;} .NoPindent{text-indent: 2em; margin-left: 2em;} .No2indent{margin-left: 3em;} .No2Pindent{text-indent: 2em; margin-left: 3em} .No3indent{margin-left: 4em;} .No3Pindent{text-indent: 2em; margin-left: 4em} 美國商品期貨交易委員會（Commodity Futures Trading Commission, CFTC）於2024年10月15日發布《自願碳額度衍生性金融商品上市指引》（Commission Guidance Regarding the Listing of Voluntary Carbon Credit Derivative Contracts），闡述交易所上架自願碳額度衍生性金融商品時所應考量之因素，旨在推動仍處於發展階段的自願碳額度商品之標準化，以強化其透明度與流動性。本指引認為，決定進行上市交易前應先行考量下列因素： 1.透明度（Transparency）：契約應公開碳額度方案（crediting program）與所認證減量專案活動之相關資訊。 2.外加性（Additionality）：若無碳額度構成誘因，則其所代表之碳減量或移除將無從發生。 3.永久性與應對反轉風險（Permanence and Accounting for the Risk of Reversal）：碳額度方案所核發之碳額度若遭撤銷，應具有充足緩衝儲備（buffer reserve）以替換品質相當之碳額度。 4.穩健量化（Robust Quantification）：量化方法應穩健、保守且透明，以確保核發碳額度數量準確反映減排或移除量。 5.治理（Governance）：碳額度方案應具備公開治理框架以建構獨立性、透明度及問責制度。 6.追蹤與避免重複計算（Tracking and No Double Counting）：碳額度方案應追蹤碳額度之核發、轉讓及註銷，並確保已註銷額度不會再被使用而導致減排或移除量重複計算。 7.第三方確證及查證（Third-Party Validation and Verification）：契約應明確記載第三方確證及查證程序，以確保碳額度實物交割符合品質要求，並與自願碳市場最新標準一致。
美國涉密聯邦政府員工之機密資訊維護-保密協議（Non-disclosure Agreement, NDA）之使用美國涉密聯邦政府員工之機密資訊維護-保密協議（Non-disclosure Agreement, NDA）之使用 科技法律研究所 2013年12月06日 壹、事件摘要 前美國海軍海豹部隊（SEAL）隊員Matt Bisonnette以化名Mark Owen出版 No Easy Day一書，內容主要描述狙殺Osama Bin Laden的規劃與執行，並蟬聯最佳暢銷書籍。美國國防部對Matt Bisonnette提出洩露國家機密之訴訟，及違反保密協議的規定。以下簡介美國對於聯邦政府官員的機密維護規範及措施，包括保密協議之使用、違反保密協議時對於該聯邦政府員工的追訴以及對於未經授權被揭露之機密資訊的防護；更進一步，聚焦探討美國以「保密協議」規範聯邦政府員工的方式，提供我國參考。 貳、重點說明 一、總統行政命令與機密資訊維護 傳統上，美國對於機密資訊由軍事單位依照軍事規定處理，不過，自從羅斯福總統於1940年發布第8381號行政命令，改變了這個機制。總統第8381號行政命令，授權政府官員保護軍事與海軍基地；爾後，歷任總統便以發布行政命令的方式，建置聯邦政府的機密分級標準，以及各項為維護國家安全的各項法令規定與措施。不過，羅斯福總統係以經特定法規授權為由而發佈總統行政命令，羅斯福以後的總統則是基於一般法律與憲法授權[1]，為維護國家安全之憲法上的責任而發佈總統行政命令；於此，國會則不停的以其他立法的方式，設法平衡總統行政權與國會立法權間權利[2]。 有關總統行政命令之效力，如其規範的主題相同時，新的行政命令效力將會取代前案行政命令。目前美國政府有關機密係根據歐巴馬總統於2009年所發佈總統第13526號行政命令，主題為「國家安全機密資訊（Classified National Security Information）」，其內容及效力取代前行政命令，修改美國聯邦法規第32章2001篇涉及國家安全之機密資訊（32 C.F.R. 2001 Classified National Security Information）[3]，以及勾勒機密資訊分級、解密、機密資訊的處理等議題的框架。 二、涉及國家安全機密資訊之安全維護措施 依據總統第12958號行政命令，機關必須採取管控措施保護機密資訊，包括使用（Access）機密資訊的一般限制、分布機密資訊的控制，與使用機密資訊的特別計畫。第12958號行政命令Sec.4.2（a）規定使用機密資訊的一般限制[4]：聯邦政府員工使用機密資訊前，必需符合下列三大前提要件，包括通過「人員安全檢查（Personnel Security Investigation）」、簽署「保密協議」，與執行職務所「必要知悉（Need-to-know）」，才得以使用機密資訊[5]。 第一項前提要件為「人員安全檢查」，其安全檢查目的在於確定使用機密資訊人員的可信賴度（Trustworthiness），在相關部門或機構完成安全調查確認該人員的可信賴度之後，將授予通過安全檢查的資格，進而進入第二步驟「SF312保密協議」的簽署[6]。 第二項前提要件為簽署「保密協議」，係由美國總統指令所要求，並於總統行政命令所重申[7]凡涉及使用機密資訊之聯邦政府員工（Employee of the Federal Government）、承包商（Contractor）、授權人或受讓人（Licensees or Grantees）等，於使用機密資訊前，必須完成「保密協議」的簽署，否則不得使用。該「保密協議」在法律上為拘束簽署員工（前述通過安全檢查之人員）與美國政府間的契約（Contract）[8]，簽署員工承諾，非經授權不得向未經授權之人揭露機密資訊[9]。 「保密協議」的主要目的在於「告知（Informed）」簽署員工： 1.因信任該員工而提供其使用機密資訊； 2.簽署員工保護機密資訊不得未經授權揭露的責任；與 3.未能遵循協議條款後果。 第三項要件係說明政府聯邦員工得使用機密資訊的範圍，以該員工執行職務所「必要知悉（Need-to-know）」為限。 三、保密協議 「保密協議」（Classified Information Non-disclosure Agreement，一般簡稱為NDA）為機密資訊安全維護措施之一，美國政府藉由該契約協議的內容條款，確立信任關係、責任的範圍，以及未遵循契約條款的後果，並得以此協議防止簽署人未經授權揭露機密資訊，或簽署人有違反情事，對其提起民事或行政訴訟[10]。 通過安全查核者（Security Clearance），將被授與特權（Privilege），此權限不是與生俱來的權利（Right）。當獲得使用機密資訊的特權時，使用人必須背負相對的責任。簽署人一旦簽署與美國政府之間具法律拘束力的「保密協議」，即表示同意遵守保護機密資訊的程序，並於違反協議條款時，受到相對的處罰[11]。 美國利用「保密協議」約束員工對於機密資訊的保護，要求員工於發佈資訊之前，必須將內容提交機構進行審查。著名的案子為Snepp v. United States，最高法院對於「中央情報局（Central Intelligence Agency, CIA）」的前情報員，強制執行所簽署的保密協議，因前員工未遵守與中央情報局間的協議條款，亦即於出版書籍之前，先行提交出版內容給中央情報局審查的約定，中央情報局進而對該書籍的利潤施以法定信託（Constructive Trust），即使中央情報局最終的判斷內容未含機密資訊[12]，也不影響該決定的效力。 （一）「保密協議」的法源基礎 在數個與國家安全機密資訊相關的總統行政命令中，現行「保密協議」所依據法源為總統第12958號行政命令 。第12958號行政命令規定，由「資訊安全監督局」（Information Security Oversight Office, ISOO）負責監督行政部門與政府機關對於「涉及國家安全之機密資訊」的創建或處理事宜[13]。 資訊安全監督局局長為遂行涉及國家安全機密資訊之維護，於1983年頒佈「國家安全決策第84號指令」（National Security Decision Directive No. 84, NSDD 84）[14]規範進行國家安全機密資訊之維護。雖然「保密協議」曾經被挑戰，但卻一直受到聯邦法院（包括最高法院）的支持，為具有法律拘束力和合憲性的文件[15]。 「國家安全決策第84號指令」規定，凡通過安全檢查之人員[16]，必須完成簽署制式保密協議，並待生效後，才得以使用機密資訊。換句話說，相關人員必須以有效的保密協議為條件，才得以使用機密資訊。 「保密協議」應經過「國家安全委員會（National Security Council）」批准，與「司法部（Department of Justice）」的審查，而為法院可執行，而且機關不得接受經簽署員工單方修改用語的「保密協議」[17]。 目前「保密協議」版本稱為312制式表格（Standard Form 312），以下簡稱「SF312保密協議」[18]。 （二）「SF312保密協議」關於（Classified Information）的定義[19] 「SF312保密協議」的「機密」係指標示或未經標示的機密資訊，包括非書面的口述機密資訊，以及雖未歸屬於機密資訊但符合第12958號總統行政命令Sec. 1.2或1.4 (e)的規定[20]，符合機密資訊的標準，或依據其他總統行政命令或法規是否為機密的確認期間（Pending）先行提供機密資訊保護的資訊；但並不包含在將來可能會被歸屬於機密，但目前尚未進入機密分級過程中的資訊[21]。 歐巴馬政府有關國家機密資訊之第13526號行政命令[22]，於機密資訊安全維護部分之內容，仍與第12958號總統行政命令相同[23]。得使用機密資訊之人員僅限向相關主管機關首長展現其使用的資格，並簽署保密協議者，且限於其職務所必要知悉的範圍內，使用機密資訊。 （三）違反「SF312保密協議」的責任[24] 若「SF312保密協議」的簽署員工「知悉或應合理知悉（Knows or Reasonably Should Know）」，該資訊為已標示或未經標示的機密資訊，抑或符合機密資訊的標準但仍處於確認過程的資訊，而其行為將導致或於合理情形下可能導致未經授權揭露機密資訊，則可能需負未經授權揭露機密資訊的法律責任。因此，如於揭露資訊的當時，無根據可認定該資訊為機密資訊或可能成為機密資訊時，該簽署員工不會因為揭露該資訊，而需負未經授權揭露機密資訊的責任[25]。 另外，直至正式解密（Officially Declassified），機密資訊不因已被揭露於公共來源（Public Source），例如大眾媒體，而解密。不過，如僅於公共來源以抽象的方式引述該筆機密資訊，並非屬於再度未經授權揭露機密資訊[26]。 「SF312保密協議」簽署員工於資訊傳遞前，或確認公共來源資訊的正確性時，需先行向有權機關確認該資訊已被解密；若該員工未進一步履行確認資訊機密性，而逕進行資訊傳遞或確認資訊正確性時，該行為將成屬於未經授權揭露機密資訊[27]。 （四）「SF312保密協議」的有效期間 「SF312保密協議」載明，保密協議對於簽署員工的拘束力，從被授權使用機密資訊之時點開始，該員工終身均負保密義務[28]。 該條款明白表示，國家安全敏感性相關的機密資訊，與任一特定個人安全檢查資格的有效期間，並不相關。易言之，未經授權揭露機密資訊對美國所造成的傷害，並不取決揭露人的身分而有不同[29]。 是以，實務上，機關多以違反「保密協議」為訴因，對退職或離職之員工，進行民事或行政訴訟。 「SF312保密協議」所規範的保密義務，適用於所有機密資訊，然而，若某特定資訊已經解密，則按照「SF312保密協議」的規定，該簽署員工則不具持續保密的義務。此外，該「SF312保密協議」的簽署員工，還得發動強制性審查的請求，尋求解除特定的資訊的密等，包括該簽署員工具有使用權限的機密資訊[30]。 （五）違反「SF312保密協議」美國政府可採取的行動 聯邦政府員工如有明知、故意或因過失而未經授權揭露機密資訊，或任何合理預期可能導致未經授權揭露機密資訊之情事，機關首長或資深官員必須即刻通知資訊安全監督局，並採取「適當和及時的校正行動」[31]。 基於「SF312保密協議」，對於未經授權揭露機密資訊事件，美國政府可能至美國聯邦法院提起民事與行政訴訟。 民事訴訟可能分為禁制令（Injunction）、民事金錢損害賠償，與所得利益的追討。 1.禁制令 請求聯邦法院申請發佈禁制令，以禁止公布與以其他方式揭露該機密資訊。例如 United States v. Marchetti案，聯邦法院發佈禁制令，防止前中央情報局情報員以出版書籍的方式揭露機密資訊[32]；或是國務院以撤銷護照的方式，管制人員出境（儘管該人員出國的目的為暴露秘密情報員的身分，擾亂情報工作，而非協助他國政府）[33]。 2.金錢損害賠償 向該員工請求美國政府因未經授權揭露機密資訊所造成損失之金錢的損害賠償。 3.所得利益之追討 償還美國政府因未經授權揭露機密資訊所得之相對代價，或其他金錢或財產上的所得[34]。 如「SF312保密協議」簽署員工違反協議，則美國政府可對其進行行政裁處與處罰，包括譴責（Reprimand）、暫時吊銷（Suspension）聯邦政府員工資格、降級（Demotion），或甚至撤職（Removal），並可能被取消通過安全檢查的資格[35]。 雖然，聯邦政府員工於違反「SF312保密協議」時，美國政府得以違反契約（SF312保密協議）為訴因，向簽署員工提起民事或行政訴訟；不過，如果該員工的行為亦已違反其他刑事規定，政府也可能同時對該洩密員工提起刑事訴訟[36]。但是，法制上並不存在總括性（Blanket Prohibition）規定，處罰所有未經授權揭露涉及國家機密資訊的處罰[37]。 例如，機關得依據18 U.S.C. §798揭露機密資訊（Disclosure of Classified Information）提起刑事訴訟，美國政府必須設法證明符合該條文的構成要件的故意，與該當法條所規定揭露機密資訊要件之狀況。該刑事的舉證責任，比起違反保密協議的舉證責任重了許多；不過，相對的，如政府可舉證證明，其處罰也會比違反保密協議重了許多，不是只有因洩密行為而獲得的利益被沒收，法院還得處以監禁（Incarceration）與罰金（Fines）[38]。 參、事件評析 美國規範認定，使用機密資訊的權限為被授與的特權，而不是與生俱來的權利。美國聯邦政府利用與員工之間的雇用關係，透過保密協議（契約關係）的方式，規範該政府員工對於機密資訊的維護，載明雙方的關係、政府員工的保密責任，以及違反保密協議的後果，並強調該保密協議的效力，一直持續至該員工的終身，這意味著，政府員工於不具安全檢查的資格之後，或甚至是退離職之後，仍受保密協議的拘束。 除了對於員工本身的權利義務與罰則加以規範之外，美國政府亦特別著重於資訊的快速擴散性與保持機密性的需求，對於未經授權而揭露的機密資訊，利用違反保密協議（違約）（Breach of Contract）為手段，儘量減少機密資訊擴散的程度。例如，美國政府對政府員工提起告訴時，以舉證責任來看，證明違反保密協議民事的舉證責任，比需要證明行為人違反刑法規定的刑事舉證責任為輕。再者，透過禁制令的方式，凍結並維持資訊的「現有狀態（Status Quo）」，並且還得於提起民事訴訟的同時，提起刑事。 [1]Jennifer K. Elsea, The Protection of Classified Information: The Legal Framework (2013) CONGRESSIONAL RESEARCH SERVICES, at 1,www.fas.org/sgp/crs/secrecy/RS21900.pdf (last accessed May 11, 2013). [2]同上註。例如1966年「資訊自由法 (Freedom of Information Act, FOIA) 」， 1995年「情報授權法 (Intelligence Authorization Act)」、2000年「公共利益解密法 (Public Interest Declassification Act)」，與2012年「減少過度加密法 (Reducing Over-Classification Act)」。 [3]美國聯邦法規第32章2001篇, 32 C.F.R.2001,http://www.law.cornell.edu/cfr/text/32/2001 (last accessed May 11, 2013). [4]White House, Executive Order 12958 Classified National Security Information (1995), http://www.fas.org/sgp/clinton/eo12958.html (last accessed May 11, 2013). (a) A person may have access to classified information provided that: (1) a favorable determination of eligibility for access has been made by an agency head or the agency head's designee; (2) the person has signed an approved nondisclosure agreement; and (3) the person has a need-to-know the information. [5]NARA/ISOO, Classified Information Nondisclosure Agreement (Standard Form 312) Briefing Booklet (2001), P.1, http://www.fas.org/sgp/isoo/sf312.html (last accessed May 11, 2013). [6]同上註。 [7]White House, Executive Order 12958 Classified National Security Information (1995), http://www.fas.org/sgp/clinton/eo12958.html (last accessed May 11, 2013). [8]NARA/ISOO, Implementing Rule of the “Classified Information Nondisclosure Agreement” Subpart B-Prescribed Forms §2003.20(a) (n.d.), P.55,http://www.wrc.noaa.gov/wrso/forms/standard-form-312_booklet.pdf (last accessed May 11, 2013). “SF 312, SF 189, and SF 189-A are nondisclosure agreements between the United States and an individual. The prior execution of at least one of these agreements, as appropriate, by an individual is necessary before the United States Government may grant that individual access to classified information…”. [9]NARA/ISOO, Classified Information Nondisclosure Agreement (Standard Form 312) Briefing Booklet (2011), http://www.fas.org/sgp/isoo/sf312.html (last accessed May 11, 2013). [10]同上註。 [11]Western Region Security Office, Protecting Classified Information, http://www.wrc.noaa.gov/wrso/security_guide/intro-4.htm (last accessed May 11, 2013). [12]Jennifer K. Elsea, The Protection of Classified Information: The Legal Framework (2013) CONGRESSIONAL RESEARCH SERVICES, at 11,www.fas.org/sgp/crs/secrecy/RS21900.pdf (last accessed May 11, 2013). [13]Jennifer K. Elsea, The Protection of Classified Information: The Legal Framework (2013) CONGRESSIONAL RESEARCH SERVICES, at 11, www.fas.org/sgp/crs/secrecy/RS21900.pdf (last accessed May 11, 2013). See Snepp v. United States, 444 U.S. 507 (1980), noting the remedy in Snepp was enforced despite the agency’s stipulation that the book did not contain any classified information. [14]White House, Executive Order 12958 Classified National Security Information (1995), http://www.fas.org/sgp/clinton/eo12958.html (last accessed May 11, 2013). ISOO, National Security Decision Directive No. 84(n.d.), https://www.fas.org/irp/offdocs/nsdd/nsdd-84.pdf (last accessed May 11, 2013). [15]NARA/ISOO, Classified Information Nondisclosure Agreement (Standard Form 312) Briefing Booklet (2001), P.65, http://www.wrc.noaa.gov/wrso/forms/standard-form-312_booklet.pdf (last accessed May 11, 2013). 保密協議曾有SF189與SF189-A版本，與現行SF312版，不論那一版本的保密協議，均經過司法部專家依據當時或現有法律進行審閱，並確認保密協議的的合憲性和可執行性。最近有關SF189的訴訟，仍維持保密協議基本的合憲性和合法性。 [16]NARA/ISOO, Classified Information Nondisclosure Agreement (Standard Form 312) Briefing Booklet (2001), P.66-67, http://www.wrc.noaa.gov/wrso/forms/standard-form-312_booklet.pdf (last accessed May 11, 2013). 除憲法上被「視為」符合「可信任性（Trustworthiness）」的下列人員外，其他的人員必須符合三項前提要件（包括簽署保密協議），才得以使用機密資訊。「視為」具「可信任性」的人員包括：總統、副總統、國會議員、最高法院法官，與其他由總統提名並經參議院同意的聯邦法院法官，不需以簽署與持已生效的保密契約為條件，即可使用機密資訊。然而，國會議員仍然是以執行職務（立法功能）所「必要（Need-to-know）」的範圍內為限，例如，該國會議員為負責監督秘密情報部門計畫的委員會，該國會議員與該機關首長，仍必須簽署保密協議或其他類似文件後，才得以使非行政機關人員使用機密資訊。 [17]NARA/ISOO, Classified Information Nondisclosure Agreement (Standard Form 312) Briefing Booklet (2001), P.71, http://www.wrc.noaa.gov/wrso/forms/standard-form-312_booklet.pdf (last accessed May 11, 2013). [18]NARA/ISOO, Standard Form 312, http://www.archives.gov/isoo/security-forms/sf312.pdf (last accessed May 11, 2013). [19]NARA/ISOO, Implementing Rule of the “Classified Information Nondisclosure Agreement” Subpart B-Prescribed Forms §2003.20(h)(1)&(2) (n.d.), P.56-57, http://www.wrc.noaa.gov/wrso/forms/standard-form-312_booklet.pdf (last accessed May 11, 2013). [20]White House, Executive Order 12958 Classified National Security Information (1995), http://www.fas.org/sgp/clinton/eo12958.html (last accessed May 11, 2013). Sec. 1.2. Classification Standards. (a) Information may be originally classified under the terms of this order only if all of the following conditions are met: (1) an original classification authority is classifying the information; (2) the information is owned by, produced by or for, or is under the control of the United States Government; (3) the information falls within one or more of the categories of information listed in section 1.5 of this order; and (4) the original classification authority determines that the unauthorized disclosure of the information reasonably could be expected to result in damage to the national security and the original classification authority is able to identify or describe the damage. Sec. 1.4. Classification Authority. (e) Exceptional cases. When an employee, contractor, licensee, certificate holder, or grantee of an agency that does not have original classification authority originates information believed by that person to require classification, the information shall be protected in a manner consistent with this order and its implementing directives. The information shall be transmitted promptly as provided under this order or its implementing directives to the agency that has appropriate subject matter interest and classification authority with respect to this information. That agency shall decide within 30 days whether to classify this information. If it is not clear which agency has classification responsibility for this information, it shall be sent to the Director of the Information Security Oversight Office. The Director shall determine the agency having primary subject matter interest and forward the information, with appropriate recommendations, to that agency for a classification determination. [21]NARA/ISOO, Classified Information Nondisclosure Agreement (Standard Form 312) Briefing Booklet (2001), P.70, http://www.wrc.noaa.gov/wrso/forms/standard-form-312_booklet.pdf (last accessed May 11, 2013). [22]White House, Executive Order 13526 Classified National Security Information (2009), http://www.whitehouse.gov/the-press-office/executive-order-classified-national-security-information (last accessed May 11, 2013). [23]Jennifer K. Elsea, The Protection of Classified Information: The Legal Framework (2013) CONGRESSIONAL RESEARCH SERVICES, at 5, www.fas.org/sgp/crs/secrecy/RS21900.pdf (last accessed May 11, 2013). [24]NARA/ISOO, Implementing Rule of the “Classified Information Nondisclosure Agreement” Subpart B-Prescribed Forms §2003.20(h)(3) (n.d.), P.57, http://www.wrc.noaa.gov/wrso/forms/standard-form-312_booklet.pdf (last accessed May 11, 2013). [25]同上註。 [26]NARA/ISOO, Classified Information Nondisclosure Agreement (Standard Form 312) Briefing Booklet (2001), P.73, http://www.wrc.noaa.gov/wrso/forms/standard-form-312_booklet.pdf (last accessed May 11, 2013). [27]同上註。 [28]同上註。The terms of the SF 312 specifically state that all obligations imposed on the signer “apply during the time [the signer is] granted access to classified information, and at all times thereafter.” [29]同上註。 [30]同上註。 [31]Jennifer K. Elsea, The Protection of Classified Information: The Legal Framework (2013) CONGRESSIONAL RESEARCH SERVICES, at 5, www.fas.org/sgp/crs/secrecy/RS21900.pdf (last accessed May 11, 2013). [32]同上註，at 11, www.fas.org/sgp/crs/secrecy/RS21900.pdf (last accessed May 11, 2013). See United States v. Marchetti, 466 F.2d 1309 (4th Cir. 1972). [33]Jennifer K. Elsea, The Protection of Classified Information: The Legal Framework (2013) CONGRESSIONAL RESEARCH SERVICES, at 11, www.fas.org/sgp/crs/secrecy/RS21900.pdf (last accessed May 11, 2013). See Haig v. Agee, 453 U.S. 280 (1981). [34]NARA/ISOO, Classified Information Nondisclosure Agreement (Standard Form 312) Briefing Booklet (2011), http://www.fas.org/sgp/isoo/sf312.html (last accessed May 11, 2013). [35]NARA/ISOO, Classified Information Nondisclosure Agreement (Standard Form 312) Briefing Booklet (2011), http://www.fas.org/sgp/isoo/sf312.html (last accessed May 11, 2013) & Jennifer K. Elsea, The Protection of Classified Information: The Legal Framework (2013) CONGRESSIONAL RESEARCH SERVICES, at 10-11, www.fas.org/sgp/crs/secrecy/RS21900.pdf (last accessed May 11, 2013). 失去通過安全檢查的資格可能導致失去政府員工的工作機會；另外，除可能被追討金錢的損害賠償外，該名員工如果亦違反「間諜法（Espionage Act）」與「原子能法（Atomic Energy Act）」的相關條款，還有可能喪失退休金（Retirement Pay）或年金（Annuities）。 [36]NARA/ISOO, Classified Information Nondisclosure Agreement (Standard Form 312) Briefing Booklet (2001), P.74, http://www.wrc.noaa.gov/wrso/forms/standard-form-312_booklet.pdf (last accessed May 11, 2013). [37]Jennifer K. Elsea, The Protection of Classified Information: The Legal Framework (2013) CONGRESSIONAL RESEARCH SERVICES, at 10, www.fas.org/sgp/crs/secrecy/RS21900.pdf (last accessed May 11, 2013). [38]Caitlin Tweed, SEAL Team Six Member’s Next Battle Could be in Court (2012), NATIONAL SECURITY LAW BRIEF, http://nationalsecuritylawbrief.com/2012/09/12/seal-team-six-members-next-battle-could-be-in-court/ (last accessed May 11, 2013).
歐盟執委會發布《受禁止人工智慧行為指引》歐盟執委會發布《受禁止人工智慧行為指引》 資訊工業策進會科技法律研究所 2025年02月24日 歐盟繼《人工智慧法》[1]（Artificial Intelligence Act, 下稱AI Act）於2024年8月1日正式生效後，針對該法中訂於2025年2月2日始實施之第5條1，有關「不可接受風險」之內容中明文禁止的人工智慧行為類型，由歐盟執委會於2025年2月4日發布《受禁止人工智慧行為指引》[2]。 壹、事件摘要 歐盟AI Act於2024年8月1日正式生效，為歐盟人工智慧系統引入統一之人工智慧風險分級規範，主要分為四個等級[3]： 1. 不可接受風險（Unacceptable risk） 2. 高風險（High risk） 3. 有限風險，具有特定透明度義務（Limited risk） 4. 最低風險或無風險（Minimal to no risk） AI Act之風險分級系統推出後，各界對於法規中所說的不同風險等級的系統，究竟於實務上如何判斷？該等系統實際上具備何種特徵？許多內容仍屬概要而不確定，不利於政府、企業遵循，亦不利於各界對人工智慧技術進行監督。是以歐盟本次針對「不可接受風險」之人工智慧系統，推出相關指引，目的在明確化規範內涵規範，協助主管機關與市場參與者予以遵循。 貳、重點說明 一、AI Act本文第5條1（a）、（b）－有害操縱、欺騙與剝削行為 （一）概念說明 本禁止行為規定旨在防止透過人工智慧系統施行操縱與剝削，使他人淪為實現特定目的工具之行為，以保護社會上最為脆弱且易受有害操控與剝削影響的群體。 （二）禁止施行本行為之前提要件 1.該行為必須構成將特定人工智慧系統「投放於歐盟市場」（placing on the market）[4]、「啟用」（putting into service）[5]或「使用」（use）[6]。 2.應用目的：該人工智慧系統所採用的技術具有能實質扭曲個人或團體行為的「目的」或「效果」，此種扭曲明顯削弱個人或團體做出正確決定的能力，導致其做出的決定偏離正常情形。 3.技術特性：關於(a)有害的操縱與欺騙部分，係指使用潛意識（超出個人意識範圍）、或刻意操控或欺騙的技術；關於(b)有害地利用弱勢群體部分，是指利用個人年齡、身心障礙或社會經濟狀況上弱點。 4.後果：該扭曲行為已造成或合理可預見將造成該個人、另一人或某群體的重大傷害。 5.因果關係：該人工智慧系統所採用的技術、個人或團體行為的扭曲，以及由此行為造成或可合理預見將造成的重大傷害之間，具備相當因果關係。 二、AI Act本文第5條1（c）－社會評分行為 （一）概念說明 本禁止行為規定旨在防止透過人工智慧系統進行「社會評分」可能對特定個人或團體產生歧視和不公平的結果，以及引發與歐盟價值觀不相容的社會控制與監視行為。 （二）禁止施行本行為之前提要件 1.該行為必須屬於將特定人工智慧系統「投放於歐盟市場」、「啟用」或「使用」。 2.應用目的：該人工智慧系統必須用於對一定期間內，自然人及群體的社會行為，或其已知、預測的個人特徵或人格特質進行評價或分類。 3.後果：透過該人工智慧系統所產生的社會評分，必須可能導致個人或群體，在與評分用資料生成或蒐集時無關的環境遭受不利待遇，或遭受與其行為嚴重性不合比例的不利待遇。 三、AI Act本文第5條1（d）－個人犯罪風險評估與預測行為 （一）概念說明 本禁止行為規定之目的，旨在考量自然人應依其實際行為接受評判，而非由人工智慧系統僅基於對自然人的剖析、人格特質或個人特徵等，即逕予評估或預測個人犯罪風險。 （二）禁止施行本行為之前提要件 1.該行為必須屬於將特定人工智慧系統「投放於歐盟市場」、「啟用」或「使用」。 2.應用目的：該人工智慧系統必須生成旨在評估或預測自然人施行犯罪行為風險的風險評估結果。 3.後果：前述風險評估結果僅依據於對自然人的剖析，或對其人格特質與個人特徵的評估。 4.除外規定：若人工智慧系統係基於與犯罪活動直接相關的客觀、可驗證事實，針對個人涉入犯罪活動之程度進行評估，則不適用本項禁止規定。 四、AI Act本文第5條1（e）－無差別地擷取（Untargeted Scraping）臉部影像之行為 （一）概念說明 本禁止行為規定之目的，旨在考量以人工智慧系統從網路或監視器影像中無差別地擷取臉部影像，用以建立或擴充人臉辨識資料庫，將嚴重干涉個人的隱私權與資料保護權，並剝奪其維持匿名的權利。 （二）禁止施行本行為之前提要件 1.該行為必須屬於將特定人工智慧系統「投放於歐盟市場」、「啟用」或「使用」。 2.應用目的：該行為以建立或擴充人臉辨識資料庫為目的。 3.技術特性：填充人臉辨識資料庫的方式係以人工智慧工具進行「無差別的擷取行為」。 4.因果關係：建立或擴充人臉辨識資料庫之影像來源，須為網路或監視器畫面。 五、AI Act本文第5條1（f）－情緒辨識行為 （一）概念說明 本禁止行為規定之目的，旨在考量情緒辨識可廣泛應用於分析消費者行為，以更有效率的手段執行媒體推廣、個人化推薦、監測群體情緒或注意力，以及測謊等目的。然而情緒表達在不同文化、情境與個人反應皆可能存在差異，缺乏明確性、較不可靠且難以普遍適用，因此應用情緒辨識可能導致歧視性結果，並侵害相關個人或群體的權利，尤以關係較不對等的職場與教育訓練環境應加以注意。 （二）禁止施行本行為之前提要件 1.該行為必須屬於將特定人工智慧系統「投放於歐盟市場」、「啟用」或「使用」。 2.應用目的：該系統係用於推斷情緒。 3.因果關係：該行為發生於職場或教育訓練機構。 4.除外規定：為醫療或安全目的而採用的人工智慧系統不在禁止範圍內。例如在醫療領域中，情緒辨識可協助偵測憂鬱症、預防自殺等，具有正面效果。 六、AI Act本文第5條1（g）－為推測敏感特徵所進行之生物辨識分類行為 （一）概念說明 本禁止行為規定之目的，旨在考量利用人工智慧之生物辨識分類系統（Biometric Categorisation System）[7]，可依據自然人的生物辨識資料用以推斷其性取向、政治傾向、信仰或種族等「敏感特徵」在內的各類資訊，並可能在當事人不知情的情況下依據此資訊對自然人進行分類，進而可能導致不公平或歧視性待遇。 （二）禁止施行本行為之前提要件 1.該行為必須屬於將特定人工智慧系統「投放於歐盟市場」、「啟用」或「使用」。 2.應用目的：該行為係針對個人進行分類；而其辨識目的係為推斷其種族、政治傾向、工會成員身分、宗教或哲學信仰、性生活或性取向等。 3.技術特性：該系統必須為利用人工智慧，並依據自然人的生物辨識資料，將其歸類至特定類別之生物辨識分類系統。 4.因果關係：前述分類依據為其生物辨識資訊。 5.除外規定：本項禁止規定未涵蓋對合法取得的生物辨識資料進行標記（Labelling）或過濾（Filtering）行為，如用於執法目的等。 七、AI Act本文第5條1（h）－使用即時遠端生物辨識（Remote Biometric Identification, RBI）系統[8]執法[9]之行為 （一）概念說明 本禁止行為規定之目的，旨在考量在公共場所使用即時RBI系統進行執法，可能對人民權利與自由造成嚴重影響，使其遭受監視或間接阻礙其行使集會自由及其他基本權利。此外，RBI系統的不準確性，將可能導致針對年齡、族群、種族、性別或身心障礙等方面的偏見與歧視。 （二）禁止施行本行為之前提要件 1.該行為必須涉及對即時RBI系統的「使用」行為。 2.應用目的：使用目的須為執法需要。 3.技術特性：該系統必須為利用人工智慧，在無需自然人主動參與的情況下，透過遠距離比對個人生物辨識資料與參考資料庫中的生物辨識資料，從而達成識別自然人身份目的之RBI系統。 4.因果關係：其使用情境須具備即時性，且使用地點須為公共場所。 參、事件評析 人工智慧技術之發展固然帶來多樣化的運用方向，惟其所衍生的倫理議題仍應於全面使用前予以審慎考量。觀諸歐盟AI Act與《受禁止人工智慧行為指引》所羅列之各類行為，亦可觀察出立法者對人工智慧之便利性遭公、私部門用於「欺詐與利用」及「辨識與預測」，對《歐盟基本權利憲章》[10]中平等、自由等權利造成嚴重影響的擔憂。 為在促進創新與保護基本權利及歐盟價值觀間取得平衡，歐盟本次爰參考人工智慧系統提供者、使用者、民間組織、學術界、公部門、商業協會等多方利害關係人之意見，推出《受禁止人工智慧行為指引》，針對各項禁止行為提出「概念說明」與「成立條件」，期望協助提升歐盟AI Act主管機關等公部門執行相關規範時之法律明確性，並確保具體適用時的一致性。於歐盟內部開發、部署及使用人工智慧系統的私部門企業與組織，則亦可作為實務參考，有助確保其自身在遵守AI Act所規定的各項義務前提下順利開展其業務。 [1]European Union, REGULATION (EU) 2024/1689 OF THE EUROPEAN PARLIAMENT AND OF THE COUNCIL (2024), https://eur-lex.europa.eu/legal-content/EN/TXT/PDF/?uri=OJ:L_202401689 (last visited Feb. 24, 2025). [2]Commission publishes the Guidelines on prohibited artificial intelligence (AI) practices, as defined by the AI Act., European Commission, https://digital-strategy.ec.europa.eu/en/library/commission-publishes-guidelines-prohibited-artificial-intelligence-ai-practices-defined-ai-act (last visited Feb. 24, 2025). [3]AI Act, European Commission, https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai (last visited Feb. 24, 2025). [4]依據本指引第2.3點，所謂「投放於歐盟市場」（placing on the market），係指該人工智慧系統首次在歐盟市場「提供」；所謂「提供」，則係指在商業活動過程中，以收費或免費方式將該AI系統供應至歐盟市場供分發或使用。 [5]依據本指引第2.3點，所謂「啟用」（putting into service），係指人工智慧系統供應者為供應使用者首次使用或自行使用，而於歐盟內供應人工智慧系統。 [6]依據本指引第2.3點，「使用」（use）之範疇雖未在AI Act內容明確定義，惟應廣義理解為涵蓋人工智慧系統在「投放於歐盟市場」或「啟用」後，其生命週期內的任何使用或部署；另參考AI Act第5條的規範目的，所謂「使用」應包含任何受禁止的誤用行為。 [7]依據AI Act第3條(40)之定義，生物辨識分類系統係指一種依據自然人的生物辨識資料，將其歸類至特定類別之人工智慧系統。 [8]依據AI Act第3條(41)之定義，RBI系統係指一種在無需自然人主動參與的情況下，透過遠距離比對個人生物辨識資料與參考資料庫中的生物辨識資料，從而達成識別自然人身份目的之人工智慧系統。 [9]依據AI Act第3條(46)之定義，「執法（law enforcement）」一詞，係指由執法機關或其委任之代表，代替其執行目的包括預防、調查、偵測或起訴刑事犯罪，或執行刑事處罰，並涵蓋防範與應對公共安全威脅等範疇之行為。 [10]CHARTER OF FUNDAMENTAL RIGHTS OF THE EUROPEAN UNION, Official Journal of the European Union, https://eur-lex.europa.eu/legal-content/EN/TXT/HTML/?uri=CELEX:12012P/TXT (last visited Feb. 24, 2025).