美國商務部國家電信和資訊管理局呼籲透過第三方評測提高AI系統透明度
2024年3月27日，美國商務部國家電信和資訊管理局（National Telecommunications and Information Administration, NTIA）發布「人工智慧問責政策報告」（AI Accountability Policy Report），該報告呼籲對人工智慧系統進行獨立評估（Independent Evaluations）或是第三方評測，期待藉此提高人工智慧系統的透明度。
人工智慧問責政策報告就如何對人工智慧系統進行第三方評測提出八項建議作法，分別如下：
1.人工智慧稽核指引：聯邦政府應為稽核人員制定適合的人工智慧稽核指引，該指引須包含評估標準與合適的稽核員證書。
2.改善資訊揭露：人工智慧系統雖然已經應用在許多領域，但其運作模式尚缺乏透明度。NTIA認為未來可以透過類似營養標籤（Nutrition Label）的方式，使人工智慧模型的架構、訓練資料、限制與偏差等重要資訊更加透明。
3.責任標準（Liability Standards）：聯邦政府應盡快訂定相關責任歸屬標準，以解決現行制度下，人工智慧系統造成損害的法律責任問題。
4.增加第三方評測所需資源：聯邦政府應投入必要的資源，以滿足國家對人工智慧系統獨立評估的需求。相關必要資源如：
(1)資助美國人工智慧安全研究所（U.S. Artificial Intelligence Safety Institute）；
(2)嚴格評估所需的運算資源與雲端基礎設施（Cloud Infrastructure）；
(3)提供獎金和研究資源，以鼓勵參與紅隊測試的個人或團隊；
(4)培養第三方評測機構的專家人才。
5.開發及使用驗證工具：NTIA呼籲聯邦機關開發及使用可靠的評測工具，以評估人工智慧系統之使用情況，例如透明度工具（Transparency Tools）、認驗證工具（Verification and Validation Tools）等。
6.獨立評估：NTIA建議聯邦機關應針對高風險的人工智慧類別進行第三方評測與監管，特別是可能侵害權利或安全的模型，應在其發布或應用前進行評測。
7.提升聯邦機關風險管控能力：NTIA建議各機關應記錄人工智慧的不良事件、建立人工智慧系統稽核的登記冊，並根據需求提供評測、認證與文件紀錄。
8.契約：透過採購契約要求政府之供應商、承包商採用符合標準的人工智慧治理方式與實踐。
NTIA將持續與利害關係各方合作，以建立人工智慧風險的問責機制，並確保該問責報告之建議得以落實。
陳郁潔
副法律研究員 編譯整理
NATIONAL TELECOMMUNICATIONS AND INFORMATION ADMINISTRATION, NTIA calls for audits and investments in trustworthy AI systems (Mar. 27, 2024), https://www.ntia.gov/press-release/2024/ntia-calls-audits-and-investments-trustworthy-ai-systems (last visited April 26, 2024).
National Telecommunications and Information Administration, FACT SHEET: NTIA Urges Policy Changes to Boost Accountability and Trustworthiness in Artificial Intelligence Systems (Mar. 27, 2024), https://www.ntia.gov/other-publication/2024/fact-sheet-ntia-artificial-intelligency-policy-accountability (last visited April 26, 2024).
美國聯邦第9巡迴上訴法院日前針對一項於2005年制定之加州法律進行罕見的聽審程序，以便決定此一州法是否因違反聯邦憲法第一修正案而無效。 此一法律之內容係禁止販售或出租暴力電玩予任何未滿十八歲之人，且要求此種電玩均須加以明確標誌。而電玩廠商則宣稱此一法律已侵犯了未成年人受憲法第一修正案所保護之言論自由。而值得注意者為，除去年下級法院已對此一案件做出電玩廠商勝訴之判決外，其他的州法院也紛紛做出具有類似限制內容之法律為違憲無效之判決。 然而，儘管如此，加州檢察總長Zackery Morazzini依然表示：州政府本即有權協助家長使未成年人遠離暴力電玩的不良影響。且美國聯邦最高法院亦已肯認禁止未成年人接觸明顯「性資訊」之法律為合憲。與此相同，暴力電玩可說亦同樣具有「猥褻」之特性。 而電玩廠商於訴訟中則表示：倘若此一法律得以合憲，則勢必會產生滑坡效應，即州政府勢必將會以保護兒童為藉口，而對於其它資訊，諸如同性戀、性教育、生育控制等等之提供作出更多的限制。而此種滑坡效應，顯然亦是第9巡迴上訴法院所關切的重點之一：如Alex Kozinski及Sidney Thomas兩位法官，均在聽審程序中特別表達對於此一效應的關注。 無論如何，上訴法院亦將於未來幾個月內對於此案做出判決。然而，顯而易見的是，無論上訴法院會如何裁判，本案最終仍須經聯邦最高法院裁決後方能有最終決定。
澳洲政府提出網路分級之安全措施澳洲政府在2009年12月15日對外公佈網路安全（cyber-safety）措施，包含： 1. 強制要求加裝ISP層級之網路分級過濾系統； 2. 給予提供家庭用戶額外過濾系統之ISP業者補貼； 3. 藉由澳洲通訊及媒體局(Australian Communications and Media Authority)及其他單位所建立之網路安全計畫，推動網路安全之教育和認知。 澳洲主管機關欲修法對於未依規定做出分級之網站及遭檢舉者，將會列入黑名單，封鎖其網路連線。並要求所有ISP業者必須封鎖所有含有不當內容（Refused Classification-rated material）之國外伺服器（servers），所謂內容不當包含，兒童性虐待、獸交、強制性交在內之性暴力、和過度詳細之犯罪行為或毒品使用。 該項立法若通過，澳洲將會成為民主國家中網路管制最嚴格之國家。 提出該法案之議員表示：「網路安全沒有萬無一失之保護方式，但是對於所有澳洲人，特別是孩童來說，遠離這些內容，是非常重要的。」 網路權益團體「澳洲電子先鋒」（Electronic Frontiers Australia）則質疑，「政府明知這樣的措施並無法幫助孩童，也不能幫助取締禁止該等內容。」其他網路使用者及情色網站業者，亦認為執法難以落實，部分合法網站可能反被封鎖，網路連線速度也可能受到影響。且網友常使用的點對點傳輸（P2P）或透過聊天室傳送檔案，均不在法案管制可及之處等。
通用人工智慧的透明揭露標準--歐盟通用人工智慧模型實踐準則「透明度 (Transparency)」章通用人工智慧的透明揭露標準--歐盟通用人工智慧模型實踐準則「透明度 (Transparency)」章 資訊工業策進會科技法律研究所 2025年08月06日 歐盟人工智慧辦公室(The European AI Office，以下簡稱AIO) 於2025年7月10日提出《人工智慧法案》（AI Act, 以下簡稱AIA法案）關於通用型人工智慧實作的準則[1] (Code of Practice for General-Purpose AI Models，以下簡稱「GPAI實踐準則」)，並於其中「透明度 (Transparency)」章節[2]，針對歐盟AIA法案第53條第1項(a)、(b)款要求GPAI模型的提供者必須準備並提供給下游的系統整合者 (integrator) 或部署者 (deployer) 足夠的資訊的義務，提出模型文件(Model Documentation)標準與格式，協助GPAI模型提供者制定並更新。 壹、事件摘要 歐盟為確保GPAI模型提供者遵循其AI法案下的義務，並使AIO能夠評估選擇依賴本守則以展現其AI法案義務合規性的通用人工智慧模型提供者之合規情況，提出GPAI實踐準則。當GPAI模型提供者有意將其模型整合至其AI系統的提供者（以下稱「下游提供者」）及應向AIO提供相關資訊，其應依透明度章節要求措施(詳下述)提出符合內容、項目要求的模型文件，並予公開揭露且確保已記錄資訊的品質、安全性及完整性 (integrity)。 由於GPAI模型提供者在AI價值鏈 (AI value chain) 中具有特殊角色和責任，其所提供的模型可能構成一系列下游AI系統的基礎，這些系統通常由需要充分了解模型及其能力的下游提供者提供，以便將此類模型整合至其產品中並履行其AIA法案下的義務。而相關資訊的提供目的，同時也在於讓AIO及國家主管機關履行其AI法案職責，特別是高風險AI的評估。 AIO指出完整填寫與定期更新模型文件，是履行AIA法案第53條義務的關鍵步驟。GPAI模型提供者應建立適當的內部程序，確保資訊的準確性、時效性及安全性。模型文件所含資訊的相關變更，包括同一模型的更新版本，同時保留模型文件的先前版本，期間至模型投放市場後10年結束。 貳、重點說明 一、制定並更新模型文件(措施1.1) 透明度 (Transparency)章節提供模型文件的標準表格，做為GPAI實踐準則透明度章節的核心工具，協助GPAI模型提供者有系統性的整理並提供AIA法案所要求的各項資訊。表格設計考量了不同利害關係人的資訊需求，確保在保護商業機密的同時，滿足監管透明度的要求。 前揭記錄資訊依其應提供對象不同，各欄位已有標示區分該欄資訊係用於AI辦公室 (AIO)、國家主管機關 (NCAs) 或下游提供者 (DPs)者。適用於下游提供者的資訊，GPAI模型提供者應主動提供(公開揭露)，其他則於被請求時始須提供(予AIO或NCAs)。 除基本的文件最後更新日期與版本資訊外，應提供的資訊分為八大項，內容應包括： (一)、一般資訊General information 1.模型提供者法律名稱(Legal name) 2.模型名稱(Model name)：模型的唯一識別碼（例如 Llama 3.1-405B），包括模型集合的識別碼（如適用），以及模型文件涵蓋之相關模型公開版本的名稱清單。 3.模型真實性(Model authenticity)：提供明確的資訊例如安全雜湊或URL端點，來幫助使用者確認這個模型的來源 (Provenance)、是否真實性未被更動 (Authenticity)。 4.首次發布日(Release date)與首次投放歐盟市場的日期(Union market release date)。 5.模型依賴(Model dependencies)：若模型是對一個或多個先前投放市場的GPAI模型進行修改或微調的結果，須列出該等模型的名稱（及相關版本，如有多個版本投放市場）。 (二)、模型屬性(Model properties) 1.Model architecture 模型架構：模型架構的一般描述，例如轉換器架構 (transformer architecture)。 2.Design specifications of the model 模型設計規格：模型主要設計規格的一般描述，包括理由及所作假設。 3.輸出/入的模式與其最大值(maximum size)：說明係文字、影像、音訊或視訊模式與其最大的輸出/入的大小。 4.模型總參數量(model size)與其範圍(Parameter range)：提供模模型參數總數，記錄至少兩個有效數字，例如 7.3*10^10 參數，並勾選參數(大小)所在範圍的選項，例如：☐>1T。 (三)、發佈途徑與授權方式(Methods of distribution and licenses) 1.發佈途徑Distribution channels：列舉在歐盟市場上使用模型的採用法，包括API、軟體套裝或開源倉庫。 2.授權條款License：附上授權條款鏈結或在要求時提供副本；說明授權類型如: 開放授權、限制性授權、專有授權；列出尚有提供哪些相關資源(如訓練資料、程式碼)與其存取方式、使用授權。 (四)、模型的使用(Use) 1.可接受的使用政策Acceptable Use Policy：附上可接受使用政策連結或副本或註明無政策。 2.預期用途或限制用途Intended uses：例如生產力提升、翻譯、創意內容生成、資料分析、資料視覺化、程式設計協助、排程、客戶支援、各種自然語言任務等或限制及/或禁止的用途。 3.可整合AI系統之類型Type and nature of AI systems：例如可能包括自主系統、對話助理、決策支援系統、創意AI系統、預測系統、網路安全、監控或人機協作。 4.模型整合技術方式Technical means for integration：例如使用說明、基礎設施、工具）的一般描述。 5.所需軟硬體資源Required hardware與software：使用模型所需任何軟硬體（包括版本）的描述，若不適用則填入「NA」。 (五)、訓練過程(Training process) 1.訓練過程設計規格(Design specifications of the training process)：訓練過程所涉主要步驟或階段的一般描述，包括訓練方法論及技術、主要設計選擇、所作假設及模型設計最佳化目標，以及不同參數的相關性（如適用）。例如：「模型在人類偏好資料集上進行10個輪次的後訓練，以使模型與人類價值觀一致，並使其在回應使用者提示時更有用」。 2.設計決策理由(Decision rationale)：如何及為何在模型訓練中做出關鍵設計選擇的描述。 (六)、用於訓練、測試及驗證的資料資訊(Information on the data used for training, testing, and validation) 1.資料類型樣態Data type/modality：勾選樣態包括文字、影像、音訊、視訊或說明有其他模態。 2.資料來源Data provenance：勾選來源包括網路爬蟲、從第三方取得的私人非公開資料集、使用者資料、公開資料集、透過其他方式收集的資料、非公開合成(Synthetic )資料等。 3.資料取得與選取方式(How data was obtained)：取得及選擇訓練、測試及驗證資料使用方法的描述，包括用於註釋資料的方法及資源，以及用於生成合成資料的模型及方法。從第三方取得的資料，如果權利取得方式未在訓練資料公開摘要中披露，應描述該方式。 4.資料點數量Number of data points：說明訓練、測試及驗證資料的大小（資料點數量），連同資料點單位的定義（例如代幣或文件、影像、視訊小時或幀）。 5.資料範疇與特性(Scope and characteristics)：指訓練、測試及驗證資料範圍及主要特徵的一般描述，如領域（例如醫療保健、科學、法律等）、地理（例如全球、限於特定區域等）、語言、模式涵蓋範圍。 6.資料清理處理方法(Data curation methodologies)：指將獲取的資料轉換為模型訓練、測試及驗證資料所涉及的資料處理一般描述，如清理（例如過濾不相關內容如廣告）、資料擴增。 7.不當資料檢測措施(Measures for unsuitability)：在資料獲取或處理中實施的任何方法描述（如有），以偵測考慮模型預期用途的不適當資料源，包括但不限於非法內容、兒童性虐待材料 (CSAM)、非同意親密影像 (NCII)，以及導致非法處理的個人資料。 8.可識別偏誤檢測措施(Measures to detect identifiable biases)：描述所採取的偵測與矯正訓練資料存在偏誤的方法。 (七)、訓練期間的計算資源(Computational resources (during training)) 1.訓練時間(Training time)：所測量期間及其時間的描述。 2.訓練使用的計算量(Amount of computation used for training)：說明訓練使用的測量或估計計算量，以運算表示並記錄至其數量級（例如 10^24 浮點運算）。 3.測量方法論(Measurement methodology)：描述用於測量或估計訓練使用計算量的方法。 (八)、訓練及推論的能源消耗(Energy consumption (during training and inference)) 1.訓練耗能(Amount of energy used for training)及其計量方法：說明訓練使用的測量或估計能源量，以百萬瓦時表示（例如 1.0x10^2 百萬瓦時）。若模型能源消耗未知，可基於所使用計算資源的資訊估計能源消耗。若因缺乏計算或硬體提供者的關鍵資訊而無法估計訓練使用能源量，提供者應披露所缺乏的資訊類型。 2.推論運算耗能的計算基準 (Benchmarked amount of computation used for inference1)及其方法：以浮點運算表示方式（例如 5.1x10^17 浮點運算）說明推論運算的基準計算量，並提供計算任務描述（例如生成100000個代幣Token）及用於測量或估計的硬體（例如 64個Nvidia A100）。 二、提供GPAI模型相關資訊(措施1.2) 通用人工智慧模型投放市場時，應透過其網站或若無網站則透過其他適當方式，公開揭露聯絡資訊，供AIO及下游提供者請求取得模型文件中所含的相關資訊或其他必要資訊，以其最新形式提供所請求的資訊。 於下游提供者請求時，GPAI模型提供者應向下游提供者提供最新模型文件中適用於下游提供者的資訊，在不影響智慧財產權及機密商業的前提下，對使其充分了解GPAI模型的能力及限制，並使該等下游提供者能夠遵循其AIA法案義務。資訊應在合理時間內提供，除特殊情況外不得超過收到請求後14日。且該資訊的部分內容可能也需要以摘要形式，作為GPAI模型提供者根據AIA法案第53條第1項(d)款必須公開提供的訓練內容摘要 (training content summary) 的一部分。 三、確保資訊品質、完整性及安全性(措施1.3) GPAI模型提供者應確保資訊的品質及完整性獲得控制，並保留控制證據以供證明遵循AIA法案，且防止證據被非預期的變更 (unintended alterations)。在制定、更新及控制資訊及記錄的品質與安全性時，宜遵循既定協議 (established protocols) 及技術標準 (technical standards)。 參、事件評析 一、所要求之資訊完整、格式標準清楚 歐盟AGPAI實踐準則」的「透明度 (Transparency)」提供模型文件的標準表格，做為GPAI實踐準則透明度章節的核心工具，從名稱、屬性、功能等最基本的模型資料，到所需軟硬體、使用政策、散佈管道、訓練資料來源、演算法設計，甚至運算與能源消秏等，構面完整且均有欄位說明，而且部分欄位直接提供選項供勾選，對於GPAI模型提供者提供了簡明容易的AIA法案資訊要求合規做法。 二、表格設計考量不同利害關係人的資訊需求 GPAI實踐準則透明度章節雖然主要目的是為GPAI模型提供者對由需要充分了解模型及其能力的下游提供者提供資訊，以便其在產品履行AIA法案下的義務。但相關資訊的提供目的，同時也在於讓AIO及國家主管機關履行其AI法案職責，特別是高風險AI的評估。因此，表格的資訊標示區分該欄資訊係用於AI辦公室 (AIO)、國家主管機關 (NCAs) 或下游提供者 (DPs)者，例如模型的訓練、資料清理處理方法、不當內容的檢測、測試及驗證的資料來源、訓練與運算的能秏、就多屬AIO、NCAs有要求時始須提供的資料，無須主動公開也兼顧及GPAI模型提供者的商業機密保護。 三、配套要求公開並確保資訊品質 該準則除要求GPAI模型提供者應記錄模型文件，並要求於網站等適當地，公開提供下游提供者請求的最新的資訊。而且應在不影響智慧財產權及機密商業的前提下，提供其他對使其充分了解GPAI模型的能力及限制的資訊。同時，為確保資訊的品質及完整性獲得控制，該準則亦明示不僅應落實且應保留證據，以防止資訊被非預期的變更。 四、以透明機制落實我國AI基本法草案的原則 我國日前已由國科會公告人工智慧基本草案，草案揭示「隱私保護與資料治理」、「妥善保護個人資料隱私」、「資安與安全 」、「透明與可解釋 」、「公平與不歧視」、「問責」原則。GPAI實踐準則透明度章節，已提供一個重要的啟示—透過AI風險評測機制，即可推動GPAI模型資訊的揭露，對相關資訊包括訓練資料來源、不當內容防止採取做一定程度的揭露要求。 透過相關資訊揭露的要求，即可一定程度促使AI開發提供者評估認知風險，同時採取降低訓練資料、生成結果侵權或不正確的措施。即便在各領域作用法尚未能建立落實配套要求，透過通過評測的正面效益，運用AI風險評測機制的資訊提供要求，前揭草案揭示的隱私、著作、安全、問責等原則，將可以立即可獲得一定程度的實質落實，緩解各界對於AI侵權、安全性的疑慮。 本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。 本文同步刊登於TIPS網站（https://www.tips.org.tw） [1]The European AI Office, The General-Purpose AI Code of Practice, https://digital-strategy.ec.europa.eu/en/policies/contents-code-gpai 。(最後閱覽日：2025/07/30) [2]The European AI Office, Code of Practice for General-Purpose AI Models–Transparency Chapter, https://ec.europa.eu/newsroom/dae/redirection/document/118120 。(最後閱覽日：2025/07/30)
德國巴伐利亞邦政府聲明其執行DSGVO(GDPR)的方式─對中小企業及協會友善的輔導今年7月31日最新一期的巴伐利亞邦政府公報(Allgemeines Ministerialblatt, AllMBl)，揭露今年6月5日的巴伐利亞內閣會議紀錄─關於巴伐利亞邦執行DSGVO的方式。 公報內容指出幾個重點： 業餘體育俱樂部(Amateursportverein)、樂隊(Musikkapelle)或由志願者投入者組成的協會(Verein)，不須任命資料保護官員(Datenschutzbeauftragten, DSB)。 如果因為對法律的不熟悉而初次違反DSGVO，並不會被罰款；相關單位的指示和建議將優先於處罰。因依據DSGVO第83條第1項規定，處罰應該是有效、適當且具有懲戒性的。故對於非第一次違反的情況，就可能直接依據DSGVO第83條規定處以罰款。 巴伐利亞邦不能接受「警告律師」(Abmahnanwälten)告誡企業資料保護行為違規的做法。 邦政府將向有關單位進一步確認DSGVO中的相關規定，其應用尤其必須能夠確保正確且適當的符合DSGVO的目標。 邦政府將與協會和中小企業進行進一步有關DSGVO適用的討論。 在巴伐利亞邦政府公布的新聞稿中，總理馬庫斯索德進一步表示：「DSGVO實現了更大程度的隱私保護，但不應該成為官僚主義的怪物。巴伐利亞將提供對協會及中小企業都友善的DSGVO適用方式。我們提供的是幫助，而不是懲罰。」內政部長Joachim Herrmann則表示：「DSGVO希望促使人民接受，但不是在人民的日常生活製造更多的困擾和額外的官僚主義。最重要的是，所有的協會、許多有志願者投入的地方或中小企業，必須透過適當和正確地應用DSGVO，來保護其免受過度的資料保護要求。」 巴伐利亞資料保護監督辦公室(BayLDA, Bayerische Landesamt für Datenschutzaufsicht)並進一步公布了對許多中小企業，如：協會、醫療診所(Arztpraxis)、稅務顧問(Steuerberater)……等行業，遵循DSGVO的參考指引，提供進一步的遵循指示。