美國商務部國家電信和資訊管理局呼籲透過第三方評測提高AI系統透明度
2024年3月27日，美國商務部國家電信和資訊管理局（National Telecommunications and Information Administration, NTIA）發布「人工智慧問責政策報告」（AI Accountability Policy Report），該報告呼籲對人工智慧系統進行獨立評估（Independent Evaluations）或是第三方評測，期待藉此提高人工智慧系統的透明度。
人工智慧問責政策報告就如何對人工智慧系統進行第三方評測提出八項建議作法，分別如下：
1.人工智慧稽核指引：聯邦政府應為稽核人員制定適合的人工智慧稽核指引，該指引須包含評估標準與合適的稽核員證書。
2.改善資訊揭露：人工智慧系統雖然已經應用在許多領域，但其運作模式尚缺乏透明度。NTIA認為未來可以透過類似營養標籤（Nutrition Label）的方式，使人工智慧模型的架構、訓練資料、限制與偏差等重要資訊更加透明。
3.責任標準（Liability Standards）：聯邦政府應盡快訂定相關責任歸屬標準，以解決現行制度下，人工智慧系統造成損害的法律責任問題。
4.增加第三方評測所需資源：聯邦政府應投入必要的資源，以滿足國家對人工智慧系統獨立評估的需求。相關必要資源如：
(1)資助美國人工智慧安全研究所（U.S. Artificial Intelligence Safety Institute）；
(2)嚴格評估所需的運算資源與雲端基礎設施（Cloud Infrastructure）；
(3)提供獎金和研究資源，以鼓勵參與紅隊測試的個人或團隊；
(4)培養第三方評測機構的專家人才。
5.開發及使用驗證工具：NTIA呼籲聯邦機關開發及使用可靠的評測工具，以評估人工智慧系統之使用情況，例如透明度工具（Transparency Tools）、認驗證工具（Verification and Validation Tools）等。
6.獨立評估：NTIA建議聯邦機關應針對高風險的人工智慧類別進行第三方評測與監管，特別是可能侵害權利或安全的模型，應在其發布或應用前進行評測。
7.提升聯邦機關風險管控能力：NTIA建議各機關應記錄人工智慧的不良事件、建立人工智慧系統稽核的登記冊，並根據需求提供評測、認證與文件紀錄。
8.契約：透過採購契約要求政府之供應商、承包商採用符合標準的人工智慧治理方式與實踐。
NTIA將持續與利害關係各方合作，以建立人工智慧風險的問責機制，並確保該問責報告之建議得以落實。
陳郁潔
副法律研究員 編譯整理
NATIONAL TELECOMMUNICATIONS AND INFORMATION ADMINISTRATION, NTIA calls for audits and investments in trustworthy AI systems (Mar. 27, 2024), https://www.ntia.gov/press-release/2024/ntia-calls-audits-and-investments-trustworthy-ai-systems (last visited April 26, 2024).
National Telecommunications and Information Administration, FACT SHEET: NTIA Urges Policy Changes to Boost Accountability and Trustworthiness in Artificial Intelligence Systems (Mar. 27, 2024), https://www.ntia.gov/other-publication/2024/fact-sheet-ntia-artificial-intelligency-policy-accountability (last visited April 26, 2024).
紐約市議會於2021年11月10日通過紐約市行政法規的修正法案，未來將禁止雇主使用未通過偏見審計（bias audit）的「自動化聘僱決策工具（Automated Employment Decision Tools）」，避免因為自動化工具導致的偏見與歧視，不當反映於雇主的最終聘僱決策。 於該法所定義之「自動化聘僱決策工具」，係指透過機器學習、統計模型、數據分析或人工智慧之運算，以實質性協助或取代決策過程，影響最終聘僱決定。而聘僱決定包含篩選應徵者以及對員工作成是否晉升之結果。偏見審計由獨立審計員針對自動化聘僱決策工具進行測試，藉以評估該自動化聘僱決策工具對於雇主依法應申報資訊的影響，例如是否影響及如何影響員工性別、族裔、職位、職務等特徵分布情形。該法並規定雇主或職業介紹機構只有在滿足以下條件的前提下，始得使用自動化聘僱決策工具，包括： 一、通過審計義務：自動化聘僱決策工具須於1年之內通過偏見審計（bias audit）。在使用該工具前，應將該最新審計結果摘要及該工具發行日公告於雇主或職業介紹機構的網站上。除非另有規定，如未有公告，應徵者或員工得提出書面要求雇主於30日內提供自動化聘僱決策工具所收集的數據類型、來源及雇主或職業介紹機構之數據保留政策之相關資訊。 二、通知義務：如欲使用自動化聘僱決策工具對居住在紐約市的員工或應徵者進行評估時，雇主應於使用前的10個工作日內通知該員工或應徵者，且應通知用於評估時所使用之工作資格或特質等參數，並允許應徵者或員工申請以替代方式進行評估。 如雇主或職業介紹機構違反上開規定，第一次違反者將承擔500美元的民事懲罰（civil penalty），如連續違反者，對於之後的違反將承擔500至1500美元不等。目前該法案仍待市長簽署，該法案如經市長簽署通過，將於2023年1月1日生效。
照相手機成為助長青少年犯罪之工具？青少年間的打架尋仇事件會因為照相手機的誕生而變本加厲嗎？ 發源於英國流行於青少年之間的一種犯罪活動「 happy slapping 」 ( 藉由公開掌摑不認識之被害人，並由加害人之一以手機全程拍攝，並將照片以手機傳送或上網流傳之犯罪行為 ) ，目前已逐漸蔓延於整個歐洲，且犯行甚至包括重傷害或是性侵案件，引起各國當局高度重視。在法國甚至發生一起學生攻擊教師並以手機拍照的案件，使得警方對於此種原本被單純視為是青少年間挑釁尋仇行為，已重新定義為「預謀暴力犯罪」；法國教育部長更公開表示希望能夠禁止學生在教室內使用手機。 至於歐洲其他國家也針對此種暴力犯罪行為採取進一步行動。德國巴伐利亞省及愛爾蘭許多學校已明令禁止學生在教室內使用手機；今年四月初，丹麥法院則針對兩名青少年學生傷害路人之行為做出有罪判決；而在荷蘭也傳出類似案例。在英國甚至有受辱的學生，因無法承受外界異樣眼光而上吊自殺的個案。 照相手機因為其強大傳輸、上網及存證功能，成為激發青少年逞血氣之勇並滿足個人英雄慾望之工具，這樣的發展途徑恐怕是照相手機原創者始料所未及。台灣目前似乎尚未受到此股歪風影響，但是，如何灌輸青少年正確享受科技進步的便利，似乎是相關當局應該關注的議題。
促進智慧電網之發展—德國提出智慧電網佈建期程 澳洲發布「健康隱私指引」以降低健康資料之隱私風險澳洲隱私保護辦公室(Office of the Australian Information Commissioner, OAIC)於2019年9月發布「健康隱私指引」（Guide to health privacy）協助健康服務提供者了解及實踐相關規範所制定之隱私義務以確保個人資料安全。依據1988年澳洲隱私法（Privacy Act 1988）規定，健康服務指所有評估、維持、改善或管理個人健康狀況；或是診斷、治療或紀錄個人疾病或健康狀況之行為。而健康服務提供者除了醫院及醫療人員，更包含其他專業人員例如健身房及減肥診所、私立學校及托兒所、遠端醫療服務等所有涉及健康資料並提供健康服務之單位及人員。由於澳洲隱私法要求服務提供者必須積極建立、實施及維護隱私合法處理程序，為了協助所有健康服務提供者確實遵守法定義務，以減少健康資料之隱私風險問題，OAIC制定「健康隱私指引」提出八大步驟要求健康服務提供者確保遵守義務並保障所持有之個人資料： 制定並實施隱私管理計畫，確保遵守澳洲隱私原則（Australian Privacy Principles, APPs）。 制定明確的責任制以進行隱私管理，並及時提供員工幫助與指導。 建立個人資料檔案紀錄，以確認持有之個人資料。 了解法律規範之隱私義務並實施法定流程以履行義務。 定期舉辦員工隱私培訓課程以強化團隊基礎知識。 建立隱私權政策並於網頁上呈現或是提供手冊說明相關內容。 保護所持有之資料不被濫用、遺失或未經授權的修改及揭露等。 制定資料外洩因應措施，針對資料外洩進行危機處理。