美國商務部國家電信和資訊管理局呼籲透過第三方評測提高AI系統透明度
2024年3月27日，美國商務部國家電信和資訊管理局（National Telecommunications and Information Administration, NTIA）發布「人工智慧問責政策報告」（AI Accountability Policy Report），該報告呼籲對人工智慧系統進行獨立評估（Independent Evaluations）或是第三方評測，期待藉此提高人工智慧系統的透明度。
人工智慧問責政策報告就如何對人工智慧系統進行第三方評測提出八項建議作法，分別如下：
1.人工智慧稽核指引：聯邦政府應為稽核人員制定適合的人工智慧稽核指引，該指引須包含評估標準與合適的稽核員證書。
2.改善資訊揭露：人工智慧系統雖然已經應用在許多領域，但其運作模式尚缺乏透明度。NTIA認為未來可以透過類似營養標籤（Nutrition Label）的方式，使人工智慧模型的架構、訓練資料、限制與偏差等重要資訊更加透明。
3.責任標準（Liability Standards）：聯邦政府應盡快訂定相關責任歸屬標準，以解決現行制度下，人工智慧系統造成損害的法律責任問題。
4.增加第三方評測所需資源：聯邦政府應投入必要的資源，以滿足國家對人工智慧系統獨立評估的需求。相關必要資源如：
(1)資助美國人工智慧安全研究所（U.S. Artificial Intelligence Safety Institute）；
(2)嚴格評估所需的運算資源與雲端基礎設施（Cloud Infrastructure）；
(3)提供獎金和研究資源，以鼓勵參與紅隊測試的個人或團隊；
(4)培養第三方評測機構的專家人才。
5.開發及使用驗證工具：NTIA呼籲聯邦機關開發及使用可靠的評測工具，以評估人工智慧系統之使用情況，例如透明度工具（Transparency Tools）、認驗證工具（Verification and Validation Tools）等。
6.獨立評估：NTIA建議聯邦機關應針對高風險的人工智慧類別進行第三方評測與監管，特別是可能侵害權利或安全的模型，應在其發布或應用前進行評測。
7.提升聯邦機關風險管控能力：NTIA建議各機關應記錄人工智慧的不良事件、建立人工智慧系統稽核的登記冊，並根據需求提供評測、認證與文件紀錄。
8.契約：透過採購契約要求政府之供應商、承包商採用符合標準的人工智慧治理方式與實踐。
NTIA將持續與利害關係各方合作，以建立人工智慧風險的問責機制，並確保該問責報告之建議得以落實。
陳郁潔
副法律研究員 編譯整理
NATIONAL TELECOMMUNICATIONS AND INFORMATION ADMINISTRATION, NTIA calls for audits and investments in trustworthy AI systems (Mar. 27, 2024), https://www.ntia.gov/press-release/2024/ntia-calls-audits-and-investments-trustworthy-ai-systems (last visited April 26, 2024).
National Telecommunications and Information Administration, FACT SHEET: NTIA Urges Policy Changes to Boost Accountability and Trustworthiness in Artificial Intelligence Systems (Mar. 27, 2024), https://www.ntia.gov/other-publication/2024/fact-sheet-ntia-artificial-intelligency-policy-accountability (last visited April 26, 2024).
Burberry是一家專門生產奢華服裝、圍巾、提袋等產品之品牌公司，於今年3月3日在Manhattan聯邦法院向以低價經營為主的TJX Cos公司提起商標侵權訴訟，因旗下TJ Maxx、Marshalls及HomeGoods商店，販售許多各式各樣之仿冒品。 Burberry以稱為” Burberry Check (Burberry格紋)”聞名，其格紋是以十字交叉設計並使用駝色、紅色、黑色及白色作為商標。並聲明其商標是著名的，且象徵Burberry是專門生產及提供高品質奢華產品的公司。此一訴訟指控TJX Cos其零售商於過去四年販售許多商標侵權之產品，如：外套、相框、polo衫、圍巾及旅行箱等。更指出TJX Cos是以試圖”吸引Burberry之目標客戶，進而造成Burberry的損失作為其獲利的來源。”然而TJX Cos之發言人Sherry Lang發表聲明，針對Burberry的指控表示”遺憾”且”並非意圖欺騙任何人，使其相信他們所購買的是Burberry的產品”。現已聯繫此爭議中所販售相關產品之零售商。 目前Burberry正尋求終止此侵權產品之販售，銷毀未授權產品，並要求TJX Cos作改善廣告聲明、三倍損害賠償及其他許多矯正措施。 於Burberry提起訴訟的同一周內，以手提袋及公事包製造聞名之公司Coach也向低價折扣零售商Kmart Corp，提起類似之侵權訴訟。
美國國會議員（Patrick Leahy）提案（PROTECT IP Act）封鎖違反智慧財產權的非法網站美國國會議員日前提案，擬立法對抗違反智慧財產權的非法網站。該法案（Preventing Real Online Threats to Economic Creativity and Theft of Intellectual Property Act, 或稱PROTECT IP Act）主要係針對侵害智慧財產權的非法網站，擬賦予美國司法部或著作權人，可向法院聲請於網路上封鎖該網站，或者不讓其在搜尋引擎上顯示，亦即讓該非法網站從網路徹底消失。同時，經營網路金流的業者以及網路廣告商，也不得再提供服務給予這些違反智慧財產權或者是販售贗品的非法網站。 該法案明確的規定，舉凡與非法網站相關的資料、數據、索引、超連結等，皆需從網際網路上移除。亦即，美國人民在網路上將不會再看到這些非法網站的任何資訊，若該法案通過，將連帶影響到Google、Yahoo等搜尋引擎的實務運作。有反對者指出，此舉將使得美國政府可以決定美國人民在網路上應該看什麼內容，因此戲稱該法案為網路審查法案（Internet censorship bill）。 網路巨擘Google執行長（Eric Schmidt）也於今年5月中聲明反對該提案，認為該提案已經嚴重侵害言論自由。執行長Eric Schmidt表示，美國政府試圖以立法手段解決複雜的網路侵權爭議，以立法封鎖、移除非法網站所有資料，跟中國限制網路言論自由的方式如出一轍。 目前該法案尚未通過，已出現不少反對聲浪，財產權以及言論自由同樣是憲法上保障的權利，究竟應如何在保障著作財產權人與言論自由間取得平衡，該法案未來發展值得密切注意。
從英國 NHS 國家 IT 計畫看電子病歷之推動：以病患個人資訊隱私保護為中心 新加坡網路安全局發布人工智慧系統安全指南，以降低AI系統潛在風險新加坡網路安全局（Cyber Security Agency of Singapore, CSA）於2024年10月15日發布人工智慧系統安全指南（Guidelines on Securing AI Systems），旨在強化AI系統安全，協助組織以安全之方式運用AI，降低潛在風險。 該指南將AI系統生命週期分成五個關鍵階段，分別針對各階段的安全風險，提出相關防範措施： （1）規劃與設計：提高AI安全風險認知能力，進行安全風險評估。 （2）開發：提升訓練資料、模型、應用程式介面與軟體庫之供應安全，確保供應商遵守安全政策與國際標準或進行風險管理；並辨識、追蹤及保護AI相關資產（例如模型、資料、輸入指令），以確保AI開發環境安全。 （3）部署：適用標準安全措施（例如存取控制、日誌記錄），並建立事件管理程序。 （4）運作與維護：持續監控AI系統的輸入和輸出，偵測異常與潛在攻擊，並建立漏洞揭露流程。 （5）壽命終期：應根據相關行業標準或法規，對資料與模型進行適當之處理、銷毀，防止未經授權之存取。 CSA期待該指南發布後，將有助於預防供應鏈攻擊（supply chain attacks）、對抗式機器學習攻擊（Adversarial Machine Learning attacks）等安全風險，確保AI系統的整體安全與穩定運行。