美國國家標準暨技術研究院發布「全球AI安全機構合作策略願景目標」，期能推動全球AI安全合作
美國國家標準暨技術研究院（National Institute of Standards and Technology, NIST）於2024年5月21日提出「全球AI安全機構合作策略願景目標」（The United States Artificial Intelligence Safety Institute: Vision, Mission, and Strategic Goals，下稱本策略願景），美國商務部（Department of Commerce）亦於2024年參與AI首爾峰會（AI Seoul Summit）期間對外揭示本策略願景，期能與其他國家攜手打造安全、可靠且可信賴之AI生態系。
由於AI可信賴與否往往取決於安全性，NIST指出當前AI安全所面臨的挑戰包含：一、欠缺對先進AI之標準化衡量指標；二、風險測試、評估、驗證及確效（Test, Evaluation, Validation, and Verification, TEVV）方法不健全；三、欠缺對AI建模後模型架構與模型表現間因果關係的了解；四、產業、公民社會、國內外參與者等在實踐AI安全一事上合作程度極為有限。
為因應上述挑戰並促進AI創新，NIST在本策略願景中擬定以下三大戰略目標：(1)推動AI安全科學發展：為建立安全準則與工具進行技術合作研究，並預先部署TEVV方法，以利評估先進AI模型之潛在風險與應對措施；(2)推展AI安全實務作法：制定並發布不同領域AI風險管理之相關準則與指標，以達到負責任設計、開發、部署與應用AI模型與系統之目的；(3)支持AI安全合作：促進各界採用前述安全準則、工具或指標，並推動全球合作，以發展國際通用的AI安全風險應對機制。
- U.S. Secretary of Commerce Gina Raimondo Releases Strategic Vision on AI Safety, Announces Plan for Global Cooperation Among AI Safety Institutes, U.S. Department of Commerce (May 21, 2024)
- NATIONAL INSTITUTE OF STANDARDS AND TECHNOLOGY [NIST], The United States Artificial Intelligence Safety Institute: Vision, Mission, and Strategic Goals (2024)
楊承昕
副法律研究員 編譯整理
U.S. Secretary of Commerce Gina Raimondo Releases Strategic Vision on AI Safety, Announces Plan for Global Cooperation Among AI Safety Institutes, U.S. Department of Commerce (May 21, 2024), https://www.commerce.gov/news/press-releases/2024/05/us-secretary-commerce-gina-raimondo-releases-strategic-vision-ai-safety (last visited Aug. 1, 2024).
NATIONAL INSTITUTE OF STANDARDS AND TECHNOLOGY [NIST], The United States Artificial Intelligence Safety Institute: Vision, Mission, and Strategic Goals (2024), https://www.nist.gov/system/files/documents/2024/05/21/AISI-vision-21May2024.pdf (last visited Aug. 1, 2024).
劉心妍，〈美國國土安全部發布「2024人工智慧路線圖」，確保AI安全開發與部署〉，資策會科技法律研究所，2024年6月，https://stli.iii.org.tw/article-detail.aspx?no=64&tp=1&d=9184（最後瀏覽日：2024/08/01）。
自西元2017年1月以來，英國稅務海關總署（Her Majesty's Revenue and Customs, HMRC）開始要求英國民眾使用線上語音方式進行身分認證，而民眾的聲音檔案亦被儲存至英國稅務海關總署的語音資料庫內。英國資訊委員辦公室（Information Commissioner's Office, ICO）深入調查後發現英國稅務海關總署的語音身分認證系統存在下列兩種違法情形： 未能向民眾充分揭露、告知民眾其語音、聲紋等生物識別資料如何被處理等資訊。 蒐集民眾的生物識別資料時，未能給予民眾自由行使同意或拒絕權利的機會。 英國資訊委員辦公室認為英國稅務海關總署前開情形已經違反了歐盟一般資料保護規則（General Data Protection Regulation, GDPR），根據歐盟一般資料保護規則，英國稅務海關總署在蒐集、處理或利用民眾個人資料時，必須合法、公正及透明，並應取得民眾的明確同意。英國資訊委員辦公室後續將要求英國稅務海關總署應刪除違法蒐集的生物識別資料。 本次英國資訊委員辦公室的執法行動是基於2018年5月25日生效的歐盟一般資料保護規則與英國2018年資料保護法（The Data Protection Act 2018），英國資訊委員辦公室強調創新的數位服務雖有助於民眾的生活更輕鬆，但絕不能以犧牲民眾的隱私為代價，同時也隱約透露著：「沒有一個組織（包含政府機關）能夠凌駕於法律之上。」。
新加坡採取「雲端友善」政策方針，發布個人資料保護指引新加坡個人資料保護委員會（PDPC）為讓企業能妥適的遵循2012年發布的個人資料保護法（Personal Data Protection Act/PDPA），於2013年9月發布個人資料保護法（PDPA）的執行指引文件：「PDPA關鍵概念指導方針（Advisory Guidelines on Key Concepts in the PDPA）」，針對各項如何蒐集、處理及利用個人資料的要求與義務，提供細節性說明及應用範例。執行指引文件的發布，是源自於公眾在實際操作法遵要求時，所發生的執行困難、疑義和衍生的建議和意見，彙整後進行法規釋疑和舉例。此份文件的要求係立基於實用主義及「企業友善（business-friendly）」的理念，幫助機構調整業務運作流程以及妥善的遵守法律的規定。 執行指引文件提供關鍵名詞的詮釋，例如「個人資料」在PDPA裡的定義為：任何可以識別個人、不拘形式及真實性的資訊；針對「謝絕來電條款（Do not call）」的遵循方式亦有細緻化的說明；就各項不同的具體子議題，清楚的提供常識性的措施（Common-Sense Approach）供機構採用，讓法規要求合乎常理，使個人資料保護與企業因需求而對個人資料進行蒐集、利用和揭露之行為間取得衡平。 新加坡個人資料保護法（PDPA）兩大立法目的：強化個人對自己個人資料的資訊控制權；使新加坡因提供充分的安全維護機制而受企業信任，強化新加坡的經濟競爭力與地位。另外，相較於其他國家在國際傳輸上有較嚴格的限制（必須有相同等級的個人資料保護立法為傳輸前提），新加坡的法制理念是僅讓企業遵守最低限度的安全維護要求後，便能將個人資料進行國際傳輸，這樣較彈性的法制設計讓新加坡有望成為亞太地區的資料與研究中心樞紐。
美國FDA將基因檢測以醫療器材列管美國FDA在七月間針對多家提供大眾基因檢測服務（direct-to-consumer genetic tests, DTI genetic tests）的公司發出通知函，表示將對該產業進行規管。FDA在各通知函中明白表示，其認為收信公司所提供的基因檢測服務，符合其主管之醫療器材管理法規對於體外診斷器材（in vitro diagnostics）之定義。根據美國聯邦法律，人類用醫療器材採用分級管理的概念，在上市前必須依其風險等級進行上市前通報或申請核准，以確保其分析與臨床之有效性。FDA認為，由於這些公司的基因檢測並未依法提出上市前通報或申請核准，涉有違法之嫌。 FDA採取此項措施，明顯是為了保護消費者，避免其受到未經臨床檢驗的檢測結果之誤導。然事實上國際間對於是否透過法令、以及如何規範大眾基因檢測服務，並無一致性看法。迄今，大眾基因檢測服務在許多國家都是在法令混沌未明的狀態下銷售，也引發了許多問題。對於FDA此一政策態度，有認為以法令方式規範此種服務，將會扼殺這個還在萌芽發展終的產業；也有認為，這算是對消費者遲來的保護。 大眾基因檢測服務的管理，顯示既有法令面對新興科技發展之管理窘迫性，也代表各國政府在保護消費大眾與促進新興產業發展之間，著實不易從中找到利益權衡之點，其科技管理面臨前所未有的新挑戰。
日本發布利用AI時的安全威脅、風險調查報告書，呼籲企業留意利用AI服務時可能造成資料外洩之風險日本獨立行政法人情報處理推進機構於2024年7月4日發布利用AI時的安全威脅、風險調查報告書。 隨著生成式AI的登場，日常生活以及執行業務上，利用AI的機會逐漸增加。另一方面，濫用或誤用AI等行為，可能造成網路攻擊、意外事件與資料外洩事件的發生。然而，利用AI時可能的潛在威脅或風險，尚未有充分的對應與討論。 本調查將AI區分為分辨式AI與生成式AI兩種類型，並對任職於企業、組織中的職員實施問卷調查，以掌握企業、組織於利用兩種類型之AI時，對於資料外洩風險的實際考量，並彙整如下： 1、已導入AI服務或預計導入AI服務的受調查者中，有61%的受調查者認為利用分辨式AI時，可能會導致營業秘密等資料外洩。顯示企業、組織已意識到利用分辨式AI可能帶來的資料外洩風險。 2、已導入AI利用或預計導入AI利用的受調查者中，有57%的受調查者認為錯誤利用生成式AI，或誤將資料輸入生成式AI中，有導致資料外洩之可能性。顯示企業、組織已意識到利用生成式AI可能造成之資料外洩風險。 日本調查報告顯示，在已導入AI利用或預計導入AI利用的受調查者中，過半數的受調查者已意識到兩種類型的AI可能造成的資料外洩風險。已導入AI服務，或未來預計導入AI服務之我國企業，如欲強化AI資料的可追溯性、透明性及可驗證性，可參考資策會科法所創意智財中心所發布之重要數位資料治理暨管理制度規範；如欲避免使用AI時導致營業秘密資料外洩，則可參考資策會科法所創意智財中心所發布之營業秘密保護管理規範，以降低AI利用可能導致之營業秘密資料外洩風險。 本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。 本文同步刊登於TIPS網站（https://www.tips.org.tw）