新加坡網路安全局發布人工智慧系統安全指南，以降低AI系統潛在風險
新加坡網路安全局（Cyber Security Agency of Singapore, CSA）於2024年10月15日發布人工智慧系統安全指南（Guidelines on Securing AI Systems），旨在強化AI系統安全，協助組織以安全之方式運用AI，降低潛在風險。 該指南將AI系統生命週期分成五個關鍵階段，分別針對各階段的安全風險，提出相關防範措施：
（1）規劃與設計：提高AI安全風險認知能力，進行安全風險評估。
（2）開發：提升訓練資料、模型、應用程式介面與軟體庫之供應安全，確保供應商遵守安全政策與國際標準或進行風險管理；並辨識、追蹤及保護AI相關資產（例如模型、資料、輸入指令），以確保AI開發環境安全。
（3）部署：適用標準安全措施（例如存取控制、日誌記錄），並建立事件管理程序。
（4）運作與維護：持續監控AI系統的輸入和輸出，偵測異常與潛在攻擊，並建立漏洞揭露流程。
（5）壽命終期：應根據相關行業標準或法規，對資料與模型進行適當之處理、銷毀，防止未經授權之存取。
CSA期待該指南發布後，將有助於預防供應鏈攻擊（supply chain attacks）、對抗式機器學習攻擊（Adversarial Machine Learning attacks）等安全風險，確保AI系統的整體安全與穩定運行。
翁嘉璟
副法律研究員 編譯整理
Guidelines and Companion Guide on Securing AI Systems, Cyber Security Agency of Singapore, https://www.csa.gov.sg/Tips-Resource/publications/2024/guidelines-on-securing-ai (last visited Oct. 27, 2024).
Singapore’s Cyber Security Agency issues security guidelines for AI systems, CMS Law-Now, https://cms-lawnow.com/en/ealerts/2024/10/singapore-s-cyber-security-agency-issues-security-guidelines-for-ai-systems?utm_source=lawnow-realtime&utm_medium=email&utm_campaign=Singapore%e2%80%99s%20Cyber%20Security%20Agency%20issues%20security%20guidelines%20for%20AI%20systems&utm_id=4097&utm_term=read_more&utm_content=697002 (last visited Oct. 27, 2024).
許嘉芳，〈美國國家標準暨技術研究院發布「人工智慧風險管理框架：生成式AI概況」〉，資策會科技法律研究所，2024年10月，https://stli.iii.org.tw/article-detail.aspx?tp=1&d=9263&no=64（最後瀏覽日：2024/10/28）。
美國衛生及公共服務部（Department of Health and Human Services, 下稱HHS）轄下的公民權利辦公室（Office for Civil Right, 下稱OCR）在2019年11月27日，正式對Sentara醫療機構處以217萬美元行政罰，主因該機構違反《健康保險可攜與責任法》（Health Insurance Portability and Accountability Act, 下稱HIPAA）的醫療個資外洩通知義務。 HIPAA是美國有關醫療個資管理的主要規範，依據HIPAA第164.400條以下「違反通知規則」（Breach Notification Rule）規定，當超過500位病患的「受保護健康資訊」（Protected Health Information, 下稱PHI）遭受不當使用或被外洩時，除應通知受害人外，還必須立即告知HHS以及在當地知名媒體發布新聞。而OCR主要負責檢查受規範機構，是否確實執行HIPAA隱私、安全和違反通知規則。 而在2017年4月，HHS收到指控Sentara將含有病患姓名、帳號、就診日期等涉及PHI的帳單發送到錯誤地址，造成557名病患個資外洩。Sentara卻認為該帳單內容未含有病患病歷、治療資訊或其他診斷紀錄，且僅有8人被影響，並非HIPAA應進行個資外洩通知義務之範疇，故不依規定程序通報HHS。不過OCR認為依HIPAA第160.103條規定，PHI包含病史、保險資訊、就醫紀錄（含日期）、身心健康狀態等可識別個人之健康資訊。因此認為Sentara確實違反個資外洩通知義務，予以罰款並命檢討改善。 Sentara醫療機構服務範圍橫跨美國維吉尼亞州（Virginia）和北卡羅來納州（North Carolina），共有12家急性照護醫院、10家護理中心和3家照護機構，為美國最具知名的大型非營利醫療機構之一。這次重罰也告誡國內醫療機構當發生敏感性醫療個資外洩時應從嚴判斷，以避免民眾對醫療照護單位失去信任，確保國內醫療機構體系應恪遵HIPAA規範。
美國5G科技加速方案（5G FAST Plan）美國5G科技加速方案（Facilitate America’s Superiority in 5G Technology，簡稱5G FAST Plan）是美國聯邦通訊委員會（Federal Communications Commission，簡稱FCC）為激勵5G投資創新、強化美國5G技術優勢，於2018年9月28日所提出的方案，著重在5G三大發展面向包括：投入更多頻譜進入市場、基礎建設及政策升級、更新監管法規等。其中，美國5G科技加速方案（5G FAST Plan）針對過時法令的現代化，共提出五點更新方向，促進美國人的數位機遇與挑戰。 一、 恢復網路自由：為鼓勵投資和創新，確保網路的開放自由。FCC通過《恢復網路自由命令》，廢除網路中立性。 二、 One Touch Make Ready： FCC更新網路設備安裝到公用電線桿的規則，降低成本並加快5G傳輸部署。 三、 加速智慧財產權轉型：FCC修訂規則促進企業投資5G網路與服務。 四、 商業數據服務：為激勵對現代光纖網路建設的投資，FCC更新高速專用服務規則並提高費率。 五、 供應鏈完整性：禁止購買會威脅美國5G通訊網路及通訊供應鏈完整性的設備與服務。 另一方面，2019年4月12日，FCC主席Ajit Pai前往白宮與總統會談時，再次強調美國必須贏得第五代行動通訊技術競賽，主要有兩個關鍵原因：首先是提升國家競爭力，透過開發並部署5G技術等高薪工作，提升美國經濟水平，進而超越其他競爭國家；再者，發展5G將徹底改變人類的生活方式，從精準農業、智慧交通再到遠端醫療網路，包含農村在內的所有美國民眾，都將受益於這場5G數位革命。 FCC擬定的美國5G科技加速方案（5G FAST Plan），未來發展重點聚焦如下： 一、 釋出5G頻譜以供商業使用：FCC已在2019年1月完成第一次的5G頻譜拍賣，並進行第二次及2019年12月10日第三次的5G頻譜拍賣，開放競標3400兆赫茲，將會是美國歷史上最大的頻譜競標。 二、 簡化5G無線基礎建設審查：5G運作必須依靠小型基地台（Small Cell），FCC透過更新無線通訊基礎設施政策，簡化聯邦與地方對於小型基地台部署審查，加速推動5G無線網路服務覆蓋範圍。 三、 積極鼓勵光纖部署：5G不僅是無線技術，要將5G應用在無人機飛行，還需要更強大的光纖網路傳輸流量。FCC近來致力於鬆綁嚴厲的監管規定，希能逐步增加更多的光纖部署地點。 此外，為鞏固美國在國際的5G競爭實力、部署國家未來的5G基礎建設，FCC預計建立一規模達204億美元的農村數位機會基金，將高速頻寬拓展至美國農村地區多達400萬戶家庭及中小企業，5G技術將為美國帶來更多的經濟機會。FCC表示，從國際條約談判到急需的監管改革，美國政府將以多種方式推展5G願景，提升國家經濟及產業競爭力，改善人民生活並尋求全新的生活模式，為此美國必須贏得第五代行動通訊技術競賽。
紐約市議員向議會提出禁止行動裝置相關業者共享客戶位置資訊的法案紐約市議員Justin Brannan於2019年7月23日向紐約市議會提交一項內容為禁止電信公司和手機應用程式開發商與第三方共享客戶位置資訊（location data）的法案（Int 1632-2019, Prohibition on sharing location data with third parties.）。 該法案原則上，禁止電信公司和手機應用程式開發商與第三方（例如：行銷人員）共享客戶的位置資訊，主要原因在於一般客戶並不清楚自己的位置資訊被共享給第三人，且對於第三人取得其位置資訊後的利用行為存有疑慮。又，位置資訊應屬個人隱私的一部分，故未取得客戶本人同意，即共享其位置資訊無疑是對客戶個人隱私的侵犯。如公司違反法案規定，執法機關對該公司之罰款，以「行為次數」作為計算單位，每次課予1,000美元，惟就同一名受害者，如一天內有數個違法行為，則當天罰款上限為10,000美元。同時，該法案賦予位置資訊被違法共享的當事人，得就其權利被侵害之事實，向法院提訴訟，以為救濟。 不過，該法案並非「絕對」禁止位置資訊的共享，如屬下列情形，例外可共享： 為配合執法機關執行法定職務之所需，如：法律調查等程序，而提供客戶之位置資訊。 為911緊急服務之所需提供，或為免除本人之生命或財產上之急迫危險，提供其位置資訊。 聯邦法律、州法或地方法明文要求應提供。 客戶授權電信公司或手機應用程式開發商得與第三方共享其位置資訊。 這部法案主要目的在於，保障行動裝置使用者的位置資訊，不會在當事人不知情的情形下被提供給第三方。雖然目前該法案尚在審議中，但未來如果通過，紐約市將成為禁止出售個人行動裝置位置資訊的先鋒，同時其執行結果勢必也將成為關注焦點。