新加坡網路安全局發布人工智慧系統安全指南，以降低AI系統潛在風險
新加坡網路安全局（Cyber Security Agency of Singapore, CSA）於2024年10月15日發布人工智慧系統安全指南（Guidelines on Securing AI Systems），旨在強化AI系統安全，協助組織以安全之方式運用AI，降低潛在風險。 該指南將AI系統生命週期分成五個關鍵階段，分別針對各階段的安全風險，提出相關防範措施：
（1）規劃與設計：提高AI安全風險認知能力，進行安全風險評估。
（2）開發：提升訓練資料、模型、應用程式介面與軟體庫之供應安全，確保供應商遵守安全政策與國際標準或進行風險管理；並辨識、追蹤及保護AI相關資產（例如模型、資料、輸入指令），以確保AI開發環境安全。
（3）部署：適用標準安全措施（例如存取控制、日誌記錄），並建立事件管理程序。
（4）運作與維護：持續監控AI系統的輸入和輸出，偵測異常與潛在攻擊，並建立漏洞揭露流程。
（5）壽命終期：應根據相關行業標準或法規，對資料與模型進行適當之處理、銷毀，防止未經授權之存取。
CSA期待該指南發布後，將有助於預防供應鏈攻擊（supply chain attacks）、對抗式機器學習攻擊（Adversarial Machine Learning attacks）等安全風險，確保AI系統的整體安全與穩定運行。
翁嘉璟
副法律研究員 編譯整理
Guidelines and Companion Guide on Securing AI Systems, Cyber Security Agency of Singapore, https://www.csa.gov.sg/Tips-Resource/publications/2024/guidelines-on-securing-ai (last visited Oct. 27, 2024).
Singapore’s Cyber Security Agency issues security guidelines for AI systems, CMS Law-Now, https://cms-lawnow.com/en/ealerts/2024/10/singapore-s-cyber-security-agency-issues-security-guidelines-for-ai-systems?utm_source=lawnow-realtime&utm_medium=email&utm_campaign=Singapore%e2%80%99s%20Cyber%20Security%20Agency%20issues%20security%20guidelines%20for%20AI%20systems&utm_id=4097&utm_term=read_more&utm_content=697002 (last visited Oct. 27, 2024).
許嘉芳，〈美國國家標準暨技術研究院發布「人工智慧風險管理框架：生成式AI概況」〉，資策會科技法律研究所，2024年10月，https://stli.iii.org.tw/article-detail.aspx?tp=1&d=9263&no=64（最後瀏覽日：2024/10/28）。
美國商務部（Department of Commerce, DOC）旗下國家標準及技術研究院（National Institute of Standards and Technology, NIST）於2023年2月28日發布《晶片與科學法》（CHIPS and Science Act）補助具體內容，重點如下： 一、申請時間：補助採滾動式錄取模式（rolling basis），先進製程製造補助將於2023年3月31日起開放預先申請（pre-application）與正式申請（full application）；成熟製程與其他相關生產設施的製造補助，將分別於2023年5月1日及6月26日開放預先申請及正式申請。 二、補助方式與金額：補助分為直接補助（direct funding）、聯邦政府貸款（federal loans）或第三人提供貸款並由聯邦政府提供擔保（federal guarantees of third-party loans）。直接補助的金額上限預計為預估資本支出的15％。每個計畫可透過一種以上之方式獲得補助，然整體補助金額不得超出預估資本支出的35％。 三、申請流程 1.意向聲明（statement of interest）：申請人須提供半導體製造工廠投資計畫的簡要說明，俾利NIST旗下晶片計畫辦公室（CHIPS Program Office）為未來審查進行準備。 2.預先申請：申請人提供更詳盡的計畫內容。晶片計畫辦公室將給予調整意見。 3.正式申請：依照晶片計畫辦公室給予的意見修改後，申請人應遞交完整的計畫申請書，內容必須包含投資計畫的技術與經濟可行性之分析。晶片辦公室審核完畢後，會與申請人簽訂不具約束力的初步備忘錄（non-binding Preliminary Memorandum of Terms），記載補助方式與金額。 4.盡職調查（due diligence）：在經過上述程序後，晶片計畫辦公室如認為申請人合理且可能（reasonably likely）取得補助，將對申請人進行盡職調查。 5.補助發放：通過盡職調查後，DOC將開始準備發放補助。 四、補助規範與限制 1.禁止買回庫藏股（stock buybacks）：受補助者不得將補助款用於買回庫藏股。 2.人力資源計畫：申請人要求的補助金額若超過1億5千萬美元，須額外說明將如何提供員工可負擔且高品質的子女托育服務。 3.建造期限：受補助者必須於DOC所決定的特定日期（target dates）前開始或完成廠房建造，否則DOC會視情況決定是否收回補助。 4.分潤：補助金額超過1億5千萬美元時，受補助者須與美國政府分享超過申請計畫中所預估之收益，但最高不超過直接補助金額的75％。 5.不得於特定國家擴產與進行研究：受補助者於10年內或與DOC合意的期間內，除特定情況下（15 U.S.C. § 4652(a)(6)(C)），不得於特定國家，如中國，進行大規模半導體製造的擴產（material expansion）、聯合研究（joint research）或技術授權（technology licensing），違反者將會被DOC收回全額補助。
美國眾議院通過網路保護法美國眾議院於2015年4月22日以307票同意，116票反對，通過網路保護法（The Protecting Cyber Networks Act）。本法之立法目的在於移除法規障礙，美國公司藉此將得以與其他公機關或私人分享資安威脅的相關資訊，以防範駭客攻擊。 本法之重點內容主要係為對於網路威脅指標與防禦辦法之分享。依網路保護法第102條與第104條之規定，分享的客體包括「網路威脅指標」（cyber threat indicator）與「防禦辦法」（defensive measures），分享之對象則分為非聯邦機構（non-Federal entities）以及（國防部或國安局之外的）適當之聯邦機構（appropriate Federal entities）。本法第102條規定，在符合機密資訊、情報來源與方法、以及隱私及公民自由之保護下，國家情報總監（the Director of National Intelligence, DNI）經與其他適當聯邦機構諮商後，應展開並頒布相關程序，以促進下列事項之進行：「（一）與相關非聯邦機構中具有適當安全權限之代表，及時分享（timely sharing）聯邦政府所有之機密網路威脅指標；（二）與相關非聯邦機構及時分享聯邦政府所有，且可能被解密並以非機密等級分享之網路威脅指標；（三）於適當情況下與非聯邦機構分享聯邦政府所有，且與該些機構即將或正在發生之網路安全威脅（cybersecurity threat）有關之資訊，以防止或降低該網路安全威脅所造成之負面影響。」 以及，對於隱私權與公民自由之保障亦非常重要，就隱私權與公民自由之保障，網路保護法主要在第103條第4項設有相關規定。對於資訊安全，該項第1款規定，依本法第103條之規定進行資訊系統之監控、執行防禦辦法、或提供或取得網路威脅指標或防禦辦法之非聯邦機構，應實施適當之安全管控，以保護該些網路威脅指標或防禦辦法免遭未經授權之近用或取得。同項第2款則更進一步規定了特定個人資料在一定條件下應被移除。該款規定，依本法進行網路威脅指標分享的非聯邦機構，於分享前應合理地對該網路威脅指標進行復核，以評估該指標是否含有任何令該機構合理相信（reasonably believes）與網路安全威脅非直接相關，且於分享時（at the time of sharing）屬於特定個人之個人資訊或指向特定個人之資訊，並移除該等資訊。
美國健康保險制度下的個人資料安全保護隱憂為降低美國人民在醫療保險費用的支出，同時加強管理現有的保險產業，同時提供美國人民一更易負擔的醫療保險制度，美國總統歐巴馬自上任以來遂特別加強推動美國健康保險制度，與相關現有醫療保險制度的建置與改革，並於2010年3月23日通過「病患保護與平價醫療法案」（The Patient Protection and Affordable Care Act，本法暱稱Obamacare），並計劃於今（2013）年10月正式啟動上路。 為集中且便利相關機構快速讀取單一個人之相關資訊，Obamacare計畫透過聯邦數據服務樞紐（The Federal Data Services Hub）的建置，彙整目前美國各單一政府單位所保有之全民個人資料，該類資料涵蓋個人醫療、教育、和財務等相關資訊，提供各州政府單位機關有需求時得以讀取。然而，儘管該服務樞紐的用意係為提供更完整的個人資料，然而其卻也因其本身具集中單一個人資料於一身的特性而受到各界的質疑。反對人士認為，由於該服務樞紐彙整龐大單一個人資料，因此若其未建立完善資訊安全機制，而遭受到不肖駭客入侵竊取個人資料的話，所造成的後果將影響甚遠，再加上未來將管理服務樞紐的美國衛生及公共服務部（The Department of Health and Human Services, HHS），遲遲未能讓外界信服其已建立充分的資訊安全保全系統來保障全美國人民的個人資料，因此反對人士對於該服務樞紐對於個人資料安全與隱私的保全能力感到堪慮。 根據美國隱私法（Privacy Act of 1974），美國政府需提供適當的隱私保全機制來保障美國人民的個人資料，同時，美國聯邦資訊安全管理法（Federal Information Security Management Act of 2002）亦要求美國政府需確保美國人民的個人資料不被濫用，故在該二法案的明文要求下，歐巴馬政府於推行Obamacare之際，相關資訊安全保全系統機制仍須符合標準始得合法運作。Obamacare上路在即，歐巴馬政府與相關部會該如何解決個人資料保護問題，其後續發展實值得觀察。
GSM 協會公布未來行動電話市場的規範原則建議在面對未來3G行動通訊市場的激烈競爭中，主管機關應如拿捏管制的強度？GSM協會於2006年2月6日公布未來行動通訊市場的規範原則建議有執法者應持續注意管制干預手段可能造成的成本及效益；管制目標及政策應該被清晰定義，且管制手段應符合最小干預及必要性；管制的內容必須是可公開即可受公評；應以市場現況，並從微觀及宏觀角度進行規範；在發照政策上應鼓勵新進業者對於電信設施的建設並促進有效市場競爭；頻譜的核配應從促進經濟上的效率、有效競爭及從市場結構面進行考量；對於行動通訊網路的限制應基於以科學、技術或確實研究結果，而不以公共顧慮為考量；對於客戶資料的不當用途，應設計安全防範措施等等。