新加坡網路安全局發布人工智慧系統安全指南，以降低AI系統潛在風險
新加坡網路安全局（Cyber Security Agency of Singapore, CSA）於2024年10月15日發布人工智慧系統安全指南（Guidelines on Securing AI Systems），旨在強化AI系統安全，協助組織以安全之方式運用AI，降低潛在風險。 該指南將AI系統生命週期分成五個關鍵階段，分別針對各階段的安全風險，提出相關防範措施：
（1）規劃與設計：提高AI安全風險認知能力，進行安全風險評估。
（2）開發：提升訓練資料、模型、應用程式介面與軟體庫之供應安全，確保供應商遵守安全政策與國際標準或進行風險管理；並辨識、追蹤及保護AI相關資產（例如模型、資料、輸入指令），以確保AI開發環境安全。
（3）部署：適用標準安全措施（例如存取控制、日誌記錄），並建立事件管理程序。
（4）運作與維護：持續監控AI系統的輸入和輸出，偵測異常與潛在攻擊，並建立漏洞揭露流程。
（5）壽命終期：應根據相關行業標準或法規，對資料與模型進行適當之處理、銷毀，防止未經授權之存取。
CSA期待該指南發布後，將有助於預防供應鏈攻擊（supply chain attacks）、對抗式機器學習攻擊（Adversarial Machine Learning attacks）等安全風險，確保AI系統的整體安全與穩定運行。
翁嘉璟
副法律研究員 編譯整理
Guidelines and Companion Guide on Securing AI Systems, Cyber Security Agency of Singapore, https://www.csa.gov.sg/Tips-Resource/publications/2024/guidelines-on-securing-ai (last visited Oct. 27, 2024).
Singapore’s Cyber Security Agency issues security guidelines for AI systems, CMS Law-Now, https://cms-lawnow.com/en/ealerts/2024/10/singapore-s-cyber-security-agency-issues-security-guidelines-for-ai-systems?utm_source=lawnow-realtime&utm_medium=email&utm_campaign=Singapore%e2%80%99s%20Cyber%20Security%20Agency%20issues%20security%20guidelines%20for%20AI%20systems&utm_id=4097&utm_term=read_more&utm_content=697002 (last visited Oct. 27, 2024).
許嘉芳，〈美國國家標準暨技術研究院發布「人工智慧風險管理框架：生成式AI概況」〉，資策會科技法律研究所，2024年10月，https://stli.iii.org.tw/article-detail.aspx?tp=1&d=9263&no=64（最後瀏覽日：2024/10/28）。
日本學術會議所屬「深化與推動開放科學檢討委員會（オープンサイエンスの深化と推進に関する検討委員会）」為深化與推動開放科學發展，於2020年5月28日發布建言（原文為提言）。本建言接續國際間提倡的「資料驅動型科學」、與日本Society5.0政策內「資料驅動型社會」構想，目的在於凸顯研究資料共享概念與共享平台的重要性，梳理現行措施下的問題，並提出政策與制度調適建議。 建言提出三項觀察。其一，研究論文投稿至期刊出版機關，論文尚未審查通過並發表前，論文本身與經整理之研究資料的著作財產權雖屬於原作者所有，出版機關原則會另與投稿作者約定，作者不得對外公開其研究成果與研究資料，目的在於避免未經審查通過的成果與資料散布，造成錯誤訊息流通。COVID-19疫情蔓延期間，美國國家衛生研究院（National Institutes of Health, NIH）、國立研發法人日本醫療研究開發機構（AMED）等研究資助機構，則依循過往大規模傳染病發生時的慣例，與期刊出版機關等達成協議並發表聲明，只要作者同意釋出，即允許有關論文發表前得先將研究成果與資料與WHO及外界共享，期待藉資料快速公開流通協助對抗疫情。這些措施體現了資料的重要性與共享可能性，但共享後，利用方新取得的資料應如何繼續以適切方式公開，則有賴資料的數位平台機制完備現行作法的不足。其二，資料本身非著作物，不直接受著作權法保護，各國法例亦較少另外賦予資料庫（database）法定權利。日本則在不正競爭防止法增訂「提供予特定對象資料（限定提供データ）」保護制度，定義非法取用原僅授權特定人使用之資料的行為，將落入不當競爭行為的範疇，強化營業與數位資料利用之法定權利保護。其三，近年來，日本公平交易委員會因應Google、Amazon可能運用資料蒐集達成市場壟斷的疑慮，重新檢討其反托拉斯政策，顯示資料利用亦可能牴觸反托拉斯法；歐盟一般資料保護規則（GDPR）的規範強度與密度較日本國內法為高，則讓資料利用涉及個資時，無法僅以日本個資法為標準。資料利用涉及多部法規，增加資料利用者合法使用的難度，從而降低研究者再利用研究資料的意願。 基於上述觀察，本建言提出以下法制與政策建議：（1）統整不正競爭防止法、個人資料保護法、著作權法等相關法規範，同時考量研究資料本身特性與社會應用途徑，作成指引供外界遵循；（2）國家應資助學術界或進行研發活動之機構，建構得長期蒐整、保存與共享研究資料之平台，協助實現跨領域或跨部門的研究資料融合利用與價值創造；（3）針對研究成果採用的原始樣本（如岩石、土壤、生物、物質等），以及人文社會科學領域研究的原始資料（如文書紀錄、書籍、技術等），建立永久保存之制度。
美國商務部工業暨安全局公布「確保聯網車輛資通訊技術及服務供應鏈安全」法規預告.Pindent{text-indent: 2em;} .Noindent{margin-left: 2em;} .NoPindent{text-indent: 2em; margin-left: 2em;} .No2indent{margin-left: 3em;} .No2Pindent{text-indent: 2em; margin-left: 3em} .No3indent{margin-left: 4em;} .No3Pindent{text-indent: 2em; margin-left: 4em} 美國商務部工業暨安全局（Bureau of Industry and Security, BIS）於2024年9月23日公布「確保聯網車輛資通訊技術及服務供應鏈安全」（Securing the Information and Communications Technology and Services Supply Chain: Connected Vehicles）法規預告（Notice of Proposed Rulemaking, NPRM），旨在透過進口管制措施，保護美國聯網車供應鏈及使用安全，避免國家受到境外敵對勢力的威脅。 相較於BIS於2024年3月1日公布的法規制定預告（Advanced Notice of Proposed Rulemaking, ANPRM），NPRM明確指出受進口管制的國家為中國及俄國，並將聯網車輛資通訊技術及服務之定義，限縮於車載資通訊系統、自動駕駛系統及衛星或蜂巢式通訊系統，排除資訊洩漏風險較小的車載操作系統、駕駛輔助系統及電池管理系統。NPRM定義三種禁止交易型態：（1）禁止進口商將任何由中國或俄國擁有、控制或指揮的組織（下稱「中俄組織」）設計、開發、生產或供應（下稱「提供」）的車輛互聯系統（vehicle connectivity system, VCS）硬體進口至美國；（2）禁止聯網車製造商於美國進口或銷售含有中俄組織所提供的軟體之聯網整車；（3）禁止受中俄擁有、控制或指揮的製造商於美國銷售此類整車。 NPRM亦提出兩種例外授權的制度：在特定條件下，例如年產量少於1000輛車、每年行駛公共道路少於30天等，廠商無須事前通知BIS，即可進行交易，然而須保存相關合規證明文件；不符前述一般授權資格者，可申請特殊授權，根據國安風險進行個案審查。其審查重點包含外國干預、資料洩漏、遠端控制潛力等風險。此外，為提升供應鏈透明度並檢查合規性，BIS預計要求VCS硬體進口商及聯網車製造商，每年針對涉及外國利益的交易，提交符合性聲明，並附軟硬體物料清單（Bill of Materials, BOM）證明。BIS針對此規範是否有效且必要進行意見徵詢，值得我國持續關注。
基因資訊醫療應用與被害人承諾 APPLE iPhone 3G訊號差遭用戶提告具外電報導，美國一阿拉巴馬州居民已向法院提起告訴，控告蘋果公司（APPLE）手機（iPhone 3G）之上網速度緩慢，與其廣告之陳述大相逕庭。 興訟人Jessica Alena Smith於本月19日向美國北阿拉巴馬州地方法院提請訴訟，其於長達十頁之訴訟書中聲稱，APPLE iPhone 3G的速度比宣傳的速度慢，該廣告已有誤導之嫌。Smith要求代表其他用戶使這起訴訟變成一個聯合訴訟。 APPLE廣告聲稱iPhone 3G「一半的價錢，一倍的速度」，能更快地登入網路、上網、收發email、傳送簡訊等，但Smith認為其實際情況卻比廣告所說的緩慢。原告之代表律師表示，APPLE顯然已違背該產品出售時所做出的承諾。同時，更有些許使用者發現iPhone 3G容易發生通話或上網斷訊的情況。 經過幾週的沉默後，APPLE終於體認該產品確實存有訊號接收的問題。APPLE並已發佈「iPhone OS 2.0.2」軟體更新程式並稱能「修正問題」，且已置於iTunes供使用者免費下載，以改善iPhone3G的網絡連接性能。但其是否能修復使用者提出的上述問題，尚不得而知。 該訴訟中要求APPLE提供維修或更換瑕疵產品並負擔損害賠償與律師費用等。目前APPLE尚未對該項請求提出回應或發表評論。