新加坡網路安全局發布人工智慧系統安全指南，以降低AI系統潛在風險
新加坡網路安全局（Cyber Security Agency of Singapore, CSA）於2024年10月15日發布人工智慧系統安全指南（Guidelines on Securing AI Systems），旨在強化AI系統安全，協助組織以安全之方式運用AI，降低潛在風險。 該指南將AI系統生命週期分成五個關鍵階段，分別針對各階段的安全風險，提出相關防範措施：
（1）規劃與設計：提高AI安全風險認知能力，進行安全風險評估。
（2）開發：提升訓練資料、模型、應用程式介面與軟體庫之供應安全，確保供應商遵守安全政策與國際標準或進行風險管理；並辨識、追蹤及保護AI相關資產（例如模型、資料、輸入指令），以確保AI開發環境安全。
（3）部署：適用標準安全措施（例如存取控制、日誌記錄），並建立事件管理程序。
（4）運作與維護：持續監控AI系統的輸入和輸出，偵測異常與潛在攻擊，並建立漏洞揭露流程。
（5）壽命終期：應根據相關行業標準或法規，對資料與模型進行適當之處理、銷毀，防止未經授權之存取。
CSA期待該指南發布後，將有助於預防供應鏈攻擊（supply chain attacks）、對抗式機器學習攻擊（Adversarial Machine Learning attacks）等安全風險，確保AI系統的整體安全與穩定運行。
翁嘉璟
副法律研究員 編譯整理
Guidelines and Companion Guide on Securing AI Systems, Cyber Security Agency of Singapore, https://www.csa.gov.sg/Tips-Resource/publications/2024/guidelines-on-securing-ai (last visited Oct. 27, 2024).
Singapore’s Cyber Security Agency issues security guidelines for AI systems, CMS Law-Now, https://cms-lawnow.com/en/ealerts/2024/10/singapore-s-cyber-security-agency-issues-security-guidelines-for-ai-systems?utm_source=lawnow-realtime&utm_medium=email&utm_campaign=Singapore%e2%80%99s%20Cyber%20Security%20Agency%20issues%20security%20guidelines%20for%20AI%20systems&utm_id=4097&utm_term=read_more&utm_content=697002 (last visited Oct. 27, 2024).
許嘉芳，〈美國國家標準暨技術研究院發布「人工智慧風險管理框架：生成式AI概況」〉，資策會科技法律研究所，2024年10月，https://stli.iii.org.tw/article-detail.aspx?tp=1&d=9263&no=64（最後瀏覽日：2024/10/28）。
中國大陸於2015年8月29日修改了其《促進科技成果轉化法》，為了該法的實施，中國大陸國務院於今年2月17日的常務會議中，即發表了其對於鼓勵研究機構及大專院校之科技研發成果運用的相關措施；而針對這些措施，中國大陸國務院於同月26日制定了相關的具體規定，並在3月2日時發布，並行文於各相關機關。 該規定分作16點，主要分三個大方向，包括促進研究機構及大專院校的科技研發成果轉移於民間企業、鼓勵科技研發人員發展創新技術以及創業活動，與科技研發環境的營造等等。 具體而言，其主要措施包括允許研發機構得自主決定其科技研發成果的運用，原則上不需要向政府申請核准或報備、其運用後的收入不需繳交國庫，得全部留於研發機構內，用於對研究人員之獎勵及機構內科技研發之用、其並對該收入用於對研究人員獎勵之比例下限作出明文規定、允許國立研發機構及大專院校之研究人員在一定條件下得保留原職位在一定期間內至民間企業兼職，或進行創業活動，以從事科技研發成果的運用，以及對研發機構的考核標準應納入對機構之科技研發成果及運用的評鑑等等。
眾議員提出新法以因應數位科技轉換產生的權利保護問題為避免數位科技轉換所可能發生的權利保護缺口，美國眾議院司法委員會主席 James Sensenbrenner Jr. 與議員 John Conyers 於本月 16 日共同提出了「 Digital Transition Content Security Act 」（ DTCSA ， H.R.4569 ），要求業者應在次世代的數位影像製品中加入反盜版技術。該草案的提出，無疑地為飽受盜版所苦的好萊塢注入一劑強心針。 原本可受到著作權法保護的數位內容，一旦由數位轉換為類比（ analog ）形式，再由類比轉換回數位後，其品質上雖稍受影響，但此一新的數位內容即不再受著作權法的保障，眾議員 John Conyers 將之稱為「類比漏洞」（ analog hole ）， DTCSA 的提出即在於因應此一棘手問題。未來草案若能順利通過，除非業者能提出有效阻斷違法複製的策略，否則在一年緩衝期過後，業者凡有製造或販售可將類比影像訊號轉換為數位訊號之設備，均將被宣布為違法。可能因此受到影響者，包括了電腦調頻器（ PC-based tuner ）與數位錄影機（ digital video recorder ）等。 全美電影協會（ MPAA ）對此新法大表歡迎，主席 Dan Glickman 認為 DTCSA 的提出，不僅保護了權利人，同時也將提供消費者更多的選擇。但另一方面，在 DTCSA 賦予商業部（ Commerce Department ）更大的權力以監視家電製造業者之下，草案無可避免地將遭致來自業者一方強大的反彈力量。
美國商務部、財政部以及司法部發布遵循美國出口管制與制裁規範聯合指引美國商務部（Department of Commerce）、財政部（Department of Treasury）以及司法部（Department of Justice）於2024年3月6日發布出口管制與制裁法令遵循指引，以避免邪惡政權（malign regimes）與其他不法人士試圖濫用商業與金融管道，取得有危害美國國家安全與外交政策利益、全球和平與繁榮風險的貨品、技術以及服務，特別提供「非美國公司」（non-U.S. companies），降低相關風險的遵循指引。 該指引分享3則違反制裁法規的案例，重點如下： （1）某家總部位於澳洲的國際貨運代理和物流公司，運送貨品至北韓、伊朗以及敘利亞（皆為被制裁之目的地），且透過美國金融系統發起或收受交易款項，導致美國金融機構與被制裁之對象交易，並向受制裁的司法管轄區輸出金融服務。該公司最終繳納6,131,855美元罰款。 （2）某阿聯酋公司與杜拜以及伊朗公司共謀，透過在出口文件中將一家杜拜公司錯誤地列為最終使用人，然後從一家美國公司出口「儲槽清洗裝置」（storage tank cleaning units）到伊朗，構成違反出口管制規定行為。後與主管機關達成行政和解，繳納415,695美元罰款。 （3）某家總部位於瑞典的國際金融機構的子公司，因其客戶從被制裁的司法管轄區的IP位址，使用子公司的網路銀行平台，透過美國代理銀行向位於被制裁司法管轄區的交易對象付款，因此繳納3,430,900美元罰款。
日本特許廳持續就專利商標查詢平台（J-PlatPat）進行效能優化國際智慧財產權的檢索、查詢，幫助技術、競爭的情報蒐集，是企業能夠規劃出智財布局的優先前提。日本特許廳為提升「專利商標查詢平台」（J-PlatPat）之功能及查詢便利性，規劃就現有平台機能進行擴充，預計在2019年5月時，全面改版完成。特許廳本次J-PlatPat的改版，主要更新或擴充項目包括：將設計專利及商標於審查、審判階段之文件納入可查詢之範圍，並縮短資料上傳時間，使相關文件於上傳隔日即可查詢；增加商標存續狀態之呈現，並增加已廢止商標之檢索；採用人工智慧進行翻譯，提升翻譯品質等；亦針對關鍵字、搜尋結果排序、圖面之運用、設計專利之圖面呈現方式進行優化。 改版後之專利、商標檢索系統便利性，大幅提升，使用上亦毋需支付任何費用。日本特許廳J-PlatPat（https://www.j-platpat.inpit.go.jp/）是個免費的資源，我國企業、學界的智財實務工作者可善加運用此平台，更有效率地達成技術和競爭情報檢索，在專利、商標的國際性競爭中勝出。