新加坡網路安全局發布人工智慧系統安全指南，以降低AI系統潛在風險
新加坡網路安全局（Cyber Security Agency of Singapore, CSA）於2024年10月15日發布人工智慧系統安全指南（Guidelines on Securing AI Systems），旨在強化AI系統安全，協助組織以安全之方式運用AI，降低潛在風險。 該指南將AI系統生命週期分成五個關鍵階段，分別針對各階段的安全風險，提出相關防範措施：
（1）規劃與設計：提高AI安全風險認知能力，進行安全風險評估。
（2）開發：提升訓練資料、模型、應用程式介面與軟體庫之供應安全，確保供應商遵守安全政策與國際標準或進行風險管理；並辨識、追蹤及保護AI相關資產（例如模型、資料、輸入指令），以確保AI開發環境安全。
（3）部署：適用標準安全措施（例如存取控制、日誌記錄），並建立事件管理程序。
（4）運作與維護：持續監控AI系統的輸入和輸出，偵測異常與潛在攻擊，並建立漏洞揭露流程。
（5）壽命終期：應根據相關行業標準或法規，對資料與模型進行適當之處理、銷毀，防止未經授權之存取。
CSA期待該指南發布後，將有助於預防供應鏈攻擊（supply chain attacks）、對抗式機器學習攻擊（Adversarial Machine Learning attacks）等安全風險，確保AI系統的整體安全與穩定運行。
翁嘉璟
副法律研究員 編譯整理
Guidelines and Companion Guide on Securing AI Systems, Cyber Security Agency of Singapore, https://www.csa.gov.sg/Tips-Resource/publications/2024/guidelines-on-securing-ai (last visited Oct. 27, 2024).
Singapore’s Cyber Security Agency issues security guidelines for AI systems, CMS Law-Now, https://cms-lawnow.com/en/ealerts/2024/10/singapore-s-cyber-security-agency-issues-security-guidelines-for-ai-systems?utm_source=lawnow-realtime&utm_medium=email&utm_campaign=Singapore%e2%80%99s%20Cyber%20Security%20Agency%20issues%20security%20guidelines%20for%20AI%20systems&utm_id=4097&utm_term=read_more&utm_content=697002 (last visited Oct. 27, 2024).
許嘉芳，〈美國國家標準暨技術研究院發布「人工智慧風險管理框架：生成式AI概況」〉，資策會科技法律研究所，2024年10月，https://stli.iii.org.tw/article-detail.aspx?tp=1&d=9263&no=64（最後瀏覽日：2024/10/28）。
日本智慧財產推進計畫2015分析（上） 資策會科技法律研究所 法律研究員 蘇彥彰 104年08月26日 日本智慧財產戰略本部於今年6月19日公布了最新一期的「智慧財產推進計畫2015」[1]，分析其內容，除仍以智慧財產的創造、保護、活用及三者間的有效連接作為宗旨外，並以少子高齡化與地方經濟衰退、智財糾紛處理機制的使用狀況和便利性、以及內容產業海外拓展的潛力及對智財戰略之重要性為背景，特別提出了「推動中小企業智財活用」、「活化智財紛爭處理機制」、「推動內容產業及週邊產業整體性的海外拓展」等三項核心議題，並分別剖析各項議題其現狀課題及主管部會應努力之方向，其內容如下： 一、推動中小企業智財活用 （一）現狀與課題 日本全國目前約有385萬間中小企業，不僅對於支持日本經濟具有重要地位，同時也是產業競爭力的來源。若中小企業能發展自身的智慧財產（包括技術、品牌等），以經營策略為基礎，有效透過智財戰略的權利化、標準化、隱密化等方式，應可將智慧財產活用於商業行為中，並且成功連結地域經濟的發展。然而以2013年而言，日本中小企業之中，將所擁有之技術或知識等加以權利化，申請發明專利、新型專利或商標其中之一的企業只有約3.3萬間，不到全部中小企業總數的1％[2]，可知日本目前將智慧財產活用於商業活動的中小企業非常有限。 而於2015年度的智財推進計畫中，日本依據對智財的掌握度將中小企業區分為「智財活用挑戰型」和「智財活動發展型」二類，前者是指能將自身所擁有的智慧財產和構想加以權利化後，將之活用於產品的開發、生產乃至於拓展海外市場等挑戰性活動之中小企業，後者則是指尚未擁有足以權利化之智慧財產（尤其是技術），對智財的意識尚屬薄弱，生產產品的通路和交易對象偏向固定，多半處於承攬者地位之中小企業。 關於強化中小企業智財戰略的作法，就「智財活用挑戰型」之中小企業而言，有鑑於對於非都會區之中小企業，能從智慧財產和商業經營兩個不同角度提供建言的機能，在現行體制下仍有所不足，故有必要針對如何策略性取得並活用智財，以助於事業經營之經營意識進行強化，特別是思維上應不侷限於申請並取得專利權，而是針對關於權利化、標準化、隱密化進全面性強化輔導的專門體系實為重點；另就「智財活動發展型」之中小企業而言，則將重點置於利用各種可能機會，協助喚起其對智財的認知及意識，特別是對金融機構等中小企業的相關事業人員進行智財啟發。 另一方面，關於對非都會區十分重要的農林水產領域，隨著近年來全球化和資訊化的高度發展，日本認為除需要對於仿冒品和技術外流提出對應作法外，也有必要活用2015年6月開始採用的「地理標示保護制度」[3]，以提高品牌價值、強化產業國際競爭力並活化地方經濟。 （二）今後施政方向 日本根據上述的現狀與課題，為強化中小企業等的智財戰略，同時促進大企業、大學和地方中小企業合作活用其智財，指示各主管部會應著手推動下列的施政方向： 1.強化地方中小企業智財戰略： 強化在各個都道府縣的支援據點數量，並且進行諮商體制及支援資源的強化，經由與中小企業的商業活動相關諮詢，發掘中小企業中與智慧財產相關的潛在需求，並且進一步透過智財綜合支援窗口，促進地域性中小企業活用自身之智慧財產，例如將其設計、品牌與活化產業或地域資源連結加以活用，提高中小企業所具有之無形資產之「能見度」，創造高附加價值的產品。 2.強化地方中小企業、大企業以及大學之智慧財產互助： 充實開放專利資料庫，使企業、大學、研究機關等之開放專利可直接透過網路進行整體性檢索，並在各地方行政機關配置支援人力，協助大企業將其所保有但未能有效利用之智慧財產（例如所謂之「休眠專利」），透過相對缺乏外部知識和技術等經營資源，但有意願接受技術移轉之中小企業進行事業化，以達成智財的有效活用；另針對大學與企業間共同研發情形進行調查，了解包括共同研發的專利申請型態、運用狀況和契約實務，以檢討共同研發之專利申請和契約內容的處理方式妥適性，進而從促進大學智財活用目標，以及兼顧中小企業、大企業、大學等個別需求和立場觀點下，設計具有彈性、可有效應用於在大學和企業間的契約內容。 3.推動農林水產領域智財戰略： 為推進農林水產領域的品牌化，在對於新導入的「地理標示保護制度」進行徹底宣導時，也應一併針對與地域品牌戰略有關的「地域團體商標制度」[4]間的選擇/搭配進行介紹，促進兩項制度的實際運用；對於海外市場，則透過與已導入地理表示保 護制度國家間的合作，使正牌日本特產能為當地市場所熟悉，整頓日本各地農林水產品向外輸出的環境。 （三）小結 與日本類似，我國的產業結構亦以中小企業為主，依經濟部中小企業處之統計，2013年我國中小企業有133萬1182家，占全體企業97.64%，就業人數858萬8000人，亦占全國就業人口78.3%[5]，足見中小企業不僅是我國經濟之命脈，更是支撐就業及分配所得的基石。 經濟部中小企業處於2013年至2014年6月間，為協助企業經營體質創新發展、創新中小企業智財價值，協助具技術創新之中小企業，進行智慧財產經濟價值及多元智財運用之評估，並輔導企業強化重視智財權及協助導入智財管理制度，以縮短研發時程及節省相關研發投入成本，已完成67家中小企業智財權之短期診斷服務、完成4家中小企業專案輔導、完成2家中小企業產品安規及檢測服務、輔導6家中小企業導入智財管理制度、為企業節省研發先期投入成本650萬元/年、帶動後續投資金額及流通運用衛生收入金額達3085萬元/年等[6]，已見相當成效。 我國後續或可參考前述日本作法，除持續加強中小企業智財戰略思維外，對於中小企業與大學或大企業間之智財互助，以及製造業以外之農林水產領域智財品牌化工作投注心力，以進一步實現中小企業之智財活用目標。 [1] 〈知的財産推進計画2015〉，知的財産戦略本部，http://www.kantei.go.jp/jp/singi/titeki2/kettei/chizaikeikaku20150619.pdf（最後瀏覽日：2015/08/14） [2] 〈中小企業・地域知財支援研究会 参考資料〉，特許庁， https://www.jpo.go.jp/shiryou/toushin/kenkyukai/pdf/chusho_chizai_shien/betten.pdf（最後瀏覽日：2015/08/13） [3] 〈地理的表示保護制度(GI)〉，農林水産省，http://www.maff.go.jp/j/shokusan/gi_act/（最後瀏覽日：2015/09/02） [4] 〈地域団体商標制度〉，特許庁，https://www.jpo.go.jp/torikumi/t_torikumi/t_dantai_syouhyou.htm（最後瀏覽日：2015/09/02） [5] 〈2014中小企業白皮書〉，經濟部，頁2（2014），http://book.moeasmea.gov.tw/book/doc_detail.jsp?pub_SerialNo=2014A01203&click=2014A01203#（最後瀏覽日：2015/08/26） [6] 同前註，頁252。
日本與歐盟達成GDPR適足性認定之合意，預定於今年秋天完成相關程序日本個人情報保護委員會於5月31日與歐盟執行委員會，對於取得之個人資料跨境傳輸相互承認達成實質合意。歐盟今年5月施行之歐盟個人資料保護規則（European Union General Data Protection Regulation,GDPR）對於個人資料之跨境傳輸係採「原則禁止、例外允許」模式，因此只有在符合例外之情形下，個人資料才能進行跨境傳輸，而例外獲得許可的情形包括由企業自主採行符合規範的適當保護措施，或取得個資當事人明確同意等方式。此外，GDPR也規定對第三國或地區個人資料保護水平是否達到GDPR標準，為適足性認定制度，取得此一認定資格者，即可自由與歐盟間進行個人資料跨境傳輸。目前有瑞士等11個國家及地區取得認定，日本則尚未取得。 日本為了減輕企業的負擔，2016年7月個人情報委員會決定處理方針，以取得相互認定承認為目標；於2017年1月歐盟執行委員會政策文書發表，將日本列為適足性認定之優先國家，將持續進行雙方後續對話。自2016年4月自2018年5月為止累計對話協商53次。於2017年5月施行修正之個人資料保護法，新導入域外適用規定，並對於國外執行當局為必要資訊提供為相關規定。依據上述對話意見，今年2月14日審議擬定「個人資料保護法指引－歐盟適足性認定之個人資料傳輸處理編(個人情報の保護に関する法律についてのガイドラインーEU域内から十分性認定により移転を受けた個人データの取扱い編)」草案，於今年4月25日至5月25日完成草案預告及意見徵集程序，預定於今年7月上旬訂定發布。其後，將於今年秋天完成歐盟與日本間相互指定與認定程序。亦即，個人情報保護委員會基於個人資料保護法第24條規定，指定歐洲經濟區（EEA）為與日本有同等水準之個人資料保護制度之外國，而歐盟執行委員會依據GDPR第45條規定，認定日本為具備適足保護水準。相互認定後，日本與歐盟間得相互為個人資料傳輸，如有相互協力必要性發生時，個人情報保護委員會及歐洲執行委員會應相互協議以為解決。
從RFID的應用談科技變遷下的人權議題 歐盟電子通訊市場之事前管制與界定