新加坡網路安全局發布人工智慧系統安全指南，以降低AI系統潛在風險
新加坡網路安全局（Cyber Security Agency of Singapore, CSA）於2024年10月15日發布人工智慧系統安全指南（Guidelines on Securing AI Systems），旨在強化AI系統安全，協助組織以安全之方式運用AI，降低潛在風險。 該指南將AI系統生命週期分成五個關鍵階段，分別針對各階段的安全風險，提出相關防範措施：
（1）規劃與設計：提高AI安全風險認知能力，進行安全風險評估。
（2）開發：提升訓練資料、模型、應用程式介面與軟體庫之供應安全，確保供應商遵守安全政策與國際標準或進行風險管理；並辨識、追蹤及保護AI相關資產（例如模型、資料、輸入指令），以確保AI開發環境安全。
（3）部署：適用標準安全措施（例如存取控制、日誌記錄），並建立事件管理程序。
（4）運作與維護：持續監控AI系統的輸入和輸出，偵測異常與潛在攻擊，並建立漏洞揭露流程。
（5）壽命終期：應根據相關行業標準或法規，對資料與模型進行適當之處理、銷毀，防止未經授權之存取。
CSA期待該指南發布後，將有助於預防供應鏈攻擊（supply chain attacks）、對抗式機器學習攻擊（Adversarial Machine Learning attacks）等安全風險，確保AI系統的整體安全與穩定運行。
翁嘉璟
副法律研究員 編譯整理
Guidelines and Companion Guide on Securing AI Systems, Cyber Security Agency of Singapore, https://www.csa.gov.sg/Tips-Resource/publications/2024/guidelines-on-securing-ai (last visited Oct. 27, 2024).
Singapore’s Cyber Security Agency issues security guidelines for AI systems, CMS Law-Now, https://cms-lawnow.com/en/ealerts/2024/10/singapore-s-cyber-security-agency-issues-security-guidelines-for-ai-systems?utm_source=lawnow-realtime&utm_medium=email&utm_campaign=Singapore%e2%80%99s%20Cyber%20Security%20Agency%20issues%20security%20guidelines%20for%20AI%20systems&utm_id=4097&utm_term=read_more&utm_content=697002 (last visited Oct. 27, 2024).
許嘉芳，〈美國國家標準暨技術研究院發布「人工智慧風險管理框架：生成式AI概況」〉，資策會科技法律研究所，2024年10月，https://stli.iii.org.tw/article-detail.aspx?tp=1&d=9263&no=64（最後瀏覽日：2024/10/28）。
台灣自一九九○年至二○○四年止，平均每人排放量自五‧五七公噸大幅增加至十一‧五九公噸，以國際能源總署 (IEA )截至2002年統計，全球排放量前三名為美國、中國及俄羅斯，台灣則排名全球第22名。 主計處表示，依 IEA 統計資料庫顯示，二○○二年全球二氧化碳排放量前六名為美國（57.1億噸，占全球23.3﹪）、中國（34.7億噸，占14.2﹪）、俄羅斯（15.2億噸，占6.2 ﹪）、日本（11.8億噸，占4.8 ﹪）、印度（10.5億噸，占4.3﹪）及德國（8.5億噸，占3.5 ﹪）。台灣則排第 22 名（1990年為第28名），排放量占全球總量約1﹪，而經濟發展程度與我國相近的南韓、新加坡排名分別為第9名（4.7億噸，占1.9﹪）及52名（5500萬噸，占0.2﹪）。 行政院主計處據工研院能源與資源研究所統計，公佈最新「我國燃料燃燒排放二氧化碳」概況，台灣溫室氣體排放以二氧化碳為最大宗，佔八成以上，至二○○四年為 2.6億噸。 主計處指出，為抑制人為溫室氣體排放導致全球氣候變遷加劇現象，聯合國在一九九二年通過「聯合國氣候變化綱要公約」，且為落實排放管制工作，具有約束效力的「京都議定書」，已在今年二月十六日正式生效，期使在二○○八至二○一二年間，六種溫室氣體排放量平均應削減至比一九九○年低五‧二 %水準。在全球持續增溫、海平面上升及氣候變遷加劇下，台灣雖非京都議定書締約國，但政府相關部會順應國際永續發展潮流，正積極落實檢討溫室氣體排放減量政策。
荷蘭智庫提出發展永續性生質燃料的政策建議面對解決氣候變遷及尋找替代石化能源的全球性問題，生質材料（biomass）的開發與利用深受期待，然而，生質材料的生產與利用是否適當，乃是複雜的決策工具，一國政府在推動與能源、溫室氣體減量有關之政策工具時，必須意識到這些政策工具背後所蘊藏之其他風險。 在面對生質材料的風險，荷蘭政府可謂最先有此問題意識，並嘗試在提出政策工具時盡可能作妥適規劃的先進國家之一。荷蘭是歐洲最大的棕櫚油進口國，以棕櫚油製成的產品在荷蘭超市到處可見，部分棕櫚油也用於能源供應，荷蘭甚至有業者打算興建專門使用棕櫚油運轉的電力供應站（power stations）。 為確保利用棕櫚油及其他生質材料所開發新能源符合環境永續經營的目的，荷蘭政府已研議在相關的政策措施中，導入生質材料應符合永續性的標準；而為落實此一政策構想，荷蘭政府委託智庫Cramer Commission（該委員會以其主席Jacqueline Cramer的姓為名，Cramer女士更在2007年2月成為荷蘭環境部長）進行相關研究。Cramer Commission在今年4月向荷蘭政府正式提出「檢測生質材料是否符合永續性之架構報告」（Testing Framework Report for Sustainable Biomass），報告中提出發展生質燃料可能涉及的六大永續性議題分別：溫室氣體排放、與食物及其他運用領域之衝突、生物多樣性、環境、經濟繁榮、社會福祉；報告除針對此六大議題分別提出永續性思考外，並建議透過追蹤系統（track-and-trace system）對作物從種植到成為電廠生產生質燃料的整個過程予以監控，並對生質燃料公布嚴格的進口標準，作為生質燃料的作物，其栽種方式必須經認證是不破壞環境，或所釋出的溫室氣體比節省得多，始得進口。Cramer Commission並建議荷蘭政府設定在2020年前進口永續來源的生質材料，並建議在此之前應有過渡措施。 關於生質燃料的環境風險問題，目前在歐盟已開始有問題意識，歐盟也嘗試思考是否可能藉由綠色認證制度之建立，確保非以永續方式製造的生質燃料，不得進入歐盟市場；其他打算跟進的歐洲國家，則正在觀察荷蘭的作法。
日本內閣府召集研究小組 解決因AI帶來之智財問題日本內閣府組成「AI時代的智慧財產權研討小組」，由東京大學副校長渡邊敏也作為主席於今（2023）年10月4日召開首次會議，為討論生成式AI（人工智慧）發展帶來的智慧財產權問題。討論主題包括法規範現況、在人類參與有限的情況下由生成式AI所產出之發明是否可以申請專利等，目標於年底前彙整、蒐集企業經營者待解決議題。亦將從其他法律的角度進行討論，例如：AI模仿商品形態是否亦受到日本《不正競爭防止法》之拘束；AI與專利之間的關係，依據日本《專利法》，專利權目前僅授予個人參與創造過程的發明，隨著AI技術的發展，預計會出現難以做出決策的情況，將討論諸如取得專利所須的人類參與程度等問題；以及擁有大量資料的權利持有者向AI開發者提供有償資料的優缺點。與會專家表示，希冀看到從鼓勵利用AI進行新創作和發明之角度出發。日本文化廳和其他相關組織亦同步討論AI生成的作品，若與現有之受著作權保護的作品相似時是否會侵害著作權之議題。 日本內閣府早先於今年5月公布「AI相關論點之初步整理」（AIに関する暫定的な論点整理），我國行政院於今年8月31日正式揭示國科會擬定之「行政院及所屬機關（構）使用生成式AI參考指引」草案，我國經濟部智慧局亦規劃研擬就AI生成物是否享有著作權或專利權、訓練資料合理使用範圍、企業強化營業秘密保護等3大面向建立AI指引，國內外AI相關指引議題均值得持續追蹤瞭解。另，企業無論是擔憂AI技術成果外洩、不慎侵害他人智財權或智財成果被生成式AI侵害之虞等，因應數位化趨勢與數位證據保全而應強化相關管理措施，資策會科法所發布之《營業秘密保護管理規範》、《重要數位資料治理暨管理制度規範(EDGS)》協助企業檢視自身管理措施之符合性並促進有效的落實管理。 本文同步刊登於TIPS網（https://www.tips.org.tw）
日本專利局公布大學研發成果落地運用案例研究，協助大學衍生新創日本專利局（特許庁）自2019年啟動「智財戰略規劃師派遣計畫」（知財戦略デザイナー派遣事業），向大專院校派遣智財戰略規劃師，發掘大學內部埋藏之研發成果，協助研發成果落地運用或衍生新創公司，進而帶動產業創新。為支援智財戰略規劃師達成上述工作，日本專利局於2023年4月14日公布「大學研究成果衍生新創案例研究」（大学研究成果の社会実装ケーススタディ，以下簡稱案例集），介紹大學衍生新創重要案例，並針對新創公司設立、簽約等各階段，以對話形式說明應注意事項。 案例集分為第1章「新創篇」、第2章「與企業合作篇」，以及第3章「其他篇」，每篇介紹不同案例，一共收錄9個案例，如「以和企業共有之專利作價，投資設立之新創公司」、「AI新創公司之商業模式」、「新藥開發平臺相關之商業模式」、「活用智財戰略設立之新創公司」、「以與企業共同研究為基礎之專利申請戰略」等。上述案例均依照「發現發掘」（発明発掘）、「制定智財戰略」、「預備衍生新創」（社会実装準備）、「支援後階段」等4個流程展開，以圖文及對話形式，提醒規劃師在各階段應注意之支援重點及注意事項，並以專欄形式說明失敗案例，期能作為大學研究者、產學合作窗口衍生新創之參考。