新加坡網路安全局發布人工智慧系統安全指南，以降低AI系統潛在風險
新加坡網路安全局（Cyber Security Agency of Singapore, CSA）於2024年10月15日發布人工智慧系統安全指南（Guidelines on Securing AI Systems），旨在強化AI系統安全，協助組織以安全之方式運用AI，降低潛在風險。 該指南將AI系統生命週期分成五個關鍵階段，分別針對各階段的安全風險，提出相關防範措施：
（1）規劃與設計：提高AI安全風險認知能力，進行安全風險評估。
（2）開發：提升訓練資料、模型、應用程式介面與軟體庫之供應安全，確保供應商遵守安全政策與國際標準或進行風險管理；並辨識、追蹤及保護AI相關資產（例如模型、資料、輸入指令），以確保AI開發環境安全。
（3）部署：適用標準安全措施（例如存取控制、日誌記錄），並建立事件管理程序。
（4）運作與維護：持續監控AI系統的輸入和輸出，偵測異常與潛在攻擊，並建立漏洞揭露流程。
（5）壽命終期：應根據相關行業標準或法規，對資料與模型進行適當之處理、銷毀，防止未經授權之存取。
CSA期待該指南發布後，將有助於預防供應鏈攻擊（supply chain attacks）、對抗式機器學習攻擊（Adversarial Machine Learning attacks）等安全風險，確保AI系統的整體安全與穩定運行。
翁嘉璟
副法律研究員 編譯整理
Guidelines and Companion Guide on Securing AI Systems, Cyber Security Agency of Singapore, https://www.csa.gov.sg/Tips-Resource/publications/2024/guidelines-on-securing-ai (last visited Oct. 27, 2024).
Singapore’s Cyber Security Agency issues security guidelines for AI systems, CMS Law-Now, https://cms-lawnow.com/en/ealerts/2024/10/singapore-s-cyber-security-agency-issues-security-guidelines-for-ai-systems?utm_source=lawnow-realtime&utm_medium=email&utm_campaign=Singapore%e2%80%99s%20Cyber%20Security%20Agency%20issues%20security%20guidelines%20for%20AI%20systems&utm_id=4097&utm_term=read_more&utm_content=697002 (last visited Oct. 27, 2024).
許嘉芳，〈美國國家標準暨技術研究院發布「人工智慧風險管理框架：生成式AI概況」〉，資策會科技法律研究所，2024年10月，https://stli.iii.org.tw/article-detail.aspx?tp=1&d=9263&no=64（最後瀏覽日：2024/10/28）。
於2017年11月17日，瑞典與法國共同簽署成立戰略夥伴關係，共同致力於創新與數位化轉型，尋求綠色解決方案，由產業界、新創公司、學術界以及公共部門共同參與，此次合作兩大主軸分別為數位化轉型以及因應氣候變遷的綠色創新，工作細項側重四大領域： (1)運輸、乾淨能源與智慧城市的綠色創新方案：以大幅減少交通運輸所產生的溫室氣體為目標，瑞典希望相較於2010年，至2030年時至少減少國內運輸排放量百分之七十(不包括航空)，法國則宣布希望至2040年前能結束出售以化石燃料運行的汽車，兩國將與企業共同合作尋求解決方案並創造就業機會。 (2)因應氣候變遷的綠色經濟：朝向低(零)碳排放量的社會前進，並制定一套適當的法律框架。 (3)數位化轉型、智慧產業與新創公司：兩國將使中小企業進行數位化轉型的知識交流，致力於支持中小企業數位化轉型進程；除此之外，為了實現長期的共同利益，善用彼此的相關研究，研究小組更進一步尋求雙方人力資源的合作，包含研究人員相互交流並鼓勵企業共同探索研發成果的商機。 (4)健康與生命科學創新：確立完善的健康照護體系以及衛生系統不斷的重新評估與改革對兩國相互交流醫療保健模式是有助益的，兩國重視當前高齡化的社會照護，通過科技創新在健康、福利與預防醫學上達到E化保健與遠程保健等目標，藉由以病人為中心的醫療體系，更新社會醫療保健模式。
2025年美國法院以「後設資料」作為審理AI深偽數位證據案件之重點2025年9月Mendones v. Cushman and Wakefield, Inc.案（下稱Mendones案），面對生成式AI與深偽（deepfakes）對數位證據真實性的威脅，美國法院特別提到針對後設資料（metadata）的審查。 基於Mendones案原告提交9項涉嫌使用生成式AI的數位證據，其中證詞影片6A與6C影片具備「人物缺乏臉部表情、嘴型與聲音不相符，整體表現像機器人一樣」且「影片內容循環撥放」等AI深偽影片之典型特徵，法院懷疑原告舉證的數位證據為AI深偽影片。 因此，法院要求原告須提出該影片的後設資料，包含文件格式、創建/修改日期、文件類型、拍攝影片的快門速度等客觀資訊。 法院表示，原告提交的後設資料不可信，因為包含許多通常不會出現在後設資料的資訊（非典型的資訊），例如：著作權聲明。且法院進一步指出，許多非典型的資訊被放在不相關的欄位，例如：Google地圖的URL網址、電話號碼、GPS座標及地址等被放在「音樂類型」（musical genre）欄位內。因此法院懷疑，前述「非典型之後設資料」是被有存取文件與編輯權限的人添加的「後設資料」。 原告則主張，其透過iOS 12.5.5版本作業系統的Apple iPhone 6 Plus手機拍攝影片6A。法院指出，直到iOS 18版本作業系統，iPhone才推出可用於生成深偽影片的新功能「Apple Intelligence」相關技術，且該版本需要使用iPhone 15 Pro或更新的手機機型，因此法院發現技術上的矛盾。 法院認為，本案生成式AI影片已超越提交虛假引文（Fictitious Citations，即過往案例曾出現過律師提出AI虛構的判例之情況）的範疇。在訴訟中使用深偽證據，嚴重影響了法院的審理與公眾對司法的信任，並增加法院評估該證據是否為深偽之成本。因此，法院採取嚴厲的永久駁回訴訟（dismissed with prejudice），以表示對企圖以深偽資料為證據的行為持「零容忍」態度。 Mendones案展現法院審理AI深偽數位證據的細節，如「審視後設資料之內容準確、完整」為法院確認數位證據真實性的重要手段。 面對AI時代下數位證據的挑戰，我國司法院、法務部、臺灣高等檢察署、內政部警政署及法務部調查局共同推動之「司法聯盟鏈共同驗證平台」，以「b-JADE證明標章」結合區塊鏈技術。「b-JADE證明標章」確保鏈下管理數位資料原檔的機制，以及鏈上的「存證資料」包含「與數位原檔資料最終版本連結的『必要後設資料』」、雜湊值及時戳，如能妥適運用司法聯盟鏈進行證據「驗真」程序，將有助於強化數位信任。 本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。 本文同步刊登於TIPS網站（https://www.tips.org.tw）
日本《研究資料基盤整備與國際化戰略》報告書日本因應各先進國家近年於開放科學概念下，政府資助研發計畫研究資料管理及開放之倡議與制度化推展趨勢，內閣府於2015年提出開放科學國際動向報告書，並在第5期科學技術基本計畫與2019年統合創新戰略中規劃推動開放科學。上述政策就研究資料管理開放議題，擬定了資料庫整備、研究資料管理運用方針或計劃之制定、掌握相關人才培育與研究資料運用現況等具體施政方針。在此背景下，內閣府於2018年設置「研究資料基盤整備與國際化工作小組（研究データ基盤整備と国際展開ワーキング・グループ）」，持續檢討日本國內研究資料管理、共享、公開、檢索之基盤系統建構與政府制度、國家研究資料戰略與資料方針、國際性層級之推動方向等議題，在2019年10月據此作成《研究資料基盤整備與國際化戰略》（研究データ基盤整備と国際展開に関する戦略）報告書，形成相關政策目標。 本報告書所設定的政策目標採階段性推動，區分為短期目標與中長期目標。短期預計在2020年前，正式開始運用目前開發測試中之研究資料基盤雲端平台系統（NII Research Data Cloud, RDC），針對射月型研發計畫研擬並試行研究資料管理制度，建構詮釋資料（metadata）之集中檢索體系，並建立與歐洲開放科學雲（EOSC）之連結；中長期目標則規劃至2025年前，持續調適運用RDC，正式施行射月型研發計畫之研究資料管理制度，確立共享與非公開型研究資料之管理框架，蒐整管理資料運用現況之相關資訊，並逐步擴張建立與全球研究資料共享平台間之連結。
從Advantek 與Walk-Long寵物屋之爭了解美國聯邦巡迴上訴法院之設計專利禁反言判斷原則一般實務上較熟悉發明或新型專利在申請過程中，調修權利範圍與其後訴訟禁反言之關聯性，然而在設計專利申請過程中，圖式的調修或圖式組合的選取對往後訴訟在權利範圍主張所造成的影響，在實務上則相對不明確。而美國聯邦巡迴上訴法院（the United States Court of Appeals for the Federal Circuit, 簡稱CAFC）在2018年8月1日對「Advantek Mktg., Inc. v. Shanghai Walk-Long Tools Co., Ltd.」一案作出判決，依循了設計專利禁反言之判斷原則，這也是CAFC根據此判斷原則所作出的第二個判決。 Advantek Mktg., Inc.（後稱Advantek）擁有「寵物屋（Gazebo）」美國設計專利（D715,006，後稱系爭專利），其認為Walk-Long Tool Co., Ltd.（後稱Walk-Long）之「有蓋寵物屋」產品（後稱系爭產品）侵權，因此在2016年提出專利侵權訴訟。一審中，Walk-Long指出Advantek在專利審查過程中選擇放棄「附蓋寵物屋」之圖式，是故意放棄專利範圍（intentionally surrendered patent claim scope）以取得專利，而根據禁反言原則認為Advantek申請階段已放棄附蓋之設計態樣因此無法主張權利，地方法院認同Walk-Long。 Advantek提起上訴，CAFC根據其於2014年判決中所提出之設計專利禁反言判斷原則：(1)是否有放棄專利範圍；(2) 該放棄是否以專利性為由而提出；(3)被控侵權產品是否落入該放棄之範圍中，認為系爭產品並不符合第三點，即未落入所放棄之圖式範圍，亦即系爭專利之範圍為寵物屋骨架結構（skeletal structure），不論系爭產品是否有其他特徵（是否附有蓋）皆落入系爭專利之權利範圍；此外，根據2016年最高法院在「Samsung v. Apple」案中針對複數構件之產品認定專利侵權範圍時，是以部分構件而非完整產品進行檢視，亦即系爭產品僅須一部分與系爭專利一致便落入專利範圍，而非以產品整體視之，並據此兩觀點駁回地院判決。 本案重點在於，專利申請過程中審查委員發現一案多實施例的情況提出選取要求（restriction requirement），當申請人選取部分圖式為產品之核心設計形成較大的專利範圍（如本案選擇的寵物屋骨架結構），並不會造成禁反言，當禁反言在調修或選取時限縮專利範圍才會成立。此外，建議設計專利之申請範圍係以核心設計或主要設計特徵而非納入產品之整體設計，如此未來主張權利範圍將相對寬廣。 「本文同步刊登於TIPS網站（https://www.tips.org.tw）」