新加坡網路安全局發布人工智慧系統安全指南，以降低AI系統潛在風險
新加坡網路安全局（Cyber Security Agency of Singapore, CSA）於2024年10月15日發布人工智慧系統安全指南（Guidelines on Securing AI Systems），旨在強化AI系統安全，協助組織以安全之方式運用AI，降低潛在風險。 該指南將AI系統生命週期分成五個關鍵階段，分別針對各階段的安全風險，提出相關防範措施：
（1）規劃與設計：提高AI安全風險認知能力，進行安全風險評估。
（2）開發：提升訓練資料、模型、應用程式介面與軟體庫之供應安全，確保供應商遵守安全政策與國際標準或進行風險管理；並辨識、追蹤及保護AI相關資產（例如模型、資料、輸入指令），以確保AI開發環境安全。
（3）部署：適用標準安全措施（例如存取控制、日誌記錄），並建立事件管理程序。
（4）運作與維護：持續監控AI系統的輸入和輸出，偵測異常與潛在攻擊，並建立漏洞揭露流程。
（5）壽命終期：應根據相關行業標準或法規，對資料與模型進行適當之處理、銷毀，防止未經授權之存取。
CSA期待該指南發布後，將有助於預防供應鏈攻擊（supply chain attacks）、對抗式機器學習攻擊（Adversarial Machine Learning attacks）等安全風險，確保AI系統的整體安全與穩定運行。
翁嘉璟
副法律研究員 編譯整理
Guidelines and Companion Guide on Securing AI Systems, Cyber Security Agency of Singapore, https://www.csa.gov.sg/Tips-Resource/publications/2024/guidelines-on-securing-ai (last visited Oct. 27, 2024).
Singapore’s Cyber Security Agency issues security guidelines for AI systems, CMS Law-Now, https://cms-lawnow.com/en/ealerts/2024/10/singapore-s-cyber-security-agency-issues-security-guidelines-for-ai-systems?utm_source=lawnow-realtime&utm_medium=email&utm_campaign=Singapore%e2%80%99s%20Cyber%20Security%20Agency%20issues%20security%20guidelines%20for%20AI%20systems&utm_id=4097&utm_term=read_more&utm_content=697002 (last visited Oct. 27, 2024).
許嘉芳，〈美國國家標準暨技術研究院發布「人工智慧風險管理框架：生成式AI概況」〉，資策會科技法律研究所，2024年10月，https://stli.iii.org.tw/article-detail.aspx?tp=1&d=9263&no=64（最後瀏覽日：2024/10/28）。
日本IT綜合戰略本部及官民資料活用推進本部於4月17日公佈「自動駕駛制度整備大綱」。大綱設定2020年至2025年間，日本社會實現自動駕駛下，所需檢討修正之關連法制度。 本大綱中，係以2020年實現自動駕駛至等級4為前提（限定場所、速度、時間等一定條件下為前提，系統獨自自動駕駛之情形），以在高速公路及部分地區之道路實現為條件設定。社會實現自動駕駛有以下課題需克服： 道路交通環境的整備：以自駕系統為行駛，一般道路因為環境複雜，常有無法預期狀況發生，導致自駕車的電腦系統無法對應。 確保整體的安全性：依據技術程度，設定一般車也能適用之行駛環境、設定車輛、自動駕駛之行駛環境條件以及人之互相配合，以達成與一般車相同之安全程度為方針下，由關係省廳間為合作，擬定客觀之指標。此一指標，並非全國一致，應就地方之特性，設定符合安全基準及自動駕駛行駛環境條件，建構整體確保安全之體制。 防止過度信賴自駕系統：訂定安全基準，使日本事件最先端自動車技術擴及於世界，訂定包含自駕系統安全性、網路安全等自動駕駛安全性要件指針。 事故發生時之法律責任：自動駕駛其相關人為駕駛人、系統製造商、道路管理者等多方面，其法律責任相對複雜化。現在係以被害人救濟觀點，至等級4為止之自動駕駛，適用自動車損害賠償責任險（強制責任險）方式，但是民法、刑法及行政法等法律全體之對應，仍為今後之課題，必須為早期快速處理。為了強化民事責任求償權行使、明確刑事責任之因果關係、並實現車輛安全性確保、避免所有人過度負擔等，車輛行駛紀錄器之裝置義務化、事故原因究明機制等，關係機關應合作為制度檢討。 本大綱最後並提出，在自動駕駛技術快速發展下，就其發展實際狀況應為持續半年1次召開會議檢討檢討。
Google與Klausner Technologies公司之專利訟訴和解根據路透社（Reuters）報導指出，Google，和日前亦接獲到Klausner Technologies公司之專利訴訟LG， Apple，Skype以同意授權方式，結束可視覺化語音信箱（visual voicemail）之智慧財產權訴訟案。 提出訴訟案為Klausner Technologies公司之CEO，亦為可視覺化語音信箱技術發明人Judah Klausner，其擁有美國、歐洲與亞洲之專利。目前市場上熱門的可觸控式手機具有可視覺化語音信箱特性，包含Apple’s iPhone都具有其功能性。 此案主要涉及Klausner之專利擁有可視覺化語音信箱技術，類似電子郵件，使用者可利用電腦或電話傳送可視覺化之語音訊息，並讓使用者具選擇性收取訊息。 目前Google擁有兩種服務，受Klausner’s專利之影響，其一讓使用者透過Grand Central提供一簡單網際網路語音溝通平台，另一為具Android自由軟體平台之智慧型手機。該案以和解方式結束，但Klausner婉拒與路透社說明，該公司與Google之間協議內容。
大倫敦政府推動城市資料市集，期尋求資料利用及隱私保護間之平衡，建立民眾對資料市集之信賴資料利用之層面越來越廣，且無論是基於商業或公益目的，產生越來越多難題。穿戴式裝置及物聯網的發展，亦使得資料之蒐集利用及界線等問題更顯其重要性。有鑑於此，大倫敦政府（Greater London Authority, GLA）在今（2016）年3月公布「倫敦城市資料策略」（London City Data Strategy），積極推動「城市資料市集」（City Data Market），期將倫敦打造成世界首屈一指的智慧城市。 增加大眾對資料市集之信賴並減少疑慮乃「倫敦城市資料策略」之一環，近年在英國有一系列新法上路，除新的歐盟資料保護規範（GDPR）外，英國國內有關「開放銀行」（open banking）之新規範，以及已有能源及電信公司參與之MiData initiative等，上述機制均為促使個人更容易掌握其個資被利用之狀況。 大倫敦政府亦推動「倫敦資料交易」（London Data Exchange），大眾可利用此一機制掌握其個資流向。其中有關建置新的數位符號（digital tokens of proof），使民眾未來可利用此等符號證明符合特定資格，例如在道路受檢時，毋須拿出駕照說明個人姓名、地址、出生年月日等資料，利用該等符號，便可判定符合駕駛年齡。 近期，大倫敦政府透過資料科學合作夥伴（Data Science Partnership）推動資料科學倫理架構（Framework for Data Science Ethics），著手研究民眾對資料交易新機制的反應，試圖在資料利用與法律和道德問題間尋求平衡。
歐盟執委會擬改革現行專利訴訟制度，並希望能減省歐洲境內中小企業營運成本為求能妥善管理現暨有之歐洲專利與健全歐洲共同體專利制度，歐盟執委會(Commission)正致力於尋求各成員國同意，欲滙集境內能量，來建、整出一套「單一化」專利訴訟制度(Unified Patent Litigation System；簡稱UPLS)，以解決境內智財爭議與相關衍生問題，來達到『鼓勵私人發明』及『刺激歐洲境內中小型企業 (Small & Medium Enterprises；簡稱SMEs)持續成長』等目標」。 目前，就已取得歐洲專利局(European Patent Office)所核發專利之專利權人而言，其雖可逐一於歐盟各成員國家中，利用該國專利訴訟程序來保障其自身之發明；然，由於利用不同成員國家之司法系統興訟，甚可能因各類商業習慣或其他種種因素，而致生不同之審判結果；因此，於現行歐洲專利訴訟制度下，除時間與成本外，業者亦須面對司法裁判上之高度不確定性風險。一位負責國際市場暨服務事務官員Charlie McCreevy指出：「已有許多業者表示，歐洲現行之專利訴訟制度，實相當地複雜且繁瑣；且於訴訟進行過程中，除須繳納許多費用外；至取得判決前，其所耗費之時間，亦相當冗長」。 有鑑於此，執委會正擬儘快協調各會員國並統整出一套單一化之專利訴訟制度，以提升訴訟結果之可預見性(Predictability)並減輕訴訟成本。大體而言，該項UPLS制度，應可為歐洲專利權人帶來如後數項利益：(1)提升專利訴訟結果之法律上確定性、(2)減輕訴訟成本與(3)促進專利訴訟制度之商業性近用等；而一位執委會官員補充：「事實上，建置單一化專利法院與訴訟系統，其目的，無非是欲借強化解決智財爭議機制之方法，來達到『鼓勵私人發明』及『刺激歐洲境內中小型企業持續成長』等目標」。 最後，根據一份由德國慕尼黑大學學者Dietmar Harhoff所提出之分析報告顯示，倘若能透過該項措施來避免「重複專利侵害訴訟」或「訴訟撤回」等問題，估計每年將可為業者省下高達1億4千8百萬至2億8千9百萬歐元之專利訴訟費用。