新加坡網路安全局發布人工智慧系統安全指南，以降低AI系統潛在風險
新加坡網路安全局（Cyber Security Agency of Singapore, CSA）於2024年10月15日發布人工智慧系統安全指南（Guidelines on Securing AI Systems），旨在強化AI系統安全，協助組織以安全之方式運用AI，降低潛在風險。 該指南將AI系統生命週期分成五個關鍵階段，分別針對各階段的安全風險，提出相關防範措施：
（1）規劃與設計：提高AI安全風險認知能力，進行安全風險評估。
（2）開發：提升訓練資料、模型、應用程式介面與軟體庫之供應安全，確保供應商遵守安全政策與國際標準或進行風險管理；並辨識、追蹤及保護AI相關資產（例如模型、資料、輸入指令），以確保AI開發環境安全。
（3）部署：適用標準安全措施（例如存取控制、日誌記錄），並建立事件管理程序。
（4）運作與維護：持續監控AI系統的輸入和輸出，偵測異常與潛在攻擊，並建立漏洞揭露流程。
（5）壽命終期：應根據相關行業標準或法規，對資料與模型進行適當之處理、銷毀，防止未經授權之存取。
CSA期待該指南發布後，將有助於預防供應鏈攻擊（supply chain attacks）、對抗式機器學習攻擊（Adversarial Machine Learning attacks）等安全風險，確保AI系統的整體安全與穩定運行。
翁嘉璟
副法律研究員 編譯整理
Guidelines and Companion Guide on Securing AI Systems, Cyber Security Agency of Singapore, https://www.csa.gov.sg/Tips-Resource/publications/2024/guidelines-on-securing-ai (last visited Oct. 27, 2024).
Singapore’s Cyber Security Agency issues security guidelines for AI systems, CMS Law-Now, https://cms-lawnow.com/en/ealerts/2024/10/singapore-s-cyber-security-agency-issues-security-guidelines-for-ai-systems?utm_source=lawnow-realtime&utm_medium=email&utm_campaign=Singapore%e2%80%99s%20Cyber%20Security%20Agency%20issues%20security%20guidelines%20for%20AI%20systems&utm_id=4097&utm_term=read_more&utm_content=697002 (last visited Oct. 27, 2024).
許嘉芳，〈美國國家標準暨技術研究院發布「人工智慧風險管理框架：生成式AI概況」〉，資策會科技法律研究所，2024年10月，https://stli.iii.org.tw/article-detail.aspx?tp=1&d=9263&no=64（最後瀏覽日：2024/10/28）。
韓國樂金飛利浦（LPL）在美國加州控告華映（CPT）專利侵害案，自2002年8月起，至今已纏訟五年之久。 LPL控告CPT侵害其4件Side-mount專利（US6,002,457、US5,926,237、US6,373,537、US6,020,942），與2件Process專利（US4,624,737、US5, 825,449）。華映表示，前4件被加州法院以欠缺依據駁回。對此判決，華映表示欣慰。 LPL與華映之間的專利侵權訴訟爭議不休。華映強調，其在尊重智慧財產權的理念下蒐集證據進行因應，加州法院雖以LPL所提Side Mount訴訟欠缺依據（Lack of Standing）下令駁回LPL訴訟，但就另二件Process專利部份，目前法院對於雙方所提交之post trial motion作出部份同意及部份駁回的決定（Order），但法院尚未做出正式判決。 彭博社報導已傳出，美國洛杉磯聯邦法院網站已公佈裁決文，並同意LPL對華映加重侵權賠償的請求，以及持續侵權與判決前和判決後之利益與法律費用賠償。但並未透露加重賠償之確切金額。就此，華映發表聲明指出，對法官准許LPL部分訴求的初步決定，感到遺憾。華映表示其已掌握證據，待收到法院正式判決後將積極因應，且不排除上訴。
美國發布網路事件協調準則隨著網路技術的進步，資安事件亦日益加增，為了因應日趨頻繁的網路攻擊，美國總統歐巴馬於2016年7月26日發布了對於美國資安事件發生時聯邦部門間協調之指令（PRESIDENTIAL POLICY DIRECTIVE/PPD-41），該指令不僅提出聯邦政府對於資安事件回應的處理原則，並建立了聯邦政府各部門間對於發生重大資安事件時之協調指引。 指令中就資安事件及重大資安事件進行了定義：資安事件包含資訊系統漏洞、系統安全程序、內部控制、利用電腦漏洞的執行；而重大資安事件則指可能對國家安全利益、外交關係、美國經濟、人民信心、民眾自由或大眾健康與安全發生明顯危害的有關攻擊。 此外，就遭遇資安事件時，列舉出下列幾點作為聯邦政府因應資安事件時之原則：（A）責任分擔；（B）基於風險的回應；（C）尊重受影響者；（D）政府力量之聯合；（E）促進重建及恢復。 聯邦政府機關於因應資安事件時，需同時在威脅、資產及情報支援三方面上做相關之因應。其中司法部透過轄下聯邦調查局(Federal Bureau of Investigation, FBI)、國家網路調查聯合行動小組(National Cyber Investigative Joint Task Force, NCIJTF)負責威脅之回應；國土安全部(Department of Homeland Security, DHS)則透過轄下的國家網路安全與通訊整合中心(National Cybersecurity and Communications Integration Center, NCCIC)負責保護資產之部分，而情報支援部分，則由國家情報總監辦公室(Office of the Director of National Intelligence)下之網路威脅情報整合中心(Cyber Threat Intelligence Integration Center)負責相關事宜。如係政府機關本身遭受影響，則機關應處理該資安事件對其業務運作、客戶及員工之影響。另在遭遇重大資安事件時，為使聯邦政府能有效率因應，指令指出聯邦政府應就國家政策、全國業務及機關間為協調。此外，指令中亦指示國土安全部及司法部應建立當個人或組織遭遇資安事件時得以聯繫相關聯邦機關之管道。 該指令加強了現有政策的執行，並就美國機構組織上於資安事件與現行政策之互動做了進一步之解釋。
衛生署將推動中草藥於兩年內強制包裝標示為強化中草藥現代化，保障民眾用藥安全，行政院衛生署自民國 93 年起提出「建構中藥用藥安全環境五年計畫」，中醫藥委員會主委林宜信最近並表示，將在 2008 年前，強制全台所有飲片及傳統藥材做好符合規定的包裝及標示，標示內容包括檢驗文號、有效期限，包裝後則需符合 GMP 的規範；至於規範標準，預計會在 2008 年起推動，初期採取廠商自由心證的做法，但未來會改為強制執行。 國內中草藥可區分為科學濃縮製劑，以及傳統的飲片和傳統劑型，科學濃縮製劑透過中醫醫療院所流通，目前產值約 250 億元；一般藥店販售的飲片及傳統劑型，產值則有 300 億元以上。傳統中草藥做好包裝標示，可確保民眾用藥安全，並帶動傳統中草藥品牌加值，而要求包裝標示符合 GMO 規範，也有利進入國際市場。中醫藥委員會預估，中草藥強制包裝標示可提升中草藥產值，由 300 億元倍數成長到 1,000 億元以上的規模。
歐盟發布「人工智慧白皮書」以因應人工智慧未來可能的機遇與挑戰人工智慧目前正快速發展，不論是在醫療、農業耕作、製造生產或是氣候變遷等領域上，均帶來了許多改變，然而在人工智慧應用之同時，其也存在許多潛在風險如決策不透明、歧視或其他倫理與人權議題。 歐盟為求在全球競爭激烈的背景下，維護其於人工智慧相關領域的領先地位，並確保人工智慧技術於改善歐洲人民生活的同時，亦能尊重(respecting)人民權利，乃於今年(2020年)2月發布「人工智慧白皮書」(White Paper on Artificial Intelligence)，將採投資及監管併用之方式，促進人工智慧應用與解決其相關風險，其對於未來促進人工智慧的應用(promoting the uptake of AI)與相關風險解決，計畫朝向建立卓越生態系統(An Ecosystem of Excellence)及信任生態系統(An Ecosystem of Trust)兩方面進行。 在建立信任生態系統中，歐盟提到因為人工智慧具有變革性的潛力，所以就信任的建立乃至關重要，未來歐洲人工智慧的監管框架除了須確保遵守歐盟法規外(包括基本權利保護與消費者權益維護之規範)，對於高風險性之人工智慧應用，其將強制要求需於銷售前進行合格評定(mandatory pre-marketing conformity assessment requirement)。而有關高風險性之定義，歐盟於該白皮書指出須符合以下兩個要件： 考量人工智慧應用之一般活動特徵，其預計會有重大風險的發生，例如在醫療保健、運輸、能源和可能屬於高風險的公共領域；以及 在預期用途或應用上都可能對個人(individual)或企業(company)帶來重大的風險，特別是在安全性(safety)、消費者權益(consumer rights)與基本權利(fundamental rights)上。 歐盟委員會目前針對於以上白皮書之內容與附隨報告，將向公眾徵詢意見至今年5月19日。