新加坡網路安全局發布人工智慧系統安全指南，以降低AI系統潛在風險
新加坡網路安全局（Cyber Security Agency of Singapore, CSA）於2024年10月15日發布人工智慧系統安全指南（Guidelines on Securing AI Systems），旨在強化AI系統安全，協助組織以安全之方式運用AI，降低潛在風險。 該指南將AI系統生命週期分成五個關鍵階段，分別針對各階段的安全風險，提出相關防範措施：
（1）規劃與設計：提高AI安全風險認知能力，進行安全風險評估。
（2）開發：提升訓練資料、模型、應用程式介面與軟體庫之供應安全，確保供應商遵守安全政策與國際標準或進行風險管理；並辨識、追蹤及保護AI相關資產（例如模型、資料、輸入指令），以確保AI開發環境安全。
（3）部署：適用標準安全措施（例如存取控制、日誌記錄），並建立事件管理程序。
（4）運作與維護：持續監控AI系統的輸入和輸出，偵測異常與潛在攻擊，並建立漏洞揭露流程。
（5）壽命終期：應根據相關行業標準或法規，對資料與模型進行適當之處理、銷毀，防止未經授權之存取。
CSA期待該指南發布後，將有助於預防供應鏈攻擊（supply chain attacks）、對抗式機器學習攻擊（Adversarial Machine Learning attacks）等安全風險，確保AI系統的整體安全與穩定運行。
翁嘉璟
副法律研究員 編譯整理
Guidelines and Companion Guide on Securing AI Systems, Cyber Security Agency of Singapore, https://www.csa.gov.sg/Tips-Resource/publications/2024/guidelines-on-securing-ai (last visited Oct. 27, 2024).
Singapore’s Cyber Security Agency issues security guidelines for AI systems, CMS Law-Now, https://cms-lawnow.com/en/ealerts/2024/10/singapore-s-cyber-security-agency-issues-security-guidelines-for-ai-systems?utm_source=lawnow-realtime&utm_medium=email&utm_campaign=Singapore%e2%80%99s%20Cyber%20Security%20Agency%20issues%20security%20guidelines%20for%20AI%20systems&utm_id=4097&utm_term=read_more&utm_content=697002 (last visited Oct. 27, 2024).
許嘉芳，〈美國國家標準暨技術研究院發布「人工智慧風險管理框架：生成式AI概況」〉，資策會科技法律研究所，2024年10月，https://stli.iii.org.tw/article-detail.aspx?tp=1&d=9263&no=64（最後瀏覽日：2024/10/28）。
美國眾議院外交事務委員會於2022年6月13日在兩黨創新法案(HR4521)會議上，就對外投資機制新提案發表聯合聲明。兩黨達成協議修訂《國家關鍵能力防禦法案》(National Critical Capabilities Defense Act of 2022, NCCDA)，擴大對外投資審查制度。促使美國制定NCCDA對外投資審查立法乃係源於經濟和國家安全考量，美國關注特定技術向中國轉讓以及美國企業可能透過特定投資幫助提升中國能力之風險。因此，雖然NCCDA會給國際投資帶來不確定性，但美國兩黨及兩院內部仍支持實施特定形式的對外投資審查程序，並且與利益相關者就如何制定強而有力且具針對性的對外投資機制進行建設性的討論，目的是確保美國不會將關鍵產業製造能力拱手讓給外國競爭對手。 NCCDA授權成立國家關鍵能力委員會(Committee on National Critical Capabilities)，由美國貿易代表署擔任主席並與供應鏈安全相關聯邦機構成員共同組成，審查特定對外業務交易和活動包括：界定需要境外投資審查的活動範圍、明訂出境審查流程、及關鍵產業項目等。依據NCCDA第11條「國家關鍵能力(National Critical Capabilities)」定義，指對美國至關重要的有形及無形的系統和資產，若此類系統和資產無法開發、失能或遭到破壞，將對國家安全造成破壞性影響。委員會應負責界定涉及「國家關鍵能力」產品、供應鏈和服務；列舉國家關鍵能力產業領域包括：能源、醫療、通訊、國防、運輸、航空航太、機器人、人工智慧、半導體、造船、水等。若美國人和外國實體從事「涵蓋活動」者，必須在展開活動前至少60天以書面形式通知委員會。委員會將會通知審查，若確定所涵蓋的活動對國家關鍵能力構成不可接受的風險，委員會可以實施緩解措施，或建議總統採取特定行動，包括暫停和禁止該活動。美國兩黨期待各方利益相關者能以書面形式參與討論，確保NCCDA法案通過並滿足各方需求，使美國與盟友國的對外投資機制保持一致。
美國FDA將基因檢測以醫療器材列管美國FDA在七月間針對多家提供大眾基因檢測服務（direct-to-consumer genetic tests, DTI genetic tests）的公司發出通知函，表示將對該產業進行規管。FDA在各通知函中明白表示，其認為收信公司所提供的基因檢測服務，符合其主管之醫療器材管理法規對於體外診斷器材（in vitro diagnostics）之定義。根據美國聯邦法律，人類用醫療器材採用分級管理的概念，在上市前必須依其風險等級進行上市前通報或申請核准，以確保其分析與臨床之有效性。FDA認為，由於這些公司的基因檢測並未依法提出上市前通報或申請核准，涉有違法之嫌。 FDA採取此項措施，明顯是為了保護消費者，避免其受到未經臨床檢驗的檢測結果之誤導。然事實上國際間對於是否透過法令、以及如何規範大眾基因檢測服務，並無一致性看法。迄今，大眾基因檢測服務在許多國家都是在法令混沌未明的狀態下銷售，也引發了許多問題。對於FDA此一政策態度，有認為以法令方式規範此種服務，將會扼殺這個還在萌芽發展終的產業；也有認為，這算是對消費者遲來的保護。 大眾基因檢測服務的管理，顯示既有法令面對新興科技發展之管理窘迫性，也代表各國政府在保護消費大眾與促進新興產業發展之間，著實不易從中找到利益權衡之點，其科技管理面臨前所未有的新挑戰。
虛擬人生，真實訴訟! 美商藝電EA控告社交遊戲公司Zynga侵犯著作權；Zynga控告EA不正競爭。美商藝電EA(Electronic Arts)於今年八月初在舊金山地方法院控告以社群遊戲著稱的Zynga於六月在Facebook所推出的遊戲《The Ville》抄襲EA於2011年八月推出的「模擬市民(The Sims Social)」，侵犯EA的著作權。EA表示，The Ville中的設計選項、動畫、畫面處理、角色的活動及動作都原封不動地抄襲自EA的「模擬市民(The Sims Social)」。EA聲稱，Zynga抄襲了「模擬市民(The Sims Social)」原始並特殊的表達要素(original and distinctive expressive elements)，明顯違反美國的著作權法。EA並表示，Zynga任用了三位自EA離職的員工而獲取了「模擬市民(The Sims Social)」的商業機密。Zynga則反譏EA欠缺對於著作權原則的了解，並表示《The Ville》是Zynga小鎮遊戲(Ville-game)系列的延續，過去曾推出的系列遊戲包含《YoVille》、《CityVille》以及《Castile Ville》，EA的指控毫無根據。 雖然《The Ville》與「模擬市民(The Sims Social)」兩者在遊戲的角色設定以及角色圖樣跟背景有諸多相似，但是Zynga在細節上做了許多與EA不同的設定。本案如果有效成立，將對於遊戲產業造成顯著影響。 美國法下，遊戲產業的智慧財產權議題中，一個重要的法律關鍵在於「思想/表達二分法(idea/expression dichotomy) ，「思想(idea)」並非著作權的保護客體，僅想法的表達方式(expression)是著作權的保護客體。舉例而言，你可以再寫一本有關於魔法學校的書，但是你不可以把書中的主要角色命名為哈利波特。 1994年時，快打旋風二(Street Fighter II)的發行商嘉富康(Capcom)控告DECO(Data East Corporation)的格鬥列傳(Fighter’s History)抄襲，但是法院認為嘉富康遊戲的角色是植基於既存典型角色以及武術原則，DECO的相似性並不侵犯快打旋風的著作權。 九月中，Zynga對EA提出反訴，控訴EA採取不正競爭(anticompetitive)以及不法(unlawfully)商業行為，違反反托拉斯法(anti-trust law)。Zynga指出，EA試圖以法律訴訟以及恐嚇離職員工的方式，非法阻止Zynga雇用EA的離職員工。Zynga指稱EA威脅Zynga將提出訴訟，要求Zynga與之簽訂「不任用協議(no-hire agreement)」，依照該協議EA將不對Zynga提出關於雇用員工的告訴以做為簽約對價。但是EA在今年八月對Zynga的著作權告訴已經打破該協議。事實上依照加州法，禁止離職員工去競爭公司任職是違法的。矽谷這類因為員工到競爭對手任職而引發的法律案件還有蘋果(Apple)以及谷歌(Google)一案，這兩家公司過去曾因為簽訂不挖角協議而遭美國司法部起訴，後來與美國司法部達成和解。EA則表示離職員工抄襲其它EA設計師，Zynga此舉意圖轉移社會及法庭注意力。除了否認EA抄襲的指控，Zynga更表示，沒有任何根據可以說明EA是虛擬人生遊戲的創始者，Zynga的《YoVille》推出時間甚至早於EA的「模擬市民(The Sims Social)」三年。 本案因為矽谷遊戲產業人才的流動性而增加了案件的複雜性，跳脫一般的著作權侵權訴訟，既然離職後到競爭對手任職是可被允許的，那麼產出類似的遊戲產品就更加難以避免，不論是基於自身的創意或者模仿過去共事同仁的創意，「學習」以及「抄襲」之間的界線總是難以劃分，如果本案成立著作權侵權，矽谷遊戲人才在開發設計遊戲時必然需要更加小心謹慎。 圖片來源: Tech Crunch
英國2026年7月30日公告將於倫敦辦理首個地區型人工智慧醫材監理沙盒英國藥品與醫療產品監管局（Medicines & Healthcare products Regulatory Agency, MHRA）2026年7月公告，將在倫敦辦理首個地區型人工智慧醫材監理沙盒，透過蒐集AI醫材於實際臨床環境中的持續性安全性與有效性證據，加速具潛力之創新醫療工具落地，並作為監管決策依據，以建立更明確且具可預測性的導入模式。 本次計畫預計公開徵求至多10家AI醫療器材製造商，媒合倫敦地區醫療服務提供者，在MHRA監督下進行實際臨床部署與驗證。配合《國民保健署十年健康計畫》（NHS 10 Year Health Plan）所揭示「從醫院走向社區」、「從治療走向預防」及「醫療服務數位化」等政策方向，因此將優先徵求以下主題： 1.預防與主動照護，尤其以心臟健康為重點； 2.提升社區健康服務與照護量能； 3.提升數位醫療服務可及性，包括強化NHS App運用； 4.其他可改善倫敦病人治療結果與醫療服務之創新技術。 英國自2024年啟動人工智慧醫療器材監理沙盒—AI Airlock以來，持續運用沙盒成果深入研析AI醫材特有的監管議題，包括合成資料可靠性、模型幻覺、上市後監督、預定變更控制計畫、預期用途漂移及AI體外診斷醫材等。AI Airlock 2.0於2026年第一季完成後，英國衛生與社會照護部於同年4月宣布持續推動為期三年的AI Airlock計畫，並承諾每年投入120萬英鎊。 相較過往AI Airlock著重於未來監管方針的研析，本次地區型沙盒進一步納入國民保健署醫療服務提供者及倫敦健康創新網路等地方組織共同參與，顯示政策重點已進一步延伸至AI醫材於地方臨床場域的實際運作、跨機構合作，以及創新技術於醫療服務體系中的導入與擴散。