新加坡網路安全局發布人工智慧系統安全指南，以降低AI系統潛在風險
新加坡網路安全局（Cyber Security Agency of Singapore, CSA）於2024年10月15日發布人工智慧系統安全指南（Guidelines on Securing AI Systems），旨在強化AI系統安全，協助組織以安全之方式運用AI，降低潛在風險。 該指南將AI系統生命週期分成五個關鍵階段，分別針對各階段的安全風險，提出相關防範措施：
（1）規劃與設計：提高AI安全風險認知能力，進行安全風險評估。
（2）開發：提升訓練資料、模型、應用程式介面與軟體庫之供應安全，確保供應商遵守安全政策與國際標準或進行風險管理；並辨識、追蹤及保護AI相關資產（例如模型、資料、輸入指令），以確保AI開發環境安全。
（3）部署：適用標準安全措施（例如存取控制、日誌記錄），並建立事件管理程序。
（4）運作與維護：持續監控AI系統的輸入和輸出，偵測異常與潛在攻擊，並建立漏洞揭露流程。
（5）壽命終期：應根據相關行業標準或法規，對資料與模型進行適當之處理、銷毀，防止未經授權之存取。
CSA期待該指南發布後，將有助於預防供應鏈攻擊（supply chain attacks）、對抗式機器學習攻擊（Adversarial Machine Learning attacks）等安全風險，確保AI系統的整體安全與穩定運行。
翁嘉璟
副法律研究員 編譯整理
Guidelines and Companion Guide on Securing AI Systems, Cyber Security Agency of Singapore, https://www.csa.gov.sg/Tips-Resource/publications/2024/guidelines-on-securing-ai (last visited Oct. 27, 2024).
Singapore’s Cyber Security Agency issues security guidelines for AI systems, CMS Law-Now, https://cms-lawnow.com/en/ealerts/2024/10/singapore-s-cyber-security-agency-issues-security-guidelines-for-ai-systems?utm_source=lawnow-realtime&utm_medium=email&utm_campaign=Singapore%e2%80%99s%20Cyber%20Security%20Agency%20issues%20security%20guidelines%20for%20AI%20systems&utm_id=4097&utm_term=read_more&utm_content=697002 (last visited Oct. 27, 2024).
許嘉芳，〈美國國家標準暨技術研究院發布「人工智慧風險管理框架：生成式AI概況」〉，資策會科技法律研究所，2024年10月，https://stli.iii.org.tw/article-detail.aspx?tp=1&d=9263&no=64（最後瀏覽日：2024/10/28）。
鑑於網際網路發達，日常生活中之購物、儲匯業務均能透過網路完成，為生活增加許多的便利，然犯罪行為亦隨著科技之發展，悄悄的從傳統社會轉移到虛擬世界。根據美國司法部公佈的資料顯示，目前因違反美國 18 U.S.C. §1030 電腦詐欺法規定（ Fraud and Related Activity in Connection with Computers ）而進入司法程序的電腦犯罪案件，主要包括：竊取私人資料、線上非法交易（網路詐欺等）、駭客攻擊行為、製作或散佈病毒、遙控僵屍網路、竄改信用卡資料等行為。其中 Jeanson James Ancheta 案是一個具指標意義的案件。 今年五月洛杉磯 R. Gary Klausner 法官做出 Jeanson James Ancheta 案的判決，該案是美國境內第一起因為使用僵屍網路（ botnets ）而被判刑的案件。 Ancheta 被控攻擊政府網站、對數千台電腦主機進行駭客攻擊，並利用被攻擊的電腦串聯成僵屍網路，進行寄發廣告信或具破壞性的駭客攻擊以牟利而遭起訴。本案判決 Jeanson James Ancheta 因散佈電腦病毒、違反電腦詐欺法（ Computer Fraud Abuse Act ）、違反垃圾郵件法案（ CAN-SPAM Act ）被判以 57 個月的有期徒刑。 根據助理檢察官 Aquilina 表示，該案件是美國近年來處理電腦犯罪案件中，量刑最重的一個判決，希望透過此一判決，對僵屍網路操控者（ botmasters ）及居心不良的駭客產生嚇阻之效果。
美國德克薩斯州聯邦北區地方法院駁回德國汽車零組件供應商大陸集團對Avanci授權SEP模式違反反托拉斯法訴訟美國德克薩斯州北區聯邦地方法院於2020年9月10日，駁回德國汽車零組件供應商大陸集團（Continental Automotive Systems）針對高通、諾基亞、夏普及其他電信公司透過Avanci授權標準必要專利（Standard Essential Patents, SEP）模式違反反托拉斯法的訴訟。法院指出，Avanci是由SEP專利技術擁有者組成的專利授權平台，而Avanci繞過零組件供應商，直接與汽車製造商就授權協議進行談判，並未違反反托拉斯法。 按大陸集團係依據《休曼法》（Sherman Antitrust Act）第2條提出反壟斷訴訟，指Avanic及其成員濫用標準制定的壟斷力量，排除其他技術擁有者並提高專利授權費用。對此，法院列舉聯邦第九巡迴法院在FTC v. Qualcomm案的相同看法指出，該行為是屬於Avanic及成員的契約問題，即SEP持有人可以選擇依照公平、合理、無歧視（Fair, Reasonable, Non-discriminatory, FRAND）的契約方式限制SEP授權，但違反此契約義務並不違反反托拉斯法。大陸集團主張SEP持有人違反FRAND授權承諾，欺騙標準制定組織，從而將專利納入產業標準；但即使這種欺騙會將被告的競爭者排除在標準之外，乃是針對競爭者本身而不是對競爭過程的損害，SEP權利人藉由價格歧視（Price Discrimination）合法地將專利價值最大化並不違反反托拉斯法。 另外，原告控訴依據還包括《休曼法》第1條，禁止事業以契約等方式限制競爭。但法院認為Avanci授權模式是與組成公司間協議訂定，該協議並不會阻止成員向非製造端客戶單獨授權。在SEP授權人拒絕與原告進行談判，或僅同意以向汽車製造商授權的相同價格與零組件供應商進行交易，頂多屬於SEP權利人間的個別行動，並未違反反托拉斯法，因而駁回訴訟。
英國最高法院Unwired Planet v Huawei案認定英國法院有權決定FRAND全球專利組合授權條款英國最高法院於2020年8月26日，駁回華為與中興通訊在Unwired Planet v Huawei和Conversant v Huawei and ZTE案的上訴決定。美國公司Unwired Planet和Conversant控訴華為及其他智慧手機製造商，侵害其所擁有的英國專利技術，其中包含由國際標準制定組織（Standard Setting Organization, SSO）與歐洲電信標準協會（European Telecommunications Standards Institute, ETSI）所制定的2G、3G及4G無線通訊標準必要專利（Standards Essential Patents, SEP）。依據ETSI智慧財產權政策（Intellectual Property Policy, IPR），SEP權利人必須以公平、合理和無歧視條款（Fair, Reasonable and Non-discriminatory, FRAND）向實施者進行授權。英國最高法院根據ETSI政策所制定的契約內容，應賦予英國法院管轄權，更能決定多國專利組合的全球授權條款。若華為拒絕支付法院認定的FRAND全球授權金，法院將會頒布禁制令，禁止華為在英國銷售侵權產品。 首先，關於本案管轄權爭議，最高法院認為，在沒有雙方協議管轄的情況下，英國法院具有本案管轄權，得發給禁制令並確定專利授權費率等授權條件。原則上，專利有效性與侵權爭議，應由授予專利的該國法院決定，然而本案依據ETSI智慧財產權政策所訂定的契約，已約定由英國法院管轄，並得決定包括外國專利在內的專利組合授權條款。 另外，本案關於FRAND無歧視爭議，係源於華為主張Unwired Planet先前給予Samsung較低的授權費率，對華為構成歧視性授權。最高法院認為，Unwired Planet未違反FRAND無歧視承諾，蓋依據ETSI智慧財產權政策，FRAND無歧視並非硬性（hard-edged）要求前後授權費率完全一致，而是指所有市場參與者，基於專利組合的市場價值，都能取得專利授權使用的合理權利金價格表，絕非強制SEP所有人對類似條件的被授權人提供相同的授權條件。本案法院也認同，基於經濟或商業實務上的習慣，調整個別授權金，並未違反ETSI智慧財產權政策的無歧視要求。
法國憲法委員會宣告《打擊網路仇恨言論法》違憲法國憲法委員會於今（2020）年6月18日宣告今年5月甫通過之《打擊網路仇恨言論法》（Lutte contre la haine sur internet, Fighting Hate on the Internet，又稱Avia Law）違憲，認該法侵害人民言論自由之權利。 為打擊網路上日益嚴重之仇恨性言論，法國國民議會於今年5月13日通過《打擊網路仇恨言論法》，該法旨在課予網路社交平台之責任，在其使用者提出檢舉後，平台應於24小時期限內移除明顯的不法言論，包含歧視、仇恨、暴力、煽動犯罪、涉及恐怖主義或兒童色情等，尤以，若該訊息涉及兒童色情或煽動恐怖主義者，則平台刪除該訊息之期限將縮短為1小時內。倘平台若未於期限內刪除之，面臨之罰緩最高達125萬歐元；如經法國高等視聽委員會（Conseil superieur de l'audiovisuel, CSA）審核，發現該平台之內容審查系統存在嚴重且反覆之缺陷者，則最高可對該平台處以其全球收入4%之罰鍰。 該法原定於今年7月1日施行，但經法國憲法委員會審查後，認該法如前述之多項條款要求私人企業判斷使用者之言論是否為明顯涉及非法，將鞏固私人審查權，高額罰款恐將促進平台積極刪除平台上之言論，違反憲法保障之言論自由，因而宣告該條款違憲無效。目前尚不確定法國政府是否會如期施行其餘條款，惟由該法即可看出，法國傾向授權CSA於對網路平台採取更嚴格監管之態度，然是否能有效抑制仇恨性言論，後續尚值得密切觀察。