新加坡網路安全局發布人工智慧系統安全指南，以降低AI系統潛在風險
新加坡網路安全局（Cyber Security Agency of Singapore, CSA）於2024年10月15日發布人工智慧系統安全指南（Guidelines on Securing AI Systems），旨在強化AI系統安全，協助組織以安全之方式運用AI，降低潛在風險。 該指南將AI系統生命週期分成五個關鍵階段，分別針對各階段的安全風險，提出相關防範措施：
（1）規劃與設計：提高AI安全風險認知能力，進行安全風險評估。
（2）開發：提升訓練資料、模型、應用程式介面與軟體庫之供應安全，確保供應商遵守安全政策與國際標準或進行風險管理；並辨識、追蹤及保護AI相關資產（例如模型、資料、輸入指令），以確保AI開發環境安全。
（3）部署：適用標準安全措施（例如存取控制、日誌記錄），並建立事件管理程序。
（4）運作與維護：持續監控AI系統的輸入和輸出，偵測異常與潛在攻擊，並建立漏洞揭露流程。
（5）壽命終期：應根據相關行業標準或法規，對資料與模型進行適當之處理、銷毀，防止未經授權之存取。
CSA期待該指南發布後，將有助於預防供應鏈攻擊（supply chain attacks）、對抗式機器學習攻擊（Adversarial Machine Learning attacks）等安全風險，確保AI系統的整體安全與穩定運行。
翁嘉璟
副法律研究員 編譯整理
Guidelines and Companion Guide on Securing AI Systems, Cyber Security Agency of Singapore, https://www.csa.gov.sg/Tips-Resource/publications/2024/guidelines-on-securing-ai (last visited Oct. 27, 2024).
Singapore’s Cyber Security Agency issues security guidelines for AI systems, CMS Law-Now, https://cms-lawnow.com/en/ealerts/2024/10/singapore-s-cyber-security-agency-issues-security-guidelines-for-ai-systems?utm_source=lawnow-realtime&utm_medium=email&utm_campaign=Singapore%e2%80%99s%20Cyber%20Security%20Agency%20issues%20security%20guidelines%20for%20AI%20systems&utm_id=4097&utm_term=read_more&utm_content=697002 (last visited Oct. 27, 2024).
許嘉芳，〈美國國家標準暨技術研究院發布「人工智慧風險管理框架：生成式AI概況」〉，資策會科技法律研究所，2024年10月，https://stli.iii.org.tw/article-detail.aspx?tp=1&d=9263&no=64（最後瀏覽日：2024/10/28）。
德國聯邦政府於2018年11月15日公布聯邦政府人工智慧戰略（Strategie Künstliche Intelligenz der Bundesregierung），除了針對人工智慧一詞定義外，並概述德國人工智慧戰略的3項基本原則，14項目標和12項行動領域。 第一項原則係透過該戰略，為德國在人工智慧（AI）的發展和應用制定整體政策框架，促進德國成為人工智慧最佳研究環境，以及人工智慧在產業與中小企業之應用，以確保德國未來競爭力。第二項原則係人工智慧在社會各領域有多種應用可能性，將可明顯促進社會進步和公民利益，因此重點將強調AI的應用對於人類和環境可帶來的益處，並加強社會各界對於人工智慧主題的密集交流及討論，確保AI朝負責且共同利益為出發點的開發及應用。第三項原則將透過廣泛的社會對話和積極的政策框架，將道德，法律，文化和制度結合人工智慧之應用融入整體社會。 該戰略列舉之工作項目同時包括評量標準，包含建置德法創意網（虛擬中心）、起草國家級且持續性的教育策略、加強相關創業投資力道、針對相關新創公司提供綜合性諮詢和推廣服務、針對自願提供且符合隱私規範之共享資料與建立資料分析基礎設備者研擬獎勵及促進框架、利用風險投資、創業融資和成長科技基金計畫擴展籌資機會、建立至少12個AI應用中心、將人工智慧列為研發機構跳躍式創新的焦點，未來5年加強產學研合作項目推廣、將環境與氣候的人工智慧應用列為發展亮點、共同決策人工智慧技術的導入與應用、透過中小企業4.0中心每年至少與1000家企業建立聯繫並進行AI訓練、將AI實驗室應用情境移轉至工作場所、進一步發展人工智慧平台學習系統、設計擘劃跨領域社會科學之「未來數位化工作與社會基金」、進一步制定相關數位化轉型專家策略、建立德國人工智慧觀測站、組織以人為中心的人工智慧工作環境之歐洲和跨大西洋對話、促進具自決權，社會與文化參與性及保護公民隱私之創新應用、聯邦政府於2025年前將投資約30億歐元於人工智慧發展、開發人工智慧生態系統、培養至少100名相關領域新教授、與資料保護監督機關及商業協會召開圓桌會議。
眾議員提出新法以因應數位科技轉換產生的權利保護問題為避免數位科技轉換所可能發生的權利保護缺口，美國眾議院司法委員會主席 James Sensenbrenner Jr. 與議員 John Conyers 於本月 16 日共同提出了「 Digital Transition Content Security Act 」（ DTCSA ， H.R.4569 ），要求業者應在次世代的數位影像製品中加入反盜版技術。該草案的提出，無疑地為飽受盜版所苦的好萊塢注入一劑強心針。 原本可受到著作權法保護的數位內容，一旦由數位轉換為類比（ analog ）形式，再由類比轉換回數位後，其品質上雖稍受影響，但此一新的數位內容即不再受著作權法的保障，眾議員 John Conyers 將之稱為「類比漏洞」（ analog hole ）， DTCSA 的提出即在於因應此一棘手問題。未來草案若能順利通過，除非業者能提出有效阻斷違法複製的策略，否則在一年緩衝期過後，業者凡有製造或販售可將類比影像訊號轉換為數位訊號之設備，均將被宣布為違法。可能因此受到影響者，包括了電腦調頻器（ PC-based tuner ）與數位錄影機（ digital video recorder ）等。 全美電影協會（ MPAA ）對此新法大表歡迎，主席 Dan Glickman 認為 DTCSA 的提出，不僅保護了權利人，同時也將提供消費者更多的選擇。但另一方面，在 DTCSA 賦予商業部（ Commerce Department ）更大的權力以監視家電製造業者之下，草案無可避免地將遭致來自業者一方強大的反彈力量。
為打擊境外逃漏稅，國際間持續擴大稅務資訊自動交換經濟合作暨發展組織（簡稱經合組織、Organization for Economic Cooperation and Development,下稱 OECD）於今年6月30日表示「2019年已有近百個國家/地區進行了稅務資訊自動交換，使其稅務機關可以獲得其居民在海外所持有的8,400萬個金融帳戶的數據，涵蓋的總資產達10兆歐元。相較於2018年（交換了4,700萬個金融帳戶資訊，約5兆歐元）有了顯著增長。」且「共同申報準則（亦稱共同申報及盡職審查準則、Common Reporting Standard, 下稱CRS）要求各國和各司法管轄區每年自動交換其金融機構提供的非居民的金融帳戶資訊，以減少境外逃漏稅的可能性。許多發展中國家已加盟其中，預計未來幾年會有更多國家加入。」 OECD秘書長Angel Gurría亦表示「由OECD創建並由全球論壇管理的這種多邊交換制度，此刻正為世界各國（含發展中國家）提供大量的新資訊，使各國稅務管理部門能夠確保境外帳戶被正確申報。尤在目前COVID-19危機中，各國正籌集急需的收入，一個無處藏富的世界，此點遂至關重要。 事實上，我國財政部於2017年11月16日所發布（民國109年4月28日修正）之「金融機構執行共同申報及盡職審查作業辦法」(簡稱CRS作業辦法)，正是為了使我國接軌OECD發布及主導的CRS，藉由提高金融帳戶資訊透明度，據此與其他國家/地區進行金融帳戶資訊自動交換，以利我國與各國稅捐機關能正確且完整地掌握其境外納稅義務人的金融帳戶資訊。值得注意的是，我國第一波稅務資訊自動交換將於本年度9月份與我國32個稅捐協定國進行。
美國證券交易委員會成員發佈「數位資產之投資契約」指導文件鑒於「監管不確定性」係加密貨幣市場發展之一大阻礙，2018年間，美國證券交易委員會（United States Securities and Exchange Commission, SEC）成員威廉．希曼（William Hinman）表示，SEC打算發布指導方針，協助市場參與者確認「哪些數位資產之發售，會被認為是投資契約，進而構成證券」，須受到相關證券法規監管。據此，2019年4月3日，SEC公布指導文件：「數位資產之投資契約分析框架」（Framework for “Investment Contract” Analysis of Digital Assets）。惟須注意的是，該文件為內部成員之意見，不具正式法律效力，不得拘束SEC企業財務局或委員會本身，而僅屬一種指導。 美國法上對於「投資契約」的認定標準，為聯邦最高法院建立的Howey Test，即基於合理的獲利預期、且該獲利來自他人的創業或經營努力、而投資金錢於一共同事業者，成立投資契約，進而構成證券。因此，為確認「哪些數位資產之發售，會被認為是投資契約，進而構成證券」，該文件特別針對「Howey Test」中的「基於合理的獲利預期」、「該獲利來自他人的創業或經營努力」，提出具體判斷標準，並輔以「其他相關考量因素」，供市場參與者作一參考： （一）基於合理的獲利預期：例如「數位資產持有人可否分享企業收入或利潤，或從數位資產的增值獲得利潤」、「持有人現在或未來得否在次級市場交易」等具體標準； （二）該獲利來自他人的創業或經營努力：例如「營運上是否去中心化」、「數位資產持有人，是否期待發行人執行或管理必要工作」等具體標準； （三）其他相關考量因素：包含「數位資產之設計和執行，旨在滿足使用者需求，而非投機買賣」、「數位資產的價值，通常會保持不變或隨時間減損，理性持有人不會『以投資為目的』而長期持有」、「數位資產可作為真實貨幣之替代物」等等，文件中指出，只要這些其他相關考量因素越明顯，越不符合上開「基於合理的獲利預期且該獲利來自他人的創業或經營努力」。 文件中亦強調，SEC將參酌個案事實，綜合上開各項標準，為客觀之認定。