新加坡網路安全局發布人工智慧系統安全指南，以降低AI系統潛在風險
新加坡網路安全局（Cyber Security Agency of Singapore, CSA）於2024年10月15日發布人工智慧系統安全指南（Guidelines on Securing AI Systems），旨在強化AI系統安全，協助組織以安全之方式運用AI，降低潛在風險。 該指南將AI系統生命週期分成五個關鍵階段，分別針對各階段的安全風險，提出相關防範措施：
（1）規劃與設計：提高AI安全風險認知能力，進行安全風險評估。
（2）開發：提升訓練資料、模型、應用程式介面與軟體庫之供應安全，確保供應商遵守安全政策與國際標準或進行風險管理；並辨識、追蹤及保護AI相關資產（例如模型、資料、輸入指令），以確保AI開發環境安全。
（3）部署：適用標準安全措施（例如存取控制、日誌記錄），並建立事件管理程序。
（4）運作與維護：持續監控AI系統的輸入和輸出，偵測異常與潛在攻擊，並建立漏洞揭露流程。
（5）壽命終期：應根據相關行業標準或法規，對資料與模型進行適當之處理、銷毀，防止未經授權之存取。
CSA期待該指南發布後，將有助於預防供應鏈攻擊（supply chain attacks）、對抗式機器學習攻擊（Adversarial Machine Learning attacks）等安全風險，確保AI系統的整體安全與穩定運行。
翁嘉璟
副法律研究員 編譯整理
Guidelines and Companion Guide on Securing AI Systems, Cyber Security Agency of Singapore, https://www.csa.gov.sg/Tips-Resource/publications/2024/guidelines-on-securing-ai (last visited Oct. 27, 2024).
Singapore’s Cyber Security Agency issues security guidelines for AI systems, CMS Law-Now, https://cms-lawnow.com/en/ealerts/2024/10/singapore-s-cyber-security-agency-issues-security-guidelines-for-ai-systems?utm_source=lawnow-realtime&utm_medium=email&utm_campaign=Singapore%e2%80%99s%20Cyber%20Security%20Agency%20issues%20security%20guidelines%20for%20AI%20systems&utm_id=4097&utm_term=read_more&utm_content=697002 (last visited Oct. 27, 2024).
許嘉芳，〈美國國家標準暨技術研究院發布「人工智慧風險管理框架：生成式AI概況」〉，資策會科技法律研究所，2024年10月，https://stli.iii.org.tw/article-detail.aspx?tp=1&d=9263&no=64（最後瀏覽日：2024/10/28）。
隨著網路蓬勃發展，個人資料之蒐集、處理及利用越來越普遍，同時也造成資料洩漏和濫用的問題日益嚴重，進而對隱私和個人資料構成侵害與威脅，為保障人民隱私和增強資料透明度，羅德島州州議會於2024年通過了一項具有里程碑意義的法律—《羅德島資料透明度與隱私保護法》（Rhode Island Data Transparency and Privacy Protection Act）。其核心內容包括以下幾個方面： 一、 適用對象：於羅德島州州內經營商業之營利組織（下簡稱企業），或主要生產製造商品、提供服務予該州居民之企業，且： 1. 在前一年度控制或處理超過三萬五千筆個人資料（personally identifiable information）者，但單純為完成付款交易之資料除外。 2. 控制或處理超過一萬筆個人資料，且總營收超過百分之二十係源自於銷售個人資料者。 二、 資料蒐集企業與資料當事人權利義務： 1. 選擇同意與退出權：前開適用對象應賦予資料當事人即消費者就其個人資料之蒐集、處理，行使選擇同意權（opt in）與退出權（opt out）。 2. 資料蒐集與利用透明度：要求企業蒐集個資前，須明確告知資料當事人蒐集目的、利用範圍以及可能的資料共享對象，並取得其同意。 3. 控制權：資料當事人有權向企業請求查詢、修改及刪除自己的資料，企業在接到請求後，必須即時處理該請求，並於45天之法定期限內准駁其請求；必要時得於通知當事人合理事由後，展延一次。 4. 安全維護措施：企業必須採取適當之安全維護措施來保護個人資料不受未經授權的近用、洩漏、竄改或毀損。前述措施，包括但不限於資料加密、權限管控等技術上管控措施。 5. 資料保護評估：企業須就「對消費者傷害風險較高」活動進行評估並保存文件化紀錄，包括： （1） 為精準行銷之目的（Targeted Advertising）； （2） 銷售個人資料； （3） 為資料剖析之目的處理個人資料，且具合理可預見的風險將可能對消費者之財務、身體或名譽造成不公平或欺騙性的待遇，或非法的衝擊影響。 《羅德島資料透明度與隱私保護法》強化企業對資料隱私保護之責任，並督促其遵守法律要求。預計施行後將能加強對資料主體個人資料知情權、控制權、透明度及資料安全之保障。
英國猶疑應否開放人獸混合細胞之胚胎幹細胞研究英國之胚胎幹細胞研究活動，係根據「1990年人類受精與胚胎學法」（Human Fertilisation and Embryology Act 1990，HF&E Act）和「2001年人類受精與胚胎學規則」（Human Fertilisation and Embryology (Research Purposes) Regulations 2001，Research Purposes Regulations）之規定，授權由「人類受精與胚胎學管理局」（Human Fertilisation and Embryology Authority，HFEA）依法管理。 新堡大學東北英格蘭幹細胞中心（North East England Stem Cell Institute）Lyle Armstrong博士，在去年底向HFEA申請一項涉及混合人類與動物細胞製造胚胎幹細胞之研究許可；其計劃利用細胞核轉置技術，將牛的卵子細胞核取出，植入人類體細胞核，並刺激其分裂形成胚囊或早期複製胚胎，用以研究培養病患所需身體組織之技術。過去HFEA從未曾核准過此類研究，僅核准過2件利用細胞核轉置技術和單性活化卵母細胞製造胚胎幹細胞株作為醫學研究之申請。此研究申請訊息一流出，即引起保守團體嘩然及指責，要求英國政府應盡速立法，禁止製造人獸混合細胞之實驗活動。面對各界抗議聲浪，HFEA表示，會暫緩此申請案。 事實上，去年12月英國健康部提出了一篇報告－「人工生殖及胚胎學法之檢討」（Review of the Human Fertilisation and Embryology Act），建議國會應儘速立法規範人類動物細胞混合研究。而英國政府與人民究竟能否接受混合人類動物遺傳細胞研究之合法性、合道德性，則為未來立法動向之重要指標。
美國加州「Asilomar人工智慧原則決議」美國加州議會於2018年9月7日通過Asilomar人工智慧原則決議（23 Asilomar AI Principles, ACR-215），此決議表達加州對於「23條Asilomar人工智慧原則」之支持，以作為產業或學界發展人工智慧、政府制定人工智慧政策之指標，並提供企業開發人工智慧系統時可遵循之原則。依此法案所建立之重要指標如下： （1）於研究原則上，人工智慧之研究應以建立對於人類有利之人工智慧為目標。 （2）於研究資助上，人工智慧之研究資助應著重幾個方向，如：使人工智慧更加健全且可抵抗外界駭客干擾、使人工智慧促進人類福祉同時保留人類價值以及勞動意義、使法律制度可以順應人工智慧之發展。 （3）於科學政策之連結上，人工智慧研究者與政策擬定者間應有具有建設性且健全之資訊交流。 （4）於研究文化上，人工智慧研究者應保持合作、互信、透明之研究文化。 （5）於安全性上，人工智慧研究團隊應避免為了研究競爭而忽略人工智慧應具備之安全性。 （6）人工智慧系統應該於服務期間內皆具備安全性及可檢視性。 （7）人工智慧系統之編寫，應可使外界於其造成社會損失時檢視其出錯原因。 （8）人工智慧系統如應用於司法判斷上，應提供可供專門人員檢視之合理推論過程。 （9）人工智慧所產生之責任，應由設計者以及建造者負擔。 （10）高等人工智慧內在價值觀之設計上，應符合人類社會之價值觀。 （11）高等人工智慧之設計應可與人類之尊嚴、權利、自由以及文化差異相互調和。 （12）對於人工智慧所使用之資料，其人類所有權人享有擷取、更改以及操作之權利。 （13）人工智慧之應用不該限制人類「客觀事實上」或「主觀知覺上」之自由。 （14）人工智慧之技術應盡力滿足越多人之利益。 （15）人工智慧之經濟利益，應為整體人類所合理共享。 （16）人類對於人工智慧之內在目標應享有最終設定權限。 （17）高等人工智慧所帶來或賦予之權力，對於人類社會之基本價值觀應絕對尊重。 （18）人工智慧所產生之自動化武器之軍備競賽應被禁止。 （19）政策上對於人工智慧外來之發展程度，不應預設立場。 （20）高等人工智慧系統之研發，由於對於人類歷史社會將造成重大影響，應予以絕對慎重考量。 （21）人工智慧之運用上，應衡量其潛在風險以及可以對於社會所帶來之利益。 （22）人工智慧可不斷自我循環改善，而可快速增進運作品質，其安全標準應予以嚴格設定。 （23）對於超人工智慧或強人工智慧，應僅為全體人類福祉而發展、設計，不應僅為符合特定國家、組織而設計。
歐盟國會通過頗受爭議之「反仿冒貿易協定（ACTA）在歷經多次談判會議，由包括美國、歐盟、日本、韓國等11個國家共同參與的「反仿冒貿易協定（Anti-Counterfeiting Trade Agreement, 簡稱ACTA）」，終於在雪梨展開的最後談判回合（11月30日-12月4日）中獲得共識，並於日前正式對外發布ACTA協定文本內容。 該協定旨在透過跨國境的國際合作，有效打擊日益猖獗的盜版及仿冒問題，全文共計6章45條文，包括民、刑事執行、邊境措施等，且因應數位化時代對智慧財產權保護所帶來的衝擊，針對數位化環境智慧財產權的執行措施，也有相對應的規定（section 5: Enforcement of Intellectual Property Rights in the Digital Environment）。而ACTA協定文本尚須提交各簽約國政府或國會表決同意的程序，方能生效。 以歐盟為例，儘管遭受歐盟境內廣大的批評聲浪，歐盟國會於11月24日以驚險的半數通過爭議許久的「反仿冒貿易協定(Anti-Counterfeiting Trade Agreement, ACTA) 」。歐盟國會宣稱，透過ACTA協定的簽署，以國際合作的方式，將有助於解決現今猖獗的侵權問題，以落實智慧財產權的保障。尤其是針對歐盟境內的地理標誌（如Champagner、Spreewald-Gurken），未來將可透過跨國合作，提升對歐洲企業的保護。雖然現階段仍有許多問題未能達成共識，但至少ACTA協定啟動各國合作打擊仿冒的開端。 不過，雖然歐盟執委會一直以來對外“消毒“， ACTA協定的簽署前提是在符合歐盟現行法規的基礎上，並且不會對歐盟人民的基本權、個人隱私權保障造成威脅。但包括電子通 訊傳播業者（e-communications providers）、無疆界醫師組織等團體，都發表聲明，要求歐盟國會確保ACTA協定落實於各會員國內，不會影響改變歐盟既有的法制規範。包括是否引進三振條款，透過網路封鎖手段遏止侵權行為、是否以刑事手段制裁侵權人等爭議，勢必在各歐盟會員國提交其國會表決時，將引起極大的討論。