新加坡網路安全局發布人工智慧系統安全指南，以降低AI系統潛在風險
新加坡網路安全局（Cyber Security Agency of Singapore, CSA）於2024年10月15日發布人工智慧系統安全指南（Guidelines on Securing AI Systems），旨在強化AI系統安全，協助組織以安全之方式運用AI，降低潛在風險。 該指南將AI系統生命週期分成五個關鍵階段，分別針對各階段的安全風險，提出相關防範措施：
（1）規劃與設計：提高AI安全風險認知能力，進行安全風險評估。
（2）開發：提升訓練資料、模型、應用程式介面與軟體庫之供應安全，確保供應商遵守安全政策與國際標準或進行風險管理；並辨識、追蹤及保護AI相關資產（例如模型、資料、輸入指令），以確保AI開發環境安全。
（3）部署：適用標準安全措施（例如存取控制、日誌記錄），並建立事件管理程序。
（4）運作與維護：持續監控AI系統的輸入和輸出，偵測異常與潛在攻擊，並建立漏洞揭露流程。
（5）壽命終期：應根據相關行業標準或法規，對資料與模型進行適當之處理、銷毀，防止未經授權之存取。
CSA期待該指南發布後，將有助於預防供應鏈攻擊（supply chain attacks）、對抗式機器學習攻擊（Adversarial Machine Learning attacks）等安全風險，確保AI系統的整體安全與穩定運行。
翁嘉璟
副法律研究員 編譯整理
Guidelines and Companion Guide on Securing AI Systems, Cyber Security Agency of Singapore, https://www.csa.gov.sg/Tips-Resource/publications/2024/guidelines-on-securing-ai (last visited Oct. 27, 2024).
Singapore’s Cyber Security Agency issues security guidelines for AI systems, CMS Law-Now, https://cms-lawnow.com/en/ealerts/2024/10/singapore-s-cyber-security-agency-issues-security-guidelines-for-ai-systems?utm_source=lawnow-realtime&utm_medium=email&utm_campaign=Singapore%e2%80%99s%20Cyber%20Security%20Agency%20issues%20security%20guidelines%20for%20AI%20systems&utm_id=4097&utm_term=read_more&utm_content=697002 (last visited Oct. 27, 2024).
許嘉芳，〈美國國家標準暨技術研究院發布「人工智慧風險管理框架：生成式AI概況」〉，資策會科技法律研究所，2024年10月，https://stli.iii.org.tw/article-detail.aspx?tp=1&d=9263&no=64（最後瀏覽日：2024/10/28）。
資訊的保密機制和數據的標準化是當代的醫護過程中，相當關鍵重要的一部分，使得資訊得以安全地蒐集、記錄和交換，同時也是衛生照護系統在品質和服務管理上得以維繫的關鍵。過去英國負責處理醫療資訊交換標準的單位為「衛生和社會照護資訊標準委員會（Information Standards Board for Health and Social Care, ISB）」，負責就國家性的資料標準進行評核、統一資料標準格式，進而符合國際規範。為了因應國家治理在資訊標準、資料收集和資料提取上新的規劃，自今（2014）年4月1日起，ISB轉型為照護資訊標準化委員會（Standardisation Committee for Care Information, SCII）。 新的照護資訊標準化委員會－SCCI主要負責發展、批准並保障資訊標準、資料蒐集與資料提取。該委員會的成員組成廣泛地來自國家單位和相關衛生、照護服務組織。現階段的主要目標為標準化醫院和家庭醫生之間的醫療資訊交換，將醫療資訊標準提升至國家層級，透過該委員會的運作來監督、改善照護服務、照護系統和資訊的處理方式，進而達到流程公開和運作透明。以下為ISB轉型為SCCI之主要原因： 1、2012衛生和社會照護法（Health and Social Care Act 2012）之規定，該法§250賦予衛生部長和NHS England（英國國家健康服務）發布資訊標準的權力； 2、NHS成立新的國家資訊委員會（National Information Board, NIB），該委員會前身為資訊服務調查小組（Information Services Commissioning Group, ISCG），主要針對衛生和社會照護提供國家層級的資訊服務整合規劃，以確保資訊標準統一，使得不同IT系統間得以相互傳輸、驅動更多整合服務給人民。SCCI即隸屬於NIB，負責識別、調查和完整執行資訊標準、資料蒐集和提取。 3、衛生部於2012年發布衛生和照護系統的10 年資訊策略（ten year information strategy for the health and care system）。
英、美等國拒絕簽署新全球電信規則由聯合國「國際電信聯盟」（the UN's International Telecommunication Union ,ITU）主持的國際電信世界大會（the World Conference on International Telecommunications ,WCIT）於2012年12月14日在杜拜落幕，此次有193個國家的政府代表與會，主要議題討論是否要更新自1988年以來已經24年未經修改的全球電信規則（the International Telecommunication Regulations ,ITRs），該修正案主要係由中國與俄羅斯所提出，其有意授權政府監管網際網路，盼望各國能合作打擊垃圾郵件並促進網路的普及。 這項修正案最大爭議點就在「人權」二字。若政府擁有網路審查權成為普世價值，保護言論自由是否將流於口號，某些習慣高壓政策的國家是否會濫用審查權，控制輿論進行不當審查與管制？ ITU秘書長Hamadoun Touré認為網際網路應該納入全球電信政策框架下，但反對派則認為此舉扼殺了網路自由，美國代表團團長Terry Karamer則主張，網路政策不應由聯合國成員國來定，應該由公民、社群以及更廣大的社會來決定。 經過激烈的辯論之後，共有89國支持這項修正案，而包括美國、加拿大、澳洲和英國在內的55個國家已經拒絕簽署，該修正案將於2015年1月1日生效，由於修正後的新規定必須經過所有成員國同意才具全球約束力，大會呼籲未簽署或已經拒絕簽署的55國應盡速簽署。
英國股權式群眾募資簡介－以近期監管規則發展為中心 世界智慧財產組織(WIPO)及經濟合作暨發展組織(OECD)建立公共著作之線上授權機制為促進各國政府和國際組織間之研究資料、新聞報導、資料集(data set)等公共著作於網路自由流通、運用，世界智慧財產組織(World Intellectual Property Organization, WIPO)和經濟合作暨發展組織(Organization of Economic Co-operation and Development, OECD)等多個國際組織經過2年多的合作研究，終於2013年底開發出「創用CC 3.0 政府間組織授權(Creative Commons 3.0 Intergovernmental Organization (IGO) Li-cense，下稱IGO授權)」機制。聯合國教科文組織(United Nations Educational, Scientific and Cultural Organization，下稱UNESCO)亦將其建置之「開放近用著作資料庫(Open Access Repository，下稱OAR)」網站運用IGO授權。 IGO授權係為使特定內容再發行而設計的簡易公開授權程序。IGO授權同樣分為6種授權條件，即為「姓名標示」、「姓名標示-相同方式分享」、「姓名標示-商業性」、「姓名標示-禁止改作」、「姓名標示-非商業性-相同方式分享」、「姓名標示-非商業性-禁止改作」。 2013年12月UNESCO將IGO授權運用至儲存UNESCO之電子書、新聞報導、研究資料等之OAR。UNESCO之OAR係開放給全世界的人可免費下載內容，甚至進行重製、翻譯、改寫等。UNESCO只使用IGO授權中「姓名標示-相同方式分享」條件，若使用者要依其他授權條件使用著作的話，就須向UNESCO取得書面同意。 UNESCO為聯合國所屬組織中第一個對著作採取公開近用政策(Open Access Policy)，透過OAR，UNESCO著作流通規模已有顯著增加。未來相關政府間組織之資料開放利用，若逐步地適用IGO授權機制，可預期的是將會有助於擴大公共資料加值利用市場規模。