新加坡網路安全局發布人工智慧系統安全指南，以降低AI系統潛在風險
新加坡網路安全局（Cyber Security Agency of Singapore, CSA）於2024年10月15日發布人工智慧系統安全指南（Guidelines on Securing AI Systems），旨在強化AI系統安全，協助組織以安全之方式運用AI，降低潛在風險。 該指南將AI系統生命週期分成五個關鍵階段，分別針對各階段的安全風險，提出相關防範措施：
（1）規劃與設計：提高AI安全風險認知能力，進行安全風險評估。
（2）開發：提升訓練資料、模型、應用程式介面與軟體庫之供應安全，確保供應商遵守安全政策與國際標準或進行風險管理；並辨識、追蹤及保護AI相關資產（例如模型、資料、輸入指令），以確保AI開發環境安全。
（3）部署：適用標準安全措施（例如存取控制、日誌記錄），並建立事件管理程序。
（4）運作與維護：持續監控AI系統的輸入和輸出，偵測異常與潛在攻擊，並建立漏洞揭露流程。
（5）壽命終期：應根據相關行業標準或法規，對資料與模型進行適當之處理、銷毀，防止未經授權之存取。
CSA期待該指南發布後，將有助於預防供應鏈攻擊（supply chain attacks）、對抗式機器學習攻擊（Adversarial Machine Learning attacks）等安全風險，確保AI系統的整體安全與穩定運行。
翁嘉璟
副法律研究員 編譯整理
Guidelines and Companion Guide on Securing AI Systems, Cyber Security Agency of Singapore, https://www.csa.gov.sg/Tips-Resource/publications/2024/guidelines-on-securing-ai (last visited Oct. 27, 2024).
Singapore’s Cyber Security Agency issues security guidelines for AI systems, CMS Law-Now, https://cms-lawnow.com/en/ealerts/2024/10/singapore-s-cyber-security-agency-issues-security-guidelines-for-ai-systems?utm_source=lawnow-realtime&utm_medium=email&utm_campaign=Singapore%e2%80%99s%20Cyber%20Security%20Agency%20issues%20security%20guidelines%20for%20AI%20systems&utm_id=4097&utm_term=read_more&utm_content=697002 (last visited Oct. 27, 2024).
許嘉芳，〈美國國家標準暨技術研究院發布「人工智慧風險管理框架：生成式AI概況」〉，資策會科技法律研究所，2024年10月，https://stli.iii.org.tw/article-detail.aspx?tp=1&d=9263&no=64（最後瀏覽日：2024/10/28）。
2022年11月美國OpenAI公司推出人工智慧大型語言模型ChatGPT，提供全球使用者透過輸入文本方式向ChatGPT提出問題，雖營業秘密不需絕對保密，惟是否會「因向ChatGPT揭露營業秘密而使營業秘密喪失了秘密性」？ 依OpenAI公司「非API訪問數據政策」規定，ChatGPT透過OpenAI公司的AI訓練人員審核「使用者上傳至ChatGPT的資訊」，提供ChatGPT反饋，強化ChatGPT進行有效的學習，讓ChatGPT模仿人類語言回覆使用者所提出的問題。在AI訓練人員未將「使用者上傳至ChatGPT的資訊」交由ChatGPT訓練、學習前（上次訓練是在2021年9月），此聊天內容不會成為ChatGPT給其他使用者的回答，此時資訊對於公眾仍具秘密性。依據ChatGPT的使用條款第5（a）條之單方保密義務規定：「OpenAI公司、其子公司及其他第三方公司可能賦予使用者『機密資訊的接觸權限』，但使用者僅限於使用條款所允許的服務中使用該些機密資訊，不得向第三方揭露該機密資訊，且使用者至少應採取合理的注意保護該機密資訊。所謂機密資訊係指OpenAI公司、其子公司及其他第三方公司（1）指定的非公開資訊，或（2）合理情況下，被認定為機密資訊者，比如軟體、規格及其他非公開商業資訊。」。即ChatGPT對於使用者輸入的聊天內容不負保密義務。 公司將程式碼、會議紀錄等敏感資訊與ChatGPT共享，不必然屬於「因揭露營業秘密而使營業秘密喪失秘密性」，考量訓練數據量大，秘密性取決於周遭環境與揭露性質，例如： 1.揭露的資訊類型，比如飲料配方可能會比客戶名單更容易取得。 2.揭露的環境，比如競爭對手、大眾是否能提出具體問題，以致能取得他人聊天內容的營業秘密。 為在ChatGPT的趨勢下確保營業秘密的秘密性，建議企業採取的管理策略如下： 1.透過「資訊分類」以識別可共享的資訊。 2.審核涉及敏感資訊的協議、公司政策及供應商契約。 3.採取實體、數位的資訊保密措施，並留意尊重員工隱私，比如限制接觸某些網站或應用程式，應留意員工的手機是否能繞過此限制。 4.建立公司保密文化，如透過公司培訓、新人入職教育訓練，定期提醒其應負擔的保密義務。 本文同步刊登於TIPS網站（https://www.tips.org.tw）。
歐盟通過「負責任奈米科技研究活動」行為準則全球皆認同奈米科技具有策略性潛質，而安全性確保與公眾接受度尤為其應用與產品商業化的先決條件，因此各界同意奈米科技之發展與使用不應有所失衡。在此背景下，歐盟在「歐洲奈米科技策略」﹙Towards A European Strategy for Nanotechnology﹚及「奈米科學及奈米技術︰歐洲在二○○五至二○○九的行動計畫」﹙Nanosciences and Nanotechnologies︰An Action Plan For Europe 2005-2009﹚兩份重要文件中，皆表示對於此一議題的高度重視。據此，執委會﹙Commission﹚於去﹙2007﹚年7月19日提出「負責任奈米科技研究活動行為準則﹙草案﹚」﹙Code of Conduct for Responsible Nanosciences and Nanotechnologies Research﹙draft﹚﹚並對外進行公開諮詢直到同年9月21日為止，其後修正而於今年2月通過正式版本。 本準則之規範特色主要有三： 1、明確各項定義：為合理圈畫適用範圍，本準則特別針對奈米物體﹙Nano-objects﹚、奈米科技研究﹙N&N research﹚、奈米科技利害關係人及市民團體等用詞予以界定。 2、提列管理原則：包括意義﹙meaning﹚、永續﹙sustainability﹚、預防﹙precaution﹚、含括性﹙inclusiveness﹚、卓越﹙excellence﹚、創新﹙Innovation﹚、有責性﹙accountability﹚。 3、操作指引舉隅：為落實各項原則，本準則針對「奈米科技研究之良好管理」、「踐行預防措施」及「本準則之宣導及監管」等三大部分提供細部指引。 整體而言，本準則正式版本係在預防原則及保障基本人權之思維下，先行設立各項管理原則，而後提供各項操作指引。歐盟執委會以推薦方式邀請各會員國及利害關係人參與並落實，原則上各會員國應於2008年6月30日前通知執委會其意向，並於其後每年定期報告其所採取之具體措施、建議、運用成效，以及提供實際作法；而執委會亦將定期每二年檢視相關建議並監控後續發展。
法國即將設立新的簽證種類「科技簽證viva tech」面向三類科技人才法國總統馬克宏（Emmanuel Macron）6月15日在法國巴黎舉行開幕的法國創新技術會議（Viva Technology）上，宣布兩項新政策措施：簽證與投資基金。馬克宏宣布，即將設立新的簽證種類「科技簽證viva tech」法國科技簽證面向三類科技人才：創業創始人，員工和投資者，並允許他們在法國生活和工作。其內容如下： 一、 有效期限為四年，並且已可再生做為基礎。 二、 其延伸至直系親屬，且配偶還可獲得居留許可，得在法國生活、工作。 受撫養的孩子也有權在法國居住。 三、 且其不需要額外的工作許可，而來自歐洲經濟區和瑞士的公民則不需要居留許可。 而針對法國科技簽證的資格，有三個，一為企業創始人，二為員工，三為投資者，而三者類型可以透過不同的途徑獲得「科技簽證」。 如：企業創始人要成為法國技術簽證的創業者，其申請條件包括計畫在法國發展經濟創新型的創業項目，始符合申請資格。 若想以僱員身分獲得法國技術簽證的資格，必須擁有研究生學位（碩士以上）、與法國公司有資格通過法國技術簽證招聘的最少3個月的工作合約、年薪總額至少35,526.40歐元（為2017年1月1日法國最低工資的兩倍）。 而針對投資者，該簽證瞄準風險投資家和商業天使投資創業公司，有幾種方法可以獲得法國投資者技術簽證的資格：一家外國風險投資公司在法國開設辦事處、外國投資者由法國的風險投資公司招募、商業天使（通常是成功的企業家）移居法國。而要獲得標有“商業投資者”的人才通行證，須投資至少30萬歐元的固定有形或無形資產。直接或通過您至少擁有30％股權的公司進行投資、至少擁有您所投資公司的10％，並且在投資後的四年內創造或保護工作，而法國風險投資公司招募的外國投資者則不要考慮這些標準。 法國今年夏天推出“法國簽證”項目，使簽證更容易發放，政府部門遵循的程序更加可靠。
歐盟金融監管機構共同建議強化現行之永續金融揭露規則為促進綠色轉型並提高對投資人之保護，歐洲銀行監理機關（European Banking Authority, EBA）、歐洲保險與職業年金監理機關（European Insurance and Occupational Pensions Authority, EIOPA）及歐洲證券與市場監理機關（European Securities and Market Authority, ESMA）於2024年6月18日針對永續金融揭露規則（Sustainable Finance Disclosure Regulation），向歐盟執委會（European Commission）發布共同意見。 現行的永續金融揭露規則於2019年制定並於2021年生效，其目的在提高金融產品服務的 ESG 揭露透明度和標準化，透過要求金融市場參與者提供可靠且可比較的 ESG 資料，使投資者能夠做出更明智的投資決策，引導投資人重視環境與永續議題。現行的永續金融揭露規則係以「商品標籤」之方式揭露金融商品資訊，但共同意見中認為此標籤制度並未提供明確標準或門檻，使投資人無法充分了解為何特定商品具有永續性，導致漂綠（greenwashing）及相關投資風險。 因此，本次共同意見向執委會建議，執委會應建立投資人易於理解且具有客觀標準之金融商品類別，解決上述資訊落差疑慮。共同意見建議，金融機構可採用「永續（sustainable）」與「轉型（transition）」兩項金融商品類別。以下簡介共同意見就兩項金融商品類別提供之建議： 一、永續類別 永續類別係指金融商品投資於已達到環境或社會永續門檻之經濟活動或資產。共同意見提及，執委會或可考慮將永續類別再拆分為環境永續類別與社會永續類別；但若拆分兩項類別，可能必須注意目前環境永續與社會永續兩項類別得參考之指標發展程度不一，未來在訂定門檻時如何確認相關指標需進一步討論。 二、轉型類別 轉型類別係指金融商品投資於尚未達到環境或社會永續門檻，但未來將逐步提高其永續性以達到永續類別門檻之經濟活動或資產。共同意見建議，執委會於訂定轉型類別之門檻時，應參考經濟活動分類標準之關鍵績效指標、轉型計畫、商品減碳路徑及減緩主要不利影響之措施等因素。 目前執委會正評估利害關係人意見及永續金融揭露規則實施經驗，作為改善歐盟永續金融制度之依據，因此共同意見亦建議，執委會應先進行消費者調查，再著手後續規則修訂，方能達到制度優化之成果，保障投資人權益及永續發展。