新加坡網路安全局發布人工智慧系統安全指南，以降低AI系統潛在風險
新加坡網路安全局（Cyber Security Agency of Singapore, CSA）於2024年10月15日發布人工智慧系統安全指南（Guidelines on Securing AI Systems），旨在強化AI系統安全，協助組織以安全之方式運用AI，降低潛在風險。 該指南將AI系統生命週期分成五個關鍵階段，分別針對各階段的安全風險，提出相關防範措施：
（1）規劃與設計：提高AI安全風險認知能力，進行安全風險評估。
（2）開發：提升訓練資料、模型、應用程式介面與軟體庫之供應安全，確保供應商遵守安全政策與國際標準或進行風險管理；並辨識、追蹤及保護AI相關資產（例如模型、資料、輸入指令），以確保AI開發環境安全。
（3）部署：適用標準安全措施（例如存取控制、日誌記錄），並建立事件管理程序。
（4）運作與維護：持續監控AI系統的輸入和輸出，偵測異常與潛在攻擊，並建立漏洞揭露流程。
（5）壽命終期：應根據相關行業標準或法規，對資料與模型進行適當之處理、銷毀，防止未經授權之存取。
CSA期待該指南發布後，將有助於預防供應鏈攻擊（supply chain attacks）、對抗式機器學習攻擊（Adversarial Machine Learning attacks）等安全風險，確保AI系統的整體安全與穩定運行。
- 【2023科技法制變革論壇】AI生成時代所帶動的ChatGPT法制與產業新趨勢
- 「跨域數位協作與管理」講座活動
- 新創採購-政府新創應用分享會
- 【線上場】113年「新創採購機制及鼓勵照護機構參與推動」說明會
- 【北部場】113年「新創採購機制及鼓勵地方政府參與推動」說明會
- 【南部場】113年「新創採購機制及鼓勵地方政府參與推動」說明會
- 113年新創採購-照護機構獎勵說明會
- 【南部場】113年「新創採購機制及鼓勵地方政府參與推動」說明會
- 【北部場】113年「新創採購機制及鼓勵地方政府參與推動」說明會
- 【中部場】113年「新創採購機制及鼓勵地方政府參與推動」說明會
- 【臺北場】113年度新創採購-招標作業廠商說明會
- 【臺中場】113年度新創採購-招標作業廠商說明會
- 【高雄場】113年度新創採購-招標作業廠商說明會
翁嘉璟
副法律研究員 編譯整理
Guidelines and Companion Guide on Securing AI Systems, Cyber Security Agency of Singapore, https://www.csa.gov.sg/Tips-Resource/publications/2024/guidelines-on-securing-ai (last visited Oct. 27, 2024).
Singapore’s Cyber Security Agency issues security guidelines for AI systems, CMS Law-Now, https://cms-lawnow.com/en/ealerts/2024/10/singapore-s-cyber-security-agency-issues-security-guidelines-for-ai-systems?utm_source=lawnow-realtime&utm_medium=email&utm_campaign=Singapore%e2%80%99s%20Cyber%20Security%20Agency%20issues%20security%20guidelines%20for%20AI%20systems&utm_id=4097&utm_term=read_more&utm_content=697002 (last visited Oct. 27, 2024).
許嘉芳，〈美國國家標準暨技術研究院發布「人工智慧風險管理框架：生成式AI概況」〉，資策會科技法律研究所，2024年10月，https://stli.iii.org.tw/article-detail.aspx?tp=1&d=9263&no=64（最後瀏覽日：2024/10/28）。
歐盟執委會發布「歐盟太空交通管理方法」聯合通告 資訊工業策進會科技法律研究所 2022年3月10日 2022年2月15日，歐盟執委會（European Commission）發布「歐盟太空交通管理方法（An EU Approach for Space Traffic Management）」聯合通告（Joint Communication）。由於可重複使用之火箭、小型衛星等技術越發成熟，以及私人太空活動發展，地球軌道上之衛星數量呈現指數成長，嚴重威脅歐盟及其成員國的太空資產韌性（resilience）與安全性，亦使太空交通管理（Space Traffic Management, STM）成為具有優先性之公共安全議題。在此背景下，歐盟執委會發布聯合通告，希望能確立歐盟之STM方法。在維護歐盟戰略自主性與產業競爭力的同時，提升太空使用之整體安全性（safety and security）與永續性[1]。 壹、背景說明 根據聯合公告的定義，所謂太空交通管理（Space Traffic Management）為保障整體安全性與永續地近用與執行太空活動之方法，包含太空監視與追蹤（Space Surveillance and Tracking, SST）之太空情況感知（Space Situational Awareness, SSA）活動、軌道碎片減緩與移除、太空軌道與無線電頻譜之管理、太空梭的重返大氣層活動，以及太空運作之完整生命週期，包含發射、太空載具進入軌道、除役後脫離軌道等階段[2]。 伴隨近年衛星相關技術進步，許多國家與企業著眼於衛星應用所帶來的利益與發展潛力，紛紛投入太空產業。然而，隨著各國對衛星的依賴性提升，衛星作為軍事攻擊目標的可能性也同步升高，具有敵對關係的國家可能會使用反衛星導彈進行攻擊，而此一行動將造成大量的太空碎片，不僅使軌道交通更為壅塞，更將嚴重影響軌道上物體的安全性，使太空交通管理成為重要問題[3]。 為應對產業蓬勃發展與軌道碎片造成之太空交通問題，2014年4月，歐洲議會（European Parliament）與歐洲理事會（European Council）公布有關《建立太空監視與追蹤支援框架之第541/2014/EU號決定（Decision No 541/2014/EU of the European Parliament and of the Council of 16 April 2014 establishing a Framework for Space Surveillance and Tracking Support）》，其目的在於確保對歐洲經濟、社會和公民之整體安全性而言，重要且屬於歐盟及其成員國之太空基礎設施、裝置和服務的長期可用性。該框架評估並降低歐洲發射太空載具，以及在軌道上碰撞之風險，使太空載具經營者能更有效率地對風險減緩措施進行規劃。此外，上開框架會調查不受控制返回地球大氣層的太空載具與碎片，以盡早對可能受影響之歐盟公民與基礎設施提出警告。最後，該框架亦尋求能防止太空碎片增生之作法，希望盡可能降低太空碎片的影響[4]。 在第541/2014/EU號決定發布後，歐盟持續關注並推動STM領域之發展，包含透過「地平線2020（Horizon 2020）」計畫給予STM領域相關之研究與創新項目補助[5]；於2021年2月公布之「民用、國防與太空產業協同行動計畫（Action Plan on Synergies between civil, defence and space industries）」中，將發展STM標準與規範作為旗艦項目之一[6]；於2021年4月公布《建立聯盟太空計畫與歐盟太空計畫機關，並廢止歐盟第912/2010號、第1285/2013號與第377/2014號規則，及第541/2014/EU號決定之第2021/696號規則（Regulation (EU) 2021/696 of the European Parliament and of the Council of 28 April 2021 establishing the Union Space Programme and the European Union Agency for the Space Programme and repealing Regulations (EU) No 912/2010, (EU) No 1285/2013 and (EU) No 377/2014 and Decision No 541/2014/EU）》中，將太空物體、太空碎片與太空環境相關之整體安全性與永續發展列為執行目標之一[7]；並於歐洲理事會2021年5月公布之「人類的新太空（New Space for People）」結論文件中，強調歐洲STM標準之制定的重要性[8]。受上述發展之影響，歐盟執委會意識到其有必要制定歐盟之STM方法，以因應未來新興之全球挑戰[9]。 貳、內容摘要 不同於第541/2014/EU號決定及第2021/696號規則，本次歐盟發布之聯合通告雖不具法律上之拘束力，但其從整體說明STM之運作、影響與未來發展規劃，並指出四項關鍵行動。 一、評估STM之要求與對歐盟之影響 歐盟執委會於聯合通告中指出，歐盟必須明確認識STM所涉各利害關係人之需求與潛在影響，並需整合各領域之利害關係人，使其無論在認知或行動上皆能保持一致。為此，歐盟執委會與高級代表（High Representative）預計於2022年中建立具有包容性與透明性之諮詢機制，透過與利害關係人定期對話，蒐集所有與STM及軍事、民用要求相關之資訊，並於2023年初進行初步彙整[10]。 二、加強歐盟SST之能力 為應對STM相關之挑戰，歐盟須提高其SST能力，透過加速對自動避碰服務（automatic collision-avoidance services）、人工智慧與量子技術的研發與使用，進一步提升歐盟的戰略自主性。據此，聯合公告規劃於2023年中分析STM需求，以識別更高效率與高性能SST系統所需之必要資源。聯合公告亦建議向產業界開放歐盟太空監視與追蹤聯盟（EU Space Surveillance and Tracking Consortium）之資料共享平台中，有利於發展STM服務附加價值研究之部分資料，並以該平台為基礎，提高SST偵測技術精準度，並擴大歐盟外SST設備之布建，建立歐盟太空物體目錄（catalogue of space objects），同時與產業界合作建立兼具技術與創新之論壇，以促進並推動SST技術之發展[11]。 三、制定STM監管框架 STM之監管框架可分為三個面向，分別為在歐盟層級制定不具拘束力之標準與指引、具有拘束力之法規，以及藉由積極的獎勵措施，鼓勵歐盟之經營者遵守標準與指引。在標準與指引部分，其規劃於2023年底舉辦論壇，就新歐洲與國際標準之制定進行交流與溝通，並推廣其選定之標準與指引，同時建立可用於協助成員國處理太空活動許可申請之工具箱（toolbox）。在法規部分，其預計於2023年底初步設定太空活動應遵循之義務，如要求所有在歐盟提供服務的衛星經營者應對其碰撞避免（collision avoidance）服務進行登記，且該服務之性能應至少與現有之歐盟SST服務相當。2024年年中，歐盟執委會期望透過與成員國間之交流，根據各成員國之能力，協助會員國制定STM相關之識別與監管規範。此外，為使歐盟市場內部保持一致性，以減少產業之跨國成本並維持競爭力，聯合通告指出歐盟執委會應根據利害關係人需求、已制定之規範與標準等，於2024年底提出歐盟層級之STM立法提案。最後，在獎勵措施部分，歐盟執委會預計於2023年底，確認有關落實STM標準和指引之獎勵措施和認證機制，並於2024年底具體落實前述之措施與機制[12]。 四、在全球層面推廣歐盟的STM方法 STM不僅是歐盟領域內之事務，更與全球各國息息相關。為此，聯合通告積極推動歐盟與其全球合作夥伴的雙邊、多邊合作，透過參與聯合國、確定或幫助建立處理STM相關議題之特定機關，以在全球層面執行具體的STM解決方案[13]。 參、評析 地球軌道資源有限，而隨著衛星的多元應用與重要性的上升，如何透過STM促進軌道資源的利用與確保其安全性，為目前國際上倍受關注之議題。歐盟本次之聯合通告自需求面出發，調查並評估各相關領域利害關係人的需求，並規劃透過諮詢機制建立各界共識，以即時因應未來發展。 就產業發展而言，我國在半導體、晶片、射頻（Radio frequency）器材等精密機械技術上具有發展優勢，目前已有多家廠商成功加入國際衛星大廠的地面接收設備、天線之製造供應鏈[14]。另一方面，我國政府亦長期推動自主衛星研發與製造，2019年1月15日由行政院核定之「第三期太空長程發展計畫」中，預計投入251億元用於發展共計10顆之先導型高解析度光學遙測衛星、超高解析度智能遙測衛星、合成孔徑雷達衛星[15]。科技部亦於2020年啟動「小型立方衛星計畫」，自主研製我國之1.5U、2U、3U[16]立方衛星[17]，並與經濟部共同規劃於2021年至2025年投入40億元預算[18]，預計於2025年發射首顆由臺灣自主研發的低軌衛星。 綜上所述，雖然目前我國已發射之衛星數量無法與英美、歐盟，以及部分國際衛星企業相比，但觀我國之產業與政策推動現況，可得知自主衛星研製與發射為我國太空產業的重要發展目標，「歐盟太空交通管理方法」聯合通告中，有關STM需求分析、諮詢機制、優先發展技術項目、資料共享平台、法制規劃，以及其未來制定之標準內容，可作為我國借鑒與參採之對象。 [1]Space: EU initiates a satellite-based connectivity system and boosts action on management of space traffic for a more digital and resilient Europe, EUROPEAN COMMISSION, Feb. 15, 2022, https://ec.europa.eu/commission/presscorner/detail/en/ip_22_921 (last visited Mar. 10, 2022). [2]Joint Communication to the European Parliament and the Council - An EU Approach for Space Traffic Management - An EU contribution addressing a global challenge, 2022 O.J. (C 4) 1, 2-3. [3]Jeff Foust, Russia destroys satellite in ASAT test, SPACENEWS, Nov. 15, 2021, https://spacenews.com/russia-destroys-satellite-in-asat-test/ (last visited Mar. 10, 2022). [4]Decision No 541/2014/Eu of the European Parliament and of the Council of 16 April 2014 establishing a Framework for Space Surveillance and Tracking Support, 2014 O.J. (L 158/227) 1, 5. [5]EUROPEAN COMMISSION [EC], Questions and Answers: Space Traffic Management (2022), https://ec.europa.eu/commission/presscorner/detail/en/QANDA_22_923 (last visited Mar. 10, 2022). [6]Communication from the Commission to the European Parliament, the European Council, the Council, the European Economic and Social Committee and the Committee of the Regions - Action Plan on synergies between civil, defence and space industries, at 16, COM (2021) 70 final (Feb. 22, 2021). [7]Regulation (EU) 2021/696 of the European Parliament and of the Council of 28 April 2021 establishing the Union Space Programme and the European Union Agency for the Space Programme and repealing Regulations (EU) No 912/2010, (EU) No 1285/2013 and (EU) No 377/2014 and Decision No 541/2014/EU, 2021 O.J. (L 170/69), 1, 25. [8]EUROPEAN COUNCIL, Council Conclusions on “New Space for People” 7 (2021). [9]OJ C 4 15/2/2022, supra note 2 at 2. [10]Id. at 5-6. [11]Id. at 6-9. [12]Id. at 10-12. [13]Id. at 12-15. [14]工商時報，〈低軌衛星組國家隊 8檔供應鏈受注目〉，2021/12/09，https://ctee.com.tw/news/stocks/562117.html （最後瀏覽日：2022/03/10）。 [15]國家實驗研究院，〈我國第三期國家太空科技發展長程計畫 精進衛星科技 開創太空關鍵產業〉，2019/02/13，https://www.narlabs.org.tw/xmdoc/cont?sid=0J044506862104822629&xsmsid=0I148622737263495777 （最後瀏覽日：2022/03/10）。 [16]1U為邊長10公分的立方體。 [17]國家實驗研究院科技政策與資訊中心－科技產業資訊室，〈科技部小型立方觀測衛星即將升空〉，2021/01/21，https://iknow.stpi.narl.org.tw/Post/Read.aspx?PostID=17455 （最後瀏覽日：2022/03/10）。 [18]劉韋廷，〈科技部歲末記者會－四年將投入40億元 拚2025年發射首顆低軌衛星〉，ANUE鉅亨，2021/01/13，https://news.cnyes.com/news/id/4560441 （最後瀏覽日：2022/03/10）。
歐盟發布與食品接觸的容器材料安全評估規則歐盟食品安全局（European Food Safety Authority, EFSA）於2009年5月29日發布歐盟第450/2009號規則（Regulation EC No. 450/2009），內容為評估與食品接觸的包裝容器之「活性材料」（active material）或「智慧型材料」（intelligence material），其活性與智慧型功能物質之使用安全性。此號規則規定了進行活性或智慧型材料物質的安全評估相關的行政管理，及申請所需提出的科技數據與資訊內容。 歐盟第450/2009號規則是一項落實第1935/2004號規則中，有關食品安全的具體規則。第450/2009號規則要求食品容器中的「活性材料」與「智慧型材料」，必須經過EFSA的安全評估測試。 歐盟於2004年10月通過第1935/2004號規則（Regulation EC No. 1935/2004），首次公佈活性材料與智慧型材料的定義。「活性材料」係指為增加食物保存期限或維持及改善情況，食品容器材料會自動釋放某些物質在食品中以延長期限。「智慧型材料」則指能顯示食物狀況或在包裝上顯示出周圍環境狀態，例如在食品包裝上，結合溫度顯示材料，指出裝運過程中的溫度狀態。 而第450/2009號規則，則是進一步落實規範。在安全評估測試中，EFSA對於申請者提出的容器材料物質，進行風險測試後，將給予申請者得以使用的物質清單。若有食品容器材料的物質經測試後發現，其活性或智慧型功能的物質，與食品容器材料中的其他物質產生交互作用，EFSA可能將限制使用此類物質於食物容器材料中，以確保容器材料之安全性。
歐洲化學品管理署（ECHA）下的社會經濟分析委員會已開始針對限制性措施展開風險管理及成本利益分析等相關工作今年(2008)4月2-3號，歐洲化學品管理署(ECHA)下，為社會經濟分析(Socio-economic)目的所設置之委員會，於赫爾辛基(Helsinki)舉行了首次的會議。歐洲化學品管理署執行長Geert Dancet在其公開聲明中提到：「對社會經濟分析委員會(SEAC)之挑戰，是因其被REACH法規範所引用而產生；而此種模式，亦將成為歐盟化學物質立法制度下的一項新工具。其還強調，應同時平等地考量並兼顧到產業、環境及健康等三方面因素，並以前三項因素皆已臻衡平之方式來進行交易」。 此外，於REACH法規範下，該委員會於限制與管理流程上，亦扮演著重要角色。其將掮負起為該署準備關於：申請管理、限制措施建議案提出、以及其他在REACH法規範下與化學物質管理有關之立法措施所將可能導致歐洲社會經濟方面之影響與衝擊等問題，提出相關意見。而目前，就於化學品範圍內，對可能之立法措施未來所將產生的衝擊進行社會經濟面之評估而言，此舉，實為一新且未知的一塊領域。 此外，透過此次會議，除決定了該委員會日後運作之模式外，也達成共識ㄧ致認為：透過此種模式，將能夠保障委員會運作之透明性；同時，還一併能兼顧到它的獨立性，及相關資料的隱密性。目前，該運作模式將待歐洲化學品管理署董事會議正式審核通過後，即開始生效。最後，社會經濟分析委員會於2008年間規畫，擬將舉行兩次會議，而下一次的會議則已預定將於10月份召開。
Google提供免費專利給新創公司Google於2015年7月24日發布專利創客專案(Patent Starter Program)，提供參加專案的新創公司免費授權使用兩項專利。此計畫是奠基於License on Transfer (LOT) Network專利授權聯盟的運作，該聯盟是2014年由Google、Dropbox、SAP、Canon、Asana及NewEgg等六家公司共同成立，目的透過聯盟成員間專利交叉授權協議，以對抗專利流氓(patent troll)的濫訴行為。 專利創客專案計畫開放50家於2014年收入介於50萬至20億美元間的新創公司得免繳會費參與LOT聯盟兩年，並依據新創公司業務範圍，提供3至5項專利清單，新創公司可從中選出兩項予以免費使用。另外，這些新創公司有機會瀏覽GOOGLE非專屬授權資料庫，找尋所需專利並詢問GOOGLE出售意願。需要注意的是，在專案期間內，參與成員對於透過專案獲授權之專利，僅得為防禦使用，違反時Google有權終止並予以處罰。同時參與成員亦必須於專案期間遵守聯盟專利交叉授權協議之規範。 整體來說，由於Google提供給新創公司的免費專利清單項目有限，新創公司未必能得到真正有需求的專利，但考量加入專案後，得受到LOT成員間專利交叉授權協議的保護，對於新創公司而言，仍可一定程度避免受到專利流氓危害，而具有正面意義。