新加坡網路安全局發布人工智慧系統安全指南，以降低AI系統潛在風險
新加坡網路安全局（Cyber Security Agency of Singapore, CSA）於2024年10月15日發布人工智慧系統安全指南（Guidelines on Securing AI Systems），旨在強化AI系統安全，協助組織以安全之方式運用AI，降低潛在風險。 該指南將AI系統生命週期分成五個關鍵階段，分別針對各階段的安全風險，提出相關防範措施：
（1）規劃與設計：提高AI安全風險認知能力，進行安全風險評估。
（2）開發：提升訓練資料、模型、應用程式介面與軟體庫之供應安全，確保供應商遵守安全政策與國際標準或進行風險管理；並辨識、追蹤及保護AI相關資產（例如模型、資料、輸入指令），以確保AI開發環境安全。
（3）部署：適用標準安全措施（例如存取控制、日誌記錄），並建立事件管理程序。
（4）運作與維護：持續監控AI系統的輸入和輸出，偵測異常與潛在攻擊，並建立漏洞揭露流程。
（5）壽命終期：應根據相關行業標準或法規，對資料與模型進行適當之處理、銷毀，防止未經授權之存取。
CSA期待該指南發布後，將有助於預防供應鏈攻擊（supply chain attacks）、對抗式機器學習攻擊（Adversarial Machine Learning attacks）等安全風險，確保AI系統的整體安全與穩定運行。
翁嘉璟
副法律研究員 編譯整理
Guidelines and Companion Guide on Securing AI Systems, Cyber Security Agency of Singapore, https://www.csa.gov.sg/Tips-Resource/publications/2024/guidelines-on-securing-ai (last visited Oct. 27, 2024).
Singapore’s Cyber Security Agency issues security guidelines for AI systems, CMS Law-Now, https://cms-lawnow.com/en/ealerts/2024/10/singapore-s-cyber-security-agency-issues-security-guidelines-for-ai-systems?utm_source=lawnow-realtime&utm_medium=email&utm_campaign=Singapore%e2%80%99s%20Cyber%20Security%20Agency%20issues%20security%20guidelines%20for%20AI%20systems&utm_id=4097&utm_term=read_more&utm_content=697002 (last visited Oct. 27, 2024).
許嘉芳，〈美國國家標準暨技術研究院發布「人工智慧風險管理框架：生成式AI概況」〉，資策會科技法律研究所，2024年10月，https://stli.iii.org.tw/article-detail.aspx?tp=1&d=9263&no=64（最後瀏覽日：2024/10/28）。
奈米科技在化妝品領域之應用實例日益增多，對於此類產品之管理趨向也成各界關注的重點，可惜國際間遲遲未有突破性進展。 今(2009)年3月24日，歐洲議會初步通過化妝品規則之新法提案（提案編號：COM(2008)0049-c6-0053/2008-2008/0035(COD)），未來若獲正式通過，將可直接適用於歐盟各國。 就實質內容而言，歐盟在該規範中首次納入奈米科技之考量。其所界定之奈米材料為：「一種具有非溶解、抗生物性之材料，係經由人為單一或多次外部切割或內部建構，尺寸範圍在1至100奈米之間」。為確保奈米化妝品之安全性，該規範透過強制通報、安全評估，以及禁止使用有害人體健康之物質等機制進行管理。此外，化妝品倘若含有或使用奈米材料，製造人必須在產品包裝上之內容物清單中加以標明。 歐洲議會是以633位之多數票一讀通過了該法案，不過也有29位投票反對、11位放棄表示意見。 此外，各界對此立法之反應不一，消費者團體認為應儘早實施該法案；歐洲議會綠黨議員則對法案中的奈米材料之定義不予認同。 根據歐盟執委會評估，目前約有5%的化妝品使用奈米材料，主要是市面上銷售之防曬油、口紅以及抗老化乳霜。隨著此項運用趨勢的發展，很多消費者團體抱怨立法過於緩慢而無法趕上市售產品之發展腳步，而本次立法可望為奈米化妝品之管理開展新的契機與方向。
美國藥品CGMP規範關於製劑部分修正之觀察美國食品及藥物管理局（Food and Drug Administration，FDA）於2008年9月8日針對現行優良藥品製造作業規範（Current Good Manufacturing Practice In Manufacturing, Processing, Packing or Holding of Drugs，藥品CGMP規範）中關於製劑的部分，公布了最新修正規則，並在同年的12月8日正式實施，希冀藉此能與其它FDA規範（例如：品質系統規範﹙the Quality System Regulation, 21 CFR part 820﹚）和國際性的CGMP標準（例如：歐盟CGMP規範﹙the CGMPs of the European Union﹚）相調和。 本次修正係採漸進式，而非一次性的方式為之，主要針對無菌處理（aseptic processing）、石棉過濾裝置（asbestos filters）之使用、以及第二者驗證（verification by a second individual）等做修正。 首先，針對無菌處理部分，要求設備及器具必須清潔、保養，且視藥品的本質不同，予以消毒和（或）殺菌，以避免故障或污染。對於可能遭微生物污染致影響其預定用途之原料、藥品容器或封蓋，要求應於使用前經過微生物檢驗。此外，尚新增生物負荷量測試（bioburden testing）於管制程序的列表中，以保障每批藥品之均一及完整性。 其次，關於石棉過濾裝置之使用方面，回應一直以來所存在著將使用於生產液態注射劑產品（liquid injectable products）之過濾裝置規範更現代化的需求，本次修正明訂，於今後禁止使用石棉過濾裝置，同時，亦將石棉過濾裝置於非纖維釋出性過濾裝置的定義之中刪除。 最後，有關第二者驗證部分，因應生產過程逐步自動化的潮流，本次修正於原有規範下增設規定指出，如以自動化設備執行秤重、測量、分裝、產量計算、設備清潔與使用記錄、生產與管控紀錄等之工作，且符合相關條文要求，並有一人檢查該設備是否如預設正常運作，則視為合乎原有規範下須有一人操作另一人檢查之規定。亦即修正後之執行，只需一人加以確認該自動化設備是否適當運作即為已足，毋須就過程中的每一步驟加以檢視，避免多餘人力之浪費。 總括來說，本次修正確保法規確實涵蓋現行業界的操作實務，同時並確立FDA將藥品CGMP規範與以現代化，並與國際標準調和之目標，為以漸進方式修訂藥品CGMP規範跨出重要的一步。
韓國未來創造科學部推出「K-ICT戰略」並制定2016實施計畫韓國未來創造科學部於2015年8月31日發表「2016活化振興與應用情報通信產業之實施計畫」，以因應現代技術的進步及市場現況，並正式宣佈推出「K-ICT戰略」，於計畫目標中具體呈現連結韓國ICT產業，促進相關發展。 為加速推動相關政策，未來創造科學部所推出「K-ICT戰略」，主要係規劃四大推動領域及策略，分述如下： （一） 九大產業育成：5G；智慧裝置；IoT；雲端；Big Data；情報安全；UHD（超高清）；軟體產業；數位內容產業。此領域預計規劃投資規模為5957億韓元。 （二） 十大領域（將ICT擴大應用於一般產業）：醫療、金融、教育、交通、都市建設、智慧家庭、文化觀光、能源、農漁畜產業以及傳統產業。此領域預計規劃投資規模為5751億韓元。 （三） ICT基礎建設：為具體化超連結社會，建設基礎裝置；ICT革新據點建設；OPEN DATA開放與促進活用；情報文化的組成。此領域預計規劃投資規模為863億韓元。 （四） 改善產業體質與加強國際出口：未來創意人才養成；創業環境的建立與海外出口支援；R&D革新、智財權保護體制的確立；國際合作與標準化。此領域預計規劃投資規模為6755億韓元。 綜上所述，韓國未來創造科學部為促進推動「K-ICT戰略」，將投資1兆9千億韓元，投入ICT重點發展產業，並積極落實「2016活化振興與應用情報通信產業之實施計畫」之推動目標。
微軟向美國專利商標局（USPTO）提出可用以追蹤物體的擴增實境（AR）專利申請依據12月USPTO公開資訊，微軟（Microsoft）於2016年9月2號提出擴增實境（Augmented Reality，以下簡稱AR）系統之美國發明專利申請（申請號：20160373570）。目前AR系統不僅可投射虛擬訊息，還可偵測物理空間之物體位置，不過因為現實生活中，不管是有生命或無生命物體，都不太可能處於完全靜態不動的狀況；而微軟此技術之開發，除了不限於固定空間外，對移動中的物體更具有自動追蹤效果。 微軟專利指出該系統能辨識無生命物體，並可將該物體被選擇為追蹤對象的技術，這個AR系統可持續監測物體的狀態，不僅在同一空間中不同時間點，甚至是物體離開監控空間又被帶回的情況都可追蹤。從微軟專利可以看到這項技術運用在日常生活的價值，如：我們常常花很多時間在想汽車鑰匙和錢包放在哪裡，但透過這個系統的追蹤，可以節省我們找尋的時間；有時我們會忘記家裡的牛奶還剩多少，而花時間去逛超商，倘若我們運用此追蹤技術，能夠隨時知道牛奶剩餘的狀態，就可以避免這種情況的發生。 上開技術不僅包含AR技術，還有虛擬實境（Virtual Reality，簡稱VR）技術，這些技術能透過虛擬與真實世界合併，將真實世界、人類、空間和物體結合，並可進一步的智慧化追蹤，若這項專利被核准且可真實運用到現實生活，必能減少我們的生活中不必要的麻煩。 「本文同步刊登於TIPS網站（https://www.tips.org.tw ）」