新加坡網路安全局發布人工智慧系統安全指南，以降低AI系統潛在風險
新加坡網路安全局（Cyber Security Agency of Singapore, CSA）於2024年10月15日發布人工智慧系統安全指南（Guidelines on Securing AI Systems），旨在強化AI系統安全，協助組織以安全之方式運用AI，降低潛在風險。 該指南將AI系統生命週期分成五個關鍵階段，分別針對各階段的安全風險，提出相關防範措施：
（1）規劃與設計：提高AI安全風險認知能力，進行安全風險評估。
（2）開發：提升訓練資料、模型、應用程式介面與軟體庫之供應安全，確保供應商遵守安全政策與國際標準或進行風險管理；並辨識、追蹤及保護AI相關資產（例如模型、資料、輸入指令），以確保AI開發環境安全。
（3）部署：適用標準安全措施（例如存取控制、日誌記錄），並建立事件管理程序。
（4）運作與維護：持續監控AI系統的輸入和輸出，偵測異常與潛在攻擊，並建立漏洞揭露流程。
（5）壽命終期：應根據相關行業標準或法規，對資料與模型進行適當之處理、銷毀，防止未經授權之存取。
CSA期待該指南發布後，將有助於預防供應鏈攻擊（supply chain attacks）、對抗式機器學習攻擊（Adversarial Machine Learning attacks）等安全風險，確保AI系統的整體安全與穩定運行。
翁嘉璟
副法律研究員 編譯整理
Guidelines and Companion Guide on Securing AI Systems, Cyber Security Agency of Singapore, https://www.csa.gov.sg/Tips-Resource/publications/2024/guidelines-on-securing-ai (last visited Oct. 27, 2024).
Singapore’s Cyber Security Agency issues security guidelines for AI systems, CMS Law-Now, https://cms-lawnow.com/en/ealerts/2024/10/singapore-s-cyber-security-agency-issues-security-guidelines-for-ai-systems?utm_source=lawnow-realtime&utm_medium=email&utm_campaign=Singapore%e2%80%99s%20Cyber%20Security%20Agency%20issues%20security%20guidelines%20for%20AI%20systems&utm_id=4097&utm_term=read_more&utm_content=697002 (last visited Oct. 27, 2024).
許嘉芳，〈美國國家標準暨技術研究院發布「人工智慧風險管理框架：生成式AI概況」〉，資策會科技法律研究所，2024年10月，https://stli.iii.org.tw/article-detail.aspx?tp=1&d=9263&no=64（最後瀏覽日：2024/10/28）。
英國電信管制機關Ofcom宣布，所有固網與行動電話業者將必須提供更為先進便利的「文字中繼服務（Text Relay Service）給所有聽力或語言障礙的民眾使用。文字中繼服務使聽力或語言障礙民眾能透過電話或文字電話（TextPhone）等設備而能與他人溝通，這項決定意味著所有的手機用戶將有機會獲得一個「下一代（next generation）」文字中繼服務，各種設備將能夠輔助身障者以更快、更流暢的交談速度與他人溝通。 Ofcom在經過文字中繼服務的審查研究後發現，目前的中繼系統以助理作為通話雙方的中介，進行語音與文字的轉換，反之亦然。然而研究發現，通話者對於對話速度的即時性與情感表達的完整性有提昇的需求，現在的系統通話的速度很慢，因為呼叫者只能輪流說話或輸入文字，無法即時快速如正常人一般的溝通。 因此Ofcom決定下一代文字中繼服務，在未來的18個月內將提供顯著的改進，包括： 語音雙向並行傳輸，透過網際網路的連接，允許通訊雙方可隨時插嘴，而無須等到一方的對話結束傳輸。如此將使交談雙方對話流動更快，有更自然的結果，新的服務也將支援更多種類的設備。為了達成這些改進，Ofcom將與產業、身障團體代表進行合作，探討當前和未來中繼服務所需語音辨識技術的精確度和速度的發展。Ofcom也將要求電信業者在未來提供視訊中繼服務，以確保身障者可以使用可靠的、先進的各種中繼服務，以幫助他們更容易溝通。
歐盟執委會公佈2016年歐洲數位進度報告歐盟執委會(The European Commission)於05月23日釋出一份關於歐洲數位化進展的報告。 歐洲數位進度報告(Europe's Digital Progress Report ,EDPR)首先以2016年02月公佈的「數位經濟社會指標」(Digital Economy and Society Index ,DESI) 為基礎，分析歐盟會員國的數位發展情況。數位公共服務（Digital Public Services）方面，報告指出， 當前各國政府數位化服務越來越複雜，歐盟現在的挑戰是要讓52％目前還偏好實體互動的民眾進入數位世界。此外，這份報告也提出一些歐盟會員國中數位公共服務還不錯的進度，像是義大利跟匈牙利的eID，奧地利的OpenData，比利時跟羅馬尼亞的協同電子政府 （collaborative eGovernment），以及斯洛伐克電子政府的雲端方案等。 其次，歐盟執委會調查了各國的數位改革方案實施情況，並公佈歐盟會員國與世界上其他15個國家的「數位表現國際指標」完整報告 (full report on a new international index, iDESI)，「數位表現指標」指的是連結性（connectivity）、數位能力（ digital skills）、網路使用（use of Internet）、企業數位科技整合( Integration of Digital Technology by businesses)，以及數位公共服務(Digital Public Services)。這份數據顯示，歐盟領先國(瑞典、丹麥以及芬蘭)在國際上也是處於領先地位，緊接在韓國以及美國之後，但其他歐盟會員國仍有很長一段路要追趕。 最後，歐盟執委會同時發布了「歐洲電子通訊量表研究」( Eurobarometer study on e-communications)，這份研究發現使用網路通訊的歐洲民眾逐漸增多，且行動網路普及率大幅增加。 歐盟官方表示，未來將會根據這幾份調查報告提出具體建議，盼能改善多數會員國的數位表現並有益於其經濟與社會，持續朝創造歐盟「數位單一市場」(Digital Single Market)的目標邁進。
歐洲議會通過《關鍵原物料法案》強化供應鏈韌性及提升戰略自主權歐盟執委會（European Commission）於2023年3月16日提出《確立關鍵原物料安全及永續供應框架規則草案》（Proposal for a regulation of establishing a framework for ensuring a secure and sustainable supply of critical raw materials，以下簡稱關鍵原物料法案），歐盟理事會和歐洲議會於2023年11月13日就草案內容達成政治協議，歐洲議會於2023年12月12日通過草案，有望於2024年完成立法。 《關鍵原物料法案》設有「關鍵原物料清單」（List of critical raw materials）和「戰略性原物料清單」（List of strategic raw materials），前者包含34種對歐盟經濟至關重要之關鍵原物料，而其中17種關鍵原物料又因具戰略重要性且預期將有全球供需失衡問題，而被劃分至「戰略性原物料清單」。為確保上述關鍵原物料之永續供應，《關鍵原物料法案》採取以下措施： （1）強化歐盟關鍵原物料價值鏈，制定2030年戰略性原物料基準：於2030年前，每年消費之戰略性原物料，至少10%於歐盟境內開採、40%於歐盟境內加工製造、25%於歐盟境內回收再利用。 （2）確保戰略性原物料供應多元化：未來加工階段使用之戰略性原物料，來自單一第三方國家之比例，不得超過總需求量65%。 （3）強化供應鏈韌性：提高歐盟監控和減輕關鍵原物料供應鏈風險之能力。 （4）關鍵原物料循環利用：確保關鍵原物料和含有關鍵原物料的產品在歐盟市場內能自由流通，並透過提高循環性和永續性，落實高水準環境保護政策。 歐盟期望透過上開目標之落實，並配合法案中之簡化開採許可程序及優惠融資管道等經濟鼓勵措施，促進關鍵原物料研發及供應鏈多元化，以落實綠色和數位轉型，並提升歐盟及其會員國之戰略自主權（strategic autonomy）。
澳洲競爭及消費者委員會（ACCC）就大型數位平臺對於消費者權益和市場競爭的問題提出建言澳洲競爭及消費者委員會（Australian Competition and Consumer Commission, ACCC）於2022年11月發佈了數位平臺第五份調查報告。該報告係ACCC受澳洲政府委託，於2020年起對數位平臺相關的消費者權益和市場競爭問題的調查，本次報告將重點放在監管如何改革。主要提供的建議和警示可分為五個方向： 1.反競爭行為 大型數位平臺擁有巨大的市場力量和重要的財政資源，佔據主導地位的數位平臺公司有能力和動機透過排他性行為和收購潛在競爭對手，以維持其在市場中的優勢地位。 2.消費者和中小企業保護不足 ACCC於2022年所發佈的最新報告與其自2017年開始進行數位平臺研究起所發布的其他報告一致，皆指出數位平臺的服務有以下潛在危害： ● 利用消費者偏見或引導消費者的方式向消費者提供服務。 ● 數位平臺上的詐騙明顯且持續增加。 ● 來自應用程式商店提供的不當和欺詐性應用程式的危害。 ● 創建、購買和銷售虛假評論以及以其他方式操縱評論的做法。 ● 欠缺救濟和爭議解決的途徑。 3.保護消費者的新措施 澳洲現有的競爭和消費者法律已難以因應數位平臺市場所面臨的消費者權益侵害和競爭危害等問題。該報告建議進行立法改革，具體如下： ● 商業市場中的消費者保護措施，包括禁止不公平交易行為和不公平契約條款。 ● 針對數位平臺的消費者爭議措施，包括強制規定內部和外部的爭議解決流程，以及平臺對詐騙、有害程式和虛假評論的預防和刪除義務。 ● 建立新的競爭框架，使受指定的數位平臺提供服務時受到適用於此一領域的強制性法規拘束。 ● 受指定數位平臺將應遵循之新框架和守則，以遵守競爭義務，避免其在市場中的反競爭行為，如競爭行為中的自我偏好（self-preference）等。 4.管轄 該調查報告亦指出適當且明確的管轄權限劃分對於新的監管框架來說非常重要，應在考慮到其專業知識和權責範圍的前提下，將監管責任分配給正確的管理機構，並且這些監管在流程中的各個環節都應受到適當的監督。 對於新的競爭框架及監管措施，ACCC建議可以參考英國當前的制度設計；英國政府成立了數位市場部門（Digital Markets Unit, DMU），該部門隸屬於競爭與市場管理局（Competition and Markets Authority），DMU負責監督受指定數位平臺，並在符合公平貿易、選擇開放、透明及信任等前提之下，DMU得視各個公司不同的情況對其進行特定的要求，如建立面對非法內容、對成人或未成年人有害內容時的應對措施等。 5.與國際方針的一致性 過去，澳洲在數位平臺監管策略採取了領先國際的創新行動，透過實施《新聞媒體議價法》（News Media Bargaining Code），要求數位平臺為新聞內容付費。但未來澳洲政府最終採用的策略將可能仿效他國經驗或是依循國際間共通模式，如英國推行中的《網路安全法》（Online Safety Bill）或歐盟的《數位市場法》（Digital Market Act）和《數位服務法》（Digital Services Act），而非獨樹一幟。 澳洲數位平臺監管策略之後續變化與進展值得持續追蹤，以做為我國數位平臺治理政策之借鏡。