新加坡網路安全局發布人工智慧系統安全指南，以降低AI系統潛在風險
新加坡網路安全局（Cyber Security Agency of Singapore, CSA）於2024年10月15日發布人工智慧系統安全指南（Guidelines on Securing AI Systems），旨在強化AI系統安全，協助組織以安全之方式運用AI，降低潛在風險。 該指南將AI系統生命週期分成五個關鍵階段，分別針對各階段的安全風險，提出相關防範措施：
（1）規劃與設計：提高AI安全風險認知能力，進行安全風險評估。
（2）開發：提升訓練資料、模型、應用程式介面與軟體庫之供應安全，確保供應商遵守安全政策與國際標準或進行風險管理；並辨識、追蹤及保護AI相關資產（例如模型、資料、輸入指令），以確保AI開發環境安全。
（3）部署：適用標準安全措施（例如存取控制、日誌記錄），並建立事件管理程序。
（4）運作與維護：持續監控AI系統的輸入和輸出，偵測異常與潛在攻擊，並建立漏洞揭露流程。
（5）壽命終期：應根據相關行業標準或法規，對資料與模型進行適當之處理、銷毀，防止未經授權之存取。
CSA期待該指南發布後，將有助於預防供應鏈攻擊（supply chain attacks）、對抗式機器學習攻擊（Adversarial Machine Learning attacks）等安全風險，確保AI系統的整體安全與穩定運行。
翁嘉璟
副法律研究員 編譯整理
Guidelines and Companion Guide on Securing AI Systems, Cyber Security Agency of Singapore, https://www.csa.gov.sg/Tips-Resource/publications/2024/guidelines-on-securing-ai (last visited Oct. 27, 2024).
Singapore’s Cyber Security Agency issues security guidelines for AI systems, CMS Law-Now, https://cms-lawnow.com/en/ealerts/2024/10/singapore-s-cyber-security-agency-issues-security-guidelines-for-ai-systems?utm_source=lawnow-realtime&utm_medium=email&utm_campaign=Singapore%e2%80%99s%20Cyber%20Security%20Agency%20issues%20security%20guidelines%20for%20AI%20systems&utm_id=4097&utm_term=read_more&utm_content=697002 (last visited Oct. 27, 2024).
許嘉芳，〈美國國家標準暨技術研究院發布「人工智慧風險管理框架：生成式AI概況」〉，資策會科技法律研究所，2024年10月，https://stli.iii.org.tw/article-detail.aspx?tp=1&d=9263&no=64（最後瀏覽日：2024/10/28）。
日本近年來對於線上遊戲對戰之電子競技活動的觀戰人數逐漸上升，而由於職業電競選手在赴日參加比賽時，會因為獎金收入而面臨申請簽證上的困擾，為了能更有效吸引世界一流選手前日本參賽，實有必要對相關行政程序進行修正。 而根據日本權威經財經媒體「日本經濟新聞」之報導，日本法務省將針對以參加線上遊戲比賽賺取獎金為業的電子競技選手，在入境日本以核發「娛樂類簽證」之方式解決前揭問題，同時透過審查國外選手在母國參與電競活動的實際成績，以防止出現利用此漏洞不法滯留日本之問題。 對於法務省此項決定，日本電玩遊戲相關媒體多以「電競選手待遇將比照運動選手」為題進行報導。然而經查日本法務省針對外國人之入境簽證，依其入境之目的區分為高度專門職、教授教育、藝術文化、宗教、採訪、經營、留學等十六種，而職業運動員簽證事實上並非單一獨立類別，而係與歌唱、舞蹈、演奏、電影製作、商業攝影、商業錄音等共通歸類為「娛樂類簽證」之下，因此日本法務省此一作法是否果真代表在簽證核發一事，已將職業電競選手視為職業運動員，尚難有具體結論。 「本文同步刊登於TIPS網站（https://www.tips.org.tw）」
歐洲執委會公布安全，清潔，聯網式交通行動議程歐盟執委員會於2018年5月17日公布第三套安全，清潔和聯網式行動議程，該套行動也是最後一套實現歐洲運輸系統現代化的措施。 在2017年9月的國情咨文中，歐盟主席容克提出歐盟產業成為創新，數位化和低碳化均能領先於全球地位的目標。基於此原因，在交通領域執委會2017年5月和11月的提出兩套歐洲行動措施，其目標係讓所有歐洲人都能從享受更安全的交通，更少污染的車輛和更先進的技術解決方案，並同時加強歐盟產業業的競爭力。為此，本次議程聚焦包括未來車輛和基礎設施安全措施綜合政策;重型車輛的二氧化碳標準; 歐洲發展和製造電池的戰略行動計畫以及關於車聯網和自駕車的前瞻性戰略。 而歐洲能源聯盟表示：交通正到跨越一個新的技術前沿，透過能源聯盟的最終提案，將可幫助我們相關產業保持領先地位，並透過大規模研發關鍵技術解決方案，包括潔淨能源之電池技術和建置相關充電基礎設施，以解決碳排放，行車擁堵和降低事故發生。 歐盟氣候行動與能源專員亦表示：所有部門都必須為實現巴黎協議之氣候承諾做出貢獻，這就是為什麼歐盟在有史以來第一次訂定提提高燃油效率標轉和減少碳排放的標準，也為歐洲工業鞏固當前在創新技術領域的領導地位。 歐盟交通運輸專員亦表示：過去一年，執委會在通領域提出許多重大舉措，以提升未來交通安全、乾淨及聯網性。所有措施皆以乾淨且智慧的交通工具目標前進，並尋求各成員國和歐洲議會能支持該雄心壯志。 歐盟內部市場，產業，創業和中小企業專員表示：90％的道路交通事故係出於人為錯誤，目前提出新的強制性安全功能將減少事故的數量，並有利車聯網及自駕車技術發展。 本次議程內容簡介如下 交通安全 從2001年至今道路死亡人數減少已了一半以上，然2017年歐盟境內仍有25,300人交通事故身亡，及13.5 萬人受重傷。因此，歐盟執委會建議新型車輛應配備先進的安全功能，例如用於汽車的先進緊急煞車和車距保持輔助系統或卡車對於周遭行人和用路人之檢測系統。此外，委員會將幫助成員國能在危險路段進行系統性改善建設投資。預計將可挽救多達10,500人的生命，並在2020-2030年期間避免接近6萬人的嚴重受傷，從而為歐盟實現2050年接近零死亡和重傷的長期目標做出貢獻。 交通能源清潔性 歐盟執委會將提出有史以來第一個重型車輛的二氧化碳排放標準來完成低排放交通系統的計畫。此外，2025年，新卡車的二氧化碳平均排放量必須比2019年低15％。2030年，新卡車與2019年相比，必須達到至少30％的減排目標。該目標符合可協助歐盟於巴黎協議所作的承諾，並將使運輸公司（主要是中小企業）透過降低油耗（5年25,000歐元）節省大量成本。為了進一步減少二氧化碳排放，委員將會促進更多的先進低汙染的車輛（例如：改善汽車動力學、輪胎等零件）。此外，委員會將提出一個全面的行動計畫，將有助於在歐洲建立一個具有競爭力和永續性發展的電池生態系統。 車聯網及自駕車 目前越來越多地車輛已配備駕駛員輔助系統，並朝完全自動駕駛車輛目標邁進。因此，該戰略將著眼於道路使用者之間的新協同操作，此將為整個交通系統帶來巨大的利益。運輸將變得更安全，更清潔，更便宜，並使老年人和行動不便的人更方便。此外，執委會建議建立一個全數位化的貨運資訊交換環境，以促進物流運作的數位資訊流。
美國加州「Asilomar人工智慧原則決議」美國加州議會於2018年9月7日通過Asilomar人工智慧原則決議（23 Asilomar AI Principles, ACR-215），此決議表達加州對於「23條Asilomar人工智慧原則」之支持，以作為產業或學界發展人工智慧、政府制定人工智慧政策之指標，並提供企業開發人工智慧系統時可遵循之原則。依此法案所建立之重要指標如下： （1）於研究原則上，人工智慧之研究應以建立對於人類有利之人工智慧為目標。 （2）於研究資助上，人工智慧之研究資助應著重幾個方向，如：使人工智慧更加健全且可抵抗外界駭客干擾、使人工智慧促進人類福祉同時保留人類價值以及勞動意義、使法律制度可以順應人工智慧之發展。 （3）於科學政策之連結上，人工智慧研究者與政策擬定者間應有具有建設性且健全之資訊交流。 （4）於研究文化上，人工智慧研究者應保持合作、互信、透明之研究文化。 （5）於安全性上，人工智慧研究團隊應避免為了研究競爭而忽略人工智慧應具備之安全性。 （6）人工智慧系統應該於服務期間內皆具備安全性及可檢視性。 （7）人工智慧系統之編寫，應可使外界於其造成社會損失時檢視其出錯原因。 （8）人工智慧系統如應用於司法判斷上，應提供可供專門人員檢視之合理推論過程。 （9）人工智慧所產生之責任，應由設計者以及建造者負擔。 （10）高等人工智慧內在價值觀之設計上，應符合人類社會之價值觀。 （11）高等人工智慧之設計應可與人類之尊嚴、權利、自由以及文化差異相互調和。 （12）對於人工智慧所使用之資料，其人類所有權人享有擷取、更改以及操作之權利。 （13）人工智慧之應用不該限制人類「客觀事實上」或「主觀知覺上」之自由。 （14）人工智慧之技術應盡力滿足越多人之利益。 （15）人工智慧之經濟利益，應為整體人類所合理共享。 （16）人類對於人工智慧之內在目標應享有最終設定權限。 （17）高等人工智慧所帶來或賦予之權力，對於人類社會之基本價值觀應絕對尊重。 （18）人工智慧所產生之自動化武器之軍備競賽應被禁止。 （19）政策上對於人工智慧外來之發展程度，不應預設立場。 （20）高等人工智慧系統之研發，由於對於人類歷史社會將造成重大影響，應予以絕對慎重考量。 （21）人工智慧之運用上，應衡量其潛在風險以及可以對於社會所帶來之利益。 （22）人工智慧可不斷自我循環改善，而可快速增進運作品質，其安全標準應予以嚴格設定。 （23）對於超人工智慧或強人工智慧，應僅為全體人類福祉而發展、設計，不應僅為符合特定國家、組織而設計。
澳洲詮釋自動駕駛「恰當駕駛」內涵澳洲國家交通委員會（National Transport Commission, NTC）2017年11月提出「國家自駕車實施指南（National enforcement guidelines for automated vehicles）」，協助執法單位適用目前道路駕駛法規於自駕車案例上。由於澳洲道路法規（Australian Road Rules）第297條第1項規範「駕駛者不得駕駛車輛除非其有做出恰當控制（A driver must not drive a vehicle unless the driver has proper control）」，此法規中的「恰當控制」先前被執法機關詮釋為駕駛者應坐在駕駛座上並至少有一隻手置於方向盤上。因此本指南進一步針對目前現行法規適用部分自動駕駛系統時，執法機關應如何詮釋「恰當駕駛」內涵，並確認人類駕駛於部分自動駕駛系統運作時仍應為遵循道路駕駛法規負責。 本指南僅提供「恰當控制」之案例至SAE J2016第一級、第二級和第三級之程度，而第四級與第五級之高程度自動駕駛應不會於2020年前進入市場並合法上路，因此尚未納入本指南之詮釋範圍之中。本指南依照採取駕駛行動之對象、道路駕駛法規負責對象（誰有控制權）、是否應將一隻手放置於方向盤、是否應隨時保持警覺以採取駕駛行動、是否可於行駛中觀看其他裝置等來區分各級自動駕駛系統運作時，人類駕駛應有之恰當駕駛行為。