新加坡網路安全局發布人工智慧系統安全指南，以降低AI系統潛在風險
新加坡網路安全局（Cyber Security Agency of Singapore, CSA）於2024年10月15日發布人工智慧系統安全指南（Guidelines on Securing AI Systems），旨在強化AI系統安全，協助組織以安全之方式運用AI，降低潛在風險。 該指南將AI系統生命週期分成五個關鍵階段，分別針對各階段的安全風險，提出相關防範措施：
（1）規劃與設計：提高AI安全風險認知能力，進行安全風險評估。
（2）開發：提升訓練資料、模型、應用程式介面與軟體庫之供應安全，確保供應商遵守安全政策與國際標準或進行風險管理；並辨識、追蹤及保護AI相關資產（例如模型、資料、輸入指令），以確保AI開發環境安全。
（3）部署：適用標準安全措施（例如存取控制、日誌記錄），並建立事件管理程序。
（4）運作與維護：持續監控AI系統的輸入和輸出，偵測異常與潛在攻擊，並建立漏洞揭露流程。
（5）壽命終期：應根據相關行業標準或法規，對資料與模型進行適當之處理、銷毀，防止未經授權之存取。
CSA期待該指南發布後，將有助於預防供應鏈攻擊（supply chain attacks）、對抗式機器學習攻擊（Adversarial Machine Learning attacks）等安全風險，確保AI系統的整體安全與穩定運行。
翁嘉璟
副法律研究員 編譯整理
Guidelines and Companion Guide on Securing AI Systems, Cyber Security Agency of Singapore, https://www.csa.gov.sg/Tips-Resource/publications/2024/guidelines-on-securing-ai (last visited Oct. 27, 2024).
Singapore’s Cyber Security Agency issues security guidelines for AI systems, CMS Law-Now, https://cms-lawnow.com/en/ealerts/2024/10/singapore-s-cyber-security-agency-issues-security-guidelines-for-ai-systems?utm_source=lawnow-realtime&utm_medium=email&utm_campaign=Singapore%e2%80%99s%20Cyber%20Security%20Agency%20issues%20security%20guidelines%20for%20AI%20systems&utm_id=4097&utm_term=read_more&utm_content=697002 (last visited Oct. 27, 2024).
許嘉芳，〈美國國家標準暨技術研究院發布「人工智慧風險管理框架：生成式AI概況」〉，資策會科技法律研究所，2024年10月，https://stli.iii.org.tw/article-detail.aspx?tp=1&d=9263&no=64（最後瀏覽日：2024/10/28）。
加拿大分子奈米技術研究有重大突破，亞伯達大學科學家、艾明頓國家奈米技術研究所的 Bob Wolkow 及其同事經過多年研究，終於開發出分子電晶體。這一科研成果可能會研究報告在最新一期「自然」（ Nature ）雜誌上發表。 Bob Wolkow 日前接受採訪時指出，目前普通的電晶體中，需要上百萬個電子才能使電流轉換方向，但此次技術突破使得單一電子便能轉換該電流方向，以致可以大幅節約電能。過去曾有研究人員聲稱發現分子的導電性，但均沒有科學證據支持。他和他的同事此次使用掃描穿隧顯微鏡，確認可將直徑約為十億分之一米的分子轉換為電晶體。 此項進展可能是電子工業自五○年代電晶體革命以來的最大突破。多倫多大學的奈米技術專家魯達 Harry Ruda 指出，權威的「自然」雜誌稿件審核過程十分嚴格， Bob Wolkow 的研究成果能夠發表意義重大，必然會引起國人對奈米研究的廣泛注意，對相關領域科學家爭取研究資金很有幫助。 此外 Bob Wolkow 表示，他和他的同事已經著手設計有示範意義的單分子晶體電器，預計在 5 至 10 年內可出成果。他指出，這一示範電器不但可為開拓奈米電腦技術做出貢獻，還有可能為減低電腦晶片的生產成本鋪平道路。
Skype多了測謊功能？以色列BATM公司研發出Skype整合性軟體-KishKish，未來將提供消費者以付費的方式使用測謊功能。此軟體係透過分析談話者聲音中的緊張程度，告知軟體使用者「對方是否說謊」。如此一來，使用者便可透過軟體分析出來的指示，而即時修正詢問的問題。據說，美軍已開始運用此套軟體！ 雖然KishKish的使用如此便利，但是根據英國專家表示，網路使用者若不當使用KishKish，將可能違反「資料保護法」（Data Protection Act）而負擔民事責任，甚至還可能涉及「調查權規範法」（Regulation of Investigatory Powers Act，RIPA）將被處以兩年以上有期徒刑或科以罰金。 至今，Skype仍尚未公布其價格及發布日期。
促進頻譜使用效率--美國啟動獎勵拍賣機制為了滿足行動寬頻時代對於無線頻譜的需求，美國規劃了多種不同的頻譜釋出、分享或共用的政策，以增加可用的頻寬或提高使用效率，其中針對既有的數位無線電視服務所使用的頻譜，則提出「獎勵拍賣機制(incentive auctions)」。此機制最初於2010年由FCC提出，其特色在於具備自願性及市場導向兩項內涵。本次美國啟動獎勵拍賣機制，主要目的為藉由新業務之頻譜拍賣，將所得之部分標金作為誘因，以鼓勵廣播電視業者繳回原有頻譜使用權，並促進美國寬頻計畫(National Broadband Plan)之發展。目前針對此機制，美國國會已於2012年2月22日正式授權FCC執行。而FCC則於2012年10月2日發布FCC 12-118法規制定建議通知(Notice of proposed rulemaking, NPRM)，並依據美國「2012年中產階級稅收減免及創造就業法案」(Middle Class Tax Relief and Job Creation Act of 2012)之授權，針對廣播電視頻譜獎勵拍賣機制進行商擬，並廣徵各界建議。 本次廣播電視頻譜獎勵拍賣機制主要可區分為三個步驟，(一)反向拍賣(reverse auction)，指廣播電視業者藉由投標之方式，標得原持有頻段之自動放棄權。(二)頻譜重組(reorganization or repacking)，此步驟是為了讓廣播電視頻譜藉由重組後，可釋出部分的超高頻(UHF)頻段以作為其他業務使用。(三)正向拍賣(forward auction)，即針對頻譜進行重新授權，對此FCC提出將以更為彈性的概念使用頻譜。 目前整體拍賣機制尚處發展階段，各步驟內部運作應如何規劃，FCC仍積極尋求外界建議。不過從FCC所提出的五項關鍵政策目標(key policy goals)中，亦可歸納出未來整體機制的規劃方針包含(一)提升頻譜效能，期望未來得以5MHz為拍賣單位，並且支持各類無線行動技術如W-CDMA、HSPA以及LTE技術之發展、(二)確保不干擾鄰近國家頻譜之使用、(三)發展各頻段之通用性(interchangeable)，促進各頻譜區段在重新配置後具備可替換性、(四)刺激頻譜回收達理想數量，以及(五)促進頻譜技術中立概念。面對美國在提升頻譜使用效率策略上又一記新嘗試，即便目前仍有許多不確定因素亟待突破，但就促進頻譜使用效率而言，亦不失為頻譜交易機制之外，另一可參考之方向。