新加坡網路安全局發布人工智慧系統安全指南，以降低AI系統潛在風險
新加坡網路安全局（Cyber Security Agency of Singapore, CSA）於2024年10月15日發布人工智慧系統安全指南（Guidelines on Securing AI Systems），旨在強化AI系統安全，協助組織以安全之方式運用AI，降低潛在風險。 該指南將AI系統生命週期分成五個關鍵階段，分別針對各階段的安全風險，提出相關防範措施：
（1）規劃與設計：提高AI安全風險認知能力，進行安全風險評估。
（2）開發：提升訓練資料、模型、應用程式介面與軟體庫之供應安全，確保供應商遵守安全政策與國際標準或進行風險管理；並辨識、追蹤及保護AI相關資產（例如模型、資料、輸入指令），以確保AI開發環境安全。
（3）部署：適用標準安全措施（例如存取控制、日誌記錄），並建立事件管理程序。
（4）運作與維護：持續監控AI系統的輸入和輸出，偵測異常與潛在攻擊，並建立漏洞揭露流程。
（5）壽命終期：應根據相關行業標準或法規，對資料與模型進行適當之處理、銷毀，防止未經授權之存取。
CSA期待該指南發布後，將有助於預防供應鏈攻擊（supply chain attacks）、對抗式機器學習攻擊（Adversarial Machine Learning attacks）等安全風險，確保AI系統的整體安全與穩定運行。
翁嘉璟
副法律研究員 編譯整理
Guidelines and Companion Guide on Securing AI Systems, Cyber Security Agency of Singapore, https://www.csa.gov.sg/Tips-Resource/publications/2024/guidelines-on-securing-ai (last visited Oct. 27, 2024).
Singapore’s Cyber Security Agency issues security guidelines for AI systems, CMS Law-Now, https://cms-lawnow.com/en/ealerts/2024/10/singapore-s-cyber-security-agency-issues-security-guidelines-for-ai-systems?utm_source=lawnow-realtime&utm_medium=email&utm_campaign=Singapore%e2%80%99s%20Cyber%20Security%20Agency%20issues%20security%20guidelines%20for%20AI%20systems&utm_id=4097&utm_term=read_more&utm_content=697002 (last visited Oct. 27, 2024).
許嘉芳，〈美國國家標準暨技術研究院發布「人工智慧風險管理框架：生成式AI概況」〉，資策會科技法律研究所，2024年10月，https://stli.iii.org.tw/article-detail.aspx?tp=1&d=9263&no=64（最後瀏覽日：2024/10/28）。
隨著人工智慧（AI）視覺處理技術愈發進步，圖片及影像的篡改也更加普遍，甚至使人難以分辨其真偽，例如一款應用程式（App）－DeepNude便是運用此技術，將人穿著衣服的照片改作為裸體圖像；此種AI技術因對於社會及被偽造之當事人權益影響重大，進而引起美國立法者的極度重視。 日前維吉尼亞州為了遏止如DeepNude此類的應用程式，便於該州之《復仇式色情法》（Revenge porn law），擴大復仇式色情的涵蓋範圍，使其包括利用機器學習技術偽造他人照片或影像等深度偽造（Deepfake）行為。 但該深度偽造技術之應用，實際上並不僅侷限於情色領域，故美國紐約州眾議員伊薇特．克拉克（Yvette Clarke）於本年度（2019年）6月即提出了《深度偽造究責法案》（Defending Each and Every Person from False Appearances by Keeping Exploitation Subject to Accountability Act of 2019., DEEP FAKES Accountability Act.）草案，本草案令人關注之處除配合現今科技發展特性為規定外，另針對實務上曾衍生的爭議問題，特別將外國勢力或其代理人（foreign power or an agent thereof）介入美國國內政治行為，如意圖影響美國國內公共政策辯論(domestic public policy debate)、選舉或其他不得合法從事的行為等納入規範。 依該草案之內容，其所規範者包含視聽紀錄、視覺紀錄及錄音紀錄；意即任何人使用任何技術或設備製作假冒他人名義（false personation）的紀錄，並於網路或其他知識傳播管道發布者，應有浮水印、口頭陳述或是於文本中有簡要說明等揭露，以使他人得清楚知悉該紀錄並非真實，如行為人有違反該揭露規定並利用深度偽造1.意圖羞辱或騷擾(包含性內容)；2.意圖造成暴力、身體傷害、煽動暴亂、外交衝突或干預選舉；3.詐欺犯罪等，將可處5年以下有期徒刑，或科或併科罰金。另若行為人修改或刪除他人揭露之資訊而有上述意圖或犯罪行為者，亦可處以同等罰責。
美韓兩國反托拉斯法主管機關共同簽署反托拉斯備忘錄為了促進美國、韓國兩國之間的反托拉斯法主管機關合作。今年9月8日，美國司法部(Department of Justice,DOJ)、美國聯邦貿易委員會(Federal Trade Commission,FTC)與韓國公平貿易委員會(Korea Fair Trade Commission,KFTC)於華盛頓特區簽訂一反托拉斯備忘錄(memorandum of understanding,MOU)；該備忘錄係由美國司法部反托拉斯署助理檢察總長Bill Baer與聯邦貿易委員會女主席Edith Ramirez及韓國公平交易委員會Jeong Jae-chan共同簽署。本備忘錄於簽署後立即生效。 反托拉斯署助理檢察總長Bill Baer表示:「具有坦誠和建設性對話之執法合作對於美國、韓國及全世界各地之競爭市場維持皆極其重要。本備忘錄標示了一直以來美國與韓國公平貿易委員會之間的合作關係；並展現出我們在未來日子中，欲持續加強該合作關係的企圖心。」該備忘錄的重點包含: 反托拉斯合作重要性的相互承認，包括在進行共同執法時，互相協調的重要性。 闡明了美國反托拉斯執法機關與韓國公平貿易委員會之間溝通的重要性。 承諾保護另一方所提供訊息之機密性；並承諾在法規不允許的情況下，禁止分享資訊。 自韓國1981年通過其反托拉斯法後，美國反托拉斯主管機關和韓國公平貿易委員會之合作關係越來越緊密；其中包括政策意見的交換，並視情況進行合作開展調查。本次所簽訂之備忘錄旨在進一步推動這些合作關係。
美國聯邦最高法院於Michigan v. EPA案中認定減碳措施需先考量成本效益 調查指出：美國民眾對無線電視數位化缺乏準備美國審計部(Government Accountability Office, GAO)就無線電視數位化轉換一事進行調查並於2008年6月10日公布報告。該調查報告發現，雖然超過8成民眾對無線電視數位化有所認知，但亦有許多民眾認知有誤。 此外，該調查報告亦指出，收看無線電視之民眾中，45%尚未購買機上盒以因應無線電視數位化；反之並不需要為數位化進行準備之民眾(如收看有線電視或衛星電視者)，卻有30%表示已經做好無線電視數位化之因應措施。在此同時，仍有部分低功率電視台將不會全面數位化，故接收無線電視之民眾可能必須備有同時可接收類比與數位訊號之設備，方能夠維持其無線電視的收視。 為鼓勵民眾購買數位機上盒，美國國家電信與資訊管理局(National Telecommunications and Information Administration, NTIA)稍早已經發出80萬張折價券，但僅有不到一半的折價券被使用，至於尚未被使用的折價券亦已逾期而無法使用。 除機上盒的準備外，隨著訊號數位化，無線電視台的訊號強度及受干擾程度也將有所改變，故無線電視台需調整電台或天線的位置，以避免部分地區民眾在數位化後無法收看清晰的影像。美國通訊傳播委員會之工程師指出，約有1%的民眾可能會有前述困擾，但截至目前為止，仍有部分電視台受限於經費問題而尚未有所因應。