新加坡網路安全局發布人工智慧系統安全指南，以降低AI系統潛在風險
新加坡網路安全局（Cyber Security Agency of Singapore, CSA）於2024年10月15日發布人工智慧系統安全指南（Guidelines on Securing AI Systems），旨在強化AI系統安全，協助組織以安全之方式運用AI，降低潛在風險。 該指南將AI系統生命週期分成五個關鍵階段，分別針對各階段的安全風險，提出相關防範措施：
（1）規劃與設計：提高AI安全風險認知能力，進行安全風險評估。
（2）開發：提升訓練資料、模型、應用程式介面與軟體庫之供應安全，確保供應商遵守安全政策與國際標準或進行風險管理；並辨識、追蹤及保護AI相關資產（例如模型、資料、輸入指令），以確保AI開發環境安全。
（3）部署：適用標準安全措施（例如存取控制、日誌記錄），並建立事件管理程序。
（4）運作與維護：持續監控AI系統的輸入和輸出，偵測異常與潛在攻擊，並建立漏洞揭露流程。
（5）壽命終期：應根據相關行業標準或法規，對資料與模型進行適當之處理、銷毀，防止未經授權之存取。
CSA期待該指南發布後，將有助於預防供應鏈攻擊（supply chain attacks）、對抗式機器學習攻擊（Adversarial Machine Learning attacks）等安全風險，確保AI系統的整體安全與穩定運行。
翁嘉璟
副法律研究員 編譯整理
Guidelines and Companion Guide on Securing AI Systems, Cyber Security Agency of Singapore, https://www.csa.gov.sg/Tips-Resource/publications/2024/guidelines-on-securing-ai (last visited Oct. 27, 2024).
Singapore’s Cyber Security Agency issues security guidelines for AI systems, CMS Law-Now, https://cms-lawnow.com/en/ealerts/2024/10/singapore-s-cyber-security-agency-issues-security-guidelines-for-ai-systems?utm_source=lawnow-realtime&utm_medium=email&utm_campaign=Singapore%e2%80%99s%20Cyber%20Security%20Agency%20issues%20security%20guidelines%20for%20AI%20systems&utm_id=4097&utm_term=read_more&utm_content=697002 (last visited Oct. 27, 2024).
許嘉芳，〈美國國家標準暨技術研究院發布「人工智慧風險管理框架：生成式AI概況」〉，資策會科技法律研究所，2024年10月，https://stli.iii.org.tw/article-detail.aspx?tp=1&d=9263&no=64（最後瀏覽日：2024/10/28）。
日本經濟產業省為協助中小企業更新老舊機器設備，並鼓勵中小企業導入新穎先進設備改善企業生產率，公布「先進設備導入計畫指引」（導入促進指針），於2019年至2021年間授權地方政府訂定先進設備導入計畫（先端設備等導入計画），提出區域內申請計畫的資格、設備定義、計畫目的與財產稅減免額度，以促成地方中小企業對地方特色的貢獻與參與，並改善在地產業環境與結構。 符合資格的中小企業若能在核准計畫年度內，每年勞動生產率提高達3%，可適用財產稅稅率減半或0%之優惠稅率（非免稅）。「先進設備導入計畫指引」亦明確指出，審核通過之計畫仍可進一步適用經濟產業省「中小型製造服務經營支援補助」（ものづくり・商業・サービス経営力向上支援補助金）、「服務業IT應用生產力提升補助」（サービス等生産性向上IT導入支援事業），享有更多的補助金補助。 所稱設備係指任何機械、裝置、備品、建築物附屬設備、軟體，以及電子檢驗或測量儀器。各地方政府訂定計畫時，可依其產業政策進一步限縮範圍。而先進之定義，係指欲購置設備之良率或生產效率，應較所淘汰設備高1%以上。有關新、舊設備之汰換應以同產業、同生產流程者為限，兩者比較之期間為淘汰設備原銷售日期起後10年內。由此可知，先進設備導入計畫的特殊性在於加速中小企業汰舊換新，提高勞動生產率以因應人口高齡化，而與鼓勵企業購買最新、最尖端設備之補助措施有所不同。 此外，為健全地方財政自主，「先進設備導入計畫指引」亦要求各地方政府應說明地方產業、環境或人文特色及先進設備的投資條件，以促進經濟發展與地方產業結構的融合。該指引具體建議包括： 應考量到中小企業導入先進設備提高勞動生產率後，影響當地就業人口需求，以及如何避免企業裁員的機制。 導入之先進設備因運作所產生之噪音、光害、排放污染等環境問題；以及導入之設備是否影響到當地居民生活作息而有侵害公共秩序之虞。 考量到財產稅為地方稅之稅源，應避免過度減免而導致地方財政虧損。
英國「數位紅利」頻譜管理政策簡介 美國聯邦貿易委員會（FTC）提議加強兒童隱私規則，以進一步限制企業將兒童的資訊用來營利美國聯邦貿易委員會（Federal Trade Commission, FTC）於2023年12月對《兒童線上隱私保護規則》（Children's Online Privacy Protection Rule, COPPA Rule）提出修法草案，並於2024年1月11日公告60日供公眾意見徵詢。 FTC依據兒童線上隱私保護法（Children's Online Privacy Protection Act, COPPA）第6502節授權，訂定COPPA Rule，並於2000年通過生效，要求網站或提供線上服務的業者在蒐集、使用或揭露13歲以下兒童的個人資訊之前必須通知其父母，並獲得其同意。本次提議除了限制兒童個人資訊的蒐集，亦限制業者保留此些資訊的期間，並要求他們妥善保存資料，相關規定如下： （1）置入固定式廣告時需經認證：COPPA所涵蓋的網站和線上服務業者現在需要獲得兒童父母的同意並取得家長的授權才能向第三方（包括廣告商）揭露資訊，除非揭露資訊是線上服務所不可或缺之部分。且因此獲悉的兒童永久身分識別碼（persistent identifier）也僅止於網站內部利用而已，業者不能將其洩漏予廣告商以連結至特定個人來做使用。 （2）禁止以蒐集個資作為兒童參與條件：在蒐集兒童參與遊戲、提供獎勵或其他活動的個資時，必須在合理必要的範圍內，且不能用個資的蒐集作為兒童參與「活動」的條件，且對業者發送推播通知亦有限制，不得以鼓勵上網的方式，來蒐集兒童的個資。 （3）將科技運用於教育之隱私保護因應：FTC提議將目前教育運用科技之相關指南整理成規則，擬訂的規則將允許學校和學區授權教育軟硬體的供應商將科技運用於蒐集、使用和揭露學生的個資，但僅限使用於學校授權之目的，不得用於任何商業用途。 （4）加強對安全港計畫的說明義務：COPPA原先有一項約款，內容是必須建立安全港計畫（Safe Harbor Program），允許行業團體或其他機構提交自我監督指南以供委員會核准，以執行委員會最終定案的防護措施，此次擬議的規則將提高安全港計畫的透明度和說明義務，包括要求每個計畫公開揭露其成員名單並向委員會報告附加資訊。 （5）其它如強化資訊安全的要求以及資料留存的限制：業者對於蒐集而來的資訊不能用於次要目的，且不能無限期的留存。 FTC此次對COPPA Rule進行修改，對兒童個人資訊的使用和揭露施加新的限制，除了將兒童隱私保護的責任從孩童父母轉移到供應商身上，更重要的是在確保數位服務對兒童來說是安全的，且亦可提升兒童使用數位服務的隱私保障。
英國商業、能源及產業策略部發布智慧饋電保證公眾諮詢英國商業、能源和產業策略部（Business, Energy and Industrial Strategy，以下簡稱BEIS）於2019年1月提出智慧饋電保證（Smart Export Guarantee，以下簡稱SEG），於此保證下，BEIS將擬定一套不同於躉購制度之政策框架，使小型生產消費者（prosumer）所生產之綠色電力，可於此一政策框架之保障下，與售電業者議約，並將電力售予售電業者，以減輕英國政府預計於今年3月廢除躉購制度所帶來之衝擊。 SEG重要之內容包含： （1） SEG課予大型售電業（用戶數大於25萬之售電業）收購小型生產消費者所生產之綠色電力之義務。 （2） 小型生產消費者所生產之綠色電力之交易價格及相關契約內容，將交由售電業者與小型生產消費者自行協議。但SEG要求售電業業者對於綠色電力之收購價格不可低於（或等於）零。 （3） 於「負電價」期間，即便小型生產消費者將綠色電力輸入電網，售電業者也不得因此對消費者課徵任何費用。 （4） 小型生產消費者所生產之綠色電力之計算方式，必須以實際測得之產出電力為準，不得以預估之容量為準，亦即，小型生產消費者如裝設智慧電表而可記錄綠色電力生產量時，其生產之綠色電力始有被收購之可能。 （5） 小型生產消費者之再生能源發電設備，不論容量大小，皆應符合躉購制度下之再生能源發電設備之規格標準，但不得超過5MW。 此一政策立意良善，然仍有不少質疑聲音，其中的聲音不乏：（1）BEIS如何確保小型生產消費者所獲取之契約價格，可以真實反映市場之真正應有之電價？（2）SEG於今年3月躉購費率制度廢除後半年間，可能尚未會出現定案之政策框架，其間將會產生立法之真空狀態，其間要如何減緩制度改革對於產業帶來之衝擊？（3）政府所主導之小型消費者端之智慧電表之建置，於英國仍緩如牛步，而智慧電表對於小型消費者而言，如其欲主動裝設，每具將造成300歐元之額外支出，同時每年需額外支出50歐元之維修費用，此一事實對於SEG之推行無疑將造成阻礙。