新加坡網路安全局發布人工智慧系統安全指南，以降低AI系統潛在風險
新加坡網路安全局（Cyber Security Agency of Singapore, CSA）於2024年10月15日發布人工智慧系統安全指南（Guidelines on Securing AI Systems），旨在強化AI系統安全，協助組織以安全之方式運用AI，降低潛在風險。 該指南將AI系統生命週期分成五個關鍵階段，分別針對各階段的安全風險，提出相關防範措施：
（1）規劃與設計：提高AI安全風險認知能力，進行安全風險評估。
（2）開發：提升訓練資料、模型、應用程式介面與軟體庫之供應安全，確保供應商遵守安全政策與國際標準或進行風險管理；並辨識、追蹤及保護AI相關資產（例如模型、資料、輸入指令），以確保AI開發環境安全。
（3）部署：適用標準安全措施（例如存取控制、日誌記錄），並建立事件管理程序。
（4）運作與維護：持續監控AI系統的輸入和輸出，偵測異常與潛在攻擊，並建立漏洞揭露流程。
（5）壽命終期：應根據相關行業標準或法規，對資料與模型進行適當之處理、銷毀，防止未經授權之存取。
CSA期待該指南發布後，將有助於預防供應鏈攻擊（supply chain attacks）、對抗式機器學習攻擊（Adversarial Machine Learning attacks）等安全風險，確保AI系統的整體安全與穩定運行。
翁嘉璟
副法律研究員 編譯整理
Guidelines and Companion Guide on Securing AI Systems, Cyber Security Agency of Singapore, https://www.csa.gov.sg/Tips-Resource/publications/2024/guidelines-on-securing-ai (last visited Oct. 27, 2024).
Singapore’s Cyber Security Agency issues security guidelines for AI systems, CMS Law-Now, https://cms-lawnow.com/en/ealerts/2024/10/singapore-s-cyber-security-agency-issues-security-guidelines-for-ai-systems?utm_source=lawnow-realtime&utm_medium=email&utm_campaign=Singapore%e2%80%99s%20Cyber%20Security%20Agency%20issues%20security%20guidelines%20for%20AI%20systems&utm_id=4097&utm_term=read_more&utm_content=697002 (last visited Oct. 27, 2024).
許嘉芳，〈美國國家標準暨技術研究院發布「人工智慧風險管理框架：生成式AI概況」〉，資策會科技法律研究所，2024年10月，https://stli.iii.org.tw/article-detail.aspx?tp=1&d=9263&no=64（最後瀏覽日：2024/10/28）。
2024年9月23日起，美國加州洛杉磯高等法院於康普頓（Compton）與比佛利山莊（Beverly Hills）法院試行數位證據系統，旨於簡化小額訴訟程序，使訴訟當事人透過數位證據系統平臺進行數位證據開示，節省郵寄實體證據副本所花費的時間、人力、物力。洛杉磯高等法院為全美最大之一審法院，法院轄區人數逾1千萬人，其所推動之數位證據系統具參考價值。 以下說明數位證據系統的重點： 1.數位證據系統適用的案件範圍 適用於「小額訴訟當事人於聽證會前之證據開示程序」。 關於證據開示程序，訴訟當事人應至少於訴訟聽證會前10 日完成證據開示。證據開示程序的傳統做法為當事人將證據副本「郵寄」給對造，而數位證據系統允許訴訟兩造於聽證會前，以「電子方式」交換證據。 依加州法規定，小額訴訟指原告向被告（個人、企業或政府單位）請求給付的金額在1.25萬美元以下。 2.數位證據系統可上傳的數位證據類型 訴訟當事人輸入「案號、聽證會具體日期、個人資訊（電子信箱或手機號碼）及6位數字金鑰」以驗證身分、註冊數位證據系統帳號後，可於數位證據系統分批上傳多種文件格式，包含時戳證據（Time stamp evidence）、圖片、影片、文字檔（如Word、OpenOffice）、PDF檔案、HTML檔案、簡報檔案等。並勾選上傳資料之當事人身分（原告或被告），確認上傳證據。 當事人應於確認上傳之每筆證據的註解中，簡述（briefly）該證據資訊。 經當事人確認、成功上傳至數位證據系統的每筆證據，都會擁有其唯一的（unique）證據編號（Exhibit Number）。 該系統最終會製作出一份「涵蓋該案件所有數位證據資訊的證據清單（Exhibit List）」PDF檔案，包含：案號、數位證據編號、證據縮圖及證據之簡述資訊等資訊，以便當事人依證據清單，參考（refer to）證據編號進行證據開示。 3.數位證據系統的檔案權限控管之設定 (1)上傳、編輯、刪除權限 訴訟當事人可上傳數位證據。 於系統上傳、未確認送出數位證據的階段，當事人則可編輯、刪除數位證據。 (2)線上瀏覽權限 上傳證據之當事人、司法人員擁有線上瀏覽「所有經當事人確認上傳之數位證據」的權限。 於系統確認數位證據後，上傳證據之當事人可於系統「勾選欲共享之數位證據」後，輸入對造之姓名、電子信箱，與對造共享其指定之數位證據。 (3)下載權限 訴訟期間至結案後60日內，訴訟兩造均可於數位證據系統下載數位證據。 4.證據於數位證據系統的保存期限 於小額訴訟結案後60日內，系統將自動刪除該案上傳之數位證據。 美國加州推動數位證據平臺，使當事人於平臺驗證身分、上傳時戳等數位證據，由平臺產出涵蓋案號、證據編號及證據資訊之證據清單，透過系統之權限控管加強證據管理，以數位證據開示減輕傳統證據開示程序之負擔。關於司法資料交換，參照我國由司法院、法務部、臺灣高等檢察署、內政部警政署及法務部調查局於2024年4月正式啟用之「司法聯盟鏈共同驗證平台」，以「b-JADE證明標章」作為數位資料管理之標準，透過數位資料歷程管理與資料存證機制，鞏固證物保管機制。 上述之國內外趨勢之資料管理之作法可被資策會科法所發布之《重要數位資料治理暨管理制度規範（下稱EDGS）》所涵蓋，美國加州數位證據系統，透過管理證據生命週期之各階段，首先由當事人上傳、確認證物資訊及建置清單；其次設有不同程度的檔案使用權限；並訂有證據資料之保存期限，以便進行證據管理、加速司法訴訟之證據開示程序。而為方便資料管理者控管數位資料，EDGS同樣強調資料之生命週期管理，由「檔案標題或檔案的相關資訊，需要能對應特定的數位資料」，輔以建立「資料清單」有助於盤點多筆資料。並透過「控管資料權限」等保護措施，搭配「評估資料的維護期限」，以達到管理資料歷程的目標。建議企業將EDGS納入資料管理規劃，確保資料管控有方。 本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。 本文同步刊登於TIPS網站（https://www.tips.org.tw）
新搜尋技術將改變數位內容產業的版圖美國麻省理工學院企業論壇 (MIT Enterprise Forum) 日前在紐約市舉行了專家座談會，與會專家指出，新的網路搜尋技術，將改變數位內容產業的版圖。一個最重要的技術躍進，在於突破目前以文字為搜尋條件的限制，未來，透過新的技術，使用者將可以圖像、聲音甚至影片來進行搜尋。如此，數位內容產業的傳播將會更具效率，整個產業的發展也會更迅速，消費者也能更快速地享受到各種數位內容。且讓我們拭目以待。
國內版RoHS 將比照歐盟規定歐盟有毒物質禁用指令（ RoHS ）已自今年 7 月起上路，國際間陸續有其他國家跟進：目前為止，美國約有半數的州已通過相關法令，加州從明年起亦將開始實施；至於亞洲的日本已與歐盟同步實施、韓國將於明年 7 月上路；澳洲草案也已經出爐，至於實施日期則未定。 為與國際接軌，環保署也正積極推動國內版 RoHS ，目前法案名稱尚未確定，不過內容將會與國際接軌，除限制電子電機等產品，不得含有鉛、汞、鎘、六價鉻、聚溴聯苯和聚溴二苯醚等六種有毒化學物質或限制其比率外，檢驗標準亦將比照歐盟，採用事後市場管理機制，亦即先放行產品進口，並採事後抽測方式檢驗，因為採事前市場管理，將造成貿易障礙，實施檢驗亦有困難。至於罰責方面則仍須商榷，環保署表示目前我國要先合併「廢棄物清理法」與「資源回收再利用法」的法源，預定在年底前召開公聽會並送行政院審查，最快也要等明年立法院第一會期通過後才會實施。
美眾議院擬立法要求ISP業者留存用戶資訊八位美國眾議員於2007年2月6日連署提出新法案，擬賦予司法部門首長更大的權限要求網路服務提供者（ISP）記錄用戶的網路活動並留存特定的用戶資訊。草案提交眾議院審議後，隱私保護機構紛紛表達反對立場。 此次由德州眾議員Lamar Smith主導的新法案「the Internet Stopping Adults Facilitating the Exploitation of Today's Youth Act of 2007（簡稱SAFETY Act）」中，ISP業者必須保留的用戶資料，最低限度需包括用戶姓名、地址、電話及IP位址；至於用戶資料的留存期間，則將交由美國司法部決定。以現況而言，多數ISP業者所保存的用戶資訊均在半年以下；然而美國司法部部長Alberto Gonzales曾於2006年9月公開倡議ISP業者資料留存期間，應以兩年為宜。 此外，草案亦要求ISP業者發現其所提供的服務存在兒童色情情事時，應主動通報主管機關，否將面臨15至30萬美元的罰金；若其有意地助長兒童色情的流傳，更可能面臨最高10年的徒刑。 批評者如「民主及科技中心」（Center for Democracy and Technology；CDT）表示，此法案不啻為對憲法修正條文第一條的威脅，毫無限制的授權更可能肇致用戶資料的留存期間成為司法首長個人得以專擅決策之事項。