日本發布創新治理報告書，主張強化企業等對法規範形成的實質參與
日本經濟產業省於2020年7月13日發布「創新治理：實現Society5.0的法規與結構設計（GOVERNANCE INNOVATION: Society5.0の実現に向けた法とアーキテクチャのリ・デザイン）」報告書。其作成背景係依據日本在去（2019）年G20峰會時，基於大阪框架（大阪トラック、Osaka Track）下的「可資信任的資料自由流通機制（Data Free Flow with Trust（DFFT））願景，所提出的創新治理目標。該目標指出，過往的治理模式主要依靠法律規範，但明顯已追趕不及數位化與創新的快速步伐，致生新型態風險無法獲得有效控管、法律可能阻礙創新等問題，因而有必要革新治理模式，以掃除創新活動的障礙。基此，就上述創新治理模式的必要性與方式，日本召集國內外法律、經濟、科技、經濟等各界專家徵求意見進行討論，彙整後作成本報告書。
本報告書主張，應擺脫法規範的設計、法遵與執行，均由國家主導的傳統模式，建立提高企業參與規範擬定與實施程度的治理型態。具體主要包含以下作法：
（1）法規範制定層面：規範之制定方向，改以作成價值決定的目的導向為主。至於細節性的行為義務，包含企業如何在數位化的虛擬場域內，透過程式語言等途徑落實上述法目的，則應由該些企業、以及在虛擬場域活動的社群或個人等利害關係人共同參與擬定相關的指引或標準。
（2）法遵層面：如上（1）所述，未來法規範制定將轉為形塑價值與目的為主，不會明確訂定企業的行為義務，而交由企業來擬訂。企業所制定之行為規範能否達成法規範目的，則須仰賴企業主動揭露其法遵方法，供外界檢視。因此，除企業應採用創新手法達成法目的、並對內落實法遵事項的說明外，應運用各種內外部查核機制來控管風險。同時，應著手研發相關技術或措施，讓利害關係人得取用企業之即時資料，以隨時確認企業所採取方法有無達成法遵，實現有效監督。
（3）執法層面：政府應以企業之行為對社會產生影響的程度，作為執法標準。若遭遇AI參與決策而衍生的事故，不應歸責於個人，而應建立獎勵機制，鼓勵企業積極協助究明事故原因。另一方面，亦應推動訴訟與訴訟外紛爭解決機制的線上化（Online Dispute Resolution, ODR），例如共享經濟平台服務的認證機制與標準、就電商平台上發生的小額消費糾紛由平台透過公告罰則等方式抑止與處理糾紛。
本文為「經濟部產業技術司科技專案成果」
劉純妤
法律研究員 編譯整理
新加坡網路安全局（Cyber Security Agency of Singapore, CSA）於2024年10月15日發布人工智慧系統安全指南（Guidelines on Securing AI Systems），旨在強化AI系統安全，協助組織以安全之方式運用AI，降低潛在風險。 該指南將AI系統生命週期分成五個關鍵階段，分別針對各階段的安全風險，提出相關防範措施： （1）規劃與設計：提高AI安全風險認知能力，進行安全風險評估。 （2）開發：提升訓練資料、模型、應用程式介面與軟體庫之供應安全，確保供應商遵守安全政策與國際標準或進行風險管理；並辨識、追蹤及保護AI相關資產（例如模型、資料、輸入指令），以確保AI開發環境安全。 （3）部署：適用標準安全措施（例如存取控制、日誌記錄），並建立事件管理程序。 （4）運作與維護：持續監控AI系統的輸入和輸出，偵測異常與潛在攻擊，並建立漏洞揭露流程。 （5）壽命終期：應根據相關行業標準或法規，對資料與模型進行適當之處理、銷毀，防止未經授權之存取。 CSA期待該指南發布後，將有助於預防供應鏈攻擊（supply chain attacks）、對抗式機器學習攻擊（Adversarial Machine Learning attacks）等安全風險，確保AI系統的整體安全與穩定運行。
歐盟法院做成先決裁判，臉書粉絲專頁管理員也有責任保護用戶資料隱私歐盟法院於2018年6月5日對德國行政法院依歐盟運作條約第267條（267 AEUV），就歐盟個人資料保護指令（95/46/EC）第2、4條之解釋適用，提起的先訴裁判申請做出先訴判決。判決提及利用臉書（Face Book）平台經營粉絲專頁，並獲取臉書相關服務的管理者，同樣負有保護用戶資料隱私的責任。此將影響眾多的粉絲專頁，判決指出不僅臉書，連粉絲專頁的管理員都有保護訪客資料安全的責任。 由於臉書粉絲專業的經營者，並未保存其粉絲的相關資料，既不經手資料處理，更無力影響資料如何呈現，因此主張資料處理的責任應該在於臉書身上，處罰對象也應該是臉書。判決理由指出，臉書作為粉絲專頁相關個人資料的控制者（data controller）應負相關責任並無疑問，但歐盟地區粉絲專業的管理者，應該和臉書一樣，作為資料處理的共同責任者。蓋管理者係運用臉書提供的設定參數，將粉絲專頁的近用者資料蒐集處理，應該負共同責任。因此歐盟法院判決，利用臉書平台經營粉絲專頁，並獲取臉書相關服務的管理者（administrator），並不能免於個資保護法律的法遵義務。 另外依據德國聯邦資料保護與資訊安全委員會（BFDI）意見，認為雖然判決是基於一般資料保護規則（GDPR）生效之前就已經存在的法律，但法院所確定的共同責任原則也適用於新的法律。BFDI特別建議公共機構以歐盟判決為契機，審查公共機構粉絲頁面的合法性與是否遵守法律規定，並在必要時說服Facebook調整資料保護。
美國FCC將檢視是否有必要加強隱私規定美國FCC於二月份表示其將檢視採取額外的安全措施，是否能夠有效防止電信公司所持有之個人敏感性資訊外洩之問題，並就與此所涉之問題與建議採取之法律措施諮詢公眾之意見。此次諮詢的議題包括目前電信公司所採取的安全措施為何、此等措施存有何種缺失、以及採取何種措施將能夠更有效地保護消費者的隱私，並就以下五種特定的安全措施，諮詢公眾之意見，包括： (1) 由消費者設定密碼。 (2) 建立一套查驗機制，此一機制必須能夠記錄消費者個人資料之接近使用情況，包括時間、接近使用的資料內容、接近使用人…等之資訊。 (3) 電信公司必須就客戶專有之網路資訊 (customer proprietary network information，CPNI)進行加密。 (4) 限制資料之保存，要求電信公司必須刪除所有不必要的資料。 (5) 當個人資料遭他非法接近使用時，電信公司應通知消費者。 除此之外，FCC亦就其是否應修改現行法規，要求電信公司應就其實施消費者保護措施之狀況，提交年度稽核報告以及全年之客訴資料進行公眾意見諮詢，並且就電信公司是否應於提供CPNI前，致電予消費者，以確保CPNI資料之索取係由消費者本人親為一事諮詢公眾之意見。
美國加州「對話機器人揭露法案」美國加州議會於2018年9月28日通過加州參議院之對話機器人揭露法案（Bots Disclosure Act, Senate Bill No. 1001）。此一法案於美國加州商業及專門職業法規（Business and Professions Code）第七部（Division）第三篇（Part）下增訂了第六章（Part）「機器人」乙章，擬防範「利用對話機器人誤導消費者其為真人同時並誤導消費者進行不公平交易」之商業模式，本法案將於2019年7月1日正式生效。依此法案，企業如有使用對話機器人，則應揭露此一事實，讓消費者知悉自己是在與對話機器人溝通。 美國加州對話機器人揭露法案對於「機器人」之定義為全自動化之線上帳戶，其所包含之貼文、活動實質上並非人類所形成。對於「線上」之定義為，任何公眾所可連結上之線上網站、網路應用軟體、數位軟體。對於「人類」之定義為自然人、有限公司、合夥、政府、團體等其他法律上組織或擬制人格。如業者使用對話機器人進行行銷、推銷時，有揭露其為對話機器人之事實，將不被認定違反對話機器人揭露法案，但揭露之手段必須明確、無含糊且合理可讓消費者知悉其所對話之對象為非人類之機器人。值得注意者為，美國加州對話機器人揭露法案，針對「美國本土造訪用戶群在過去12月間經常性達到每月10,000,000人」之網站，可排除此規定之限制。 本法案僅課予業者揭露義務，至於業者違反本法之法律效果，依本法案第17941條，需參照其他相關法規予以決定。例如違反本法案者，即可能被視為是違反美國加州民法揭露資訊之義務者而需擔負相關民事賠償責任。最後值得注意者為，本法案於第17941條針對「利用對話機器人誤導公民其為真人同時影響公民投票決定」之行為，亦納入規範，亦即選舉人如有利用對話機器人影響選舉結果而未揭露其利用對話機器人之事實時，依本條將被視為違法。