韓國「電子文件認證管理系統」（Certified E-Document Authority System）法制化之簡介
日本經濟產業省（下稱經產省）於2023年11月22日發布《促進資安攻擊受害資訊共享檢討會最終報告書》（サイバー攻撃による被害に関する情報共有の促進に向けた検討会の最終報告書），主張共享資安攻擊受害資訊，掌握資安攻擊全貌，防止損害範圍擴大。經產省提出具體建議如下： 1.促進各專門組織間之資訊共享：藉由專門組織間的資訊共享，及早採取適當因應措施，避免損害持續擴大，並降低受害成本。所謂專門組織包含資安廠商、資安監控中心(Security Operation Center, SOC)營運商、防毒廠商，與依法令成立從事資安事件諮詢與分析之非營利組織，例如：一般社團法人日本電腦網路危機處理暨協調中心（一般社団法人JPCERTコーディネーションセンター），以及一般財團法人日本網路犯罪對策中心（一般財団法人日本サイバー犯罪対策センター）等。 2.共享無從識別受害組織之資訊：為加快資訊共享，經產省建議將資料去識別化至無從識別受害組織之程度，即可不經受害組織同意而共享資訊。 3.提出《攻擊技術資訊處理與活用指引草案》（攻撃技術情報の取扱い・活用手引き（案））：為提升專門組織共享資訊成效，經產省於指引中彙整受害組織資料去識別化作法，以及各專門組織間共享攻擊技術資訊之具體策略。 4.於保密協議中加入免責條款：經產省建議於受害組織與專門組織簽訂之保密協議中，加入專門組織免責條款，使專門組織具有利用或揭露攻擊技術資訊裁量權，對於利用或揭露資訊，致生受害組織被識別等損害時，非因故意或重大過失不須負擔法律責任，以利推動資訊共享。
落實完善數位資料管理機制，有助於降低AI歧視及資料外洩風險落實完善數位資料管理機制， 有助於降低AI歧視及資料外洩風險 資訊工業策進會科技法律研究所 2023年07月07日 近年來，科技快速發展，AI(人工智慧)等技術日新月異，在公私部門的應用日益廣泛，而且根據美國資訊科技研究與顧問公司Gartner在2023年5月發布的調查指出，隨著由OpenAI開發的ChatGPT取得成功，更促使各領域對於AI應用的高度重視與投入[1]，與此同時，AI歧視及資料外洩等問題，亦成為社會各界的重大關切議題。 壹、事件摘要 目前AI科技發展已牽動全球經濟發展，根據麥肯錫公司近期發布的《生成式人工智慧的經濟潛力：下一個生產力前沿(The next productivity frontier)》研究報告指出，預測生成式AI(Generative AI)有望每年為全球經濟增加2.6兆至4.4兆的經濟價值[2]。同時在美國資訊科技研究與顧問公司Gartner對於超過2500名高階主管的調查中，45%受訪者認為ChatGPT問世，增加其對於AI的投資。而且68%受訪者認為AI的好處大於風險，僅有5%受訪者認為風險大於好處[3]。然而有社會輿論認為AI的判斷依賴訓練資料，將可能複製人類偏見，造成AI歧視問題，而且若程式碼有漏洞或帳戶被盜用時，亦會造成資料外洩問題。 貳、重點說明 首先，關於AI歧視問題，以金融領域為例，近期歐盟委員會副主席Margrethe Vestager強調若AI用於可能影響他人生計的關鍵決策時，如決定是否能取得貸款，應確保申請人不受性別或膚色等歧視[4]，同時亦有論者認為若用於訓練AI的歷史資料，本身存有偏見問題，則可能導致系統自動拒絕向邊緣化族群貸款，在無形之中加劇，甚至永久化對於特定種族或性別的歧視[5]。 其次，關於資料外洩問題，資安公司Group-IB指出因目前在預設情況下，ChatGPT將保存使用者查詢及AI回應的訊息紀錄，若帳戶被盜，則可能洩露機敏資訊。據統計在2022年6月至2023年5月間，在亞太地區有近41000個帳戶被盜，而在中東和非洲地區有近25000個帳戶被盜，甚至在歐洲地區也有近17000個帳戶被盜[6]。另外在2023年3月時，ChatGPT除了發生部分用戶能夠檢視他人聊天紀錄標題的問題外，甚至發生個人資料外洩問題，即用戶可能知悉他人的姓名、電子郵件，付款地址，信用卡到期日及號碼末四碼等資料[7]。 參、事件評析 對於AI歧視及資料外洩等問題，應透過落實完善數位資料治理與管理機制，以降低問題發生的風險。首先，在收集訓練資料時，為篩選適合作為模型或演算法基礎的資料，應建立資料評估或審查機制，減少或避免使用有潛在歧視問題的資料，以確保分析結果之精確性。 其次，不論對於訓練資料、分析所得資料或用戶個人資料等，均應落實嚴謹的資料保密措施，避免資料外洩，如必須對於資料進行標示或分類，並依照不同標示或分類，評估及採取適當程度的保密措施。同時應對於資料進行格式轉換，以無法直接開啟的檔案格式進行留存，縱使未來可能不慎發生資料外洩，任意第三人仍難以直接開啟或解析資料內容。甚至在傳送帳戶登入訊息時，亦應採取適當加密傳送機制，避免遭他人竊取，盜取帳戶或個人資料。 財團法人資訊工業策進會科技法律研究所長期致力於促進國家科技法制環境完善，於2021年7月發布「重要數位資料治理暨管理制度規範（Essential Data Governance and Management System，簡稱EDGS）」，完整涵蓋數位資料的生成、保護與維護，以及存證資訊的取得、維護與驗證的流程化管理機制，故對於不同公私部門的AI相關資料，均可參考EDGS，建立系統性數位資料管理機制或強化既有機制。 本文同步刊登於TIPS網站（https://www.tips.org.tw） [1]Gartner, Gartner Poll Finds 45% of Executives Say ChatGPT Has Prompted an Increase in AI Investment (May 3, 2023), https://www.gartner.com/en/newsroom/press-releases/2023-05-03-gartner-poll-finds-45-percent-of-executives-say-chatgpt-has-prompted-an-increase-in-ai-investment (last visited June 30, 2023). [2]McKinsey, The economic potential of generative AI: The next productivity frontier (June 14, 2023), https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/the-economic-potential-of-generative-AI-the-next-productivity-frontier#introduction (last visited June 30, 2023). [3]Gartner, supra note 1. [4]Zoe Kleinman, Philippa Wain & Ashleigh Swan, Using AI for loans and mortgages is big risk, warns EU boss (June 14, 2023), https://www.bbc.com/news/technology-65881389 (last visited June 30, 2023). [5]Ryan Browne & MacKenzie Sigalos, A.I. has a discrimination problem. In banking, the consequences can be severe (June 23, 2023), https://www.cnbc.com/2023/06/23/ai-has-a-discrimination-problem-in-banking-that-can-be-devastating.html (last visited June 30, 2023). [6]Group-IB, Group-IB Discovers 100K+ Compromised ChatGPT Accounts on Dark Web Marketplaces; Asia-Pacific region tops the list (June 20, 2023), https://www.group-ib.com/media-center/press-releases/stealers-chatgpt-credentials/ (last visited June 30, 2023). [7]OpenAI, March 20 ChatGPT outage: Here’s what happened (Mar. 24, 2023),https://openai.com/blog/march-20-chatgpt-outage (last visited June 30, 2023).
英國BSI發布自駕車發展與評估控制系統指引英國標準協會（British Standards Institution, BSI）於2020年4月30日發布「PAS 1880:2020：自駕車控制系統開發及評估指引（PAS 1880:2020: Guidelines for developing and assessing control systems for automated vehicles）」，該文件提供一系列的準則，提供自駕車研發者於發展控制系統時可安全有效的進行布建；本文件所涵蓋之自駕車類型主要為於（研發者）所設計及規劃之特定運行範圍內（operational design domain，以下簡稱ODD）下不需人工介入即可運送旅客與貨物者。 指引中就自駕車之控制系統設計進行分類，並提出研發者應針對不同目的與重點進行說明以及相關應遵循事項，其中應包含以下項目： 任務：自駕車之任務應被定義。 ODD：自駕車之ODD應被定義並且應可涵蓋其所有執行任務之面向。 感知運作：於任務中感知運作系統執行時，自駕車應可判斷其是否遵循ODD之範圍，並可提供相關資料予決策系統。 決策：當決策系統執行時，自駕車應可實施所有為達成任務所決策規劃之活動。 控制運作：當控制運作系統執行時，自駕車應可於正常情況下控制其動作以完成任務，並可於無法執行正確行動時採取合適之措施。 監控運作：當監控運作系統執行時，於整個任務過程中，自駕車應可監控其自身之運作。 人身安全、系統安全與有效（Safe, secure and effective）：自駕車應可於所有時刻皆保持運作之人身安全、系統安全性與有效性。
日本發布AI利用者的安全性報告，呼籲企業強化AI利用過程中的營業秘密保護管理措施日本獨立行政法人情報處理推進機構（Information-technology Promotion Agency，下稱IPA）於2026年4月2日發布AI利用者的安全性報告（下稱安全性報告），並呼籲企業強化AI利用過程中的營業秘密保護管理措施。 近年來，以生成式AI為首的人工智慧技術及其應用急速發展，但另一方面，針對AI開發與運用所衍生之安全性風險亦層出不窮。IPA針對其於今(2026)年1月發布之10大資訊安全威脅中的第三位風險，即AI應用所帶來的網路風險，發布安全性報告，期協助企業降低AI利用過程中的營業秘密外洩風險。 安全性報告指出，有高達67%的企業職員會透過個人帳號使用生成式AI，且有高達77%會直接將公司內部資料「複製貼上」到生成式AI對話框。由於雲端AI係藉由網路串接方式提供AI服務，因此人員若將企業之營業秘密輸入AI中，即意味著將企業之營業秘密提供營運AI服務的外部企業。此外，在雲端AI中輸入企業之營業秘密，除了該營業秘密可能會被作為學習資料，用於訓練AI以外，其他企業亦可能透過該雲端AI輸出之內容取得該營業秘密，潛在高度洩密風險。準此，安全性報告提醒企業勿在具備網路串接功能之雲端AI上傳包含企業營業秘密之資料，並呼籲企業透過諸如將AI瀏覽器區分為企業內部使用與外部使用之方式，強化內部營業秘密保護管理措施，以避免洩密風險。 企業如欲於內部導入AI應用以提升業務效率，可參考資訊工業策進會科技法律研究所創意智財中心（資策會科法所創智中心）發布之《營業秘密保護管理規範》、《營業秘密管理指針2.0》，建立營業秘密管理措施或相關機制，避免在使用AI提升業務效率的同時，導致具備機敏性或屬於營業秘密之資訊外洩。 本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。 本文同步刊登於TIPS網站（https://www.tips.org.tw）