敏感科技保護
「敏感科技」的普遍定義，係指若流出境外，將損害特定國家之安全或其整體經濟競爭優勢，具關鍵性或敏感性的高科技研發成果或資料，在部分法制政策與公眾論述中，亦被稱為關鍵技術或核心科技等。基此，保護敏感科技、避免相關資訊洩漏於國外的制度性目的，在於藉由維持關鍵技術帶來的科技優勢，保護持有該項科技之國家的國家安全與整體經濟競爭力。
各國立法例針對敏感科技建立的技術保護制度框架，多採分散型立法的模式，亦即，保護敏感科技不致外流的管制規範，分別存在於數個不同領域的法律或行政命令當中。這些法令基本上可區分成五個類型，分別為國家機密保護，貨物（技術）之出口管制、外國投資審查機制、政府資助研發成果保護措施、以及營業秘密保護法制，而我國法亦是採取這種立法架構。目前世界主要先進國家當中，有針對敏感科技保護議題設立專法者，則屬韓國的「防止產業技術外流及產業技術保護法」，由產業技術保護委員會作為主管機關，依法指定「國家核心科技」，但為避免管制措施造成自由市場經濟的過度限制，故該法規範指定應在必要的最小限度內為之。
本文為「經濟部產業技術司科技專案成果」
劉純妤
法律研究員 編譯整理
落實完善數位資料管理機制， 有助於降低AI歧視及資料外洩風險 資訊工業策進會科技法律研究所 2023年07月07日 近年來，科技快速發展，AI(人工智慧)等技術日新月異，在公私部門的應用日益廣泛，而且根據美國資訊科技研究與顧問公司Gartner在2023年5月發布的調查指出，隨著由OpenAI開發的ChatGPT取得成功，更促使各領域對於AI應用的高度重視與投入[1]，與此同時，AI歧視及資料外洩等問題，亦成為社會各界的重大關切議題。 壹、事件摘要 目前AI科技發展已牽動全球經濟發展，根據麥肯錫公司近期發布的《生成式人工智慧的經濟潛力：下一個生產力前沿(The next productivity frontier)》研究報告指出，預測生成式AI(Generative AI)有望每年為全球經濟增加2.6兆至4.4兆的經濟價值[2]。同時在美國資訊科技研究與顧問公司Gartner對於超過2500名高階主管的調查中，45%受訪者認為ChatGPT問世，增加其對於AI的投資。而且68%受訪者認為AI的好處大於風險，僅有5%受訪者認為風險大於好處[3]。然而有社會輿論認為AI的判斷依賴訓練資料，將可能複製人類偏見，造成AI歧視問題，而且若程式碼有漏洞或帳戶被盜用時，亦會造成資料外洩問題。 貳、重點說明 首先，關於AI歧視問題，以金融領域為例，近期歐盟委員會副主席Margrethe Vestager強調若AI用於可能影響他人生計的關鍵決策時，如決定是否能取得貸款，應確保申請人不受性別或膚色等歧視[4]，同時亦有論者認為若用於訓練AI的歷史資料，本身存有偏見問題，則可能導致系統自動拒絕向邊緣化族群貸款，在無形之中加劇，甚至永久化對於特定種族或性別的歧視[5]。 其次，關於資料外洩問題，資安公司Group-IB指出因目前在預設情況下，ChatGPT將保存使用者查詢及AI回應的訊息紀錄，若帳戶被盜，則可能洩露機敏資訊。據統計在2022年6月至2023年5月間，在亞太地區有近41000個帳戶被盜，而在中東和非洲地區有近25000個帳戶被盜，甚至在歐洲地區也有近17000個帳戶被盜[6]。另外在2023年3月時，ChatGPT除了發生部分用戶能夠檢視他人聊天紀錄標題的問題外，甚至發生個人資料外洩問題，即用戶可能知悉他人的姓名、電子郵件，付款地址，信用卡到期日及號碼末四碼等資料[7]。 參、事件評析 對於AI歧視及資料外洩等問題，應透過落實完善數位資料治理與管理機制，以降低問題發生的風險。首先，在收集訓練資料時，為篩選適合作為模型或演算法基礎的資料，應建立資料評估或審查機制，減少或避免使用有潛在歧視問題的資料，以確保分析結果之精確性。 其次，不論對於訓練資料、分析所得資料或用戶個人資料等，均應落實嚴謹的資料保密措施，避免資料外洩，如必須對於資料進行標示或分類，並依照不同標示或分類，評估及採取適當程度的保密措施。同時應對於資料進行格式轉換，以無法直接開啟的檔案格式進行留存，縱使未來可能不慎發生資料外洩，任意第三人仍難以直接開啟或解析資料內容。甚至在傳送帳戶登入訊息時，亦應採取適當加密傳送機制，避免遭他人竊取，盜取帳戶或個人資料。 財團法人資訊工業策進會科技法律研究所長期致力於促進國家科技法制環境完善，於2021年7月發布「重要數位資料治理暨管理制度規範（Essential Data Governance and Management System，簡稱EDGS）」，完整涵蓋數位資料的生成、保護與維護，以及存證資訊的取得、維護與驗證的流程化管理機制，故對於不同公私部門的AI相關資料，均可參考EDGS，建立系統性數位資料管理機制或強化既有機制。 本文同步刊登於TIPS網站（https://www.tips.org.tw） [1]Gartner, Gartner Poll Finds 45% of Executives Say ChatGPT Has Prompted an Increase in AI Investment (May 3, 2023), https://www.gartner.com/en/newsroom/press-releases/2023-05-03-gartner-poll-finds-45-percent-of-executives-say-chatgpt-has-prompted-an-increase-in-ai-investment (last visited June 30, 2023). [2]McKinsey, The economic potential of generative AI: The next productivity frontier (June 14, 2023), https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/the-economic-potential-of-generative-AI-the-next-productivity-frontier#introduction (last visited June 30, 2023). [3]Gartner, supra note 1. [4]Zoe Kleinman, Philippa Wain & Ashleigh Swan, Using AI for loans and mortgages is big risk, warns EU boss (June 14, 2023), https://www.bbc.com/news/technology-65881389 (last visited June 30, 2023). [5]Ryan Browne & MacKenzie Sigalos, A.I. has a discrimination problem. In banking, the consequences can be severe (June 23, 2023), https://www.cnbc.com/2023/06/23/ai-has-a-discrimination-problem-in-banking-that-can-be-devastating.html (last visited June 30, 2023). [6]Group-IB, Group-IB Discovers 100K+ Compromised ChatGPT Accounts on Dark Web Marketplaces; Asia-Pacific region tops the list (June 20, 2023), https://www.group-ib.com/media-center/press-releases/stealers-chatgpt-credentials/ (last visited June 30, 2023). [7]OpenAI, March 20 ChatGPT outage: Here’s what happened (Mar. 24, 2023),https://openai.com/blog/march-20-chatgpt-outage (last visited June 30, 2023).
新加坡金融管理局（MAS）發布「人工智慧風險管理工具包」新加坡金融管理局（MAS）於 2023 年中旬啟動「MindForge 計畫」，旨在協助金融機構強化其人工智慧（AI）風險管理能力。該計畫於2026年3月20日完成第二階段，並發布由MAS聯合24家領先銀行、保險公司與資本市場公司等產業夥伴共同開發的「人工智慧風險管理工具包」。該工具包內含「AI風險管理營運手冊」（下稱「營運手冊」）與「AI風險管理實施案例」（下稱「實施案例」），提供實務資源以管理涵蓋「傳統AI」、「生成式AI」及「新興代理型AI」技術的相關風險，確保產業能安全且負責任的導入AI。「營運手冊」依據MAS的監理期望，將AI 風險管理框架分為四大核心：一、範圍與監管：建立AI治理框架並釐清AI監督的角色與責任。二、AI風險管理：透過組織的系統、政策與程序，識別AI應用情境，進行風險重大性評估，並建立AI盤點清單。三、AI生命週期管理：實施AI應用完整生命週期的控制措施。四、促成因素：發展組織能力、基礎設施與資源，以確保能持續支持負責任的AI應用。「實施案例」則收錄如星展銀行（DBS）及瑞士寶盛（Julius Baer）等機構的AI風險管理實務。未來，MAS 將於「BuildFin.ai」倡議下成立專責小組，持續開發建構管理新興技術風險的框架。 相較於新加坡著重建立全方位治理架構，資訊工業策進會科技法律研究所創意智財中心（下稱「資策會科法所創智中心」）於同年 2 月發布之「金融業人工智慧（AI）風險管理實務指引」，則更強調將風險控管「整合」至既有流程中，透過與業務流程的結合實踐韌性管理。該指引奠基於「人工智慧基本法」，並進一步連結「台灣智慧財產管理規範（TIPS）」驗證角度，協助機構精準掌握應用情境並具體化風險。透過將管控機制立基於資安、資訊及智財三大支柱，降低法遵成本與業務衝擊，並藉由分階段與分級管理，引導金融機構從核心防護逐步深化管控機制。 本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。 本文同步刊登於TIPS網站（https://www.tips.org.tw）
歐盟航空安全局發布全球首件《最大起飛重量不逾六百公斤之無人機系統噪音量測指南》，有助於環境保護與防止噪音危害歐盟航空安全局（European Union Aviation Safety Agency, EASA）於2022年10月13日發布全球首件「最大起飛重量不逾六百公斤之無人機系統噪音量測指南」（Guidelines on Noise Measurement of Unmanned Aircraft Systems Lighter than 600 kg Operating in the Specific Category），適用於各式各樣的無人機設計，包括多旋翼機（multicopters）、固定翼航空器（fixed-wing aircraft）、直升機與動力起降航空器（powered-lift aircraft）等。 該指南旨在提供低度與中度風險（Low and Medium Risk）特定類別無人機運行時，具一致性的噪音量測程序與方法。該方法係考量實際層面與心理聲學（psychoacoustics），即有關人類對於無人機聲音的感知，設計為提供可重複且準確量測噪音，可量測最大起飛重量（Maximum Take-Off Weight, MTOM）小於600公斤的無人機，以落實歐盟環境保護的高度水準，並防止噪音對人體健康的重大影響。而所謂特定類別（specific category）包括包裹遞送、電力巡檢、鳥類管制（bird control）、測繪服務（mapping services）、空中監視（aerial surveillance）等活動。 此份指南雖不具強制性，亦非無人機認證規範，然而噪音是許多歐洲民眾所關注的問題，各國航空主管機關仍可以該指南為基準要求營運商，使之在自然公園或人口稠密區域等敏感環境運行無人機時可降低噪音。同時，無人機製造商、營運商或噪音量測組織，亦可依據該指南確立與特定設計及操作相關的噪音水準。此外，可將由此而生的噪音水準報告提供給EASA，以建立可供營運商與主管機關使用的線上公眾資料庫（online public repository）。
德國提出｢對外貿易條例｣修正草案德國聯邦經濟與能源部(Bundesministerium für Wirtschaft und Energie，BMWi)在2017年7月提出｢對外貿易條例｣(Außenwirtschaftsverordnung)修正草案，以規定基於德國的公共政策安全或基本安全利益，對於外國人(或企業)收購國內公司，在必要時得予以禁止或增加強制條件。 如果交易完成後（一）歐盟之外的收購方將直接或間接持有目標公司25％以上的表決權以及（二）出於公共秩序或安全原因有必要採取上述措施，聯邦經濟與能源部可禁止對德國公司的收購交易。 該法修正草案亦進一步規定，聯邦經濟能源部將在本法律框架下對於涉及以下（技術）領域相關企業併購案之合約談判的各方進行審查程序，以確保國家實質安全利益： 部分能源電力領域，例如：電廠控制技術、電網工程技術、電廠系統或系統操作的控制技術(供電、供氣、燃油或集中供熱等)。 部分用水領域，例如：用水控制、調配或自動化技術(飲用水供應或污水處理設施)。 訊息技術和電信軟體領域，例如：語音和數據傳輸、數據儲存系統及處理系統)。 金融和保險部門、其運營的軟體或現金系統。 涉及醫療保健軟體部門或醫院管理訊息系統、處方藥和實驗室訊息系統的運行等領域部分。 涉及運輸和交通領域內的控制系統、工廠或設施的運行、航空運輸、乘客和貨物系統、鐵路運輸、海運和內河運輸、公路運輸、公共交通或後勤物流等領域。