日本發布利用AI時的安全威脅、風險調查報告書，呼籲企業留意利用AI服務時可能造成資料外洩之風險
日本獨立行政法人情報處理推進機構於2024年7月4日發布利用AI時的安全威脅、風險調查報告書。
隨著生成式AI的登場，日常生活以及執行業務上，利用AI的機會逐漸增加。另一方面，濫用或誤用AI等行為，可能造成網路攻擊、意外事件與資料外洩事件的發生。然而，利用AI時可能的潛在威脅或風險，尚未有充分的對應與討論。
本調查將AI區分為分辨式AI與生成式AI兩種類型，並對任職於企業、組織中的職員實施問卷調查，以掌握企業、組織於利用兩種類型之AI時，對於資料外洩風險的實際考量，並彙整如下：
1、已導入AI服務或預計導入AI服務的受調查者中，有61%的受調查者認為利用分辨式AI時，可能會導致營業秘密等資料外洩。顯示企業、組織已意識到利用分辨式AI可能帶來的資料外洩風險。
2、已導入AI利用或預計導入AI利用的受調查者中，有57%的受調查者認為錯誤利用生成式AI，或誤將資料輸入生成式AI中，有導致資料外洩之可能性。顯示企業、組織已意識到利用生成式AI可能造成之資料外洩風險。
日本調查報告顯示，在已導入AI利用或預計導入AI利用的受調查者中，過半數的受調查者已意識到兩種類型的AI可能造成的資料外洩風險。已導入AI服務，或未來預計導入AI服務之我國企業，如欲強化AI資料的可追溯性、透明性及可驗證性，可參考資策會科法所創意智財中心所發布之重要數位資料治理暨管理制度規範；如欲避免使用AI時導致營業秘密資料外洩，則可參考資策會科法所創意智財中心所發布之營業秘密保護管理規範，以降低AI利用可能導致之營業秘密資料外洩風險。
本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
王柏元
副法律研究員 編譯整理
IPAテクニカルウォッチ「AI利用時のセキュリティ脅威・リスク調査報告書」，独立行政法人情報処理推進機構，https://www.ipa.go.jp/security/reports/technicalwatch/20240704.html，最後瀏覽日：2024年8月3日。
AI利用時のセキュリティ脅威・リスク調査調査報告書，独立行政法人情報処理推進機構セキュリティセンター企画部調査グループ，https://www.ipa.go.jp/security/reports/technicalwatch/eid2eo00000022sn-att/report.pdf，最後瀏覽日：2024年8月3日。
運作技術成熟度(Technology Readiness Level)進行技術評估 資策會科技法律研究所 法律研究員 羅育如 104年10月22日 壹、前言 為提升我國科技競爭力，於1999年制定科學技術基本法(以下簡稱科技基本法)，透過科技基本法的規定，使原本歸屬國有財產之研發成果，得以下放歸屬執行單位所有，使大學對研發成果能有更完善應用之權利。 科技基本法實施之後，各研究單位開始學習國外經驗，積極進行產學合作，將內部之研發成果技術移轉與外部產業。但是，科技基本法實行已15年的今日，各界逐漸發現，政府經費之投入與研發成果產出之經濟效益有相當大的差距。例如科技部102年專題研究計畫補助經費為215億新台幣，但僅創造3.5億新台幣之衍生成果技術移轉權利金[1]。政府經費投入與產出不符預期的議題，牽涉多元層面問題，但是從新設立政府計畫案之目標與KPI，可以發現政府新創設之補助計畫開始以協助技術商業化作為主要目的，例如萌芽計畫、產學計畫等。 技術商業化操作模式會依據技術成熟度不同而有所差異，技術成熟度高的項目，廠商承接後所需要投入的研發成果可能較低，直接協助廠商改善生產流程或是成為產品商品化的機率較高；反之，廠商則需要投入較多的技術研發費用，需要花費較多的人力與資源，技術才有機會商品化。 由此可知，在技術商業化計畫推廣時，技術項目的技術成熟度是一個重要的評估關鍵。本文針對技術成熟度的評估指標詳細說明，以提供執行技術商業化計畫時，評估技術項目之參考。以下會分別說明何謂技術成熟度以及技術成熟度如何運用，最後會有結論與建議。 貳、技術成熟度說明 技術成熟度或稱為技術準備度(Technology Readiness Level；簡稱TRL)是美國太空總署(NASA)使用多年的技術評估方法，後來為美國國防部所用，再廣為國際各政府機構、學研單位、企業機構使用。 TRL是一個系統化的量尺/衡量指標，可以讓不同型態的技術有一致性的衡量標準，描述技術從萌芽狀態到成功應用於某項產品的完整流程[2]。而TRL涵蓋的技術研發流程則包括四個部分：(1)概念發展：新技術或是新概念的基礎研究，涵蓋TRL1~3；(2)原型驗證：特定技術針對一項或是多項潛在應用的技術開發，涵蓋TRL4與5；(3)系統開發：在某一應用尚未成為一整套系統之前的技術開發以及技術驗證，然後進行系統開發，涵蓋TRL6；(4)系統上市並運作[3]，涵蓋TRL7~9。以下分別說明TRL每個衡量尺度的定義[4]。 TRL 1 基礎科學研究成果轉譯為應用研究。 TRL 2 為某項特殊技術、某項材料的特性等，找出潛在創新應用；此階段仍然是猜測或推論，並無實驗證據支持。 TRL 3 在適當的應用情境或載具下，實驗分析以驗證該技術或材料相關物理、化學、生物等特性，並證明潛在創新應用的可行性(proof-of-concept)。 TRL 4 接續可行性研究之後，該技術元素應整合成具體元件，並以合適的驗證程序證明能達成原先設定的創新應用目標。 TRL 5 關鍵技術元件與其他支援元件整合為完整的系統/系系統/模組，在模擬或接近真實的場域驗證。需大幅提高技術元件驗證的可信度。 TRL 6 代表性的模型/雛形系統在真實的場域測試。展示可信度的主要階段。 TRL 7 實際系統的雛形品在真實的場域測試。驅使執行TRL7的目的已超越了技術研發，而是為了確認系統工程及研發管理的自信。 TRL 8 實際系統在真實的場域測試，結果符合設定之要求。代表所有技術皆已整合在此實際系統。 TRL 9 實際系統在真實場域達成目標。 參、技術成熟度應用 技術成熟度可以單純拿來衡量技術開發階段、可用來衡量技術開發風險、也可作為研發機構角色以及補助計畫定位的參考，以下說明。 一.技術成熟度用來衡量技術開發階段 這是技術成熟度最單純的應用方法，但因為每種技術領域都可其特殊的技術開發脈絡，所以可以根據NASA原有的技術成熟度，修改成貼近該技術領域需求的技術成熟度指標。目前有看過軟硬體TRL指標、綠能&能源TRL指標、ICT TRL指標、生醫(新藥、生物製劑、醫材)TRL指標等[5]。 二、技術成熟度用來管理技術研發風險 研究開發需投入大量的人力、物力，而研究成果的不確定性又很高，所以需要有良好的技術研發管理。技術成熟度對技術研發管理而言，是風險的概念，一般而言，TRL階段與技術風險是反向關係，也就是說TRL階段越高，技術風險越低[6]。 需要考慮的面向包括[7] ，(1)現在技術成熟度在哪一階段?以及我們投入研發後，希望達到的技術成熟度目標為何?(2)從現在的技術成熟度到專案需要的技術成熟度，要精進這項技術到底有多難?(3)這項特定技術如果開發成功，對於全面技術目標而言的重要性如何? 三、機構角色以及補助計畫定位 TRL指標可用來明確區分研發機構角色定位，例如工研院內部運用TRL指標做為技術判斷量化評估指標，並且工研院需將技術成熟度提升到TRL6或7，以克服技術面的問題，進行小型試量產，才能跨越死亡之谷讓業界接手商業化[8]。 TRL指標也可以用來區分補助計畫的標的範圍，例如美國國防部傾向投資TRL 4階段技術，美國國防部培養TRL4以及4以下的技術到TRL6階段，使得這些技術能更順利的進入技術市場，其原因在於TRL程度越低，成功商品化的不確定性以及風險就越高，而TRL4階段技術項目，是美國國防部可以承受的風險程度[9]。 肆、結論 TRL指標現在已被廣泛的運用在技術評估工作上，透過量化的指標，協助研發人員或是技術管理人員方便掌握每個技術開發案的現況，例如現在技術在TRL哪個階段，技術開發結束後，TRL預計會到達哪個階段。確定目標之後，就可以進一步評估這個計畫開發案的風險並評估組織需投入的資源。 TRL是一個簡易的技術評估指標，但如果要以此做出全面性的技術策略，似乎就還是有所不足，因此，可以再搭配其他技術評估變項，發展為全面性的技術風險管理評估指標，可能可以搭配技術開發困難度指標，用以評估TRL往上提升一級的困難度程度[10]，也可以搭配技術需求價值指標[11]，這項技術順利成功的話，對整個系統開發而言的價值高低，價值非常高的話，就值得花更多資源與人力去投資。 由此可知，應該可以積極運用TRL指標，用來評估政府技術補助計畫，協助大學技轉辦公室管理各研發團隊之技術開發進程，也可提供技術移轉潛在廠商清楚設定技術規格，減低技術供給方與技術需求方之間的認知差異，進而提升技術移轉成功率，也就可以拉近政府經費投入與研發成果產出的差距。 [1] 行政院國家科學委員會，行政院國家科學委員會102年年報，頁24、98(2013)，http://www.most.gov.tw/yearbook/102/bookfile/ch/index.html#98/z，最後瀏覽日2015/07/21。 [2] John C. Mankins, NASA, Technology Readiness Levels: A White Paper (1995). [3] id. [4] US DEPARTMENT OF DEFENSE (DoD), Technology Readiness Assessment (TRA) Guidance (2011), http://www.acq.osd.mil/chieftechnologist/publications/docs/TRA2011.pdf (last visited July 22, 2015). [5] Lewis Chen，＜Technology Readiness Level＞，工研院網站，http://www.sti.or.th/th/images/stories/files/(3)ITRI_TRL.pdf (最後瀏覽日：2015/07/22)。 [6] Ricardo Valerdi & Ron J. Kohl, An Approach to Technology Risk Management (2004), http://web.mit.edu/rvalerdi/www/TRL%20paper%20ESD%20Valerdi%20Kohl.pdf (last visited July 22, 2015). [7] John C. Mankins, Technology Readiness and Risk Assessments: A New Approach, ACTA ASTRONAUTICA, 65, 1213, 1208-1215 (2009). [8] 邱家瑜、蔡誠中、陳禹傑、高皓禎、洪翊恩，＜工研院董事長蔡清彥 以新創事業連結全球市場 開創屬於年輕人的大時代＞，台灣玉山科技協會，http://www.mjtaiwan.org.tw/pages/?Ipg=1007&showPg=1325 (最後瀏覽日：2015/07/22)。 [9] Ricardo Valerdi & Ron J. Kohl, Massachusetts Institute of Technology, An Approach to Technology Risk Management, http://web.mit.edu/rvalerdi/www/TRL%20paper%20ESD%20Valerdi%20Kohl.pdf (last visited July 21, 2015). [10] 同註7。 [11] 同註7。
企業監看員工網路活動法律爭議之防堵 英國將於西密德蘭郡大規模推行5G試驗計畫英國數位、文化、媒體暨體育部（Department for Digital, Culture Media & Sport, DCMS）於2018年3月公布5G測試平台及試驗計畫（5G Testbeds and Trials Programme）中之都市聯網計畫（Urban Connected Communities Project）政策文件，將於英國大規模推展5G試驗。同年9月4日，數位部部長宣佈其5G試驗團隊正與西密德蘭郡聯合管理局（the West Midlands Combined Authority, WMCA）及相關產業夥伴合作準備正式商業案例，預計將於2019年推行第一個計畫項目。 本項目內容側重於醫療及汽車業，包含： 1. 透過流暢的視訊方式進行遠距醫療諮詢（Outpatient appointment）或緊急醫療情況之諮詢，而該視頻之內容除可回放外，與家人及看護間並可進行共享查看，以提升醫療照護之效率與品質。 2. 「聯網救護車」：醫療輔助人員得於事故現場即時獲得專家建議，例如與顧問或臨床專家進行視訊。並於救護車內即能傳送患者之即時資訊至醫院，使患者抵達醫院時能進行快速且妥適處理。 3. 即時傳輸公共巴士上之閉路電視（CCTV）畫面，以便立即採取行動制止反社會行為（anti-social behaviour）。 計畫將可獲得高達5000萬英鎊之資金，並於柏明罕、考文垂以及伍爾弗漢普頓（Birmingham, Coventry and Wolverhampton）設立試驗中心執行相關計畫。
2024年保護美國人資料免受外國對手侵害法案即將於2024年6月生效，為美中資料傳輸增加限制2024年保護美國人資料免受外國對手侵害法案（Protecting Americans’ Data from Foreign Adversaries Act of 2024, PADFA）於2024年6月生效。該法案為美國國家安全補充法案（H.R. 815, the National Security Supplemental）的一部分。美國總統拜登在2024年4日24日簽署通過國家安全補充法案以及該法案所包含的PADFA，而PADFA將於簽署日後60天發生效力。 PADFA禁止資料經紀人將美國人民的敏感個資（personally identifiable sensitive data）傳輸到指定的外國對手國家，以及由這些國家控制的實體，如公司等。 PADFA所指之資料經紀人（data broker），是指以出售、授權、租賃、交易、轉讓、發布、揭露、提供存取權或其他方式，將個人資料提供給特定實體，並收取對價者。而該法所稱之敏感個資，定義則相當廣泛，從個人日常活動資料如行事曆資訊、電子郵件，到個人醫療、財務資料皆包含在內。 目前PADFA指定之外國對手國家，是引用自美國法典第十編4872（d）（2）條（4872（d）（2）of title 10, United States Code.），包含中華人民共和國、朝鮮民主主義人民共和國、俄羅斯聯邦、伊朗伊斯蘭共和國。而外國對手國家控制的實體則包含以下幾類 : 1.前述國家擁有20%以上所有權的實體。 2.主要營業據點、總部、住所位於前述國家的實體。 3.依前述國家法律建立的實體。 4.受前述國家指導、控制之人。 由於PADFA適用範圍廣泛，未來美中兩國資料傳輸將受更多限制。該法案生效後將由美國的聯邦貿易委員會（Federal Trade Commission）執行，該委員會將有權對違規者進行民事處罰。