日本發布利用AI時的安全威脅、風險調查報告書，呼籲企業留意利用AI服務時可能造成資料外洩之風險
日本獨立行政法人情報處理推進機構於2024年7月4日發布利用AI時的安全威脅、風險調查報告書。
隨著生成式AI的登場，日常生活以及執行業務上，利用AI的機會逐漸增加。另一方面，濫用或誤用AI等行為，可能造成網路攻擊、意外事件與資料外洩事件的發生。然而，利用AI時可能的潛在威脅或風險，尚未有充分的對應與討論。
本調查將AI區分為分辨式AI與生成式AI兩種類型，並對任職於企業、組織中的職員實施問卷調查，以掌握企業、組織於利用兩種類型之AI時，對於資料外洩風險的實際考量，並彙整如下：
1、已導入AI服務或預計導入AI服務的受調查者中，有61%的受調查者認為利用分辨式AI時，可能會導致營業秘密等資料外洩。顯示企業、組織已意識到利用分辨式AI可能帶來的資料外洩風險。
2、已導入AI利用或預計導入AI利用的受調查者中，有57%的受調查者認為錯誤利用生成式AI，或誤將資料輸入生成式AI中，有導致資料外洩之可能性。顯示企業、組織已意識到利用生成式AI可能造成之資料外洩風險。
日本調查報告顯示，在已導入AI利用或預計導入AI利用的受調查者中，過半數的受調查者已意識到兩種類型的AI可能造成的資料外洩風險。已導入AI服務，或未來預計導入AI服務之我國企業，如欲強化AI資料的可追溯性、透明性及可驗證性，可參考資策會科法所創意智財中心所發布之重要數位資料治理暨管理制度規範；如欲避免使用AI時導致營業秘密資料外洩，則可參考資策會科法所創意智財中心所發布之營業秘密保護管理規範，以降低AI利用可能導致之營業秘密資料外洩風險。
本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
王柏元
副法律研究員 編譯整理
IPAテクニカルウォッチ「AI利用時のセキュリティ脅威・リスク調査報告書」，独立行政法人情報処理推進機構，https://www.ipa.go.jp/security/reports/technicalwatch/20240704.html，最後瀏覽日：2024年8月3日。
AI利用時のセキュリティ脅威・リスク調査調査報告書，独立行政法人情報処理推進機構セキュリティセンター企画部調査グループ，https://www.ipa.go.jp/security/reports/technicalwatch/eid2eo00000022sn-att/report.pdf，最後瀏覽日：2024年8月3日。
日本立憲民主黨於2023年6月13日向眾議院提出「SDGs基本法案」（持続可能な開発の目標の達成に向けた諸施策の総合的かつ一体的な推進に関する法律案），旨在達成2015年聯合國大會通過之「2030永續發展目標（SDGs）」。 去年6月立憲民主黨曾向參議院提出相關法案，但未審議就被廢止，此次係因日本政府針對SDGs雖有列舉相關議題，惟未對每個目標和達成度進行評估，僅是羅列先前政策，故立憲民主黨擔憂日本無法於2030年實現永續發展目標，重新向眾議院提出SDGs基本法案，希冀透過制定基本方針及必要事項，課予政府實施相關政策，法案主要內容摘要如下： 一、 提出基本原則要求政府應提供國民、經營者、民間團體等構成社會之多元主體，都能參與實現永續發展目標之機會，並應平等對待處於弱勢地位者保障其基本人權，使其受到尊重、充分發揮其個性及能力。 二、 另因永續發展目標與國際相互間有密切關聯，政府應確保國際合作，使目標一體化。 三、 除課予國家、地方自治體應提出SDGs基本方針外，亦要求地方公共團體、企業，在開展各項目活動時，應努力且有責任地一同促進實現永續發展目標。 四、 為實現目標，要求政府須採取必要法制、財政、稅制等措施，政策之內容亦應反映多種民意、確保公正性、透明性，且每年都要向國會提出施政成果及評估報告。 五、 設置「永續發展目標推進本部」（持続可能な開発目標達成推進本部），並邀請專家、利害關係人召開「永續發展目標推進會議」（持続可能な開発目標達成推進会議），一同評估基本方針政策及其達成狀況。 六、 由於實現永續發展目標並不因2030年後任務即刻終止，關於2031年以後之政策，政府應考量社會措施、國際動向等，依評估結果再採取必要之措施。 針對SDGs基本法眾議院已於10月20日交由委員會審議中，是否通過該法案仍待後續觀測，但已展現日本推動SDGs之決意。我國雖非聯合國之會員國，惟於2016年亦自願性回應全球永續發展行動與國際接軌，並於2021年成立「行政院國家永續發展委員會」，力求實現永續發展目標；然而僅靠政府機關的努力恐怕力有未逮，可參考日本作法納入國民、民間團體、企業等多元參與者，攜手合作共同實現SDGs。
日本數位廳發布資料治理指引，協助企業運用資料提升企業價值日本數位廳發布資料治理指引，協助企業運用資料提升企業價值 資訊工業策進會科技法律研究所 2025年09月05日 隨著AI迅速普及已成為不可逆轉的趨勢，經濟與社會產生重大變革，手機、家電及各種智慧裝置大量蒐集資料，似已成為維持經濟與社會運作不可或缺的重要要素，在國際上已出現如歐洲共同資料空間（Common European Data Space）等先進的資料運用案例，日本亦開始推動企業跨領域資料運用，藉此提升企業生產力與附加價值[1]。 壹、事件摘要 日本數位廳（デジタル庁）於2025年6月20日發布資料治理指引（データガバナンス・ガイドライン），以企業經營者為適用對象，歸納總結資料治理之必要性、應採取之做法，與實踐治理過程中應留意之要點，協助企業推動數位轉型，發揮資料最大效用，持續提升企業價值，並進一步實現超智慧社會[2]（Society 5.0）願景[3]。 貳、指引重點 本指引歸納總結實踐資料治理的四大支柱，概述如下： 一、設計符合跨境傳輸資料實際狀況之業務流程 資料共享與協作的主要目的是推動數位轉型與提升企業價值，因此，運用跨境資料時，需要調查當地國家或地區法規，釐清國際規範，並預測後續法規動向，克服法規限制。為評估運用跨境資料之潛在風險，則須透過如顧問公司、諮詢公司等第三方外部機構進行調查與監控，採取適當風險因應措施。為明確責任，須事先與資料共享之利害關係人，將瑕疵擔保責任透過契約與相關規定明文化。在修改業務流程時，亦須與相關組織及利害關係人共享資訊，確保資料在生命週期中的可追溯性[4]。 二、確保資料安全（データセキュリティ） 以資料生命週期為基礎，掌握運用跨境資料可能產生之風險，並依照相關組織與利害關係人值得信賴之程度，進行風險分析制定因應策略。針對業務流程中取得的資料，應限制在資料產生者允許之範圍內，始得進行運用，以維護資料使用正當性。此外，亦須特別留意資料完整性，確保資料來源值得信賴且未受到偽冒，以及資料內容未遭到竄改或洩漏[5]。 三、提升資料成熟度（データマチュリティ） 制定並推動可提升資料成熟度[6]之方針，持續改善流程，將資料價值最大化，並將風險最小化，提升企業綜合能力。資料長（Chief Data Officer, CDO）須發揮領導能力，建立能迅速因應變化的體制，明確各組織相關負責人與其角色，並推動具備資料相關技能之人才培育招聘計畫。資料長亦須分析導入如AI等先進技術之費用效益，向經營者提出建議。除了公司自身狀況會影響資料成熟度外，亦可能受到資料共享與協作之利害關係人的資料成熟度水準影響。因此，公司亦須將採取之具體措施與相關資訊分享予利害關係人，並向社會公開公司目前資料成熟度水準，持續強化企業與利害關係人及社會之間的相互信賴程度[7]。 四、制定並定期檢討AI等先進技術運用行動方針 為使AI等先進技術發揮最大力量，並降低對社會與個人可能造成的負面影響，企業應參考經濟產業省（経済産業省）於2025年3月28日發布之AI業者指引第1.1版[8]（AI事業者ガイドライン第1.1版），並考量個人資料保護、機敏資料保護、透明度、可問責等重要因素，針對涉及資料運用的各種實務運用場景，由CDO主導制定運用AI等先進技術運用行動方針（AIなどの先端技術の利活用に関する行動指針），並適時檢討持續改善內容[9]。 參、事件評析 當資料留存在企業內部未被有效運用時，不僅會成為企業和產業發展之阻礙，也將導致社會整體效率低落。本指引歸納總結實踐資料治理的四大支柱。為達成協助企業運用資料推動數位轉型，提升企業價值之目標，除了需要企業管理階層主導，亦須獲得公司內部與利害關係人之理解與支持。企業應積極與其他企業、組織和機構進行資料共享與協作，積極參與資料治理，提高產品與服務價值及企業聲譽，進而促進社會永續性發展[10]。 隨著國際上已出現先進資料運用案例，我國亦須關注資料運用國際趨勢推動創新發展，日本推動企業跨領域運用資料之做法，亦可為我國未來實踐資料治理提供借鏡。 [1]〈データガバナンス・ガイドライン〉，デジタル庁，頁2-3，https://www.digital.go.jp/assets/contents/node/information/field_ref_resources/71bf19c2-f804-488e-ab32-e7a044dcac58/b1757d6f/20250620_news_data-governance-guideline_01.pdf （最後瀏覽日：2025/09/02）。 [2]〈Society 5.0〉，内閣府，https://www8.cao.go.jp/cstp/society5_0/index.html （最後瀏覽日：2025/09/02）。 [3]前揭註1。 [4]同前註，頁13。 [5]同前註，頁15-16。 [6]資料成熟度係指企業根據其戰略或經營需求，有效運用資料的能力。可參閱同前註，頁5。 [7]同前註，頁18-19。 [8]〈AI事業者ガイドライン〉，経済産業省，https://www.meti.go.jp/shingikai/mono_info_service/ai_shakai_jisso/20240419_report.html （最後瀏覽日：2025/09/02）。 [9]前揭註1，頁20-23。 [10]同前註，頁24-25。
歐洲央行發表「虛擬貨幣架構」報告，法國比特幣交易平台取得PSP資格。歐洲央行(European Central Bank,簡稱ECB)於2012年10月29日提出「虛擬貨幣架構(Virtual Currency Schemes)」報告(全文可至歐洲央行網站下載，下載網址: http://www.ecb.int/pub/pdf/other/virtualcurrencyschemes201210en.pdf)，Bitcoin(中譯「比特幣」)為該報告的研究重點。該報告將虛擬貨幣架構分為三類：1. 封閉性虛擬貨幣架構，與實體經濟幾乎無連結，通常用於遊戲中，例如暴雪娛樂(Blizzard Entertainment)的魔獸金幣(World of Warcraft Gold, WoW Gold)；2.單向貨幣流(通常是流入) 的虛擬貨幣架構，可以現金依照匯率兌為虛擬貨幣後用於購買虛擬商品或服務，少數例外可使用於購買實體商品或服務，這類型代表如臉書的FB幣；3. 雙向貨幣流的虛擬貨幣架構，類如其他一般貨幣，具有買進賣出匯率，可支應虛擬以及實體商品、服務的買賣，如比特幣。基於本身特性，比特幣並非歐盟電子貨幣指令(Electronic Money Directive, 2009/110/EC)以及歐盟支付服務指令(Payment Service Directive，簡稱PSD，Directive 2007/64/EC)的適用範圍。目前虛擬貨幣欠缺與實體經濟的聯結，交易量小且欠缺廣泛的使用接受度，因此對於金融以及物價的穩定影響有限；另外，虛擬貨幣欠缺妥適的法規管制，可能被用於不法活動，如犯罪、洗錢、詐欺等等；綜上，若任由虛擬貨幣持續發展而不管制，將被視為是中央銀行的失職而影響其聲譽。然而，報告指出，基於下述原因，虛擬貨幣將有可能繼續蓬勃發展：1. 網路以及虛擬社群使用人的持續增加；2. 電子商務以及特定數位產品的發展，提供虛擬貨幣架構良好的發展平台；3. 相較於其它電子支付產品，虛擬貨幣具備較佳匿名性；4. 相較於傳統支付工具，虛擬貨幣具備較低交易成本；5. 提供虛擬社群所需要的較直接以及快速的交易清算特性。 比特幣出現於2009年，透過數理運算的「挖礦(mining)」技術產生，無發行人，屬於點對點(peer to peer)虛擬貨幣，可匿名持有交易。目前一枚比特幣約當13塊美金，大約新台幣390元，可用於國際部落格平台Word Press，美國紐約、舊金山的部份實體商店也接受比特幣付費。基於比特幣本身的設計，比特幣的流通數量有限，市面上目前流通的比特幣約有1050萬個，預估至2014年將可全數開鑿完畢。全世界最大的比特幣交易所為東京的Mt.Gox，市占率超過80%，支援美金、英鎊、歐元、加幣、澳幣、日圓以及波蘭幣。2011年時，法國法院在Macaraja v. CIC Bank一案指出，點對點比特幣交換為支付服務，在法國應取得PSP執照。 由法國軟體公司Paymium所建置的比特幣交易平台Bitcoin-Central，於2012年12月與取得PSD支付服務提供者(Payment Service Provider，簡稱PSP)執照的法國業者Aqoba結盟，因而取得PSP資格。依照PSD附件說明，所謂的支付服務，包含存款、提款、轉帳、匯款以及第三方支付服務。透過PSP，Bitcoin-Central在歐盟法制架構下取得與Paypal相同的地位，與銀行業者的重大差別只在於Bitcoin-Central無法提供貸款服務。 Bitcoin-Central提供簡易的比特幣交易界面服務，甚至還有手機錢包(mobile wallet)，消費者只消在Bitcoin-Central註冊就可以儲值、購買、交易比特幣並將比特幣轉換為現金，也可以當成薪資帳戶直接存入薪資，未來Bitcoin-Central可發行Debit-Card提供刷卡消費的功能。目前Bitcoin-Central只支援比特幣與歐元的轉換服務，而不提供其他幣別的轉換服務。Bitcoin-Central透過PSP業者Aqoba持有服務使用人儲值之歐元款項，款項存放於法國銀行Credit Mutuel，與Paymium的自有款項切割管理。上述歐元款項受有與一般銀行存款相同的法國中央存款保險"Garantine des dépôts”保障，但是比特幣款項由於並不存放於銀行，因此並不受存款保險保障。 比特幣最常被詬病之處在於其常被用於洗錢以及毒品買賣等等犯罪活動，但是支持者指出，現金不也是有相同問題嗎? 現金的洗錢防制透過金融監理的銀行監管進行，虛擬貨幣之交易平台未來也將是法規管制重點。縱使有部分比特幣支持者反對將比特幣納入法制管理，認為比特幣應該依照其原始設計理念運行，Bitcon-Central與PSP業者Aqoba合作可視為對於ECB之正面回應，為虛擬貨幣法制管理之重要進展。 資料來源：European Central Bank, Virtual Currency Schemes, 15 (2012)
用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限 資訊工業策進會科技法律研究所 2023年09月08日 生成式AI是透過研究過去資料，以創造新內容和想法的AI技術，其應用領域包括文字、圖像及影音。以ChatGPT為例，OpenAI自2022年11月30日發布ChatGPT後，短短二個月內，全球月均用戶數即達到1億人，無疑成為民眾日常生活中最容易近用的AI科技。 惟，生成式AI大量使用後，其中的問題也逐漸浮現。例如，ChatGPT提供的回答僅是從所學習的資料中統整歸納，無法保證資料的正確性。Roberto Mata v. Avianca, Inc.案即是因律師利用ChatGPT撰寫訴狀，卻未重新審視其所提供判決之正確性，以致後續引發訴狀中所描述的判決不存在爭議。 壹、事件摘要 Roberto Mata v. Avianca, Inc.案[1]中，原告Roberto Mata於2019年8月搭乘哥倫比亞航空從薩爾瓦多飛往紐約，飛行過程中膝蓋遭空服員的推車撞傷，並於2022年2月向法院提起訴訟，要求哥倫比亞航空為空服員的疏失作出賠償；哥倫比亞航空則主張已超過《蒙特婁公約》（Montreal Convention）第35條所訂之航空器抵達日起兩年內向法院提出損害賠償之請求時效。 R然而，法院審理過程中發現原告訴狀內引用之六個判決無法從判決系統中查詢，進而質疑判決之真實性。原告律師Steven A. Schwartz因而坦承訴狀中引用的六個判決是ChatGPT所提供，並宣稱針對ChatGPT所提供的判決，曾多次向ChatGPT確認該判決之正確性[2]。 貳、生成式AI應用之潛在風險 雖然運用生成式AI技術並結合自身專業知識執行特定任務，可能有助於提升效率，惟，從前述Roberto Mata v. Avianca, Inc.案亦可看出，依目前生成式AI技術之發展，仍可能產生資訊正確性疑慮。以下彙整生成式AI應用之8大潛在風險[3]： 一、能源使用及對環境危害 相較於傳統機器學習，生成式AI模型訓練將耗費更多運算資源與能源。根據波士頓大學電腦科學系Kate Saenko副教授表示，OpenAI的GPT-3模型擁有1,750億個參數，約會消耗1,287兆瓦/時的電力，並排放552噸二氧化碳。亦即，每當向生成式AI下一個指令，其所消耗的能源量相較於一般搜尋引擎將可能高出4至5倍[4]。 二、能力超出預期（Capability Overhang） 運算系統的黑盒子可能發展出超乎開發人員或使用者想像的隱藏功能，此發展將會對人類帶來新的助力還是成為危險的阻力，則會隨著使用者之間的相互作用而定。 三、輸出結果有偏見 生成式AI通常是利用公開資料進行訓練，若輸入資料在訓練時未受監督，而帶有真實世界既存的刻板印象（如語言、種族、性別、性取向、能力、文化等），據此建立之AI模型輸出結果可能帶有偏見。 四、智慧財產權疑慮 生成式AI進行模型訓練時，需仰賴大量網路資料或從其他大型資料庫蒐集訓練資料。然而，若原始資料來源不明確，可能引發取得資料未經同意或違反授權條款之疑慮，導致生成的內容存在侵權風險。 五、缺乏驗證事實功能 生成式AI時常提供看似正確卻與實際情形不符的回覆，若使用者誤信該答案即可能帶來風險。另外，生成式AI屬於持續動態發展的資訊生態系統，當產出結果有偏誤時，若沒有大規模的人為干預恐難以有效解決此問題。 六、數位犯罪增加與資安攻擊 過去由人工產製的釣魚郵件或網站可能受限於技術限制而容易被識破，然而，生成式AI能夠快速建立具高度說服力的各種擬真資料，降低詐騙的進入門檻。又，駭客亦有可能在不熟悉技術的情況下，利用AI進一步找出資安弱點或攻擊方法，增加防禦難度。 七、敏感資料外洩 使用雲端服務提供商所建立的生成式AI時，由於輸入的資料存儲於外部伺服器，若要追蹤或刪除有一定難度，若遭有心人士利用而導致濫用、攻擊或竄改，將可能產生資料外洩的風險。 八、影子AI（Shadow AI） 影子AI係指開發者未知或無法控制之AI使用情境。隨著AI模型複雜性增加，若開發人員與使用者未進行充分溝通，或使用者在未經充分指導下使用 AI 工具，將可能產生無法預期之風險。 參、事件評析 在Roberto Mata v. Avianca, Inc.案中，法院關注的焦點在於律師的行為，而非對AI技術使用的批判。法院認為，隨著技術的進步，利用可信賴的AI工具作為協助用途並無不當，惟，律師應踐行其專業素養，確保所提交文件之正確性[5]。 當AI科技發展逐漸朝向自主與獨立的方向前進，仍需注意生成式AI使用上之侷限。當個人在使用生成式AI時，需具備獨立思考判斷的能力，並驗證產出結果之正確性，不宜全盤接受生成式AI提供之回答。針對企業或具高度專業領域人士使用生成式AI時，除確認結果正確性外，更需注意資料保護及治理議題，例如建立AI工具合理使用情境及加強員工使用相關工具之教育訓練。在成本能負擔的情況下，可選擇透過企業內部的基礎設施訓練AI模型，或是在訓練模型前確保敏感資料已經加密或匿名。並應注意自身行業領域相關法規之更新或頒布，以適時調整資料使用之方式。 雖目前生成式AI仍有其使用之侷限，仍應抱持開放的態度，在技術使用與風險預防之間取得平衡，以能夠在技術發展的同時，更好地學習新興科技工具之使用。 [1]Mata v. Avianca, Inc., 1:22-cv-01461, (S.D.N.Y.). [2]Benjamin Weiser, Here’s What Happens When Your Lawyer Uses ChatGPT, The New York Times, May 27, 2023, https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html (last visited Aug. 4, 2023). [3]Boston Consulting Group [BCG], The CEO’s Roadmap on Generative AI (Mar. 2023), https://media-publications.bcg.com/BCG-Executive-Perspectives-CEOs-Roadmap-on-Generative-AI.pdf (last visited Aug. 29, 2023). [4]Kate Saenko, Is generative AI bad for the environment? A computer scientist explains the carbon footprint of ChatGPT and its cousins, The Conversation (May 23, 2023.), https://theconversation.com/is-generative-ai-bad-for-the-environment-a-computer-scientist-explains-the-carbon-footprint-of-chatgpt-and-its-cousins-204096 (last visited Sep. 7, 2023). [5]Robert Lufrano, ChatGPT and the Limits of AI in Legal Research, National Law Review, Volume XIII, Number 195 (Mar. 2023), https://www.natlawreview.com/article/chatgpt-and-limits-ai-legal-research (last visited Aug. 29, 2023).