落實完善數位資料管理機制，有助於降低AI歧視及資料外洩風險
落實完善數位資料管理機制，
有助於降低AI歧視及資料外洩風險
資訊工業策進會科技法律研究所
2023年07月07日
近年來，科技快速發展，AI(人工智慧)等技術日新月異，在公私部門的應用日益廣泛，而且根據美國資訊科技研究與顧問公司Gartner在2023年5月發布的調查指出，隨著由OpenAI開發的ChatGPT取得成功，更促使各領域對於AI應用的高度重視與投入[1]，與此同時，AI歧視及資料外洩等問題，亦成為社會各界的重大關切議題。
壹、事件摘要
目前AI科技發展已牽動全球經濟發展，根據麥肯錫公司近期發布的《生成式人工智慧的經濟潛力：下一個生產力前沿(The next productivity frontier)》研究報告指出，預測生成式AI(Generative AI)有望每年為全球經濟增加2.6兆至4.4兆的經濟價值[2]。同時在美國資訊科技研究與顧問公司Gartner對於超過2500名高階主管的調查中，45%受訪者認為ChatGPT問世，增加其對於AI的投資。而且68%受訪者認為AI的好處大於風險，僅有5%受訪者認為風險大於好處[3]。然而有社會輿論認為AI的判斷依賴訓練資料，將可能複製人類偏見，造成AI歧視問題，而且若程式碼有漏洞或帳戶被盜用時，亦會造成資料外洩問題。
貳、重點說明
首先，關於AI歧視問題，以金融領域為例，近期歐盟委員會副主席Margrethe Vestager強調若AI用於可能影響他人生計的關鍵決策時，如決定是否能取得貸款，應確保申請人不受性別或膚色等歧視[4]，同時亦有論者認為若用於訓練AI的歷史資料，本身存有偏見問題，則可能導致系統自動拒絕向邊緣化族群貸款，在無形之中加劇，甚至永久化對於特定種族或性別的歧視[5]。
其次，關於資料外洩問題，資安公司Group-IB指出因目前在預設情況下，ChatGPT將保存使用者查詢及AI回應的訊息紀錄，若帳戶被盜，則可能洩露機敏資訊。據統計在2022年6月至2023年5月間，在亞太地區有近41000個帳戶被盜，而在中東和非洲地區有近25000個帳戶被盜，甚至在歐洲地區也有近17000個帳戶被盜[6]。另外在2023年3月時，ChatGPT除了發生部分用戶能夠檢視他人聊天紀錄標題的問題外，甚至發生個人資料外洩問題，即用戶可能知悉他人的姓名、電子郵件，付款地址，信用卡到期日及號碼末四碼等資料[7]。
參、事件評析
對於AI歧視及資料外洩等問題，應透過落實完善數位資料治理與管理機制，以降低問題發生的風險。首先，在收集訓練資料時，為篩選適合作為模型或演算法基礎的資料，應建立資料評估或審查機制，減少或避免使用有潛在歧視問題的資料，以確保分析結果之精確性。
其次，不論對於訓練資料、分析所得資料或用戶個人資料等，均應落實嚴謹的資料保密措施，避免資料外洩，如必須對於資料進行標示或分類，並依照不同標示或分類，評估及採取適當程度的保密措施。同時應對於資料進行格式轉換，以無法直接開啟的檔案格式進行留存，縱使未來可能不慎發生資料外洩，任意第三人仍難以直接開啟或解析資料內容。甚至在傳送帳戶登入訊息時，亦應採取適當加密傳送機制，避免遭他人竊取，盜取帳戶或個人資料。
財團法人資訊工業策進會科技法律研究所長期致力於促進國家科技法制環境完善，於2021年7月發布「重要數位資料治理暨管理制度規範（Essential Data Governance and Management System，簡稱EDGS）」，完整涵蓋數位資料的生成、保護與維護，以及存證資訊的取得、維護與驗證的流程化管理機制，故對於不同公私部門的AI相關資料，均可參考EDGS，建立系統性數位資料管理機制或強化既有機制。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
[1]Gartner, Gartner Poll Finds 45% of Executives Say ChatGPT Has Prompted an Increase in AI Investment (May 3, 2023), https://www.gartner.com/en/newsroom/press-releases/2023-05-03-gartner-poll-finds-45-percent-of-executives-say-chatgpt-has-prompted-an-increase-in-ai-investment (last visited June 30, 2023).
[2]McKinsey, The economic potential of generative AI: The next productivity frontier (June 14, 2023), https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/the-economic-potential-of-generative-AI-the-next-productivity-frontier#introduction (last visited June 30, 2023).
[3]Gartner, supra note 1.
[4]Zoe Kleinman, Philippa Wain & Ashleigh Swan, Using AI for loans and mortgages is big risk, warns EU boss (June 14, 2023), https://www.bbc.com/news/technology-65881389 (last visited June 30, 2023).
[5]Ryan Browne & MacKenzie Sigalos, A.I. has a discrimination problem. In banking, the consequences can be severe (June 23, 2023), https://www.cnbc.com/2023/06/23/ai-has-a-discrimination-problem-in-banking-that-can-be-devastating.html (last visited June 30, 2023).
[6]Group-IB, Group-IB Discovers 100K+ Compromised ChatGPT Accounts on Dark Web Marketplaces; Asia-Pacific region tops the list (June 20, 2023), https://www.group-ib.com/media-center/press-releases/stealers-chatgpt-credentials/ (last visited June 30, 2023).
[7]OpenAI, March 20 ChatGPT outage: Here’s what happened (Mar. 24, 2023),https://openai.com/blog/march-20-chatgpt-outage (last visited June 30, 2023).
- 114年資訊服務業者個資安維辦法宣導說明會
- 【線上】資訊服務業個資安維計畫說明會
- 【實體】資訊服務業個資安維計畫說明會暨交流工作坊
- 【台北場1】通訊傳播事業個資保護實務專題講座
- 【台北場2】通訊傳播事業個資保護實務專題講座
- 【台北場3】通訊傳播事業個資保護實務專題講座
- 金融相關資服業者線上個資安維宣導說明會
- 商業服務業個資管理與資訊安全實務宣導說明會（高雄場）
- 商業服務業個資管理與資訊安全實務宣導說明會（台南場）
- 商業服務業個資管理與資訊安全實務宣導說明會（台中場）
- 商業服務業個資管理與資訊安全實務宣導說明會（台北場）※如遇颱風假延期至7/16
- 製程工業AI應用與規範研討會
- 美國聯網車監管制度與合規實務說明會
美國聯邦法官裁決AI「訓練」行為可主張合理使用 資訊工業策進會科技法律研究所 2025年07月07日 確立我國資料創新利用的法制基礎，建構資料開放、共享和再利用的各項機制，滿足民間及政府取得高品質、可信任且易於利用資料的需求，以資料提升我國數位發展的價值，並強化民眾權利的保障，我國於2025年6月16日預告「促進資料創新利用發展條例」，擬推動資料基礎建設，促進更多資料的釋出。 AI發展領先國際的美國，近日首次有聯邦法院對AI訓練資料表達肯定合理使用看法，引發各界關注[1]。我國已開始著力於AI發展所需的資料流通與有效利用，該判決將有助於啟示我國個人資料、著作資料合法使用之法制因應研析。 壹、事件摘要 2025年6月23日美國加州北區聯邦地方法院（United States District Court for the Northern District of California），威廉·阿爾斯法官（Judge William Alsup）針對Andrea Bartz、Charles Graeber、Kirk Wallace Johnson這三位美國作家，對Anthropic公司訓練大型語言模型（Large Language Model, LLM）時使用受其等著作權保護書籍一案，作出指標性的簡易裁決(summary judgment)[2]。 此案被告掃描所購買的實體書籍，以及從盜版網站複製取得的受著作權保護的書籍，儲存在其數位化、可搜尋的檔案中，用來訓練其正在開發的各種大型語言模型。原告主張被當開發Claude AI模型，未經授權使用大量書籍作為訓練資料的行為，為「大規模未經授權利用」。法院則以四要素分析架構，支持合理使用抗辯（Fair Use Defense），強調AI訓練屬於技術發展過程中不可或缺的資料利用，AI公司於模型訓練階段使用著作權書籍，屬於「合理使用」（Fair Use），且具「高度轉化性」（Highly Transformative），包括將購買的實體圖書數位化，但不包括使用盜版，也不及於建立一個永久性的、通用目的的「圖書館(library)」(指訓練資料集)。 貳、重點說明 依美國著作權法第107條（17 U.S.C. § 107）規定，合理使用需綜合考量四要素，法官於本案中認為： 一、使用的目的與性質—形成能力具高度轉化性 AI模型訓練的本質在於學習語言結構、語意邏輯，而非單純複製或重現原著作。AI訓練過程將大量內容作為輸入，經由演算法解析、抽象化、向量化，最終形成轉個彎創造出不同的東西 (turn a hard corner and create something different) 的能力，屬於一種「學習」與「再創造」過程。AI訓練的目的並非為了重現原著作內容，而是為了讓模型具備生成新內容的能力。這種「轉化性」（transformative use）極高，與單純複製或替代原著作的行為有明顯區隔[3]。 另外訓練過程對資料做格式變更本身並未增加新的副本，簡化儲存並實現可搜尋性 (eased storage and enabled searchability)，非為侵犯著作權人合法權益目的而進行，亦具有轉化性 (transformative)。原告就所購買的紙本圖書，有權按其認為合適的方式「處置 (dispose)」，將這些副本保存在其資料集中，用於所有一般用途[4]。 二、受保護作品的性質--高度創作性非關鍵因素 法院認同原告所主張的書籍是具有高度創意（creative）的作品理應享有較強的保護。但法院亦認為合理使用的四個要素，須為整體衡量，儘管作品本身具有較高的創意性，但由於使用行為的高度轉化性以及未向公眾直接重製原作表達，整體而言，法院認定用於訓練 LLM 的行為構成合理使用[5]。 三、使用的數量與實質性--巨大數量係轉化所必要 法院認為AI模型訓練需大量內容資料，甚至必須「全書」輸入，看似「大量使用」，但這正是AI技術本質所需。AI訓練是將內容進行抽象化、數據化處理，最終在生成新內容時，並不會原封不動重現原作。所以，雖然訓練過程涉及全部作品，但AI模型的輸出並不會重現原作的具體表達，這與單純複製、重製作品的行為有本質區別[6]。 四、對潛在市場或價值的影響 本案法院明確指出，人工智慧模型（特別是原告的Claude服務）的輸出內容，通常為全新生成內容，並非原作的精確重現或實質模仿冒，而且Claude服務在大型語言模型（LLM）與用戶之間加入額外功能，以確保沒有侵權輸出提供予用戶。因此，此類生成內容不構成對原作的替代，不會削弱原作的銷售市場，也不會造成市場混淆，而且著作權法保護的是原創而非保護作者免於競爭[7]。 不過即便法院支持被告的合理使用主張，肯定AI訓練與著作權法「鼓勵創作、促進知識流通」的立法目的相符。但仍然指出提供AI訓練的合理使用（Fair Use）不代表資料來源的適法性（Legality of Source）獲得合法認定。沒有任何判決支持或要求，盜版一本本來可以在書店購買的書籍對於撰寫書評、研究書中的事實或創建大型語言模型 (LLM) 是合理必要 (reasonably necessary) 的。此類對原本可(合法)取得的圖書進行盜版的行為，即使用於轉化性使用並立即丟棄，「本質上」、「無可救藥地」(inherently、irredeemably)構成侵害[8]。 參、事件評析 一、可能影響我國未來司法判決與行政函釋 我國於現行著作權法第65條規定下，須於個案交予我國法院認定合理使用主張是否能成立。本案判決為美國首個AI訓練行為可主張合理使用的法院見解，對於我國法院未來就對AI訓練資料取得的合法使用看法，顯見將會產生關鍵性影響。而且，先前美國著作權局之報告認為AI訓練過程中，使用受著作權保護作品可能具有轉化性，但利用結果(訓練出生成式AI)亦有可能影響市場競爭，對合理使用之認定較為嚴格，而此裁定並未採取相同的見解。 二、搜取網路供AI訓練資料的合理使用看法仍有疑慮 依據本會科法所創智中心對於美國著作權法制的觀察，目前美國各地法院中有多件相關案件正在進行審理，而且美國著作權局的合理使用立場較偏向有利於著作權利人[9]。相同的是，均不認同自盜版網站取得的資料可以主張合理使用。然而AI訓練所需資料，除來自於既有資料庫，亦多來自網路搜取，如其亦不在可主張範圍，那麼AI訓練的另一重要資料來源可能會受影響，後續仍須持續觀察其他案件判決結果。 三、有效率的資料授權利用機制仍是關鍵 前揭美國著作權局報告認為授權制度能同時促進產業發展並保護著作權，產業界正透過自願性授權解決作品訓練之方法，雖該制度於AI訓練上亦尚未為一完善制度。該裁決也指出，可合理使用資料於訓練AI，並不代表盜版取得訓練資料可以主張合理使用。這對於AI開發而言，仍是須要面對的議題。我國若要發展主權AI， 推動分散串接資料庫、建立權利人誘因機制，簡化資料查找與授權流程，讓AI訓練資料取得更具效率與合法性，才能根本打造台灣主權AI發展的永續基礎。 本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。 本文同步刊登於TIPS網站（https://www.tips.org.tw） [1]相關新聞、評論資訊，可參見：Bloomberg Law, "Anthropic’s AI Book-Training Deemed Fair Use by US Judge", https://news.bloomberglaw.com/ip-law/ai-training-is-fair-use-judge-rules-in-anthropic-copyright-suit-38；Anthropic wins a major fair use victory for AI — but it’s still in trouble for stealing books, https://www.theverge.com/news/692015/anthropic-wins-a-major-fair-use-victory-for-ai-but-its-still-in-trouble-for-stealing-books；Anthropic Scores a Landmark AI Copyright Win—but Will Face Trial Over Piracy Claims, https://www.wired.com/story/anthropic-ai-copyright-fair-use-piracy-ruling/；Anthropic Wins Fair Use Ruling In Authors' AI Copyright Suit, https://www.thehindu.com/sci-tech/technology/anthropic-wins-key-ruling-on-ai-in-authors-copyright-lawsuit/article69734375.ece., (最後閱覽日：2025/06/25) [2]Bartz et al. v. Anthropic PBC, No. 3:24-cv-05417-WHA, Doc. 231, (N.D. Cal. June 23, 2025)，https://cdn.arstechnica.net/wp-content/uploads/2025/06/Bartz-v-Anthropic-Order-on-Fair-Use-6-23-25.pdf。(最後閱覽日：2025/06/25) [3]Id. at 12-14. [4]Id. at 14-18. [5]Id. at 30-31. [6]Id. at 25-26. [7]Id. at 28. [8]Id. at 18-19. [9]劉家儀，美國著作權局發布AI著作權報告第三部分：生成式AI訓練－AI訓練是否構成合理使用？https://stli.iii.org.tw/article-detail.aspx?no=0&tp=1&d=9352。
行政院審查通過「食品衛生管理法」及「健康食品管理法」修正草案「食品衛生管理法」及「健康食品管理法」修正草案已於94年11月30日經行政院第2968次院會審查通過，將於近期進一步送立法院審議。未來只要有食品遭檢出含有害人體健康的物質，或標示不清，都一律得先下架禁賣並封存。而食品廣告誇大不實或宣稱具有療效部分，也在這次修法中加重其相關罰則。 本次修法重點為： 一、廣告管理：延長傳播業者保存委託刊播廣告者資料之期間，由原本2個月修正為6個月（食品衛生管理法修正條文第十九條、健康食品管理法修正條文第十五條）。 二、提高罰鍰額度： １．加重宣稱療效健康食品業者之行政處分，提高其罰鍰額度，由原本6萬元以上30萬元以下，修正為20萬元以上100萬元以下，並規定一年內再違反者，得廢止其營業或工廠登記證照。（健康食品管理法修正條文第二十四條） ２．對於影響民眾飲食衛生安全較鉅之違法情節，提高罰鍰額度，將部分原本3萬元以上15萬元以下或4萬元以上20萬元以下，提高為6萬元以上30萬元以下（食品衛生管理法修正條文第三十一條及第三十三條）。 三、違規業者加重行政處分：違規標示產品 除應通知限期回收改正，進一步明定於改正前不得繼續販賣（食品衛生管理法修正條文第二十九條）。 四、擴大地方主管機關得命暫停作業並將物品封存之範疇（食品衛生管理法修正條文第二十四條）。
中國大陸最高人民法院於2014年11月3日公布《最高人民法院關於北京、上海、廣州知識產權法院案件管轄的規定》根據中國大陸最高人民法院（以下簡稱高法）2014年11月3日公布之《最高人民法院關於北京、上海、廣州知識產權法院案件管轄的規定》，大陸地區將陸續於北京、上海、廣州成立知識產權法院（即我國的智慧財產法院）。另據高法6日新聞報導，北京知識產權法院已於同月6日掛牌成立，至於上海、廣州兩地法院也將於年內正式成立。 大陸地區成立知識產權法院係本年8月31日由其第12屆全國人民代表大會常務委員會第10次會議所決定的，初步將於北京、上海、廣州三地成立專責法院。根據前開規定第1條，知識產權法院管轄的第一審案件包括三類：一、專利、植物新品種、集成電路布圖設計（即我國之積體電路布局）、技術秘密、計算機軟件等技術類民事和行政案件；二、對國務院部門或者縣級以上地方人民政府涉及著作權、商標、不正當競爭等行政行為提起訴訟的行政案件；三、涉及馳名商標認定的民事案件。 北京、上海、廣州知識產權法院的管轄範圍分別為北京、上海兩直轄市，以及廣東省，前述提及三類相關案件由三地知識產權法院專屬管轄。如有上訴，相關案件均由法院所在地的高級人民法院知識產權審判庭審理，而不再透過該地中級人民法院。且相關法院之法官除依專業進行分類、配置外，亦將設有技術調查官等，以強化專業審判的能力。 隨著科技的日新月異，以及智慧財產相關糾紛或訴訟案件的高度專業化，有關大陸地區成立知識產權法院，或許是為因應趨勢所不得不為之措施，然其具體運作及成效，後續仍值持續關切。
GPL（General Public License，通用公共許可證）即將進行更新修訂FSF（ Free Software Foundation，自由軟體基金會）於日前公佈，將針對現行版本GPL Version 2進行更新修訂。由於GPL Version 2自1991 年使用至今未曾修改過，隨著軟體開發技術日新月異，新興網路應用議題亦不斷產生，故確時有必要更新修訂。FSF預定在2006年第一週會公布GPL v3草案，詳細說明每一條條文修改的原因及影響，並提供予IT產業、軟體使用者、以及和GPL v3有利害關係的各界人士，共同彙集多方的意見，以期獲得更廣大的效益。 然改寫GPL v3實屬不易。GPL是世界性的授權條款，但現今世界各國的著作權法與專利法等相關法令規範不一，再加上新興的網路應用技術與模式，GPL v3新規範應儘可能將上述要項考量納入增訂，以避免引發爭議；若是相關爭議順利解決的話，預料2007年年初就可將GPL v3擬訂完成。