日本發布生成式AI智財保護及透明性守則
日本發布生成式AI智財保護及透明性守則
資訊工業策進會科技法律研究所
2026年09月09日
近年隨各國生成式AI服務普及，技術訓練資料來源與智慧財產權保護問題益受權利人關注，如何在確保AI技術發展下，兼顧既有權利的保護，已成為AI治理的主要課題之一。日本此次針對生成式AI訓練資料之透明化，提出業者自主揭露、建立查詢機制、賦予訴訟中權利人與一般使用者請求揭露依據的實務操作具體規範，以完備透明揭露機制，確保權利人及使用者皆能於安全、安心之環境下利用生成式AI。
壹、事件摘要
日本知的財産戰略本部依日本《人工智慧相關技術之研究開發及活用推進法》（令和7年法律第53號）之意旨，運用「遵循或解釋」之運作方式，於2026年8月25日公布《生成ＡＩの適切な利活用等に向けた知的財産の保護及び透明性に関するプリンシプル・コード》[1]（生成式AI適切利活用等相關知的財產保護及透明性守則，下稱本守則）。本守則為自願性質，要求生成式AI開發者及提供者就模型使用、學習資料及當責性等事項進行透明化揭露，並就智慧財產權保護措施揭示所採措施；並賦予權利人與一般生成式AI生成物使用人得於符合一定要件下，向生成式AI事業者請求揭露特定比對資訊之權利。內閣府另行公布「概要開示対象事項 具体例」供各揭露事項之記載程度的具體參照[2]。
貳、重點說明
一、適用對象包括開發者、提供者、權利人、使用人等利害關係人
本守則適用對象包括「生成式AI開發者」及「生成式AI提供者」(以下合稱生成式AI「事業者」)。但適用範圍並不包括非對公眾提供生成式AI之對象，例如：僅承接開發過程一部分工作、將成果交付予開發者之受託人；僅從事研究而未對公眾提供者；僅利用單一法人或個人資料特化建構、且僅供該資料提供者使用之系統；僅供特定企業集團或團體內部使用之專用系統。於日本境內未設本店或主要事務所之國外事業者，如向日本提供其服務，仍應適用本守則。
二、採「遵循或解釋」官方公開揭示的運作機制
事業者應於公司網站公開受採用表明、公開各原則之實施事項(即「遵循」)，事業者就個別情況認為不適當之原則，得說明不實施理由後不予實施(即「解釋」)，但說明應力求使使用者及權利人獲得充分理解。就「解釋」之認定基準，本守則規定僅陳述尚未建立實施體制，不足以構成「解釋」，應依事業規模等因素說明體制建置完成之時期；已提出必要依據，證明依本原則揭露於技術上不可行者，可視為已完成「解釋」。
為使受採用狀況可視化(公開揭示)，上開事項應依內閣府所定格式提出申報，原則上每年至少檢視、更新一次。內閣府將製作「遵循或解釋」相關參考格式，並公開已申報事業者清單及其公司網站連結，惟不就申報內容進行審查，對於第三人之查詢等亦不予回覆。
三、透明性確保措施
本守則要求事業者應揭露之透明性事項分為模型使用、學習資料、當責三大類，應揭露的項目包括：
(一) 使用模型相關事項：名稱（識別碼、版本等）、含公開日期在內之沿革（過去版本或修正紀錄）、架構與設計規格（含第三人授權狀況、使用所需之硬體軟體及授權）、使用規範（預設用途，及限制、禁止用途之明確化），以及模型訓練過程之內容（訓練方法等）。
(二) 學習資料相關事項：訓練及驗證等所用資料之種類（含RAG使用之資料）、網路爬取或自第三人取得之非公開資料集相關事項、公開資料集相關事項、以其他方式蒐集之資料相關事項、合成資料之使用有無及目的，以及爬蟲程式之目的、資料蒐集期間、名稱與識別碼，是否使用第三人爬蟲程式及其名稱、識別碼。
(三) 當責相關事項：開發、提供、使用過程中決策之可追蹤、回溯狀態，可追溯性之提升、負責人之明示、相關人員責任之分配、對利害關係人之具體因應，以及文書化。
四、智慧財產權保護措施之揭露
本守則要求事業者採取下列智慧財產權保護措施：
(一) 建立智慧財產保護制度：訂定智慧財產權保護原則、明確化責任體制，每年至少檢視一次並對外公開要旨；對訓練所得之紀錄保存一定期間
(二) 合法進行訓練資料取得：資料活用（含開發、學習）不侵害他人智慧財產權；採用遵循付費牆等存取限制及robots.txt等機器可讀指示之爬蟲程式，並就各使用者代理逐一公開上開措施，且於變更時通知
(三) 盡可能採取侵權防免措施：包括致力於避免對盜版網站進行爬取；採取防止生成侵害智慧財產權之生成物之技術性措施；採取電子浮水印、C2PA等可證明內容出處及沿革之技術性措施；對使用者周知不應利用有侵權疑慮之生成物
(四) 整備權利人適時適當救濟之窗口：明確化申訴要件，並保存因應紀錄。
五、使用者、權利人及其受委任律師或代理人均可依一定程序請求揭露
賦予使用者、權利人(及其受委任律師或代理人)兩類主體得向生成式AI事業者請求揭露特定資訊之權利，以供使用者確認其所用AI是否使用特定著作為訓練資料，或權利人確認相同或近似的著作被事業者納入AI成為訓練資料。二者程序架構相同，均得請求揭露訓練驗證資料（指透過網路爬取或自第三人取得之非公開資料集、公開資料集、含合成資料在內之資料集，或以其他方式蒐集之資料，惟不以此為限），但因訴訟、聲請調解、聲請訴訟外紛爭解決程序（ADR）或其他法律程序而有必要之權利人，及其受委任律師或代理人，可請求查證的是自行查詢之URL[3]；一般使用者則可以請求查證的係是否含有與其所生成之生成物相同或近似內容[4]。相關請求須具備三項要件：
(一) 足認具備請求資格之理由，即權利人及其受委任律師或代理人須說明具備訴訟等程序資格之事由，而一般使用者則須提出生成物及所用提示詞；
(二) 明示利用目的並承諾不作目的外使用，權利人及其受委任律師或代理人並須進一步承諾不將回覆轉作嗣後提起訴訟、調解或ADR之用；
(三) 說明請求揭露理由與參照(可供查證的)資訊。
依請求人身分於適用程序上略有區別，並均以「生成式AI事業者容易存取及確認者為限」為限。
參、事件評析
我國《人工智慧基本法》第4條第5款規定，政府推動人工智慧研發應用應遵循「透明與可解釋」原則，人工智慧產出應做適當資訊揭露或標記；第5條第2項規定，經中央目的事業主管機關會商數位發展部認定為高風險應用者，應明確標示注意事項或警語；第16條第2項則規定，各目的事業主管機關應協助相關產業自行訂定產業指引及行為規範。日本此次公布的守則所建構之透明化與揭露請求機制，本文認為具有下列可參考之處：
一、機關不須立於審查、承責之角色，但有法律效力時須以第三方驗證機制配套
本守則明示透明化效果繫於業者自主誠信履行，明文規定日本內閣府對業者申報內容不進行審查，且對第三人查詢亦不予回覆，此一設計使主管機關毋須承擔審查責任，僅提供申報格式與公開清單之行政協助角色，殊值承受責任壓力的行政機關參考。但若將來將類似遵循或解釋機制提升為具法律效力之規範，應同時建立第三方驗證機制，例如由主管機關或指定機構就業者申報內容進行抽查或複核，藉公眾審查與問責機制，對業者形成遵循與誠信申報之壓力，避免僅以業者單方陳述作為唯一依據。
二、軟法指引須深化至具體記載程度，始能發揮引導效果
本守則另有由內閣府公布「概要開示対象事項 具体例」，就各事項應揭露之記載程度提供具體範例，顯示軟法之引導效果，繫於指引深化之程度，僅列原則性事項而未進一步定明記載程度或格式範例者，業者實務操作易生歧異，透明化效果亦難以彰顯。我國《人工智慧基本法》第4條第5款及第16條第2項就透明化及產業行為規範，除應有相關指引外亦宜向下展開實作之基準或格式範例，以利軟法引導機制發揮實效。
三、軟法之表態不限於正面列舉，亦應及於未能遵循之說明義務
本守則就「解釋」特別指出，僅陳述尚未建立實施體制，不構成解釋，須進一步依事業規模等因素說明體制建置完成之時期，或提出必要依據證明依本原則揭露於技術上不可行者，始視為已完成解釋。此一設計顯示，透明化義務之履行不僅止於正面陳報遵循程度，亦及於未能遵循時具體說明理由及依據之義務。類此規範模式可運用於著作合理使用之指引，透過反向說明那些無法被認同屬合理使用的情況，間接明確可主張合理使用的應備條件，降低不確定的模糊空間。
四、達成透明化目的應併用揭露與標記
我國《人工智慧基本法》第4條第5款規定人工智慧產出「應做適當資訊揭露或標記」，然於日本此守則中可見諸透明性揭露事項與智慧財產權保護措施中電子浮水印、C2PA等技術性措施併陳，顯示揭露與標記於功能上有別。揭露解決使查閱者得知資訊內容之問題，標記則解決生成物本身出處可辨識、可追溯之問題，二者併存運用可兼顧事前資訊公開與事後來源查核。我國後續訂定操作規範時，宜避免將兩者理解為得擇一履行之選項。
五、智慧財產權保護措施屬事業者應建立之基本管理制度
本守則所列智慧財產權保護措施九項事項，包括保護原則之訂定與責任體制之明確化、遵循付費牆及機器可讀指示之爬蟲政策、訓練紀錄之保存、技術性防護措施之採行，以及權利人救濟窗口之整備等，其性質應定位為生成式AI事業者於資料蒐集、模型訓練及生成物提供各階段應建立之基本管理制度，我國將來訂定之產業AI應用指引，可參採納入事業者內部治理應具備之基礎架構，而非僅為對外揭露之事項。
本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
[1]知的財産戦略本部，〈生成ＡＩの適切な利活用等に向けた知的財産の保護及び透明性に関するプリンシプル・コード〉，2026年8月25日，https://www.cas.go.jp/jp/seisakukaigi/titeki2/ai_kentoukai/kaisai/pdf/ai_principle_code.pdf（最後瀏覽日：2026年9月8日）。
[2]内閣府知的財産戦略推進事務局，〈概要開示対象事項 具体例〉，2026年8月25日，https://www.cas.go.jp/jp/seisakukaigi/titeki2/ai_kentoukai/kaisai/pdf/ai_principle_code_gutairei.pdf（最後瀏覽日：2026年9月8日）。
[3] 例如自行創作作品並刊載於網站A之人，如發現與該作品相同或近似之生成式AI生成物，得向生成式AI事業者出示該網站A作品刊載頁面之URL，就該網域是否列入爬蟲程式之爬取對象、是否列入自第三人取得之訓練資料來源等事項請求揭露。
[4] 例如AI使用者發現其用生成式AI的生成物，有相同或近似之內容刊載於網站B，得向提供生成式AI服務A之生成式AI提供者出示該生成式AI生成物、生成該生成物時所使用之提示詞、該生成物之利用目的及網站B之URL，就該URL之網域部分是否列入生成式AI服務A所搭載生成式AI系統開發時訓練資料之爬取對象、是否列入自第三人取得之訓練資料來源等事項。
美國FDA擬修法調整臨床實驗知情同意義務之豁免標準 資訊工業策進會科技法律研究所 蔡宜臻法律研究員 2018年11月27日 壹、事件摘要 知情同意（informed consent）是人體試驗受試者保護重要的一環，同時也是生物醫學長期以來的研究傳統，然其規範內容卻會因科技與研究方式的改變而略有調整。美國食品藥物管理局（Food and Drug Administration, FDA）於2018年11月15日發布一份法規提案（proposed rule），公開徵求意見評論。該提案目的在於調整FDA知情同意的相關規定，未來FDA希望允許人體試驗倫理委員會（Institutional Review Boards, IRB）在試驗僅有最小風險（minimal risk）的情況下，得以裁決一臨床實驗案可豁免知情同意的責任，或更改某些「告知要項」[1]。本次法規提案徵詢終止日為2019年1月14日，FDA並規劃於本法規命令正式公告施行後，廢止其於2017年7月所發佈之《IRB豁免或變更臨床實驗之知情同意指南》（IRB Waiver or Alteration of Informed Consent for Clinical Investigations Involving No More Than Minimal Risk to Human Subjects）[2] 貳、重點說明 目前FDA僅允許在危及生命[3]或緊急研究（emergency research）[4]的情況下，得以例外不必符合知情同意的一般要求（general requirements）[5]。而根據FDA於2018年11月15日發布於聯邦公報（Federal Register）的法規提案內容，FDA打算新增「試驗僅有最小風險」（The research involves no more than minimal risk to subjects）做為豁免或變更知情同意項目的甄別標準之一。如此一來若是修法通過，FDA對於知情同意豁免與否的認定標準就會跟1991年制訂的《美國聯邦受試者保護通則》（Federal Policy for the Protection of Human Subjects，簡稱the Common Rule）[6]更加接近。換言之，未來修法通過後，由FDA管理的人體臨床實驗將有三種情形得以豁免或變更知情同意義務：危及生命、緊急研究與僅具有最小風險的研究。 所謂最小風險，係指「研究中預期的傷害或不適的概率和程度，不大於在日常生活中或在進行常規身體或心理檢查時通常遇到的傷害或不適」[7]，比如：不需新藥研究申請（investigational new drug application, IND）的新藥研究；醫療器材臨床試驗豁免（investigational device exemption, IDE）之醫療器材研究；檢體之取得為無創（受試者之頭髮或指甲）的臨床研究；為研究目的而蒐集聲音、影片、數據或圖像紀錄；研究個體或群體的特徵或行為；個人或焦點團體訪談等質性研究[8]。FDA指出本次法規提案當中所指的最小風險定義與其附隨條件將與《美國聯邦受試者保護通則》自1991年施行以來之規定一致，即該研究只要同時符合以下四點便可望由IRB審查豁免或變更知情同意義務[9]： 僅有最小風險的研究[10]。 若不豁免或變更知情同意義務，則研究無法順利進行[11]。 不造成受試者權利跟福祉之負面影響[12]。 受試者將在適當時機獲悉進一步研究資訊[13]。 此次提案的法源依據是2016年通過的《21世紀治癒法》（21st Century Cures Act）第3024節所修正之《聯邦食品藥物化妝品法》（Federal Food, Drug, and Cosmetic Act）第505(i)(4)、520(g)(3)節。《21世紀治癒法》第3024節賦予FDA權力放寬臨床實驗的知情同意義務，其立法背景是由於目前FDA相關規範對知情同意要求相對嚴格，當研究者無法滿足現有法規對於知情同意的要求，便可能使潛在的有價值的研究被迫停止[14]；又或在某些情形下，要求研究者在進行臨床實驗時取得研究對象的知情同意並不切實際[15]。《21世紀治癒法》通過後，FDA隨即於2017年7月發布《IRB豁免或變更臨床實驗之知情同意指南》，當中指出FDA並不打算在僅有最小風險的臨床研究中，反對IRB做出豁免或變更知情同意項目的判定，若本次法規提案後續正式生效，FDA便會廢止此指南，使其轉為FDA規則（regulation）。 參、事件評析 知情同意是生物醫學研究的學術傳統，包含兩大重點，一是令研究對象充分知悉其所參與的研究，包含其研究目的、內容、風險與預期利益；二是確保研究對象在做出同意或不同意之意思表示時，其意思表示之真實性，由此保障受試者的自主權[16]。 知情同意之概念最早源自1947年的紐倫堡法典（Nuremburg Code），其規範內涵在過去數十年間因為生物醫學的研究方法與進行模式的變革而產生變化。早年的臨床研究主要由政府資助、在單一的機構進行，涉及的受試者人數相對有限；而近三、四十年，醫學研究漸漸發展成多機構、多中心甚至跨國的研究案，受試者可能高達數萬甚至數十萬，同時也逐漸形成跨領域的研究轉型，涉及如社會學、心理學、教育、環境、氣候等學科。在此情形下，研究方法與資料取得勢必與過去截然不同，傳統的知情同意的制度漸漸無法滿足現代醫學研究的需要。1978年貝爾蒙特報告（Belmont Report）便強調應評估臨床研究的風險是否超過日常可接受範圍[17]，1981年美國據此制定《美國衛生及公共服務部人體研究保護政策最終規則》（Final regulations amending basic HHS policy for the protection of human research subjects）[18]便首次將「不超過日常風險的臨床實驗」[19]納為知情同意之豁免或變更之標準；1991年制定的《美國聯邦受試者保護通則》亦延續此概念並進一步做出更明確定義（見前述），惟當時FDA基於其業務為確保藥品、生物製劑以及醫療器材安全與執照核發，與《美國聯邦受試者保護通則》作為拘束十六個聯邦機關的一般性規範不同，因此未將「僅有最小風險的臨床實驗」納為豁免或變更知情同意義務的標準[20]。 時序進展至今，資通訊技術的進步所累積的巨量資料逐漸成為生醫研究的重要研究資源，面對這項轉變與研究者對於倫理審查委員會專業性的質疑，美國近年再度嘗試調整修法。2016年通過之《21世紀治癒法》便要求FDA將「僅有最小風險的臨床實驗」納為得豁免或變更免除知情同意的標準之一，可被視為是期望FDA向更為寬鬆的《美國聯邦受試者保護通則》靠攏；另方面，2017年修訂《美國聯邦受試者保護通則》之最終規則（final rule，將於2019年1月生效），也新增「若是研究涉及取得可識別的個人資料或可識別的生物標本，需要證明若無這些資料研究將無法進行」[21]，作為豁免或變更知情同意義務的要件，許是為避免個人資料因知情同意的放寬而有遭受濫用之虞。不過這項要件在本次FDA法規提案並未提及。 綜上述，本文整理兩大爭點： 一、最小風險判定標準之不確定性。 最小風險之定義雖明確指「研究中預期的傷害或不適的概率和程度，不大於在日常生活中或在進行常規身體或心理檢查時通常遇到的傷害或不適」[22]，惟最小風險之判定仍存在不確定空間。FDA雖強調將承繼《美國聯邦受試者保護通則》自1991年施行以來個案累積之最小風險判定標準，但此一不確定性直接影響的是受試者的自主權，侵害美國憲法所保障的人權精神；此外，也有批評指出FDA所援引的《美國聯邦受試者保護通則》對於最小風險的定義文字過於模糊，容易造成誤解或誤判[23][24][25]。 二、本次法規提案並未新增《美國聯邦受試者保護通則》即將於2019年1月生效的項目，或再度造成FDA規定與其他聯邦機構未能一致的情形。 FDA本次法規提案新增「最小風險」的其中一個原因便是希望盡可能與《美國聯邦受試者保護通則》標準一致。然令人困惑的是，其並未新增《美國聯邦受試者保護通則》即將於2019年1月實施的豁免或變更知情同意義務的要件：「若是研究涉及取得可識別的個人資料或可識別的生物標本，需要證明若無這些資料研究將無法進行」[26]。換言之，即便此次修法提案通過，依舊與會與《美國聯邦受試者保護通則》有落差。更甚者，《美國聯邦受試者保護通則》所新增的要件，實意在保障個人資料不會因知情同意的豁免範圍改變而遭到恣意使用或揭露，有助於保護個人隱私與資料自主，而FDA並未將其納入法規提案內容，或可能造成個資保護之漏洞。此項缺失FDA於法規提案當中亦有提及，或可期待後續修正[27]。 肆、結語 FDA原有關於豁免或變更知情同意的規定與《美國聯邦受試者保護通則》存有寬嚴程度落差，FDA此前僅限定在有生命危險與緊急研究的情形方可為之；而《美國聯邦受試者保護通則》由於是一種一般性規範，所以保障程度較為寬鬆。FDA本次修法將使部分僅有最小風險的臨床實驗可以更為順利進行，同時也使FDA知情同意的規範更加接近當前《美國聯邦受試者保護通則》的規定。惟最小風險的認定存在不確定性，其所可能侵害的是受試者自主權，不可不慎。又，《美國聯邦受試者保護通則》即將在2019年1月規定研究蒐集之個人資料必須對研究有絕對必要方可，而本次FDA的法規提案未見跟進此一新增要件。由於本提案仍在意見評論階段，是以FDA後續是否再度更新提案內容，值得後續關注。 [1] Institutional Review Board Waiver or Alteration of Informed Consent for Minimal Risk Clinical Investigation, 83 Fed. Reg. 57378-57386(Nov. 15, 2018) https://www.federalregister.gov/documents/2018/11/15/2018-24822/institutional-review-board-waiver-or-alteration-of-informed-consent-for-minimal-risk-clinical (last visited Nov. 26, 2018) [2] FOOD AND DRUG ADMINISTRATION[FDA], FDA In Brief: FDA takes steps to allow greater flexibility for clinical investigators about informed consent in minimal risk situations.(2018/11/13) https://www.fda.gov/NewsEvents/Newsroom/FDAInBrief/ucm625747.htm (last visited Nov. 26, 2018) [3] 21 CFR 50.23 [4] 21 CFR 50.24 [5] 有關更多FDA豁免告知同意之項目類別與細部說明，可參考https://www.accessdata.fda.gov/scripts/cdrh/cfdocs/cfcfr/CFRSearch.cfm?fr=50.23； https://www.accessdata.fda.gov/scripts/cdrh/cfdocs/cfcfr/CFRSearch.cfm?fr=50.24 (last visited Jan. 8, 2019) [6] 45 CFR 46, subpart A. [7]“the probability and magnitude of harm or discomfort anticipated in the research are not greater in and of themselves than those ordinarily encountered in daily life or during the performance of routine physical or psychological examinations or tests.” (46 CFR 102(i); 21 CFR 50.3(k); 21 CFR 56.102(i)). [8] U.S. DEPARTMENY OF HEALTH & HUMAN SERVICES [HHS], OHRP Expedited Review Categories.(1998) https://www.hhs.gov/ohrp/regulations-and-policy/guidance/categories-of-research-expedited-review-procedure-1998/index.html (last visited Nov. 26, 2018) [9] 45 CFR 46.116 [10] “The research involves no more than minimal risk to subjects” [11] “The research could not be carried out practicably without the waiver or alteration” [12] “The waiver or alteration will not adversely affect the rights and welfare of the subjects” [13] “Where appropriate, the subjects will be provided with additional information about their participation” [14] FOOD AND DRUG ADMINISTRATION[FDA], FDA In Brief: FDA takes steps to allow greater flexibility for clinical investigators about informed consent in minimal risk situations.(2018/11/13) https://www.fda.gov/NewsEvents/Newsroom/FDAInBrief/ucm625747.htm (last visited Nov. 26, 2018) [15] id. [16] 陳子平，〈醫療上「充分說明與同意」之法理在刑法上的效應（上）〉，《月旦法學雜誌》，第278期，頁224（2010）。 [17] THE NATIONAL COMMISSION FOR THE PROTECTION OF HUMAN SUBJECTS OF BIOMEDICAL AND BEHAVIORAL RESEARCH, The Belmont Report—Ethical Principles and Guidance for the Protection of Human Subjects of Research(1978), https://videocast.nih.gov/pdf/ohrp_appendix_belmont_report_vol_2.pdf (last visited Jan. 9, 2019) [18] Final regulations amending basic HHS policy for the protection of human research subjects. 46(16) Fed. Reg. 8366–8391 (Jan. 26, 1981) [19] “those risks encountered in the daily lives of the subjects of the research” (46(16) FR 8373) [20] NATIONAL CENTER FOR BIOTECHNOLOGY INFORMATION[NCBI], Determining Minimal Risk in Social and Behavioral Research(2014), https://www.ncbi.nlm.nih.gov/books/NBK217976/ (last visited Jan. 9, 2019) [21]“if the research involves using identifiable private information or identifiable biospecimens, the research could not practicably be carried out without using such information or biospecimens in an identifiable format” (45 CFR 46.116(f)(3)(iii)) [22] 21 CFR 50.3(k), 56.102(i) [23] Regulations.gov, https://www.regulations.gov/document?D=FDA-2018-N-2727-0010 (last visited Dec. 20, 2018) [24] Shah S, Whittle A, Wilfond B, Gensler G & Wendler D., How do institutional review boards apply the federal risk and benefit standards for pediatric research, JOURNAL OF THE AMERICAN MEDICAL ASSOCIATION, 291(4), 476–482(2004). [25] Lidz C & Garverich S., What the ANPRM missed: Additional needs for IRB reform. JOURNAL OF LAW, MEDICINE AND ETHICS, 41(2), 390–396(2013). [26] 45 CFR 46.116(f)(3)(iii) [27] Supra note No. 1
因網路詐欺受騙的銀行儲戶控告銀行美國佛羅里達州一名商人日常透過網路管理其帳戶資金出入，其資金主要是在美國與中南美洲間流動。該名商人發現其銀行帳戶有異常的資金流向拉脫維亞而向警方報案，經調查發現他的電腦被植入名為Coreflood的特洛伊木馬程式，致其銀行帳戶存取密碼被盜用。該名商人認為銀行明知網路上有此種危險而怠於告知客戶，且銀行明知拉脫維亞以網路犯罪猖獗而著稱，對於其帳戶內大筆的異常資金流出亦疏於防範，爰對銀行提起訴訟。據信，本案為銀行儲戶因受網路詐欺而控告其銀行的首例。
韓國公共行政安全部制定《公部門AI倫理原則》草案，以提升民眾對公部門應用AI之信任2025年11月，韓國公共行政安全部（Ministry of the Interior and Safety，下稱MOIS）於新聞稿宣布制定《公部門AI倫理原則》草案，追求公益、公平無歧視、透明、問責明確、安全性及隱私保護等六大核心價值，旨於促進創新、提升民眾對公部門應用AI之信任。 一、適用範圍 《公部門AI倫理原則》草案適用對象為公部門，包含中央、地方政府機關等，其性質為不具強制力的指引。 二、檢核表分三階段漸進式管理 《公部門AI倫理原則》草案依AI 應用的複雜程度分為三階段漸進式管理，設計最高達90個細項的檢核表（Checklist），惟目前尚未公開詳細內容： （一）第一階段：基礎導入（AI基礎應用） 針對技術引進的初步活用階段，共包含31個檢核項目，旨在建立基礎的倫理合規防線。 （二）第二階段：進階應用（AI決策支援） 適用於AI提供資料分析與建議以輔助人員進行行政決策的情境。隨著影響力提升，檢核項目擴增至74個，強化透明性與責任性的審查。 （三）第三階段：深度融合（AI自主決策） 針對AI具備高度自主決策權的高風險情境（如自主化服務或複雜判斷），執行最嚴密的倫理檢查，共達90個檢核項目。 建議公部門依檢核表自行檢查，並依結果建立「調整與回饋」的循環機制，以因應不斷變化的技術環境。 MOIS部長指出，未來將進一步蒐集學界意見以完備倫理原則，並開發一套AI倫理原則之培訓課程，確保一線能落實執行這90個檢核項目，保障人權與基本權利。 由於目前未見90個檢核項目內容，值得持續追蹤後續進展。 本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。 本文同步刊登於TIPS網站（https://www.tips.org.tw）
落實完善數位資料管理機制，有助於降低AI歧視及資料外洩風險落實完善數位資料管理機制， 有助於降低AI歧視及資料外洩風險 資訊工業策進會科技法律研究所 2023年07月07日 近年來，科技快速發展，AI(人工智慧)等技術日新月異，在公私部門的應用日益廣泛，而且根據美國資訊科技研究與顧問公司Gartner在2023年5月發布的調查指出，隨著由OpenAI開發的ChatGPT取得成功，更促使各領域對於AI應用的高度重視與投入[1]，與此同時，AI歧視及資料外洩等問題，亦成為社會各界的重大關切議題。 壹、事件摘要 目前AI科技發展已牽動全球經濟發展，根據麥肯錫公司近期發布的《生成式人工智慧的經濟潛力：下一個生產力前沿(The next productivity frontier)》研究報告指出，預測生成式AI(Generative AI)有望每年為全球經濟增加2.6兆至4.4兆的經濟價值[2]。同時在美國資訊科技研究與顧問公司Gartner對於超過2500名高階主管的調查中，45%受訪者認為ChatGPT問世，增加其對於AI的投資。而且68%受訪者認為AI的好處大於風險，僅有5%受訪者認為風險大於好處[3]。然而有社會輿論認為AI的判斷依賴訓練資料，將可能複製人類偏見，造成AI歧視問題，而且若程式碼有漏洞或帳戶被盜用時，亦會造成資料外洩問題。 貳、重點說明 首先，關於AI歧視問題，以金融領域為例，近期歐盟委員會副主席Margrethe Vestager強調若AI用於可能影響他人生計的關鍵決策時，如決定是否能取得貸款，應確保申請人不受性別或膚色等歧視[4]，同時亦有論者認為若用於訓練AI的歷史資料，本身存有偏見問題，則可能導致系統自動拒絕向邊緣化族群貸款，在無形之中加劇，甚至永久化對於特定種族或性別的歧視[5]。 其次，關於資料外洩問題，資安公司Group-IB指出因目前在預設情況下，ChatGPT將保存使用者查詢及AI回應的訊息紀錄，若帳戶被盜，則可能洩露機敏資訊。據統計在2022年6月至2023年5月間，在亞太地區有近41000個帳戶被盜，而在中東和非洲地區有近25000個帳戶被盜，甚至在歐洲地區也有近17000個帳戶被盜[6]。另外在2023年3月時，ChatGPT除了發生部分用戶能夠檢視他人聊天紀錄標題的問題外，甚至發生個人資料外洩問題，即用戶可能知悉他人的姓名、電子郵件，付款地址，信用卡到期日及號碼末四碼等資料[7]。 參、事件評析 對於AI歧視及資料外洩等問題，應透過落實完善數位資料治理與管理機制，以降低問題發生的風險。首先，在收集訓練資料時，為篩選適合作為模型或演算法基礎的資料，應建立資料評估或審查機制，減少或避免使用有潛在歧視問題的資料，以確保分析結果之精確性。 其次，不論對於訓練資料、分析所得資料或用戶個人資料等，均應落實嚴謹的資料保密措施，避免資料外洩，如必須對於資料進行標示或分類，並依照不同標示或分類，評估及採取適當程度的保密措施。同時應對於資料進行格式轉換，以無法直接開啟的檔案格式進行留存，縱使未來可能不慎發生資料外洩，任意第三人仍難以直接開啟或解析資料內容。甚至在傳送帳戶登入訊息時，亦應採取適當加密傳送機制，避免遭他人竊取，盜取帳戶或個人資料。 財團法人資訊工業策進會科技法律研究所長期致力於促進國家科技法制環境完善，於2021年7月發布「重要數位資料治理暨管理制度規範（Essential Data Governance and Management System，簡稱EDGS）」，完整涵蓋數位資料的生成、保護與維護，以及存證資訊的取得、維護與驗證的流程化管理機制，故對於不同公私部門的AI相關資料，均可參考EDGS，建立系統性數位資料管理機制或強化既有機制。 本文同步刊登於TIPS網站（https://www.tips.org.tw） [1]Gartner, Gartner Poll Finds 45% of Executives Say ChatGPT Has Prompted an Increase in AI Investment (May 3, 2023), https://www.gartner.com/en/newsroom/press-releases/2023-05-03-gartner-poll-finds-45-percent-of-executives-say-chatgpt-has-prompted-an-increase-in-ai-investment (last visited June 30, 2023). [2]McKinsey, The economic potential of generative AI: The next productivity frontier (June 14, 2023), https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/the-economic-potential-of-generative-AI-the-next-productivity-frontier#introduction (last visited June 30, 2023). [3]Gartner, supra note 1. [4]Zoe Kleinman, Philippa Wain & Ashleigh Swan, Using AI for loans and mortgages is big risk, warns EU boss (June 14, 2023), https://www.bbc.com/news/technology-65881389 (last visited June 30, 2023). [5]Ryan Browne & MacKenzie Sigalos, A.I. has a discrimination problem. In banking, the consequences can be severe (June 23, 2023), https://www.cnbc.com/2023/06/23/ai-has-a-discrimination-problem-in-banking-that-can-be-devastating.html (last visited June 30, 2023). [6]Group-IB, Group-IB Discovers 100K+ Compromised ChatGPT Accounts on Dark Web Marketplaces; Asia-Pacific region tops the list (June 20, 2023), https://www.group-ib.com/media-center/press-releases/stealers-chatgpt-credentials/ (last visited June 30, 2023). [7]OpenAI, March 20 ChatGPT outage: Here’s what happened (Mar. 24, 2023),https://openai.com/blog/march-20-chatgpt-outage (last visited June 30, 2023).