自西元2017年1月以來,英國稅務海關總署(Her Majesty's Revenue and Customs, HMRC)開始要求英國民眾使用線上語音方式進行身分認證,而民眾的聲音檔案亦被儲存至英國稅務海關總署的語音資料庫內。英國資訊委員辦公室(Information Commissioner's Office, ICO)深入調查後發現英國稅務海關總署的語音身分認證系統存在下列兩種違法情形:
英國資訊委員辦公室認為英國稅務海關總署前開情形已經違反了歐盟一般資料保護規則(General Data Protection Regulation, GDPR),根據歐盟一般資料保護規則,英國稅務海關總署在蒐集、處理或利用民眾個人資料時,必須合法、公正及透明,並應取得民眾的明確同意。英國資訊委員辦公室後續將要求英國稅務海關總署應刪除違法蒐集的生物識別資料。
本次英國資訊委員辦公室的執法行動是基於2018年5月25日生效的歐盟一般資料保護規則與英國2018年資料保護法(The Data Protection Act 2018),英國資訊委員辦公室強調創新的數位服務雖有助於民眾的生活更輕鬆,但絕不能以犧牲民眾的隱私為代價,同時也隱約透露著:「沒有一個組織(包含政府機關)能夠凌駕於法律之上。」。
警告中提及,新加坡金融管理局(The Monetary Authority of Singapore, MAS)建議公眾在選擇投資加密貨幣時必須具備高度警覺,謹慎行事,並理解其所可能承擔之重大風險。金管局擔心由於近期加密貨幣之價格上漲,例如比特幣,人民可能會被吸引而投資加密貨幣。其他警告內容如下: MAS提醒社會大眾加密貨幣並非法定貨幣。它們非由政府發行,亦無任何資產或發行者之支持。 MAS認為近期加密貨幣價格之上漲係由投機所致,故價格急劇下跌之風險相當高,加密貨幣之投資者對於他們承擔著可能失去全部資本的風險應有所警覺。 加密貨幣之投資無任何監管保障。與大多數的司法管轄區一樣,MAS並未對加密貨幣進行管制。MAS法規既未對加密貨幣中介之安全性進行規制,亦未對加密貨幣交易有適當處理。 由於大多數加密貨幣交易平台之營運者並未存在於新加坡,故難以驗證其真實性或可信性。投資者與營運情形難以被輕易驗證之實體往來時,欺詐風險就更大。 加密貨幣之交易通常是匿名進行,使其易被誤用於非法活動。若發現加密貨幣中介平台非法使用加密貨幣,其執法機構可能會使其關閉。當加密貨幣平台沒有足夠強大的安全特徵時,可能會有被駭客攻擊進而造成損失之風險。 投資加密貨幣而蒙受損失之人民,將無法依賴由MAS法規所提供之任何保障。在投資加密貨幣之前,公眾應該仔細考慮產品所宣稱之高度獲利性,如果得輕易獲取可觀之利潤程度使人難以置信,那很可能就有問題。投資者應仔細評估加密貨幣之投資是否適合其投資目標與風險偏好。 人民若懷疑所涉及之加密貨幣投資可能會被詐欺或誤用於其他非法活動,應向警方舉報。
Novartis被質疑濫用美國FDA獎勵研發治療被忽視熱帶疾病藥物之制度國際藥廠Novartis被指控濫用美國食品藥品管理局(the U.S. Food and Drug Administration,簡稱FDA)為鼓勵藥廠投入研發被忽視疾病治療藥物所設立的一套獎勵制度。 這套制度是根據2007年美國國會所通過之美國食品藥品管理法修正案(the Food and Drug Administration Amendments Act of 2007)而創設,主要是給予向FDA申請治療其表列之被忽視熱帶疾病(例如瘧疾、血吸蟲病、利什曼病等)藥品查驗登記並獲通過之申請者一份所謂「藥品優先審查劵」(priority review voucher),讓該申請者可以用於之後所提出的人類藥品查驗登記申請,而得以享有優先審查之權利。 這個所謂「藥品優先審查劵」對於藥廠來說可說是價值非凡,因為藥品查驗登記程序正常情況往往超過10個月以上,但是適用優先審查程序之申請案,卻可以有九成左右在6個月內就獲得通過,這對於藥廠的好處在於,其可以比其他競爭者更快地將其所生產藥品上市販售。 Novartis於2009年4月獲得FDA通過其就治療瘧疾藥物Coartem之查驗登記申請,而成為適用此獎勵制度之首例並獲得「藥品優先審查劵」。Novartis的行為之所以招致批判,因為其所申請之藥物Coartem並非是針對治療瘧疾所研發出來的新藥,其從1999年起便已在部分國家被許可使用,只是該藥物在美國從未被申請查驗登記而獲准通過。由於上述獎勵制度並未言明是針對新開發之治療熱帶疾病的藥品,所以Novartis的動作可以符合其要件並獲得獎勵,但此舉卻有鑽法律漏洞之嫌。
日本發布生成式AI智財保護及透明性守則日本發布生成式AI智財保護及透明性守則 資訊工業策進會科技法律研究所 2026年09月09日 近年隨各國生成式AI服務普及,技術訓練資料來源與智慧財產權保護問題益受權利人關注,如何在確保AI技術發展下,兼顧既有權利的保護,已成為AI治理的主要課題之一。日本此次針對生成式AI訓練資料之透明化,提出業者自主揭露、建立查詢機制、賦予訴訟中權利人與一般使用者請求揭露依據的實務操作具體規範,以完備透明揭露機制,確保權利人及使用者皆能於安全、安心之環境下利用生成式AI。 壹、事件摘要 日本知的財産戰略本部依日本《人工智慧相關技術之研究開發及活用推進法》(令和7年法律第53號)之意旨,運用「遵循或解釋」之運作方式,於2026年8月25日公布《生成AIの適切な利活用等に向けた知的財産の保護及び透明性に関するプリンシプル・コード》[1](生成式AI適切利活用等相關知的財產保護及透明性守則,下稱本守則)。本守則為自願性質,要求生成式AI開發者及提供者就模型使用、學習資料及當責性等事項進行透明化揭露,並就智慧財產權保護措施揭示所採措施;並賦予權利人與一般生成式AI生成物使用人得於符合一定要件下,向生成式AI事業者請求揭露特定比對資訊之權利。內閣府另行公布「概要開示対象事項 具体例」供各揭露事項之記載程度的具體參照[2]。 貳、重點說明 一、適用對象包括開發者、提供者、權利人、使用人等利害關係人 本守則適用對象包括「生成式AI開發者」及「生成式AI提供者」(以下合稱生成式AI「事業者」)。但適用範圍並不包括非對公眾提供生成式AI之對象,例如:僅承接開發過程一部分工作、將成果交付予開發者之受託人;僅從事研究而未對公眾提供者;僅利用單一法人或個人資料特化建構、且僅供該資料提供者使用之系統;僅供特定企業集團或團體內部使用之專用系統。於日本境內未設本店或主要事務所之國外事業者,如向日本提供其服務,仍應適用本守則。 二、採「遵循或解釋」官方公開揭示的運作機制 事業者應於公司網站公開受採用表明、公開各原則之實施事項(即「遵循」),事業者就個別情況認為不適當之原則,得說明不實施理由後不予實施(即「解釋」),但說明應力求使使用者及權利人獲得充分理解。就「解釋」之認定基準,本守則規定僅陳述尚未建立實施體制,不足以構成「解釋」,應依事業規模等因素說明體制建置完成之時期;已提出必要依據,證明依本原則揭露於技術上不可行者,可視為已完成「解釋」。 為使受採用狀況可視化(公開揭示),上開事項應依內閣府所定格式提出申報,原則上每年至少檢視、更新一次。內閣府將製作「遵循或解釋」相關參考格式,並公開已申報事業者清單及其公司網站連結,惟不就申報內容進行審查,對於第三人之查詢等亦不予回覆。 三、透明性確保措施 本守則要求事業者應揭露之透明性事項分為模型使用、學習資料、當責三大類,應揭露的項目包括: (一) 使用模型相關事項:名稱(識別碼、版本等)、含公開日期在內之沿革(過去版本或修正紀錄)、架構與設計規格(含第三人授權狀況、使用所需之硬體軟體及授權)、使用規範(預設用途,及限制、禁止用途之明確化),以及模型訓練過程之內容(訓練方法等)。 (二) 學習資料相關事項:訓練及驗證等所用資料之種類(含RAG使用之資料)、網路爬取或自第三人取得之非公開資料集相關事項、公開資料集相關事項、以其他方式蒐集之資料相關事項、合成資料之使用有無及目的,以及爬蟲程式之目的、資料蒐集期間、名稱與識別碼,是否使用第三人爬蟲程式及其名稱、識別碼。 (三) 當責相關事項:開發、提供、使用過程中決策之可追蹤、回溯狀態,可追溯性之提升、負責人之明示、相關人員責任之分配、對利害關係人之具體因應,以及文書化。 四、智慧財產權保護措施之揭露 本守則要求事業者採取下列智慧財產權保護措施: (一) 建立智慧財產保護制度:訂定智慧財產權保護原則、明確化責任體制,每年至少檢視一次並對外公開要旨;對訓練所得之紀錄保存一定期間 (二) 合法進行訓練資料取得:資料活用(含開發、學習)不侵害他人智慧財產權;採用遵循付費牆等存取限制及robots.txt等機器可讀指示之爬蟲程式,並就各使用者代理逐一公開上開措施,且於變更時通知 (三) 盡可能採取侵權防免措施:包括致力於避免對盜版網站進行爬取;採取防止生成侵害智慧財產權之生成物之技術性措施;採取電子浮水印、C2PA等可證明內容出處及沿革之技術性措施;對使用者周知不應利用有侵權疑慮之生成物 (四) 整備權利人適時適當救濟之窗口:明確化申訴要件,並保存因應紀錄。 五、使用者、權利人及其受委任律師或代理人均可依一定程序請求揭露 賦予使用者、權利人(及其受委任律師或代理人)兩類主體得向生成式AI事業者請求揭露特定資訊之權利,以供使用者確認其所用AI是否使用特定著作為訓練資料,或權利人確認相同或近似的著作被事業者納入AI成為訓練資料。二者程序架構相同,均得請求揭露訓練驗證資料(指透過網路爬取或自第三人取得之非公開資料集、公開資料集、含合成資料在內之資料集,或以其他方式蒐集之資料,惟不以此為限),但因訴訟、聲請調解、聲請訴訟外紛爭解決程序(ADR)或其他法律程序而有必要之權利人,及其受委任律師或代理人,可請求查證的是自行查詢之URL[3];一般使用者則可以請求查證的係是否含有與其所生成之生成物相同或近似內容[4]。相關請求須具備三項要件: (一) 足認具備請求資格之理由,即權利人及其受委任律師或代理人須說明具備訴訟等程序資格之事由,而一般使用者則須提出生成物及所用提示詞; (二) 明示利用目的並承諾不作目的外使用,權利人及其受委任律師或代理人並須進一步承諾不將回覆轉作嗣後提起訴訟、調解或ADR之用; (三) 說明請求揭露理由與參照(可供查證的)資訊。 依請求人身分於適用程序上略有區別,並均以「生成式AI事業者容易存取及確認者為限」為限。 參、事件評析 我國《人工智慧基本法》第4條第5款規定,政府推動人工智慧研發應用應遵循「透明與可解釋」原則,人工智慧產出應做適當資訊揭露或標記;第5條第2項規定,經中央目的事業主管機關會商數位發展部認定為高風險應用者,應明確標示注意事項或警語;第16條第2項則規定,各目的事業主管機關應協助相關產業自行訂定產業指引及行為規範。日本此次公布的守則所建構之透明化與揭露請求機制,本文認為具有下列可參考之處: 一、機關不須立於審查、承責之角色,但有法律效力時須以第三方驗證機制配套 本守則明示透明化效果繫於業者自主誠信履行,明文規定日本內閣府對業者申報內容不進行審查,且對第三人查詢亦不予回覆,此一設計使主管機關毋須承擔審查責任,僅提供申報格式與公開清單之行政協助角色,殊值承受責任壓力的行政機關參考。但若將來將類似遵循或解釋機制提升為具法律效力之規範,應同時建立第三方驗證機制,例如由主管機關或指定機構就業者申報內容進行抽查或複核,藉公眾審查與問責機制,對業者形成遵循與誠信申報之壓力,避免僅以業者單方陳述作為唯一依據。 二、軟法指引須深化至具體記載程度,始能發揮引導效果 本守則另有由內閣府公布「概要開示対象事項 具体例」,就各事項應揭露之記載程度提供具體範例,顯示軟法之引導效果,繫於指引深化之程度,僅列原則性事項而未進一步定明記載程度或格式範例者,業者實務操作易生歧異,透明化效果亦難以彰顯。我國《人工智慧基本法》第4條第5款及第16條第2項就透明化及產業行為規範,除應有相關指引外亦宜向下展開實作之基準或格式範例,以利軟法引導機制發揮實效。 三、軟法之表態不限於正面列舉,亦應及於未能遵循之說明義務 本守則就「解釋」特別指出,僅陳述尚未建立實施體制,不構成解釋,須進一步依事業規模等因素說明體制建置完成之時期,或提出必要依據證明依本原則揭露於技術上不可行者,始視為已完成解釋。此一設計顯示,透明化義務之履行不僅止於正面陳報遵循程度,亦及於未能遵循時具體說明理由及依據之義務。類此規範模式可運用於著作合理使用之指引,透過反向說明那些無法被認同屬合理使用的情況,間接明確可主張合理使用的應備條件,降低不確定的模糊空間。 四、達成透明化目的應併用揭露與標記 我國《人工智慧基本法》第4條第5款規定人工智慧產出「應做適當資訊揭露或標記」,然於日本此守則中可見諸透明性揭露事項與智慧財產權保護措施中電子浮水印、C2PA等技術性措施併陳,顯示揭露與標記於功能上有別。揭露解決使查閱者得知資訊內容之問題,標記則解決生成物本身出處可辨識、可追溯之問題,二者併存運用可兼顧事前資訊公開與事後來源查核。我國後續訂定操作規範時,宜避免將兩者理解為得擇一履行之選項。 五、智慧財產權保護措施屬事業者應建立之基本管理制度 本守則所列智慧財產權保護措施九項事項,包括保護原則之訂定與責任體制之明確化、遵循付費牆及機器可讀指示之爬蟲政策、訓練紀錄之保存、技術性防護措施之採行,以及權利人救濟窗口之整備等,其性質應定位為生成式AI事業者於資料蒐集、模型訓練及生成物提供各階段應建立之基本管理制度,我國將來訂定之產業AI應用指引,可參採納入事業者內部治理應具備之基礎架構,而非僅為對外揭露之事項。 本文為資策會科法所創智中心完成之著作,非經同意或授權,不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。 本文同步刊登於TIPS網站(https://www.tips.org.tw) [1]知的財産戦略本部,〈生成AIの適切な利活用等に向けた知的財産の保護及び透明性に関するプリンシプル・コード〉,2026年8月25日,https://www.cas.go.jp/jp/seisakukaigi/titeki2/ai_kentoukai/kaisai/pdf/ai_principle_code.pdf(最後瀏覽日:2026年9月8日)。 [2]内閣府知的財産戦略推進事務局,〈概要開示対象事項 具体例〉,2026年8月25日,https://www.cas.go.jp/jp/seisakukaigi/titeki2/ai_kentoukai/kaisai/pdf/ai_principle_code_gutairei.pdf(最後瀏覽日:2026年9月8日)。 [3] 例如自行創作作品並刊載於網站A之人,如發現與該作品相同或近似之生成式AI生成物,得向生成式AI事業者出示該網站A作品刊載頁面之URL,就該網域是否列入爬蟲程式之爬取對象、是否列入自第三人取得之訓練資料來源等事項請求揭露。 [4] 例如AI使用者發現其用生成式AI的生成物,有相同或近似之內容刊載於網站B,得向提供生成式AI服務A之生成式AI提供者出示該生成式AI生成物、生成該生成物時所使用之提示詞、該生成物之利用目的及網站B之URL,就該URL之網域部分是否列入生成式AI服務A所搭載生成式AI系統開發時訓練資料之爬取對象、是否列入自第三人取得之訓練資料來源等事項。
用ChatGPT找法院判決?從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限用ChatGPT找法院判決?從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限 資訊工業策進會科技法律研究所 2023年09月08日 生成式AI是透過研究過去資料,以創造新內容和想法的AI技術,其應用領域包括文字、圖像及影音。以ChatGPT為例,OpenAI自2022年11月30日發布ChatGPT後,短短二個月內,全球月均用戶數即達到1億人,無疑成為民眾日常生活中最容易近用的AI科技。 惟,生成式AI大量使用後,其中的問題也逐漸浮現。例如,ChatGPT提供的回答僅是從所學習的資料中統整歸納,無法保證資料的正確性。Roberto Mata v. Avianca, Inc.案即是因律師利用ChatGPT撰寫訴狀,卻未重新審視其所提供判決之正確性,以致後續引發訴狀中所描述的判決不存在爭議。 壹、事件摘要 Roberto Mata v. Avianca, Inc.案[1]中,原告Roberto Mata於2019年8月搭乘哥倫比亞航空從薩爾瓦多飛往紐約,飛行過程中膝蓋遭空服員的推車撞傷,並於2022年2月向法院提起訴訟,要求哥倫比亞航空為空服員的疏失作出賠償;哥倫比亞航空則主張已超過《蒙特婁公約》(Montreal Convention)第35條所訂之航空器抵達日起兩年內向法院提出損害賠償之請求時效。 R然而,法院審理過程中發現原告訴狀內引用之六個判決無法從判決系統中查詢,進而質疑判決之真實性。原告律師Steven A. Schwartz因而坦承訴狀中引用的六個判決是ChatGPT所提供,並宣稱針對ChatGPT所提供的判決,曾多次向ChatGPT確認該判決之正確性[2]。 貳、生成式AI應用之潛在風險 雖然運用生成式AI技術並結合自身專業知識執行特定任務,可能有助於提升效率,惟,從前述Roberto Mata v. Avianca, Inc.案亦可看出,依目前生成式AI技術之發展,仍可能產生資訊正確性疑慮。以下彙整生成式AI應用之8大潛在風險[3]: 一、能源使用及對環境危害 相較於傳統機器學習,生成式AI模型訓練將耗費更多運算資源與能源。根據波士頓大學電腦科學系Kate Saenko副教授表示,OpenAI的GPT-3模型擁有1,750億個參數,約會消耗1,287兆瓦/時的電力,並排放552噸二氧化碳。亦即,每當向生成式AI下一個指令,其所消耗的能源量相較於一般搜尋引擎將可能高出4至5倍[4]。 二、能力超出預期(Capability Overhang) 運算系統的黑盒子可能發展出超乎開發人員或使用者想像的隱藏功能,此發展將會對人類帶來新的助力還是成為危險的阻力,則會隨著使用者之間的相互作用而定。 三、輸出結果有偏見 生成式AI通常是利用公開資料進行訓練,若輸入資料在訓練時未受監督,而帶有真實世界既存的刻板印象(如語言、種族、性別、性取向、能力、文化等),據此建立之AI模型輸出結果可能帶有偏見。 四、智慧財產權疑慮 生成式AI進行模型訓練時,需仰賴大量網路資料或從其他大型資料庫蒐集訓練資料。然而,若原始資料來源不明確,可能引發取得資料未經同意或違反授權條款之疑慮,導致生成的內容存在侵權風險。 五、缺乏驗證事實功能 生成式AI時常提供看似正確卻與實際情形不符的回覆,若使用者誤信該答案即可能帶來風險。另外,生成式AI屬於持續動態發展的資訊生態系統,當產出結果有偏誤時,若沒有大規模的人為干預恐難以有效解決此問題。 六、數位犯罪增加與資安攻擊 過去由人工產製的釣魚郵件或網站可能受限於技術限制而容易被識破,然而,生成式AI能夠快速建立具高度說服力的各種擬真資料,降低詐騙的進入門檻。又,駭客亦有可能在不熟悉技術的情況下,利用AI進一步找出資安弱點或攻擊方法,增加防禦難度。 七、敏感資料外洩 使用雲端服務提供商所建立的生成式AI時,由於輸入的資料存儲於外部伺服器,若要追蹤或刪除有一定難度,若遭有心人士利用而導致濫用、攻擊或竄改,將可能產生資料外洩的風險。 八、影子AI(Shadow AI) 影子AI係指開發者未知或無法控制之AI使用情境。隨著AI模型複雜性增加,若開發人員與使用者未進行充分溝通,或使用者在未經充分指導下使用 AI 工具,將可能產生無法預期之風險。 參、事件評析 在Roberto Mata v. Avianca, Inc.案中,法院關注的焦點在於律師的行為,而非對AI技術使用的批判。法院認為,隨著技術的進步,利用可信賴的AI工具作為協助用途並無不當,惟,律師應踐行其專業素養,確保所提交文件之正確性[5]。 當AI科技發展逐漸朝向自主與獨立的方向前進,仍需注意生成式AI使用上之侷限。當個人在使用生成式AI時,需具備獨立思考判斷的能力,並驗證產出結果之正確性,不宜全盤接受生成式AI提供之回答。針對企業或具高度專業領域人士使用生成式AI時,除確認結果正確性外,更需注意資料保護及治理議題,例如建立AI工具合理使用情境及加強員工使用相關工具之教育訓練。在成本能負擔的情況下,可選擇透過企業內部的基礎設施訓練AI模型,或是在訓練模型前確保敏感資料已經加密或匿名。並應注意自身行業領域相關法規之更新或頒布,以適時調整資料使用之方式。 雖目前生成式AI仍有其使用之侷限,仍應抱持開放的態度,在技術使用與風險預防之間取得平衡,以能夠在技術發展的同時,更好地學習新興科技工具之使用。 [1]Mata v. Avianca, Inc., 1:22-cv-01461, (S.D.N.Y.). [2]Benjamin Weiser, Here’s What Happens When Your Lawyer Uses ChatGPT, The New York Times, May 27, 2023, https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html (last visited Aug. 4, 2023). [3]Boston Consulting Group [BCG], The CEO’s Roadmap on Generative AI (Mar. 2023), https://media-publications.bcg.com/BCG-Executive-Perspectives-CEOs-Roadmap-on-Generative-AI.pdf (last visited Aug. 29, 2023). [4]Kate Saenko, Is generative AI bad for the environment? A computer scientist explains the carbon footprint of ChatGPT and its cousins, The Conversation (May 23, 2023.), https://theconversation.com/is-generative-ai-bad-for-the-environment-a-computer-scientist-explains-the-carbon-footprint-of-chatgpt-and-its-cousins-204096 (last visited Sep. 7, 2023). [5]Robert Lufrano, ChatGPT and the Limits of AI in Legal Research, National Law Review, Volume XIII, Number 195 (Mar. 2023), https://www.natlawreview.com/article/chatgpt-and-limits-ai-legal-research (last visited Aug. 29, 2023).