日本個人資料保護委員會發布「禁止不當利用」與「停止利用」論點資料作為將來發布指引參考
日本為因應去年6月通過「個人資料保護法」之修正（下稱「新法」），個人資料保護委員會於2021年2月19日第166次會議議題「禁止不當利用與停止利用之完備指引論點」（改正法に関連するガイドライン等の整備に向けた論点について（不適正利用の禁止・利用停止等）），公開兩份論點資料，作為將來發布指引之參考，並使企業等關係者在新法實施準備期間，得採取適當措施以達到法遵要求。
新法第16條之2「禁止不當利用」，旨在防止不當利用個人資料致本人權益受損。於「禁止不當利用之論點資料」指出具體要件有(1)「違法或不當行爲」，係指違反個人資料保護法及其他法令之行爲，或有違公序良俗，在社會觀念上非屬正當之行為；(2)「助長或誘發之危害」，在認定上將限縮在以業者提供時有認識第三方將違法利用個人資料，並可預見提供個人資料將受違法利用之情形，以免造成寒蟬效應。若第三方刻意隱瞞取得目的，即使已盡相當注意仍不能預見違法利用之情形，則非屬「危害」。
新法第30條第5項擴大「停止利用」請求權範圍，於「停止利用之論點資料」指出適用要件有(1)「個人資料處理業務已無利用個人資料之需要」，即個人資料利用目的已消失或該事業已中止時；(2)「發生第22條之2第1項本文情形」，係指發生資料外洩依規定須報告委員會之情形；(3)「可能損害本人權益時」，係指依法受保護之正當權益有受損可能為必要。另論點指出請求停止利用必須在「為防止本人權益受損必要限度內」，故業者對於超出必要限度之部分得拒絕之。而對於停止利用所費不貲或顯有重大困難之情形，得依個案具體考量採取適當替代措施。
- 零售業個資安全宣導暨安全維護計畫規劃說明會
- 數位經濟時代的隱私保護與商機－CBPR跨境隱私規則體系解析
- 2025科技研發法制推廣活動— 科專個資及反詐騙實務講座(實體)
- 2025科技研發法制推廣活動— 科專個資及反詐騙實務講座(直播)
- 零售業個資安全宣導暨安全維護計畫說明會（高雄場）
- 零售業個資安全宣導暨安全維護計畫說明會（台中場）
- 【台北場1】通訊傳播事業個資法遵教育訓練
- 【台中場】通訊傳播事業個資法遵教育訓練
- 【新北場】通訊傳播事業個資法遵教育訓練
- 【高雄場】通訊傳播事業個資法遵教育訓練
- 【台北場2】通訊傳播事業個資法遵教育訓練
- 零售業個資法遵實務與資訊安全說明會
- 114年資訊服務業者個資安維辦法宣導說明會
- 【線上】資訊服務業個資安維計畫說明會
- 【實體】資訊服務業個資安維計畫說明會暨交流工作坊
- 零售業個資法遵實務與資訊安全說明會（台中場）
- 【台北場1】通訊傳播事業個資保護實務專題講座
- 【台北場2】通訊傳播事業個資保護實務專題講座
- 【台北場3】通訊傳播事業個資保護實務專題講座
- 金融相關資服業者線上個資安維宣導說明會
盧秉羲
專案經理 編譯整理
第166回個人情報保護委員会，https://www.ppc.go.jp/aboutus/minutes/2020/210219/ (最後瀏覽日：2021/7/5)。
改正法に関連するガイドライン等の整備に向けた論点について（不適正利用の禁止），https://www.ppc.go.jp/files/pdf/210219_shiryou-1-1.pdf (最後瀏覽日：2021/7/5)。
改正法に関連するガイドライン等の整備に向けた論点について（利用停止等），https://www.ppc.go.jp/files/pdf/210219_shiryou-1-2.pdf (最後瀏覽日：2021/7/5)。
日本發布網路安全相關法令問答集，https://stli.iii.org.tw/article-detail.aspx?tp=1&i=180&d=8481&no=64 (最後瀏覽日：2021/7/5)。
英國資訊委員辦公室推出資料分析工具箱協助組織檢視資料保護情形，https://stli.iii.org.tw/article-detail.aspx?tp=1&i=180&d=8631&no=64 (最後瀏覽日：2021/7/5)。
日本制定PHR業者蒐集、處理、利用健康資料之基本指引草案，https://stli.iii.org.tw/article-detail.aspx?tp=1&i=180&d=8655&no=64 (最後瀏覽日：2021/7/5)。
微軟在美國政府索要用戶郵件的一起官司中獲得勝訴。美國政府第二巡迴上訴法院裁決，如果資料是儲存在美國境外伺服器，則不為美國聯邦政府的令狀效力所及。 這件訴訟案源於2013年的一起涉外毒品案件中，紐約區法院發布了一項搜查令，要求微軟提供公司一名用戶的郵件和相關訊息。然而因為有些資料是存放在微軟公司在愛爾蘭的伺服器，因此微軟爭辯說郵件本身是儲存在愛爾蘭的，因此不應受到美國政府令狀效力所及。2014年聯邦地方法院再次要求微軟提供郵件內容——但微軟上訴到了聯邦第二巡迴法院。 美國聯邦第二巡迴法院在判決中，認定基於《儲存通訊記錄法》（Stored Communications Act：SCA/下稱SCA）規定美國政府得以令狀要求連結網路使用者資料的規定並不適用於境外。法院所持理由為： 1. SCA規定搜索票/扣押票之核發應符合美國聯邦刑事訴訟法之相關規定，而美國聯邦刑事訴訟法第41條即規定搜索票/扣押票應由搜索/扣押標的物所在地之法院核發並交由該地或國內他地執法人員執行。 2. 法院曾於2010年之MORRISON ET AL. v. NATIONAL AUSTRALIA BANK LTD. ET AL.案判決理由中指明，如國會立法時認為某法規可能或必須有域外效力，應以明文定之，而SCA條文中並無任何規定寫明該法可於境外適用之。 3. SCA在第2703條所使用之搜索票/扣押票（warrant）一字，源自美國憲法增修條文第四條，即規定美國政府對其國內人民為搜索扣押時應以搜索票/扣押票（warrant）為之，且SCA更刻意以不同條款及不同強度區分搜索票/扣押票（warrant）與傳票（Subpoena），立法者之用意顯然是希望能以前者提供使用者更高度的隱私保護。 這是美國首例企業對獲取境外資料的政府搜查令提起上訴的案件，審判結果影響著美國法律界對於執法機關是否能就存放在世界上其他國家的美國用戶資料，進行合法調查。
用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限 資訊工業策進會科技法律研究所 2023年09月08日 生成式AI是透過研究過去資料，以創造新內容和想法的AI技術，其應用領域包括文字、圖像及影音。以ChatGPT為例，OpenAI自2022年11月30日發布ChatGPT後，短短二個月內，全球月均用戶數即達到1億人，無疑成為民眾日常生活中最容易近用的AI科技。 惟，生成式AI大量使用後，其中的問題也逐漸浮現。例如，ChatGPT提供的回答僅是從所學習的資料中統整歸納，無法保證資料的正確性。Roberto Mata v. Avianca, Inc.案即是因律師利用ChatGPT撰寫訴狀，卻未重新審視其所提供判決之正確性，以致後續引發訴狀中所描述的判決不存在爭議。 壹、事件摘要 Roberto Mata v. Avianca, Inc.案[1]中，原告Roberto Mata於2019年8月搭乘哥倫比亞航空從薩爾瓦多飛往紐約，飛行過程中膝蓋遭空服員的推車撞傷，並於2022年2月向法院提起訴訟，要求哥倫比亞航空為空服員的疏失作出賠償；哥倫比亞航空則主張已超過《蒙特婁公約》（Montreal Convention）第35條所訂之航空器抵達日起兩年內向法院提出損害賠償之請求時效。 R然而，法院審理過程中發現原告訴狀內引用之六個判決無法從判決系統中查詢，進而質疑判決之真實性。原告律師Steven A. Schwartz因而坦承訴狀中引用的六個判決是ChatGPT所提供，並宣稱針對ChatGPT所提供的判決，曾多次向ChatGPT確認該判決之正確性[2]。 貳、生成式AI應用之潛在風險 雖然運用生成式AI技術並結合自身專業知識執行特定任務，可能有助於提升效率，惟，從前述Roberto Mata v. Avianca, Inc.案亦可看出，依目前生成式AI技術之發展，仍可能產生資訊正確性疑慮。以下彙整生成式AI應用之8大潛在風險[3]： 一、能源使用及對環境危害 相較於傳統機器學習，生成式AI模型訓練將耗費更多運算資源與能源。根據波士頓大學電腦科學系Kate Saenko副教授表示，OpenAI的GPT-3模型擁有1,750億個參數，約會消耗1,287兆瓦/時的電力，並排放552噸二氧化碳。亦即，每當向生成式AI下一個指令，其所消耗的能源量相較於一般搜尋引擎將可能高出4至5倍[4]。 二、能力超出預期（Capability Overhang） 運算系統的黑盒子可能發展出超乎開發人員或使用者想像的隱藏功能，此發展將會對人類帶來新的助力還是成為危險的阻力，則會隨著使用者之間的相互作用而定。 三、輸出結果有偏見 生成式AI通常是利用公開資料進行訓練，若輸入資料在訓練時未受監督，而帶有真實世界既存的刻板印象（如語言、種族、性別、性取向、能力、文化等），據此建立之AI模型輸出結果可能帶有偏見。 四、智慧財產權疑慮 生成式AI進行模型訓練時，需仰賴大量網路資料或從其他大型資料庫蒐集訓練資料。然而，若原始資料來源不明確，可能引發取得資料未經同意或違反授權條款之疑慮，導致生成的內容存在侵權風險。 五、缺乏驗證事實功能 生成式AI時常提供看似正確卻與實際情形不符的回覆，若使用者誤信該答案即可能帶來風險。另外，生成式AI屬於持續動態發展的資訊生態系統，當產出結果有偏誤時，若沒有大規模的人為干預恐難以有效解決此問題。 六、數位犯罪增加與資安攻擊 過去由人工產製的釣魚郵件或網站可能受限於技術限制而容易被識破，然而，生成式AI能夠快速建立具高度說服力的各種擬真資料，降低詐騙的進入門檻。又，駭客亦有可能在不熟悉技術的情況下，利用AI進一步找出資安弱點或攻擊方法，增加防禦難度。 七、敏感資料外洩 使用雲端服務提供商所建立的生成式AI時，由於輸入的資料存儲於外部伺服器，若要追蹤或刪除有一定難度，若遭有心人士利用而導致濫用、攻擊或竄改，將可能產生資料外洩的風險。 八、影子AI（Shadow AI） 影子AI係指開發者未知或無法控制之AI使用情境。隨著AI模型複雜性增加，若開發人員與使用者未進行充分溝通，或使用者在未經充分指導下使用 AI 工具，將可能產生無法預期之風險。 參、事件評析 在Roberto Mata v. Avianca, Inc.案中，法院關注的焦點在於律師的行為，而非對AI技術使用的批判。法院認為，隨著技術的進步，利用可信賴的AI工具作為協助用途並無不當，惟，律師應踐行其專業素養，確保所提交文件之正確性[5]。 當AI科技發展逐漸朝向自主與獨立的方向前進，仍需注意生成式AI使用上之侷限。當個人在使用生成式AI時，需具備獨立思考判斷的能力，並驗證產出結果之正確性，不宜全盤接受生成式AI提供之回答。針對企業或具高度專業領域人士使用生成式AI時，除確認結果正確性外，更需注意資料保護及治理議題，例如建立AI工具合理使用情境及加強員工使用相關工具之教育訓練。在成本能負擔的情況下，可選擇透過企業內部的基礎設施訓練AI模型，或是在訓練模型前確保敏感資料已經加密或匿名。並應注意自身行業領域相關法規之更新或頒布，以適時調整資料使用之方式。 雖目前生成式AI仍有其使用之侷限，仍應抱持開放的態度，在技術使用與風險預防之間取得平衡，以能夠在技術發展的同時，更好地學習新興科技工具之使用。 [1]Mata v. Avianca, Inc., 1:22-cv-01461, (S.D.N.Y.). [2]Benjamin Weiser, Here’s What Happens When Your Lawyer Uses ChatGPT, The New York Times, May 27, 2023, https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html (last visited Aug. 4, 2023). [3]Boston Consulting Group [BCG], The CEO’s Roadmap on Generative AI (Mar. 2023), https://media-publications.bcg.com/BCG-Executive-Perspectives-CEOs-Roadmap-on-Generative-AI.pdf (last visited Aug. 29, 2023). [4]Kate Saenko, Is generative AI bad for the environment? A computer scientist explains the carbon footprint of ChatGPT and its cousins, The Conversation (May 23, 2023.), https://theconversation.com/is-generative-ai-bad-for-the-environment-a-computer-scientist-explains-the-carbon-footprint-of-chatgpt-and-its-cousins-204096 (last visited Sep. 7, 2023). [5]Robert Lufrano, ChatGPT and the Limits of AI in Legal Research, National Law Review, Volume XIII, Number 195 (Mar. 2023), https://www.natlawreview.com/article/chatgpt-and-limits-ai-legal-research (last visited Aug. 29, 2023).
美國政府呼籲立法遏止資料盜取並加強學生隱私保護美國歐巴馬總統在美國聯邦貿易委員會（Federal Trade Commission，FTC）2015年1月12日所舉辦的會議上，呼籲聯邦政府應制定「個人資料通知與保護法」（The Personal Data Notification and Protection Act），該法要求美國企業建立通報機制，其必須在資料遭盜取之日起三十天內通報客戶，以保護美國大眾之隱私。此一要求主要係因為發生多起網路駭客與資安事件，但目前聯邦政府卻欠缺相關法制，故聯邦政府嘗試藉此改善各州法律各行其事無法完善資安保護之問題，亦減輕跨州營運之美國企業適用各州法律之負擔，將有助於產業法制環境之改善。 同時，歐巴馬總統亦提出制定「學生數位隱私法」（The Student Digital Privacy Act）之呼籲，該法將禁止企業為獲取利益經由學校取得學生資料。此外，歐巴馬總統亦提及美國企業將需要簽署一自願性協議（Voluntary Code of Conduct for Smart Grid Customer Data Privacy，VCC），使消費者能夠查詢各企業之信用評分，帶動企業自主保護數位資料之安全，並以此作為身分盜取之預警，避免造成個資外洩後損失更多權益。而本次呼籲制定的法規尚針對先前由美國眾議院提出之「網路情報分享及保護法」（Cyber Intelligence Sharing and Protection Act，CISPA），特別強化其網路使用者保護之部份規定；其中包括加強公私部門合作以及深化網路防護安全，藉此妥善處理網路犯罪、保護國土安全等相關問題。是故，本次制定法規之目的將更著眼於擴大授權，使政府目的事業主管機關以及企業之間能夠共享相關資訊之權限，以預防更多潛在性的網路攻擊與資料盜取事件。
美國商務部國家電信和資訊管理局呼籲透過第三方評測提高AI系統透明度2024年3月27日，美國商務部國家電信和資訊管理局（National Telecommunications and Information Administration, NTIA）發布「人工智慧問責政策報告」（AI Accountability Policy Report），該報告呼籲對人工智慧系統進行獨立評估（Independent Evaluations）或是第三方評測，期待藉此提高人工智慧系統的透明度。 人工智慧問責政策報告就如何對人工智慧系統進行第三方評測提出八項建議作法，分別如下： 1.人工智慧稽核指引：聯邦政府應為稽核人員制定適合的人工智慧稽核指引，該指引須包含評估標準與合適的稽核員證書。 2.改善資訊揭露：人工智慧系統雖然已經應用在許多領域，但其運作模式尚缺乏透明度。NTIA認為未來可以透過類似營養標籤（Nutrition Label）的方式，使人工智慧模型的架構、訓練資料、限制與偏差等重要資訊更加透明。 3.責任標準（Liability Standards）：聯邦政府應盡快訂定相關責任歸屬標準，以解決現行制度下，人工智慧系統造成損害的法律責任問題。 4.增加第三方評測所需資源：聯邦政府應投入必要的資源，以滿足國家對人工智慧系統獨立評估的需求。相關必要資源如： (1)資助美國人工智慧安全研究所（U.S. Artificial Intelligence Safety Institute）； (2)嚴格評估所需的運算資源與雲端基礎設施（Cloud Infrastructure）； (3)提供獎金和研究資源，以鼓勵參與紅隊測試的個人或團隊； (4)培養第三方評測機構的專家人才。 5.開發及使用驗證工具：NTIA呼籲聯邦機關開發及使用可靠的評測工具，以評估人工智慧系統之使用情況，例如透明度工具（Transparency Tools）、認驗證工具（Verification and Validation Tools）等。 6.獨立評估：NTIA建議聯邦機關應針對高風險的人工智慧類別進行第三方評測與監管，特別是可能侵害權利或安全的模型，應在其發布或應用前進行評測。 7.提升聯邦機關風險管控能力：NTIA建議各機關應記錄人工智慧的不良事件、建立人工智慧系統稽核的登記冊，並根據需求提供評測、認證與文件紀錄。 8.契約：透過採購契約要求政府之供應商、承包商採用符合標準的人工智慧治理方式與實踐。 NTIA將持續與利害關係各方合作，以建立人工智慧風險的問責機制，並確保該問責報告之建議得以落實。