落實完善數位資料管理機制，有助於降低AI歧視及資料外洩風險
落實完善數位資料管理機制，
有助於降低AI歧視及資料外洩風險
資訊工業策進會科技法律研究所
2023年07月07日
近年來，科技快速發展，AI(人工智慧)等技術日新月異，在公私部門的應用日益廣泛，而且根據美國資訊科技研究與顧問公司Gartner在2023年5月發布的調查指出，隨著由OpenAI開發的ChatGPT取得成功，更促使各領域對於AI應用的高度重視與投入[1]，與此同時，AI歧視及資料外洩等問題，亦成為社會各界的重大關切議題。
壹、事件摘要
目前AI科技發展已牽動全球經濟發展，根據麥肯錫公司近期發布的《生成式人工智慧的經濟潛力：下一個生產力前沿(The next productivity frontier)》研究報告指出，預測生成式AI(Generative AI)有望每年為全球經濟增加2.6兆至4.4兆的經濟價值[2]。同時在美國資訊科技研究與顧問公司Gartner對於超過2500名高階主管的調查中，45%受訪者認為ChatGPT問世，增加其對於AI的投資。而且68%受訪者認為AI的好處大於風險，僅有5%受訪者認為風險大於好處[3]。然而有社會輿論認為AI的判斷依賴訓練資料，將可能複製人類偏見，造成AI歧視問題，而且若程式碼有漏洞或帳戶被盜用時，亦會造成資料外洩問題。
貳、重點說明
首先，關於AI歧視問題，以金融領域為例，近期歐盟委員會副主席Margrethe Vestager強調若AI用於可能影響他人生計的關鍵決策時，如決定是否能取得貸款，應確保申請人不受性別或膚色等歧視[4]，同時亦有論者認為若用於訓練AI的歷史資料，本身存有偏見問題，則可能導致系統自動拒絕向邊緣化族群貸款，在無形之中加劇，甚至永久化對於特定種族或性別的歧視[5]。
其次，關於資料外洩問題，資安公司Group-IB指出因目前在預設情況下，ChatGPT將保存使用者查詢及AI回應的訊息紀錄，若帳戶被盜，則可能洩露機敏資訊。據統計在2022年6月至2023年5月間，在亞太地區有近41000個帳戶被盜，而在中東和非洲地區有近25000個帳戶被盜，甚至在歐洲地區也有近17000個帳戶被盜[6]。另外在2023年3月時，ChatGPT除了發生部分用戶能夠檢視他人聊天紀錄標題的問題外，甚至發生個人資料外洩問題，即用戶可能知悉他人的姓名、電子郵件，付款地址，信用卡到期日及號碼末四碼等資料[7]。
參、事件評析
對於AI歧視及資料外洩等問題，應透過落實完善數位資料治理與管理機制，以降低問題發生的風險。首先，在收集訓練資料時，為篩選適合作為模型或演算法基礎的資料，應建立資料評估或審查機制，減少或避免使用有潛在歧視問題的資料，以確保分析結果之精確性。
其次，不論對於訓練資料、分析所得資料或用戶個人資料等，均應落實嚴謹的資料保密措施，避免資料外洩，如必須對於資料進行標示或分類，並依照不同標示或分類，評估及採取適當程度的保密措施。同時應對於資料進行格式轉換，以無法直接開啟的檔案格式進行留存，縱使未來可能不慎發生資料外洩，任意第三人仍難以直接開啟或解析資料內容。甚至在傳送帳戶登入訊息時，亦應採取適當加密傳送機制，避免遭他人竊取，盜取帳戶或個人資料。
財團法人資訊工業策進會科技法律研究所長期致力於促進國家科技法制環境完善，於2021年7月發布「重要數位資料治理暨管理制度規範（Essential Data Governance and Management System，簡稱EDGS）」，完整涵蓋數位資料的生成、保護與維護，以及存證資訊的取得、維護與驗證的流程化管理機制，故對於不同公私部門的AI相關資料，均可參考EDGS，建立系統性數位資料管理機制或強化既有機制。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
[1]Gartner, Gartner Poll Finds 45% of Executives Say ChatGPT Has Prompted an Increase in AI Investment (May 3, 2023), https://www.gartner.com/en/newsroom/press-releases/2023-05-03-gartner-poll-finds-45-percent-of-executives-say-chatgpt-has-prompted-an-increase-in-ai-investment (last visited June 30, 2023).
[2]McKinsey, The economic potential of generative AI: The next productivity frontier (June 14, 2023), https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/the-economic-potential-of-generative-AI-the-next-productivity-frontier#introduction (last visited June 30, 2023).
[3]Gartner, supra note 1.
[4]Zoe Kleinman, Philippa Wain & Ashleigh Swan, Using AI for loans and mortgages is big risk, warns EU boss (June 14, 2023), https://www.bbc.com/news/technology-65881389 (last visited June 30, 2023).
[5]Ryan Browne & MacKenzie Sigalos, A.I. has a discrimination problem. In banking, the consequences can be severe (June 23, 2023), https://www.cnbc.com/2023/06/23/ai-has-a-discrimination-problem-in-banking-that-can-be-devastating.html (last visited June 30, 2023).
[6]Group-IB, Group-IB Discovers 100K+ Compromised ChatGPT Accounts on Dark Web Marketplaces; Asia-Pacific region tops the list (June 20, 2023), https://www.group-ib.com/media-center/press-releases/stealers-chatgpt-credentials/ (last visited June 30, 2023).
[7]OpenAI, March 20 ChatGPT outage: Here’s what happened (Mar. 24, 2023),https://openai.com/blog/march-20-chatgpt-outage (last visited June 30, 2023).
- 【台北場1】通訊傳播事業個資法遵教育訓練
- 【台中場】通訊傳播事業個資法遵教育訓練
- 【新北場】通訊傳播事業個資法遵教育訓練
- 【高雄場】通訊傳播事業個資法遵教育訓練
- 【台北場2】通訊傳播事業個資法遵教育訓練
- 114年「企業營業秘密保護實務座談會」（南部場）
- 114年「企業營業秘密保護實務座談會」（中部場）
- 114年資訊服務業者個資安維辦法宣導說明會
- 【線上】資訊服務業個資安維計畫說明會
- 【實體】資訊服務業個資安維計畫說明會暨交流工作坊
- 【台北場1】通訊傳播事業個資保護實務專題講座
- 【台北場2】通訊傳播事業個資保護實務專題講座
- 【台北場3】通訊傳播事業個資保護實務專題講座
- 金融相關資服業者線上個資安維宣導說明會
- 商業服務業個資管理與資訊安全實務宣導說明會（高雄場）
- 商業服務業個資管理與資訊安全實務宣導說明會（台南場）
- 商業服務業個資管理與資訊安全實務宣導說明會（台中場）
- 商業服務業個資管理與資訊安全實務宣導說明會（台北場）※如遇颱風假延期至7/16
- 製程工業AI應用與規範研討會
公平交易委員會於上（ 4 ）個月 20 日對巨擘等三家光碟廠商檢舉荷蘭商菲利浦電子公司專利授權合約不公一案做成決議，飛利浦的 CD-R 專利技術授權合約，要求被授權人提供「製造設備清冊」及「書面銷售報告」，已足以影響交易秩序、顯失公平行為，違反公平交易法第 24 條規定，處新台幣 600 萬元罰鍰。這是公平會對飛利浦的 CD-R 光碟專利授權行為，作成的第二件處分案，第一件為飛利浦、 日本 新力及日商太陽誘電被檢舉，在台的 CD-R 光碟片產品專利授權行為，違反聯合行為的規定，飛利浦被處新台幣 800 萬元罰鍰，該案目前仍在行政訴訟中。 公平會認為，飛利浦與新力公司共同制定 CD-R 光碟片技術規格書，國內光碟廠商如生產符合「橘皮書」規格的 CD-R ，必須取得飛利浦專利授權，在 CD-R 專利授權的締約過程中，飛利浦具有相對優勢地位。飛利浦並在授權合約要求被授權人，提供「製造設備清冊」及「書面銷售報告」，內容涉及被授權人的產能利用率、產量、客戶名單及個別客戶交易量等重要資訊；但這些資料與權利金總數額的計算，並無密切相關。飛利浦除為此專利的專利權人，也授權其他製造廠商產製 CD-R 光碟片，並以 Philips 品牌從事光碟片販賣，與被授權人在市場是處於競爭地位。因此，飛利浦利用此優勢地位，取得被授權人公司經營成本的重要資訊，雙方在市場會產生不公平競爭。 飛利浦則表示，授權合約要求被授權人提供「製造設備清冊」及「書面銷售報告」，是為確認被授權人授權產品報告的正確性，這是國際授權實務上的慣例。飛利浦在合約已保證相關內容，不為合約目的外的使用，並無違法行為；該公司將循正常程序提出訴願。
美國加州日前開始審查輕量自動駕駛運輸載具應用之測試申請美國加州行政法辦公室（the Office of Administrative Law）於2019年12月17日宣布，根據日前通過之修訂規範，該州車輛管理局（the Department of Motor Vehicles）將審查州內公共道路上進行輕型自動駕駛（下稱自駕）運輸服務商業化應用測試之申請，換言之，業者如取得車輛管理局之核准，可以測試重量未達10,001磅之自駕運輸車輛（如一般客車、中型貨車、可載運雜貨類商品的客貨兩用車等）服務。另外，業者如欲就該自駕運輸服務收取運輸費用，則必須另向車輛管理局申請佈署（deployment）許可，即商業化或供公眾使用之許可。 不論何種自駕運輸車輛服務之測試，均須遵循現行測試、佈署之申請程序要求，並根據車輛管理局的核准內容進行有或無安全性駕駛人（safety driver）的自駕運輸服務測試，簡要整理不同規範要求如下： 如為有安全性駕駛人之測試與應用，有以下要求： 證明車輛已經曾在符合應用目的之情境（如駕駛環境）下進行測試。 維持測試駕駛人（test driver）的培訓規劃，並且證明每位測試駕駛人均完成培訓。 確保測試駕駛人維持潔淨（clean）的駕駛記錄。 確保測試駕駛人在測試期間乘坐在駕駛座上監控車輛的運行狀況，並在有需要的時候可以即時接管車輛。 須提交年度脫離（或譯為解除自駕）報告（disengagement report），且如有發生碰撞，須於10日內提交碰撞報告予車輛管理局。 如為無安全性駕駛人之測試與應用，有以下要求： 提供測試自駕運輸服務所在地方當局之書面通知以茲證明。 證明自駕測試車輛符合以下要求： (1)車輛與遠端遙控操作者間具有通訊連結。 (2)車輛與執法部門間的通訊方式。 (3)製造商將如何監控測試車輛之說明 提交一份與執法部門如何互動交流的計畫。 證明自駕測試車輛符合聯邦機動車輛安全標準（FMVSS），或提供國家公路交通安全管理局（NHTSA）之豁免監管證明。 證明自駕測試車輛可以在沒有駕駛人存在的情況下可以自主運行，並屬於美國汽車工程師協會（SAE）標準等級4、等級5之車輛。 證明測試車輛已經曾在符合應用目的之情境（如駕駛環境）下進行測試。 通知車輛管理局將要測試營運的區域範圍。 維持遠端遙控操作相關培訓規劃，並證明每位遠端遙控操作者均完成培訓。 須提交年度脫離報告，且如有發生碰撞，須於10日內提交碰撞報告予車輛管理局。 如自駕運輸服務擬商業化或供公眾使用，申請佈署之相關要求如下： 證明車輛： (1)配備自駕車輛資料紀錄器，此技術是根據加州車輛法規（California Vehicle Code）設計來偵測並反應道路實際狀況 (2)符合聯邦機動車輛安全標準或提供國家公路交通安全管理局之豁免監管證明。 (3)符合現行關於網路攻擊、非經授權侵入或錯誤車輛控制指令之防護、偵測與回應等產業標準。 (4)製造商曾進行測試與驗證，並有足夠信心將車輛佈署於公用道路上。 提交一份與執法部門如何互動交流的計畫複本。 如果車輛不需要駕駛員，製造商必須證明其他事項： (1) 車輛與遠端遙控操作者間具有通訊連結。 (2) 當碰撞事故發生時，車輛可以顯示或傳輸相關資訊予車輛所有人或操作員。 綜上所述，若要在加州進行自駕運輸車輛服務測試，須視其服務型態及是否涉及佈署，以遵循不同規範要求，申言之，服務採行有無安全性駕駛人與是否商業化或供公眾使用，二者為併行關係，舉例來說，如業者擬佈署有安全性駕駛人之商業運輸服務，則須同時符合有安全性駕駛人之測試與應用以及佈署等要求。加州對於自駕車輛運輸服務商業化之措舉，值得我國借鏡以完善自駕車輛運輸應用之推動。
美國國家公路交通安全管理局發布自駕車安全性評估相關法規預告美國國家公路交通安全管理局（National Highway Traffic Safety Administration, NHTSA）於2025年1月15日發布「配備自動駕駛系統車輛之安全、透明度及評估計畫」（The ADS-equipped Vehicle Safety, Transparency, and Evaluation Program , AV STEP）法規預告（Notice of proposed rulemaking, NPRM），建立全國性自願評估與監督制度，以提高自駕車安全性之公共透明度，並促進其負責任布建。 根據《國家交通與機動車輛安全法》（National Traffic and Motor Vehicle Safety Act），自駕車在符合〈聯邦機動車輛安全標準〉（Federal Motor Vehicle Safety Standards, FMVSS）及州、地方法律的前提下，得於公共道路上行駛；若無法符合FMVSS之要求，則需進行豁免申請。惟不論採何種途徑，FMVSS皆未針對自駕車之安全性與性能進行評估，因此NHTSA提出AV STEP，為自駕車設計專門之豁免申請途徑，並針對不同自動化程度車輛提出涵蓋車輛設計、開發與運行之安全性審查條件，以對現行FMVSS之豁免規定進行補充。簡要說明如下： （1）需配置駕駛人之自駕車：需具備手動駕駛功能與清晰的交接程序，以於自駕系統失效時透過充分提示與反應時間，使駕駛人接管操作。 （2）完全由自駕系統操作之自駕車：監管著重於各種情況下皆能自主運作、回退（Fallback）機制需具遠端監控能力，且能自動進入最小風險狀態。 除上述要求外，申請者皆須提供第三方機構之獨立評估報告、說明自動駕駛系統故障之應對措施，並持續接受NHTSA監督。
日本公告修正電業法（電気事業法），將放寬電力工作物定義，並新增電力事業類型日本於2020年（令和2年）6月12日公告修正「電業法」（電気事業法，以下簡稱新電業法），並預計於2022年（令和4年）4月1日正式施行。本次修正有以下兩個重點：（1）調整電力工作物之定義；（2）新增電力事業之種類，以符合國際技術及市場之變遷。 日本新電業法調整了電力工作物之定義，將儲能設備納入了電力工作物之定義中，日本新電業法下所謂電力工作物係指：「為了發電、儲能、變電、輸電、配電或其他以電力使用為目的而設置之機械、器具、水壩、水道、蓄水池、電路、電線或其他工作物（但船舶、車輛或航空器等，則依其他法令定之）。」此外，日本新電業法也於電力事業之種類下，新增了「特定電力批發業」（特定卸供給業）此一新型電力事業。依日本新電業法對於「特定電力批發業」之定義，所謂「特定電力批發業」，係指：「自其他發電及儲能設備設置者（但不包含發電業者）處聚合其發出或放出之電力而再向售電業、一般輸配電業、輸電業、特定輸電業供應電力者。」又依日本經濟產業省規劃，「特定電力批發業」得自行設置儲能設備，自產消合一之用電戶（prosumer）之儲能設備或發電設備（包含但不限於再生能源）購入電力，並轉而再至電力交易市場向其他售電業者販售電力；但「特定電力批發業」不得直接從發電業者或其他售電業購買電力，也不得直接售電予用電戶，故特定電力批發制度實際上是旨在賦予聚合商（アグリゲーター）參與市場之地位。