落實完善數位資料管理機制，有助於降低AI歧視及資料外洩風險
落實完善數位資料管理機制，
有助於降低AI歧視及資料外洩風險
資訊工業策進會科技法律研究所
2023年07月07日
近年來，科技快速發展，AI(人工智慧)等技術日新月異，在公私部門的應用日益廣泛，而且根據美國資訊科技研究與顧問公司Gartner在2023年5月發布的調查指出，隨著由OpenAI開發的ChatGPT取得成功，更促使各領域對於AI應用的高度重視與投入[1]，與此同時，AI歧視及資料外洩等問題，亦成為社會各界的重大關切議題。
壹、事件摘要
目前AI科技發展已牽動全球經濟發展，根據麥肯錫公司近期發布的《生成式人工智慧的經濟潛力：下一個生產力前沿(The next productivity frontier)》研究報告指出，預測生成式AI(Generative AI)有望每年為全球經濟增加2.6兆至4.4兆的經濟價值[2]。同時在美國資訊科技研究與顧問公司Gartner對於超過2500名高階主管的調查中，45%受訪者認為ChatGPT問世，增加其對於AI的投資。而且68%受訪者認為AI的好處大於風險，僅有5%受訪者認為風險大於好處[3]。然而有社會輿論認為AI的判斷依賴訓練資料，將可能複製人類偏見，造成AI歧視問題，而且若程式碼有漏洞或帳戶被盜用時，亦會造成資料外洩問題。
貳、重點說明
首先，關於AI歧視問題，以金融領域為例，近期歐盟委員會副主席Margrethe Vestager強調若AI用於可能影響他人生計的關鍵決策時，如決定是否能取得貸款，應確保申請人不受性別或膚色等歧視[4]，同時亦有論者認為若用於訓練AI的歷史資料，本身存有偏見問題，則可能導致系統自動拒絕向邊緣化族群貸款，在無形之中加劇，甚至永久化對於特定種族或性別的歧視[5]。
其次，關於資料外洩問題，資安公司Group-IB指出因目前在預設情況下，ChatGPT將保存使用者查詢及AI回應的訊息紀錄，若帳戶被盜，則可能洩露機敏資訊。據統計在2022年6月至2023年5月間，在亞太地區有近41000個帳戶被盜，而在中東和非洲地區有近25000個帳戶被盜，甚至在歐洲地區也有近17000個帳戶被盜[6]。另外在2023年3月時，ChatGPT除了發生部分用戶能夠檢視他人聊天紀錄標題的問題外，甚至發生個人資料外洩問題，即用戶可能知悉他人的姓名、電子郵件，付款地址，信用卡到期日及號碼末四碼等資料[7]。
參、事件評析
對於AI歧視及資料外洩等問題，應透過落實完善數位資料治理與管理機制，以降低問題發生的風險。首先，在收集訓練資料時，為篩選適合作為模型或演算法基礎的資料，應建立資料評估或審查機制，減少或避免使用有潛在歧視問題的資料，以確保分析結果之精確性。
其次，不論對於訓練資料、分析所得資料或用戶個人資料等，均應落實嚴謹的資料保密措施，避免資料外洩，如必須對於資料進行標示或分類，並依照不同標示或分類，評估及採取適當程度的保密措施。同時應對於資料進行格式轉換，以無法直接開啟的檔案格式進行留存，縱使未來可能不慎發生資料外洩，任意第三人仍難以直接開啟或解析資料內容。甚至在傳送帳戶登入訊息時，亦應採取適當加密傳送機制，避免遭他人竊取，盜取帳戶或個人資料。
財團法人資訊工業策進會科技法律研究所長期致力於促進國家科技法制環境完善，於2021年7月發布「重要數位資料治理暨管理制度規範（Essential Data Governance and Management System，簡稱EDGS）」，完整涵蓋數位資料的生成、保護與維護，以及存證資訊的取得、維護與驗證的流程化管理機制，故對於不同公私部門的AI相關資料，均可參考EDGS，建立系統性數位資料管理機制或強化既有機制。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
[1]Gartner, Gartner Poll Finds 45% of Executives Say ChatGPT Has Prompted an Increase in AI Investment (May 3, 2023), https://www.gartner.com/en/newsroom/press-releases/2023-05-03-gartner-poll-finds-45-percent-of-executives-say-chatgpt-has-prompted-an-increase-in-ai-investment (last visited June 30, 2023).
[2]McKinsey, The economic potential of generative AI: The next productivity frontier (June 14, 2023), https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/the-economic-potential-of-generative-AI-the-next-productivity-frontier#introduction (last visited June 30, 2023).
[3]Gartner, supra note 1.
[4]Zoe Kleinman, Philippa Wain & Ashleigh Swan, Using AI for loans and mortgages is big risk, warns EU boss (June 14, 2023), https://www.bbc.com/news/technology-65881389 (last visited June 30, 2023).
[5]Ryan Browne & MacKenzie Sigalos, A.I. has a discrimination problem. In banking, the consequences can be severe (June 23, 2023), https://www.cnbc.com/2023/06/23/ai-has-a-discrimination-problem-in-banking-that-can-be-devastating.html (last visited June 30, 2023).
[6]Group-IB, Group-IB Discovers 100K+ Compromised ChatGPT Accounts on Dark Web Marketplaces; Asia-Pacific region tops the list (June 20, 2023), https://www.group-ib.com/media-center/press-releases/stealers-chatgpt-credentials/ (last visited June 30, 2023).
[7]OpenAI, March 20 ChatGPT outage: Here’s what happened (Mar. 24, 2023),https://openai.com/blog/march-20-chatgpt-outage (last visited June 30, 2023).
- 【新北場】通訊傳播事業個資法遵教育訓練
- 【高雄場】通訊傳播事業個資法遵教育訓練
- 【台北場2】通訊傳播事業個資法遵教育訓練
- 114年「企業營業秘密保護實務座談會」（南部場）
- 114年「企業營業秘密保護實務座談會」（中部場）
- 114年資訊服務業者個資安維辦法宣導說明會
- 【線上】資訊服務業個資安維計畫說明會
- 【實體】資訊服務業個資安維計畫說明會暨交流工作坊
- 【台北場1】通訊傳播事業個資保護實務專題講座
- 【台北場2】通訊傳播事業個資保護實務專題講座
- 【台北場3】通訊傳播事業個資保護實務專題講座
- 金融相關資服業者線上個資安維宣導說明會
- 商業服務業個資管理與資訊安全實務宣導說明會（高雄場）
- 商業服務業個資管理與資訊安全實務宣導說明會（台南場）
- 商業服務業個資管理與資訊安全實務宣導說明會（台中場）
- 商業服務業個資管理與資訊安全實務宣導說明會（台北場）※如遇颱風假延期至7/16
- 製程工業AI應用與規範研討會
高通案發展趨勢－美國聯邦地院判決與我國公平會和解決定 財團法人資訊工業策進會科技法律研究所 許祐寧 法律研究員 2019年09月10日 壹、前情提要 美國高通公司擁有大量標準必要專利（Standard Essential Patent, SEP），並運用三大商業模式（拒絕授權競爭對手、沒授權沒晶片、排他性獨家交易），對於行動通訊市場產生強大影響力，進而引發獨占甚至壟斷市場之疑慮，包括中國大陸、韓國、美國、歐盟等國際競爭主管機關，相繼對高通商業模式展開調查，近期多數國家已做出初步決定。 我國部分，2017年10月11日，公平交易委員會（簡稱公平會）以高通濫用市場支配地位，裁罰234億台幣；2018年8月10日，公平會旋即以產業經濟發展為由，與高通達成和解。而近期美國聯邦地方法院，針對美國聯邦貿易委員會（Federal Trade Commission, FTC）控訴高通違反反托拉斯規則作出第一審判決，認定高通商業模式違法並要求改正。本文以下針對我國及美國高通案近來判決走向為分析，提供SEP與反托拉斯法制及產業經濟發展政策面向的相關思考。 貳、我國高通案近來走向 2018年8月10日，我國公平會與高通達成訴訟上和解，高通並承諾在臺進行5年產業投資方案。和解內容中，針對手持設備廠，高通應本於善意重新協商授權條款、遵守行動通訊SEP授權之無歧視性待遇，降低整隻授權計價，以維持我國產品的國際競爭力；然而晶片廠部分，高通雖承諾不再簽署獨家交易之折讓約定，但實際上，我國和解案並未改變高通授權模式，高通仍無須授權晶片予競爭對手，商業模式未被打破。[1] 對於我國公平會的和解決定，各界有不同意見。立法院於2018年9月的立法院報告指出：「公平會職司管制及維護市場競爭秩序，主要權限在公平法案件之調查、審議及處分等；如確要促進投資、提升產業及技術發展，似應由各該主管機關另循其他途徑」[2]。監察院更於2019年5月21日，對公平會提起糾正，理由為公平會於高通案「過度介入市場機制，且以投資換罰鍰違反不當聯結禁止原則，和解磋商僅4個月完成，歷程倉促，未公開透明」[3]。 針對各界意見公平會發表聲明，強調以訴訟和解方式解決爭議，兼顧競爭機制的正常運作及促進產業經濟利益，並提出四項說明：（1）公平會與高通和解，是依法行使行政訴訟法所賦予的權利。（2）公平會為合議制獨立機關，監察院應尊重公平會和解專業判斷。（3）本案和解決定兼顧競爭機制與產業經濟利益。（4）政府將持續監督高通對產業投資方案的執行情況，5年執行期間內持續進行追蹤管考，維護市場競爭機制及廠商權益。[4] 參、美國聯邦地方法院高通案見解 2019年5月21日美國加州北區聯邦地方法院對高通案做出判決，認定高通商業模式侵害晶片競爭對手、手持設備廠及終端消費者權益，違反反托拉斯規則，要求七年內完成改正措施：（1）高通必須與客戶重談授權協議，不得以威脅切斷供貨等手段從事不公平競爭。（2）應以公平合理價格向其他競爭晶片廠商授權專利。（3）禁止和蘋果等智慧手機廠商簽訂排他性獨家供貨協議。[5]對此，高通表示不服，認為法院判決將引發「嚴重法律問題」，且法院排除2018年3月截止後的證據（例如蘋果改用英特爾，顯示高通並未箝制市場等），該判決已嚴重影響高通業務之執行，必將積極上訴救濟。[6] 針對美國聯邦地方法院判決，亦有不同看法。2019年7月16日美國司法部反托拉斯署對聯邦地院高通案判決發表聲明，以高通仍有勝訴可能為由，請求高通案暫緩執行。首先，聯邦地院判決高通濫用市場地位一案實不利競爭、創新與國家安全，判決容有質疑空間：包括授權金過高與反托拉斯違反間無直接關聯性、FRAND並非強制授權義務、高通並無惡意破壞競爭之行為等。再者，聯邦地院未舉行聽證會，卻要求高通支付鉅額損害賠償金，程序上未有保障。最後，是公共利益考量，美國國防部與能源部亦對此擬具建議文件，共同強調高通在美國5G供應鏈與國家資通訊安全發展的重要性。[7] 肆、評析 美國聯邦地院對高通案判決，支持先前美國FTC對高通指控，認定高通商業模式違反反托拉斯法；但美國司法部及相關部會因5G產業發展、中美貿易戰及國家資通訊安全等理由主張應維護高通，高通是否會在美國敗訴進而改變商業模式，重塑全球資通訊產業市場布局，未來仍應被持續關注。 至於我國公平會與高通和解部分，最大爭議在於，公平會作為維護市場競爭的獨立機關，何以產業經濟發展為由，逕行與高通達成和解？對此，依據公平交易法第1條，公平交易相關法制的訂定，包含維護交易秩序與消費者利益、確保自由與公平競爭，促進經濟之安定與繁榮等面向；產業經濟發展未嘗不是公平競爭秩序的考量要素之一。 另有論者質疑，美國聯邦地院判決，會不會使我國公平會的訴訟和解結果顯得不合理？且各國高通訴訟案部份尚在進行，公平會是否有必要迅速與高通達成和解？反托拉斯案講求市場特性與個案判斷，必須依照各別市場產業模式判斷高通的商業模式是否會侵害市場競爭秩序、剝奪消費者選擇機會。故各國競爭主管機關應依據案件事實與市場競爭進行判斷，結果自有不同不可一概而論。公平會與高通既已達成訴訟上和解，僅代表我國競爭主管機關認定，高通商業模式依照和解條件改正後不致侵害市場公平競爭與消費者權益，並期待以投資產業換取5G研發布局合作機會。未來，依據我國公平會與高通的和解條件，應持續追蹤並督促高通確實履行對臺產業投資方案等相關計畫。[8] [1]〈本會與Qualcomm Incorporated於智慧財產法院合議庭試行和解下，達成訴訟上和解〉，公平交易委員會新聞資料，2018年8月10日，https://www.ftc.gov.tw/internet/main/doc/docDetail.aspx?uid=126&docid=15551（最後瀏覽日：2019/09/23）。 [2]〈公平會處分高通案成立訴訟和解內容所涉權限之研析〉，立法院議題研析，2018年9月4日，https://www.ly.gov.tw/Pages/Detail.aspx?nodeid=6590&pid=173380（最後瀏覽日: 2019/09/23）。 [3]〈監察委員新聞稿〉，監察院，108年5月21日，https://www.cy.gov.tw/sp.asp?xdURL=./di/Message/message_1t2.asp&ctNode=2394&mp=1&msg_id=7111（最後瀏覽日: 2019/09/23）。 [4] 〈高通案和解遭糾正，公平會：兼顧競爭與產業利益〉，中央社，2019年05月30 日，https://money.udn.com/money/story/5612/3842772（最後瀏覽日: 2019/09/23）。 [5] FEDERAL TRADE COMMISSION v. QUALCOMM INCORPORATED, Case No. 17-CV-00220-LHK(2019). [6] Qualcomm Strongly Disagrees with Ruling in FTC Case and Will Seek Immediate Stay and Appeal of Ruling, Qualcomm, May 22, 2019, https://www.qualcomm.com/news/releases/2019/05/22/qualcomm-strongly-disagrees-ruling-ftc-case-and-will-seek-immediate-stay (last visited Sep. 23, 2019). [7] UNITED STATES' STATEMENT OF INTEREST CONCERNING QUALCOMM'S MOTION FOR PARTIAL STAY OF INJUNCTION PENDING APPEAL, U.S. Department of Justice, July 16, 2019, https://www.justice.gov/atr/case-document/369345 (last visited Sep.23, 2019). [8]〈回應有關立法院國民黨團召開「公平會遭監察院糾正」記者會一事公平會說明〉，公平交易委員會新聞資料，108年5月23日，https://www.ftc.gov.tw/internet/main/doc/docDetail.aspx?uid=126&docid=15886（最後瀏覽日: 2019/09/23）。
日立全球儲存科技公司對大陸微型硬碟製造商提起專利侵權訴訟硬碟製造商日立全球儲存科技公司（Hitachi Global Storage Technologies）聲明該公司已於2004年12月28日於北加州地方法院對中國大陸硬碟製造商南方匯通微型硬碟科技股份有限公司（GS Magicstor of China）及其位於加州Milpitas之聯合研究機構GS Magic and Riospring of Milpitas, CA提起專利侵權訴訟，主張南方匯通侵害日立對於生產硬碟所擁有的多項專利權，並希望獲得財產上損害賠償並永久禁止GS Magic繼續於美國製造、利用、進口、販售該侵權產品，求償額度目前尚未公佈。 日立所生產的一吋硬碟已被裝配於Apple的iPod Mini MP3隨身聽，該公司更計畫於今年開發更小的微型硬碟。
美國著名社交網站MySpace.com同意提供性侵犯資料MySpace.com在2006年12月宣布與ID認證公司Sentinel Tech Holding合作建立一套可過濾全國性侵害犯之資料的資料庫，將有效隔絕這些罪犯利用其網站為非作歹。美國一州檢察長組織曾發表公開信，對於性侵害犯利用MySpace引誘兒童與其會面，和進行其他危險活動表達關切，要求MySpace 移交有關於在其網站上的相關註冊以及信件往來資料。但MySpace.com最初引用聯邦以及州相關規範隱私權的法律，包括1986年的電子通訊隱私法（Electronic Communications Privacy Act），以該請求不合法為由拒絕合作。 不過MySpace.com日前（2007年6月）已同意向賓州法院尋求相關規範指引(guidance)，以期能在合法且不影響具潛在證據能力的定罪證據的前提下，包括提供50州中已註冊在案的性侵犯資料，移交所有於網站中已被定罪的性侵害犯的相關資料。事實上，MySpace與檢方已私下達成協議，該公司在不違反聯邦與各州法律的情況下，與檢方分享名為Sentinel Safe的資料庫，並由檢方將資料交由執法官員利用。
英國商業、能源及產業策略部要求中資公司出售其於英國所收購晶圓公司的股份英國商業、能源及產業策略部（Department for Business, Energy and Industrial Strategy, BEIS）於2022年11月16日發布行政命令，以國家安全為由要求登記於荷蘭的中資公司Nexperia BV出售其於2021年7月收購之Nexperia Newport Limited（NNL）（原Newport Wafer Fab）至少86%的股份。 NNL擁有英國最大的晶圓製造工廠，其每月生產約32,000片晶圓，並大多出口至亞洲用以生產半導體。今（2022）年5月英國政府發現中國政府擁有Nexperia BV的母公司聞泰科技大約30％之股份後，即依《2021年國家安全與投資法》（National Security and Investment Act）第26條調查Nexperia BV於2021年7月收購NNL之行為，並認為該行為恐使NNL的半導體生產技術與知識（technological expertise and know-how）外流至中國，進而損害英國利益。同時，該行政命令亦提及NNL工廠位置靠近英國重要之南威爾斯半導體產業聚落，若讓Nexperia BV繼續經營該工廠，將使Nexperia BV能輕易的接觸相關生產技術與知識，佐以Nexperia BV母公司與中國政府的關係，恐有危害英國國家安全之虞。 Nexperia BV表示將提出訴願以推翻該行政命令。惟英國下議院外交事務專責委員會（Foreign Affairs Select Committee）主席表示，英國不會將關鍵基礎設施轉移給一家與中國政府有明確往來的公司，以確保其戰略資產不會因短期利益而落入獨裁國家手中；並補充說明，此一決定亦代表英國政府將更重視國家安全，同時避免具有領先地位的科技公司與研究落入競爭對手。