落實完善數位資料管理機制，有助於降低AI歧視及資料外洩風險
落實完善數位資料管理機制，
有助於降低AI歧視及資料外洩風險
資訊工業策進會科技法律研究所
2023年07月07日
近年來，科技快速發展，AI(人工智慧)等技術日新月異，在公私部門的應用日益廣泛，而且根據美國資訊科技研究與顧問公司Gartner在2023年5月發布的調查指出，隨著由OpenAI開發的ChatGPT取得成功，更促使各領域對於AI應用的高度重視與投入[1]，與此同時，AI歧視及資料外洩等問題，亦成為社會各界的重大關切議題。
壹、事件摘要
目前AI科技發展已牽動全球經濟發展，根據麥肯錫公司近期發布的《生成式人工智慧的經濟潛力：下一個生產力前沿(The next productivity frontier)》研究報告指出，預測生成式AI(Generative AI)有望每年為全球經濟增加2.6兆至4.4兆的經濟價值[2]。同時在美國資訊科技研究與顧問公司Gartner對於超過2500名高階主管的調查中，45%受訪者認為ChatGPT問世，增加其對於AI的投資。而且68%受訪者認為AI的好處大於風險，僅有5%受訪者認為風險大於好處[3]。然而有社會輿論認為AI的判斷依賴訓練資料，將可能複製人類偏見，造成AI歧視問題，而且若程式碼有漏洞或帳戶被盜用時，亦會造成資料外洩問題。
貳、重點說明
首先，關於AI歧視問題，以金融領域為例，近期歐盟委員會副主席Margrethe Vestager強調若AI用於可能影響他人生計的關鍵決策時，如決定是否能取得貸款，應確保申請人不受性別或膚色等歧視[4]，同時亦有論者認為若用於訓練AI的歷史資料，本身存有偏見問題，則可能導致系統自動拒絕向邊緣化族群貸款，在無形之中加劇，甚至永久化對於特定種族或性別的歧視[5]。
其次，關於資料外洩問題，資安公司Group-IB指出因目前在預設情況下，ChatGPT將保存使用者查詢及AI回應的訊息紀錄，若帳戶被盜，則可能洩露機敏資訊。據統計在2022年6月至2023年5月間，在亞太地區有近41000個帳戶被盜，而在中東和非洲地區有近25000個帳戶被盜，甚至在歐洲地區也有近17000個帳戶被盜[6]。另外在2023年3月時，ChatGPT除了發生部分用戶能夠檢視他人聊天紀錄標題的問題外，甚至發生個人資料外洩問題，即用戶可能知悉他人的姓名、電子郵件，付款地址，信用卡到期日及號碼末四碼等資料[7]。
參、事件評析
對於AI歧視及資料外洩等問題，應透過落實完善數位資料治理與管理機制，以降低問題發生的風險。首先，在收集訓練資料時，為篩選適合作為模型或演算法基礎的資料，應建立資料評估或審查機制，減少或避免使用有潛在歧視問題的資料，以確保分析結果之精確性。
其次，不論對於訓練資料、分析所得資料或用戶個人資料等，均應落實嚴謹的資料保密措施，避免資料外洩，如必須對於資料進行標示或分類，並依照不同標示或分類，評估及採取適當程度的保密措施。同時應對於資料進行格式轉換，以無法直接開啟的檔案格式進行留存，縱使未來可能不慎發生資料外洩，任意第三人仍難以直接開啟或解析資料內容。甚至在傳送帳戶登入訊息時，亦應採取適當加密傳送機制，避免遭他人竊取，盜取帳戶或個人資料。
財團法人資訊工業策進會科技法律研究所長期致力於促進國家科技法制環境完善，於2021年7月發布「重要數位資料治理暨管理制度規範（Essential Data Governance and Management System，簡稱EDGS）」，完整涵蓋數位資料的生成、保護與維護，以及存證資訊的取得、維護與驗證的流程化管理機制，故對於不同公私部門的AI相關資料，均可參考EDGS，建立系統性數位資料管理機制或強化既有機制。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
[1]Gartner, Gartner Poll Finds 45% of Executives Say ChatGPT Has Prompted an Increase in AI Investment (May 3, 2023), https://www.gartner.com/en/newsroom/press-releases/2023-05-03-gartner-poll-finds-45-percent-of-executives-say-chatgpt-has-prompted-an-increase-in-ai-investment (last visited June 30, 2023).
[2]McKinsey, The economic potential of generative AI: The next productivity frontier (June 14, 2023), https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/the-economic-potential-of-generative-AI-the-next-productivity-frontier#introduction (last visited June 30, 2023).
[3]Gartner, supra note 1.
[4]Zoe Kleinman, Philippa Wain & Ashleigh Swan, Using AI for loans and mortgages is big risk, warns EU boss (June 14, 2023), https://www.bbc.com/news/technology-65881389 (last visited June 30, 2023).
[5]Ryan Browne & MacKenzie Sigalos, A.I. has a discrimination problem. In banking, the consequences can be severe (June 23, 2023), https://www.cnbc.com/2023/06/23/ai-has-a-discrimination-problem-in-banking-that-can-be-devastating.html (last visited June 30, 2023).
[6]Group-IB, Group-IB Discovers 100K+ Compromised ChatGPT Accounts on Dark Web Marketplaces; Asia-Pacific region tops the list (June 20, 2023), https://www.group-ib.com/media-center/press-releases/stealers-chatgpt-credentials/ (last visited June 30, 2023).
[7]OpenAI, March 20 ChatGPT outage: Here’s what happened (Mar. 24, 2023),https://openai.com/blog/march-20-chatgpt-outage (last visited June 30, 2023).
- 【高雄場】通訊傳播事業個資法遵教育訓練
- 【台北場2】通訊傳播事業個資法遵教育訓練
- 114年「企業營業秘密保護實務座談會」（南部場）
- 114年「企業營業秘密保護實務座談會」（中部場）
- 114年資訊服務業者個資安維辦法宣導說明會
- 【線上】資訊服務業個資安維計畫說明會
- 【實體】資訊服務業個資安維計畫說明會暨交流工作坊
- 【台北場1】通訊傳播事業個資保護實務專題講座
- 【台北場2】通訊傳播事業個資保護實務專題講座
- 【台北場3】通訊傳播事業個資保護實務專題講座
- 金融相關資服業者線上個資安維宣導說明會
- 商業服務業個資管理與資訊安全實務宣導說明會（高雄場）
- 商業服務業個資管理與資訊安全實務宣導說明會（台南場）
- 商業服務業個資管理與資訊安全實務宣導說明會（台中場）
- 商業服務業個資管理與資訊安全實務宣導說明會（台北場）※如遇颱風假延期至7/16
- 製程工業AI應用與規範研討會
美國聯邦商務部（Department of Commerce, DOC）下之工業及安全局（Bureau of Industry and Security, BIS）於2021年10月20日公布一暫行最終規則（interim final rule），對出口管制規則（Export Administration Regulation, EAR）進行修訂，其於商品管制清單（Commerce Control List）中增訂「可用於監視、間諜活動或其他破壞、拒絕、降低網路及其設備性能之工具」相關之出口管制分類編碼（Export Control Classification Number, ECCN）項目及說明文字，並增訂「授權網路安全出口（Authorized Cybersecurity Exports, ACE）」的例外許可規定（15 CFR §740.22），該暫行最終規則將於2022年1月19日生效。 被列入商品管制清單內的項目，原則上即不允許出口（或再出口、於國內移轉，以下同），惟透過ACE之例外許可，使前述項目可出口至大多數國家，僅在下列「再例外」情況需申請出口許可： 出口地為反恐目的地：出口目的地為15 CFR §740補充文件一所列類別E:1和E:2之國家時，須申請出口許可。 出口對象為國家類別D之政府終端使用者（Government end user）：政府終端使用者係指能提供政府功能或服務之國家、區域或地方之部門、機關或實體，當政府終端使用者歸屬於國家類別D時，須申請出口許可。惟若類別D之國家同時被歸類於類別A:6（如賽普勒斯、以色列及台灣），在特定情況下，如為弱點揭露、犯罪調查等目的，出口予該國之電腦安全事件回應小組；為犯罪調查、訴訟等目的，出口可展現資訊系統上與使用者相關、對系統造成危害或其他影響活動之數位製品（digital artifacts）予警察或司法機關；或出口數位製品予前述政府，而該數位製品涉及由美國公司之子公司、金融服務者、民間健康和醫療機構等優惠待遇網路安全終端使用者（favorable treatment cybersecurity end user）擁有或操作資訊系統相關之網路安全事件時，不適用ACE之再例外規定，而不須申請出口許可。 終端使用者為國家類別D:1、D:5之非政府單位：結合上述第二點之說明，不論出口至國家類別D:1、D:5之政府或非政府單位，皆受ACE之「再例外」拘束，而須申請出口許可。僅當出口特定之ECCN網路安全項目予優惠待遇網路安全終端使用者、基於弱點揭露或網路事件回應之目的出口予非政府單位，或對非政府單位的視同出口（deemed export）行為，方不適用再例外規定，而不須申請出口許可。 終端使用者限制：已知或可得而知該物品將在未獲授權之情況下，被用於影響資訊系統或資訊之機密性、完整性或可用性時，須申請出口許可。
歐盟執委會發布「歐洲風電行動計畫」，支持歐洲風電相關產業之發展歐盟執委會於2023年10月24日發布「歐洲風電行動計畫（European Wind Power Action Plan）」，以支持歐洲風電相關產業發展並強化其競爭力，同時確保該產業能在綠色轉型的過程中持續扮演關鍵角色，並以此提高整體風電的裝置容量。該計畫要求委員會、成員國和產業應立即採取以下6個方向的行動措施： （1）透過可預測且快速的許可程序，加速風電的建置 執委會與成員國將共同發布「Accele-RES」倡議，推動許可流程的數位化、許可機關的職員訓練及建立政策指引文件，以及提高許可相關議題之討論層級；並且，鼓勵成員國透過風電承諾（Wind Pledges）、透明的競標時程表和長期的規劃來提高開發專案進度的透明度。 （2）改善風電競標機制的設計 在《淨零產業法（Net-Zero Industry Act）》草案和電力市場設計改革的基礎上，建立更客觀、非歧視性且透明化的風電競標標準，並將目標入法使相關策略具法律約束力。 （3）促進資金的取得 為了擴大對於歐洲風能產業的投融資，歐盟執委會將透過創新基金、歐洲投資銀行（EIB）提供歐盟風電相關產業的資金，以及融資擔保；並利用國家援助（State Aid）規範對歐盟風電供應鏈提供補助。 （4）建立公平且具競爭性的國際環境 為確保風電產業能在公平競爭的環境中順利營運，歐盟執委會將密集監管可能有利於外國業者的不公平貿易行為，並將持續利用貿易協定促進歐盟業者進入外國市場，同時推動風電產業的規格標準化。 （5）培育產業技能 建立「大規模技能合作夥伴關係（Large scale skills partnerships）」以及透過《淨零產業法》推動「淨零產業技能學院」，培訓風電產業技術人才，包含針對青年、婦女與長者的職能培育計畫，以及勞工技能提升與再培訓計畫，因應積極的氣候目標以及市場規模快速擴張所創造之人力需求。 （6）鼓勵產業投入與成員國的承諾 歐盟執委會將與成員國和風電產業共同制定歐盟風能憲章（EU Wind Charter），促進更多風電利害關係人參與締約，擴大憲章適用對象，以建立歐洲風電產業能保持競爭力的優良環境。
論美國與歐盟半導體之保護策略論美國與歐盟半導體之保護策略 蔡立亭 資訊工業策進會科技法律研究所 2021年12月 根據美國白宮於2021年9月23日的公告，COVID-19的流行衝擊產業的供應鏈；政府藉由法案的施行，積極預防晶片的短缺[1]。為保護產業的發展，與國際競爭力，不僅美國致力於晶片的自給自足；歐盟鑒於國際趨勢，亦積極強化技術能力[2]。本文擬研析於2021年，美國、歐盟促進半導體發展的策略，並聚焦於相關的法制與聯盟。 壹、事件摘要 據調查報告指出，由於近年大量外購半導體與設置境外公司，美國於全球半導體的產量占比，已明顯下降，並欠缺先進技術的能力[3]。申言之，美國於半導體生產的量與質，皆已呈現危機。基於穩定國內產業之供需，和提升半導體技術的量能，美國政府積極擬定《2021財政年國防授權法》；半導體產業並組成聯盟凝聚共識，共同維護半導體供應鏈之健全。 歐洲亦致力於推進半導體的發展，提出《歐洲晶片法案》（European Chips Act）[4]，歐盟並另成立「處理器與半導體技術聯盟」（the Alliance for Processors and Semiconductor technologies）[5]。申言之，歐洲以法案與產業聯盟，共同強化歐洲整體於國際半導體之技術量能。 貳、重點說明 承上所論，為協助境內半導體產業的發展，提升研發技術能力，美國與歐盟創造適合的生態環境。由政府制定規範，挹注相關資源；產業並聚集為聯盟，協力提升半導體產能。本文以下擬分述之。 一、美國 美國《2021財政年國防授權法》的H Division其他事項第99主題（TITLE XCIX），為「創造有助於美國生產半導體的激勵措施」[6]。係資助發展安全且穩定的半導體，和半導體供應鏈；並含建立多邊半導體基金[7]，以及與國外共同籌資機制（common funding mechanism）[8]。在提升半導體研究與發展的層面，則成立「國家半導體科技中心」，參與的單位為商務部、國防部、能源局與國家科學基金會[9]。該中心的任務為執行半導體的製造、設計、研究[10]；並建立投資基金，與私部門合作，以支持新創公司、產學合作，提升美國的半導體生態系[11]。申言之，美國以國家主導，跨部會協作，挹注經費，整合半導體的研究資源。 美國半導體聯盟（Semiconductors in America Coalition，SIAC）係由製造與使用半導體的公司，組成跨部門聯盟，其任務為藉由提升半導體的製造與研究，強化美國的經濟、關鍵基礎設施，與國家安全[12]。另，美國半導體工業協會（Semiconductor Industry Association，SIA）自1977年成立[13]，成員類型包含半導體設計與製造公司總部位於美國者（特許會員）、總部位於美國境外而對美國具有重要性者（國際半導體會員）、在半導體產業供應鏈中的公司且期待對聯盟的公共政策具有發言權者（企業會員），和非屬半導體產業的公司（企業夥伴）[14]。SIA的任務為推動政策與法規，提升國際競爭力，和維持技術領先性[15]。換言之，聯盟包含境外成員的參與，以共同推動半導體的發展。 二、歐盟 歐盟之《歐洲晶片法》則尚處於研議階段，係由歐盟委員會主席Ursula von der Leyen於2021年9月提出，並認為應連結半導體設計、製造與測試的能力[16]。歐盟委員Thierry Breton指出，該法案應包含三個構面：一為歐洲半導體研究策略，此為歐洲在全球半導體價值鏈中的優勢；次為藉由共同計畫，以提升歐洲的產出能力；三為國際合作的框架[17]。擬以法案深化歐洲半導體產業的研究、技術量能。 歐洲處理器與半導體技術聯盟，係於2021年7月成立，總體目標為識別晶片生產與企業技術發展需求間的落差[18]。並轉化為兩個主要的行動，一為強化歐洲電子設計的生態系統；次為建立必要的製造能力[19]。藉由檢視晶片的供需，以協調整體生態系的發展。 參、事件評析 綜上所論，美國與歐洲輔助境內半導體的發展，可歸納為縱向層面：以立法的方式，編列預算並保護技術。以橫向層面觀察，半導體產業組成聯盟，可由產業界的視角，交流相關技術經驗，和調整規範以符合技術發展實務。 美國與歐盟積極整合相關的資源，提升境內之半導體研究與技術，競爭國際之領導地位。觀察美國《2021財政年國防授權法》對半導體產業的輔助，或可歸納為1、國際合作籌資；2、跨部會合作；與3、公私協力。歐盟之《歐洲晶片法案》並擬於2022年第2季有相關的倡議[20]。或亦將注重國際合作，以優化半導體產業。 針對半導體聯盟之設置，成員或包含國際會員，以協調相關的政策、法規，整合半導體的供給與需求。申言之，美國與歐盟槓桿國際資源，輔助境內半導體產業，提升研發技術，與半導體供應之量能。 [1] Sameera Fazili and Peter Harrell, When the Chips Are Down: Preventing and Addressing Supply Chain Disruptions, Briefing Room Blog (September 23, 2021), https://www.whitehouse.gov/briefing-room/blog/2021/09/23/when-the-chips-are-down-preventing-and-addressing-supply-chain-disruptions/#3 (last visited Oct. 13, 2021). [2] EU’s costly plan to close the semiconductor gap, Bloc would do better to focus on chip design and specialist machinery, FINANCIAL TIMES, Oct. 4, 2021, https://www.ft.com/content/a016f686-791f-4a3f-9e7a-c6389896862b (last visited Nov. 2, 2021). [3] FACT SHEET: Biden-Harris Administration Announces Supply Chain Disruptions Task Force to Address Short-Term Supply Chain Discontinuities, 100-Day Review Outlines Steps to Strengthen Critical Supply Chains, Final Report, The White House, https://www.whitehouse.gov/briefing-room/statements-releases/2021/06/08/fact-sheet-biden-harris-administration-announces-supply-chain-disruptions-task-force-to-address-short-term-supply-chain-discontinuities/ (last visited Oct. 18, 2021). [4] Ursula von der Leyen, President of the European Commission, 2021 State of the Union Address by President von der Leyen, Address at European Commission (September 15, 2021), 1, at 4, https://ec.europa.eu/commission/presscorner/detail/ov/SPEECH_21_4701 (last visited Oct. 21, 2021). [5] Digital sovereignty: Commission kick-starts alliances for Semiconductors and industrial cloud technologies, European Commission, https://ec.europa.eu/commission/presscorner/detail/en/IP_21_3733 (last visited Oct. 20, 2021). [6] TITLE XCIX—CREATING HELPFUL INCENTIVES TO PRODUCE SEMICONDUCTORS FOR AMERICA, William M. (Mac) Thornberry National Defense Authorization Act for Fiscal Year 2021, Authenticated U.S. Government Information GPO, One Hundred Sixteenth Congress of the United States of America at the second session, 1, at 1456, https://www.congress.gov/bill/116th-congress/house-bill/6395/text (last visited Oct. 22, 2021). [7] SEC. 9905. Funding for development and adoption of measurably secure semiconductors and measurably secure semiconductors supply chains (a), id., at 1467. [8] SEC. 9905. Funding for development and adoption of measurably secure semiconductors and measurably secure semiconductors supply chains (b), id., at 1468. [9] SEC. 9906. Advanced microelectronics research and development (c) (1), id., at 1471. [10] SEC. 9906. Advanced microelectronics research and development (c) (2) (A), id., at 1471. [11] SEC. 9906. Advanced microelectronics research and development (c) (2) (B), id., at 1472. [12] About, SIAC Semiconductors in America Coalition, https://www.chipsinamerica.org/about/ (last visited Oct. 20, 2021). [13] History, SIA Semiconductor Industry Association, https://www.semiconductors.org/about/history/ (last visited Oct. 21, 2021). [14] Join SIA, SIA Semiconductor Industry Association, https://www.semiconductors.org/about/become-a-member/ (last visited Oct. 21, 2021). [15] Mission, SIA Semiconductor Industry Association, https://www.semiconductors.org/about/mission/ (last visited Nov. 2, 2021). [16] Ursula von der Leyen, supra note 4. [17] 歐盟官方發布內容：Thierry Breton, How a European Chips Act will put Europe back in the tech race, Blog (September 15, 2021), https://ec.europa.eu/commission/commissioners/2019-2024/breton/blog/how-european-chips-act-will-put-europe-back-tech-race_en (last visited Oct. 20, 2021). Linked in發布內容：Thierry Breton, How a European Chips Act will put Europe back in the tech race, Linked in (September 15, 2021), https://www.linkedin.com/pulse/how-european-chips-act-put-europe-back-tech-race-thierry-breton/?published=t (last visited Oct. 21, 2021). [18] Alliance on Processors and Semiconductor technologies, Shaping Europe’s digital future, European Commission, https://digital-strategy.ec.europa.eu/en/policies/alliance-processors-and-semiconductor-technologies (last visited Oct. 20, 2021). [19] Industrial Alliance on Processors and Semiconductor Technologies, Internal Market, Industry, Entrepreneurship and SMEs, European Commission, https://ec.europa.eu/growth/industry/policy/industrial-alliance-on-processors-and-semiconductor-technologies_en (last visited Oct. 20, 2021). [20] EUROPEAN COMMISSION, Commission Work Programme 2022 Annex I: New initiatives (October 19, 2021), 1, at 2, https://ec.europa.eu/info/system/files/factsheet_cwp_2022_annex_v4.pdf (last visited Nov. 1, 2021).
Syngenta位於巴西Parana的基改研究機構遭到當地政府沒收瑞士跨國種子及作物科技公司Syngenta AG (SYT)正與巴西政府為基改活動展開訴訟。去（2006）年11月9日，Syngenta在巴西境內基改作物研究機構被迫關閉，研究機構所在地的Parana州州政府並以Syngenta違反巴西聯邦環保法規為由，沒收其所有投資的資產。Parana州境內有一座自然保護區－伊瓜蘇國家公園，伊瓜蘇國家公園是舉世著名的伊瓜蘇瀑布（Iguacu Falls）的所在地。根據巴西聯邦環保法規規定，基改作物不得栽種於自然保育區的十公里以內。 Syngenta位於Parana州的基改研究機構佔地達123公頃，然而距離伊瓜蘇國家公園卻僅約有六公里。1986年以來，Syngenta即已擁有該研究區域的產權，目前Syngenta已向巴西聯邦法院提出告訴，主張其得以合法在研究機構所在地進行相關研究。Syngenta抗辯理由主要有二：其一，Syngenta在該地進行基改作物田間試驗的許可，是由巴西聯邦政府的生物安全主管機關CTNBio所核發；其二，2006年初，巴西總統已將前述10公里的栽種間隔距離更改為500公尺。Parana州政府、巴西環境保護局Ibama、主張農業改革的活動份子等則主張，新的500公尺間隔規定不適用於Syngenta，蓋該公司早在巴西總統簽署新規定以前即已展開相關的試驗活動，Parana州環保主管機關早已祭出處罰，但Syngenta迄今未繳納罰鍰。