落實完善數位資料管理機制，有助於降低AI歧視及資料外洩風險
落實完善數位資料管理機制，
有助於降低AI歧視及資料外洩風險
資訊工業策進會科技法律研究所
2023年07月07日
近年來，科技快速發展，AI(人工智慧)等技術日新月異，在公私部門的應用日益廣泛，而且根據美國資訊科技研究與顧問公司Gartner在2023年5月發布的調查指出，隨著由OpenAI開發的ChatGPT取得成功，更促使各領域對於AI應用的高度重視與投入[1]，與此同時，AI歧視及資料外洩等問題，亦成為社會各界的重大關切議題。
壹、事件摘要
目前AI科技發展已牽動全球經濟發展，根據麥肯錫公司近期發布的《生成式人工智慧的經濟潛力：下一個生產力前沿(The next productivity frontier)》研究報告指出，預測生成式AI(Generative AI)有望每年為全球經濟增加2.6兆至4.4兆的經濟價值[2]。同時在美國資訊科技研究與顧問公司Gartner對於超過2500名高階主管的調查中，45%受訪者認為ChatGPT問世，增加其對於AI的投資。而且68%受訪者認為AI的好處大於風險，僅有5%受訪者認為風險大於好處[3]。然而有社會輿論認為AI的判斷依賴訓練資料，將可能複製人類偏見，造成AI歧視問題，而且若程式碼有漏洞或帳戶被盜用時，亦會造成資料外洩問題。
貳、重點說明
首先，關於AI歧視問題，以金融領域為例，近期歐盟委員會副主席Margrethe Vestager強調若AI用於可能影響他人生計的關鍵決策時，如決定是否能取得貸款，應確保申請人不受性別或膚色等歧視[4]，同時亦有論者認為若用於訓練AI的歷史資料，本身存有偏見問題，則可能導致系統自動拒絕向邊緣化族群貸款，在無形之中加劇，甚至永久化對於特定種族或性別的歧視[5]。
其次，關於資料外洩問題，資安公司Group-IB指出因目前在預設情況下，ChatGPT將保存使用者查詢及AI回應的訊息紀錄，若帳戶被盜，則可能洩露機敏資訊。據統計在2022年6月至2023年5月間，在亞太地區有近41000個帳戶被盜，而在中東和非洲地區有近25000個帳戶被盜，甚至在歐洲地區也有近17000個帳戶被盜[6]。另外在2023年3月時，ChatGPT除了發生部分用戶能夠檢視他人聊天紀錄標題的問題外，甚至發生個人資料外洩問題，即用戶可能知悉他人的姓名、電子郵件，付款地址，信用卡到期日及號碼末四碼等資料[7]。
參、事件評析
對於AI歧視及資料外洩等問題，應透過落實完善數位資料治理與管理機制，以降低問題發生的風險。首先，在收集訓練資料時，為篩選適合作為模型或演算法基礎的資料，應建立資料評估或審查機制，減少或避免使用有潛在歧視問題的資料，以確保分析結果之精確性。
其次，不論對於訓練資料、分析所得資料或用戶個人資料等，均應落實嚴謹的資料保密措施，避免資料外洩，如必須對於資料進行標示或分類，並依照不同標示或分類，評估及採取適當程度的保密措施。同時應對於資料進行格式轉換，以無法直接開啟的檔案格式進行留存，縱使未來可能不慎發生資料外洩，任意第三人仍難以直接開啟或解析資料內容。甚至在傳送帳戶登入訊息時，亦應採取適當加密傳送機制，避免遭他人竊取，盜取帳戶或個人資料。
財團法人資訊工業策進會科技法律研究所長期致力於促進國家科技法制環境完善，於2021年7月發布「重要數位資料治理暨管理制度規範（Essential Data Governance and Management System，簡稱EDGS）」，完整涵蓋數位資料的生成、保護與維護，以及存證資訊的取得、維護與驗證的流程化管理機制，故對於不同公私部門的AI相關資料，均可參考EDGS，建立系統性數位資料管理機制或強化既有機制。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
[1]Gartner, Gartner Poll Finds 45% of Executives Say ChatGPT Has Prompted an Increase in AI Investment (May 3, 2023), https://www.gartner.com/en/newsroom/press-releases/2023-05-03-gartner-poll-finds-45-percent-of-executives-say-chatgpt-has-prompted-an-increase-in-ai-investment (last visited June 30, 2023).
[2]McKinsey, The economic potential of generative AI: The next productivity frontier (June 14, 2023), https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/the-economic-potential-of-generative-AI-the-next-productivity-frontier#introduction (last visited June 30, 2023).
[3]Gartner, supra note 1.
[4]Zoe Kleinman, Philippa Wain & Ashleigh Swan, Using AI for loans and mortgages is big risk, warns EU boss (June 14, 2023), https://www.bbc.com/news/technology-65881389 (last visited June 30, 2023).
[5]Ryan Browne & MacKenzie Sigalos, A.I. has a discrimination problem. In banking, the consequences can be severe (June 23, 2023), https://www.cnbc.com/2023/06/23/ai-has-a-discrimination-problem-in-banking-that-can-be-devastating.html (last visited June 30, 2023).
[6]Group-IB, Group-IB Discovers 100K+ Compromised ChatGPT Accounts on Dark Web Marketplaces; Asia-Pacific region tops the list (June 20, 2023), https://www.group-ib.com/media-center/press-releases/stealers-chatgpt-credentials/ (last visited June 30, 2023).
[7]OpenAI, March 20 ChatGPT outage: Here’s what happened (Mar. 24, 2023),https://openai.com/blog/march-20-chatgpt-outage (last visited June 30, 2023).
- 【台北場1】通訊傳播事業個資法遵教育訓練
- 【台中場】通訊傳播事業個資法遵教育訓練
- 【新北場】通訊傳播事業個資法遵教育訓練
- 【高雄場】通訊傳播事業個資法遵教育訓練
- 【台北場2】通訊傳播事業個資法遵教育訓練
- 114年「企業營業秘密保護實務座談會」（南部場）
- 114年「企業營業秘密保護實務座談會」（中部場）
- 114年資訊服務業者個資安維辦法宣導說明會
- 【線上】資訊服務業個資安維計畫說明會
- 【實體】資訊服務業個資安維計畫說明會暨交流工作坊
- 【台北場1】通訊傳播事業個資保護實務專題講座
- 【台北場2】通訊傳播事業個資保護實務專題講座
- 【台北場3】通訊傳播事業個資保護實務專題講座
- 金融相關資服業者線上個資安維宣導說明會
- 商業服務業個資管理與資訊安全實務宣導說明會（高雄場）
- 商業服務業個資管理與資訊安全實務宣導說明會（台南場）
- 商業服務業個資管理與資訊安全實務宣導說明會（台中場）
- 商業服務業個資管理與資訊安全實務宣導說明會（台北場）※如遇颱風假延期至7/16
- 製程工業AI應用與規範研討會
歐盟執委會、26個成員國的能源部長和300多個風能相關企業於2023年12月19日在歐洲風能行動計畫（European Wind Power Action Plan）的基礎上共同簽署風能憲章（European Wind Charter），將有助歐盟執委會、成員國和風電企業互相協調並加速相關行動的執行，優化歐洲風電產業的發展環境。而該憲章主要的6項承諾措施分別為： （1）加速相關許可流程、優先執行修正後的《再生能源指令（Renewable Energy Directive）》，及提供風能的長期發展規劃，以確保（至少在2024-2026年間）充足、穩定且可預期的風能發展管道。 （2）改善及簡化風電競標機制的設計並建立一致性，以促進高品質風機的生產，且能同時具備環保、創新、資通安全和良好勞動條件；在不影響《淨零產業法案（Net-Zero Industry Act）》的立法程序下，於競標設計中納入客觀、透明、非歧視、非依據價格的資格預審或核准標準，特別是關於永續性和韌性、資通安全、商業行為和執行能力，以及民眾參與等要素。 （3）確保簽署單位所提供的商業程序、監管、產品和服務都能滿足如《淨零產業法案》和歐洲風能行動計畫中關於高品質的標準，包含環保、創新、資通安全和良好勞動條件；同時，也承諾將移除歐盟法規上的限制，並透過歐盟層級的工具減少財務風險。 （4）提供明確的競標時程，並採取適當的措施最大化各專案的執行率，包含訂定未執行時的懲罰，以及建立製造商和營運商的長期夥伴關係，提升供給和需求的可預測性，同時減緩價格波動的影響。 （5）透過積極的監管建立公平且具競爭力的國際環境，並考慮採取措施以處理可能的不公平國際貿易行為；在《外國直接投資規則（Foreign Direct Investment Regulation）》和其他適當工具的框架下合作投資風電領域。 （6）擴大風能設備的產製量能以滿足預期增加的風電專案需求，以及強化既有的勞動和工業能力、擴大投資規模，並支持工人技能升級和再培訓，確保足夠的勞動力。
論美國與歐盟半導體之保護策略論美國與歐盟半導體之保護策略 蔡立亭 資訊工業策進會科技法律研究所 2021年12月 根據美國白宮於2021年9月23日的公告，COVID-19的流行衝擊產業的供應鏈；政府藉由法案的施行，積極預防晶片的短缺[1]。為保護產業的發展，與國際競爭力，不僅美國致力於晶片的自給自足；歐盟鑒於國際趨勢，亦積極強化技術能力[2]。本文擬研析於2021年，美國、歐盟促進半導體發展的策略，並聚焦於相關的法制與聯盟。 壹、事件摘要 據調查報告指出，由於近年大量外購半導體與設置境外公司，美國於全球半導體的產量占比，已明顯下降，並欠缺先進技術的能力[3]。申言之，美國於半導體生產的量與質，皆已呈現危機。基於穩定國內產業之供需，和提升半導體技術的量能，美國政府積極擬定《2021財政年國防授權法》；半導體產業並組成聯盟凝聚共識，共同維護半導體供應鏈之健全。 歐洲亦致力於推進半導體的發展，提出《歐洲晶片法案》（European Chips Act）[4]，歐盟並另成立「處理器與半導體技術聯盟」（the Alliance for Processors and Semiconductor technologies）[5]。申言之，歐洲以法案與產業聯盟，共同強化歐洲整體於國際半導體之技術量能。 貳、重點說明 承上所論，為協助境內半導體產業的發展，提升研發技術能力，美國與歐盟創造適合的生態環境。由政府制定規範，挹注相關資源；產業並聚集為聯盟，協力提升半導體產能。本文以下擬分述之。 一、美國 美國《2021財政年國防授權法》的H Division其他事項第99主題（TITLE XCIX），為「創造有助於美國生產半導體的激勵措施」[6]。係資助發展安全且穩定的半導體，和半導體供應鏈；並含建立多邊半導體基金[7]，以及與國外共同籌資機制（common funding mechanism）[8]。在提升半導體研究與發展的層面，則成立「國家半導體科技中心」，參與的單位為商務部、國防部、能源局與國家科學基金會[9]。該中心的任務為執行半導體的製造、設計、研究[10]；並建立投資基金，與私部門合作，以支持新創公司、產學合作，提升美國的半導體生態系[11]。申言之，美國以國家主導，跨部會協作，挹注經費，整合半導體的研究資源。 美國半導體聯盟（Semiconductors in America Coalition，SIAC）係由製造與使用半導體的公司，組成跨部門聯盟，其任務為藉由提升半導體的製造與研究，強化美國的經濟、關鍵基礎設施，與國家安全[12]。另，美國半導體工業協會（Semiconductor Industry Association，SIA）自1977年成立[13]，成員類型包含半導體設計與製造公司總部位於美國者（特許會員）、總部位於美國境外而對美國具有重要性者（國際半導體會員）、在半導體產業供應鏈中的公司且期待對聯盟的公共政策具有發言權者（企業會員），和非屬半導體產業的公司（企業夥伴）[14]。SIA的任務為推動政策與法規，提升國際競爭力，和維持技術領先性[15]。換言之，聯盟包含境外成員的參與，以共同推動半導體的發展。 二、歐盟 歐盟之《歐洲晶片法》則尚處於研議階段，係由歐盟委員會主席Ursula von der Leyen於2021年9月提出，並認為應連結半導體設計、製造與測試的能力[16]。歐盟委員Thierry Breton指出，該法案應包含三個構面：一為歐洲半導體研究策略，此為歐洲在全球半導體價值鏈中的優勢；次為藉由共同計畫，以提升歐洲的產出能力；三為國際合作的框架[17]。擬以法案深化歐洲半導體產業的研究、技術量能。 歐洲處理器與半導體技術聯盟，係於2021年7月成立，總體目標為識別晶片生產與企業技術發展需求間的落差[18]。並轉化為兩個主要的行動，一為強化歐洲電子設計的生態系統；次為建立必要的製造能力[19]。藉由檢視晶片的供需，以協調整體生態系的發展。 參、事件評析 綜上所論，美國與歐洲輔助境內半導體的發展，可歸納為縱向層面：以立法的方式，編列預算並保護技術。以橫向層面觀察，半導體產業組成聯盟，可由產業界的視角，交流相關技術經驗，和調整規範以符合技術發展實務。 美國與歐盟積極整合相關的資源，提升境內之半導體研究與技術，競爭國際之領導地位。觀察美國《2021財政年國防授權法》對半導體產業的輔助，或可歸納為1、國際合作籌資；2、跨部會合作；與3、公私協力。歐盟之《歐洲晶片法案》並擬於2022年第2季有相關的倡議[20]。或亦將注重國際合作，以優化半導體產業。 針對半導體聯盟之設置，成員或包含國際會員，以協調相關的政策、法規，整合半導體的供給與需求。申言之，美國與歐盟槓桿國際資源，輔助境內半導體產業，提升研發技術，與半導體供應之量能。 [1] Sameera Fazili and Peter Harrell, When the Chips Are Down: Preventing and Addressing Supply Chain Disruptions, Briefing Room Blog (September 23, 2021), https://www.whitehouse.gov/briefing-room/blog/2021/09/23/when-the-chips-are-down-preventing-and-addressing-supply-chain-disruptions/#3 (last visited Oct. 13, 2021). [2] EU’s costly plan to close the semiconductor gap, Bloc would do better to focus on chip design and specialist machinery, FINANCIAL TIMES, Oct. 4, 2021, https://www.ft.com/content/a016f686-791f-4a3f-9e7a-c6389896862b (last visited Nov. 2, 2021). [3] FACT SHEET: Biden-Harris Administration Announces Supply Chain Disruptions Task Force to Address Short-Term Supply Chain Discontinuities, 100-Day Review Outlines Steps to Strengthen Critical Supply Chains, Final Report, The White House, https://www.whitehouse.gov/briefing-room/statements-releases/2021/06/08/fact-sheet-biden-harris-administration-announces-supply-chain-disruptions-task-force-to-address-short-term-supply-chain-discontinuities/ (last visited Oct. 18, 2021). [4] Ursula von der Leyen, President of the European Commission, 2021 State of the Union Address by President von der Leyen, Address at European Commission (September 15, 2021), 1, at 4, https://ec.europa.eu/commission/presscorner/detail/ov/SPEECH_21_4701 (last visited Oct. 21, 2021). [5] Digital sovereignty: Commission kick-starts alliances for Semiconductors and industrial cloud technologies, European Commission, https://ec.europa.eu/commission/presscorner/detail/en/IP_21_3733 (last visited Oct. 20, 2021). [6] TITLE XCIX—CREATING HELPFUL INCENTIVES TO PRODUCE SEMICONDUCTORS FOR AMERICA, William M. (Mac) Thornberry National Defense Authorization Act for Fiscal Year 2021, Authenticated U.S. Government Information GPO, One Hundred Sixteenth Congress of the United States of America at the second session, 1, at 1456, https://www.congress.gov/bill/116th-congress/house-bill/6395/text (last visited Oct. 22, 2021). [7] SEC. 9905. Funding for development and adoption of measurably secure semiconductors and measurably secure semiconductors supply chains (a), id., at 1467. [8] SEC. 9905. Funding for development and adoption of measurably secure semiconductors and measurably secure semiconductors supply chains (b), id., at 1468. [9] SEC. 9906. Advanced microelectronics research and development (c) (1), id., at 1471. [10] SEC. 9906. Advanced microelectronics research and development (c) (2) (A), id., at 1471. [11] SEC. 9906. Advanced microelectronics research and development (c) (2) (B), id., at 1472. [12] About, SIAC Semiconductors in America Coalition, https://www.chipsinamerica.org/about/ (last visited Oct. 20, 2021). [13] History, SIA Semiconductor Industry Association, https://www.semiconductors.org/about/history/ (last visited Oct. 21, 2021). [14] Join SIA, SIA Semiconductor Industry Association, https://www.semiconductors.org/about/become-a-member/ (last visited Oct. 21, 2021). [15] Mission, SIA Semiconductor Industry Association, https://www.semiconductors.org/about/mission/ (last visited Nov. 2, 2021). [16] Ursula von der Leyen, supra note 4. [17] 歐盟官方發布內容：Thierry Breton, How a European Chips Act will put Europe back in the tech race, Blog (September 15, 2021), https://ec.europa.eu/commission/commissioners/2019-2024/breton/blog/how-european-chips-act-will-put-europe-back-tech-race_en (last visited Oct. 20, 2021). Linked in發布內容：Thierry Breton, How a European Chips Act will put Europe back in the tech race, Linked in (September 15, 2021), https://www.linkedin.com/pulse/how-european-chips-act-put-europe-back-tech-race-thierry-breton/?published=t (last visited Oct. 21, 2021). [18] Alliance on Processors and Semiconductor technologies, Shaping Europe’s digital future, European Commission, https://digital-strategy.ec.europa.eu/en/policies/alliance-processors-and-semiconductor-technologies (last visited Oct. 20, 2021). [19] Industrial Alliance on Processors and Semiconductor Technologies, Internal Market, Industry, Entrepreneurship and SMEs, European Commission, https://ec.europa.eu/growth/industry/policy/industrial-alliance-on-processors-and-semiconductor-technologies_en (last visited Oct. 20, 2021). [20] EUROPEAN COMMISSION, Commission Work Programme 2022 Annex I: New initiatives (October 19, 2021), 1, at 2, https://ec.europa.eu/info/system/files/factsheet_cwp_2022_annex_v4.pdf (last visited Nov. 1, 2021).
美國政府呼籲立法遏止資料盜取並加強學生隱私保護美國歐巴馬總統在美國聯邦貿易委員會（Federal Trade Commission，FTC）2015年1月12日所舉辦的會議上，呼籲聯邦政府應制定「個人資料通知與保護法」（The Personal Data Notification and Protection Act），該法要求美國企業建立通報機制，其必須在資料遭盜取之日起三十天內通報客戶，以保護美國大眾之隱私。此一要求主要係因為發生多起網路駭客與資安事件，但目前聯邦政府卻欠缺相關法制，故聯邦政府嘗試藉此改善各州法律各行其事無法完善資安保護之問題，亦減輕跨州營運之美國企業適用各州法律之負擔，將有助於產業法制環境之改善。 同時，歐巴馬總統亦提出制定「學生數位隱私法」（The Student Digital Privacy Act）之呼籲，該法將禁止企業為獲取利益經由學校取得學生資料。此外，歐巴馬總統亦提及美國企業將需要簽署一自願性協議（Voluntary Code of Conduct for Smart Grid Customer Data Privacy，VCC），使消費者能夠查詢各企業之信用評分，帶動企業自主保護數位資料之安全，並以此作為身分盜取之預警，避免造成個資外洩後損失更多權益。而本次呼籲制定的法規尚針對先前由美國眾議院提出之「網路情報分享及保護法」（Cyber Intelligence Sharing and Protection Act，CISPA），特別強化其網路使用者保護之部份規定；其中包括加強公私部門合作以及深化網路防護安全，藉此妥善處理網路犯罪、保護國土安全等相關問題。是故，本次制定法規之目的將更著眼於擴大授權，使政府目的事業主管機關以及企業之間能夠共享相關資訊之權限，以預防更多潛在性的網路攻擊與資料盜取事件。
歐盟執委會發布「歐洲風電行動計畫」，支持歐洲風電相關產業之發展歐盟執委會於2023年10月24日發布「歐洲風電行動計畫（European Wind Power Action Plan）」，以支持歐洲風電相關產業發展並強化其競爭力，同時確保該產業能在綠色轉型的過程中持續扮演關鍵角色，並以此提高整體風電的裝置容量。該計畫要求委員會、成員國和產業應立即採取以下6個方向的行動措施： （1）透過可預測且快速的許可程序，加速風電的建置 執委會與成員國將共同發布「Accele-RES」倡議，推動許可流程的數位化、許可機關的職員訓練及建立政策指引文件，以及提高許可相關議題之討論層級；並且，鼓勵成員國透過風電承諾（Wind Pledges）、透明的競標時程表和長期的規劃來提高開發專案進度的透明度。 （2）改善風電競標機制的設計 在《淨零產業法（Net-Zero Industry Act）》草案和電力市場設計改革的基礎上，建立更客觀、非歧視性且透明化的風電競標標準，並將目標入法使相關策略具法律約束力。 （3）促進資金的取得 為了擴大對於歐洲風能產業的投融資，歐盟執委會將透過創新基金、歐洲投資銀行（EIB）提供歐盟風電相關產業的資金，以及融資擔保；並利用國家援助（State Aid）規範對歐盟風電供應鏈提供補助。 （4）建立公平且具競爭性的國際環境 為確保風電產業能在公平競爭的環境中順利營運，歐盟執委會將密集監管可能有利於外國業者的不公平貿易行為，並將持續利用貿易協定促進歐盟業者進入外國市場，同時推動風電產業的規格標準化。 （5）培育產業技能 建立「大規模技能合作夥伴關係（Large scale skills partnerships）」以及透過《淨零產業法》推動「淨零產業技能學院」，培訓風電產業技術人才，包含針對青年、婦女與長者的職能培育計畫，以及勞工技能提升與再培訓計畫，因應積極的氣候目標以及市場規模快速擴張所創造之人力需求。 （6）鼓勵產業投入與成員國的承諾 歐盟執委會將與成員國和風電產業共同制定歐盟風能憲章（EU Wind Charter），促進更多風電利害關係人參與締約，擴大憲章適用對象，以建立歐洲風電產業能保持競爭力的優良環境。