落實完善數位資料管理機制，有助於降低AI歧視及資料外洩風險
落實完善數位資料管理機制，
有助於降低AI歧視及資料外洩風險
資訊工業策進會科技法律研究所
2023年07月07日
近年來，科技快速發展，AI(人工智慧)等技術日新月異，在公私部門的應用日益廣泛，而且根據美國資訊科技研究與顧問公司Gartner在2023年5月發布的調查指出，隨著由OpenAI開發的ChatGPT取得成功，更促使各領域對於AI應用的高度重視與投入[1]，與此同時，AI歧視及資料外洩等問題，亦成為社會各界的重大關切議題。
壹、事件摘要
目前AI科技發展已牽動全球經濟發展，根據麥肯錫公司近期發布的《生成式人工智慧的經濟潛力：下一個生產力前沿(The next productivity frontier)》研究報告指出，預測生成式AI(Generative AI)有望每年為全球經濟增加2.6兆至4.4兆的經濟價值[2]。同時在美國資訊科技研究與顧問公司Gartner對於超過2500名高階主管的調查中，45%受訪者認為ChatGPT問世，增加其對於AI的投資。而且68%受訪者認為AI的好處大於風險，僅有5%受訪者認為風險大於好處[3]。然而有社會輿論認為AI的判斷依賴訓練資料，將可能複製人類偏見，造成AI歧視問題，而且若程式碼有漏洞或帳戶被盜用時，亦會造成資料外洩問題。
貳、重點說明
首先，關於AI歧視問題，以金融領域為例，近期歐盟委員會副主席Margrethe Vestager強調若AI用於可能影響他人生計的關鍵決策時，如決定是否能取得貸款，應確保申請人不受性別或膚色等歧視[4]，同時亦有論者認為若用於訓練AI的歷史資料，本身存有偏見問題，則可能導致系統自動拒絕向邊緣化族群貸款，在無形之中加劇，甚至永久化對於特定種族或性別的歧視[5]。
其次，關於資料外洩問題，資安公司Group-IB指出因目前在預設情況下，ChatGPT將保存使用者查詢及AI回應的訊息紀錄，若帳戶被盜，則可能洩露機敏資訊。據統計在2022年6月至2023年5月間，在亞太地區有近41000個帳戶被盜，而在中東和非洲地區有近25000個帳戶被盜，甚至在歐洲地區也有近17000個帳戶被盜[6]。另外在2023年3月時，ChatGPT除了發生部分用戶能夠檢視他人聊天紀錄標題的問題外，甚至發生個人資料外洩問題，即用戶可能知悉他人的姓名、電子郵件，付款地址，信用卡到期日及號碼末四碼等資料[7]。
參、事件評析
對於AI歧視及資料外洩等問題，應透過落實完善數位資料治理與管理機制，以降低問題發生的風險。首先，在收集訓練資料時，為篩選適合作為模型或演算法基礎的資料，應建立資料評估或審查機制，減少或避免使用有潛在歧視問題的資料，以確保分析結果之精確性。
其次，不論對於訓練資料、分析所得資料或用戶個人資料等，均應落實嚴謹的資料保密措施，避免資料外洩，如必須對於資料進行標示或分類，並依照不同標示或分類，評估及採取適當程度的保密措施。同時應對於資料進行格式轉換，以無法直接開啟的檔案格式進行留存，縱使未來可能不慎發生資料外洩，任意第三人仍難以直接開啟或解析資料內容。甚至在傳送帳戶登入訊息時，亦應採取適當加密傳送機制，避免遭他人竊取，盜取帳戶或個人資料。
財團法人資訊工業策進會科技法律研究所長期致力於促進國家科技法制環境完善，於2021年7月發布「重要數位資料治理暨管理制度規範（Essential Data Governance and Management System，簡稱EDGS）」，完整涵蓋數位資料的生成、保護與維護，以及存證資訊的取得、維護與驗證的流程化管理機制，故對於不同公私部門的AI相關資料，均可參考EDGS，建立系統性數位資料管理機制或強化既有機制。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
[1]Gartner, Gartner Poll Finds 45% of Executives Say ChatGPT Has Prompted an Increase in AI Investment (May 3, 2023), https://www.gartner.com/en/newsroom/press-releases/2023-05-03-gartner-poll-finds-45-percent-of-executives-say-chatgpt-has-prompted-an-increase-in-ai-investment (last visited June 30, 2023).
[2]McKinsey, The economic potential of generative AI: The next productivity frontier (June 14, 2023), https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/the-economic-potential-of-generative-AI-the-next-productivity-frontier#introduction (last visited June 30, 2023).
[3]Gartner, supra note 1.
[4]Zoe Kleinman, Philippa Wain & Ashleigh Swan, Using AI for loans and mortgages is big risk, warns EU boss (June 14, 2023), https://www.bbc.com/news/technology-65881389 (last visited June 30, 2023).
[5]Ryan Browne & MacKenzie Sigalos, A.I. has a discrimination problem. In banking, the consequences can be severe (June 23, 2023), https://www.cnbc.com/2023/06/23/ai-has-a-discrimination-problem-in-banking-that-can-be-devastating.html (last visited June 30, 2023).
[6]Group-IB, Group-IB Discovers 100K+ Compromised ChatGPT Accounts on Dark Web Marketplaces; Asia-Pacific region tops the list (June 20, 2023), https://www.group-ib.com/media-center/press-releases/stealers-chatgpt-credentials/ (last visited June 30, 2023).
[7]OpenAI, March 20 ChatGPT outage: Here’s what happened (Mar. 24, 2023),https://openai.com/blog/march-20-chatgpt-outage (last visited June 30, 2023).
- (已額滿)114年「企業營業秘密保護實務座談會」(北部場)–營業秘密因應數位環境之保護風險及管理對策
- 2025科技研發法制推廣活動— 科專個資及反詐騙實務講座(實體)
- 2025科技研發法制推廣活動— 科專個資及反詐騙實務講座(直播)
- 【台北場1】通訊傳播事業個資法遵教育訓練
- 【台中場】通訊傳播事業個資法遵教育訓練
- 【新北場】通訊傳播事業個資法遵教育訓練
- 【高雄場】通訊傳播事業個資法遵教育訓練
- 【台北場2】通訊傳播事業個資法遵教育訓練
- 114年「企業營業秘密保護實務座談會」（南部場）
- 114年「企業營業秘密保護實務座談會」（中部場）
- 114年資訊服務業者個資安維辦法宣導說明會
- 【線上】資訊服務業個資安維計畫說明會
- 【實體】資訊服務業個資安維計畫說明會暨交流工作坊
- 【台北場1】通訊傳播事業個資保護實務專題講座
- 【台北場2】通訊傳播事業個資保護實務專題講座
- 【台北場3】通訊傳播事業個資保護實務專題講座
- 金融相關資服業者線上個資安維宣導說明會
- 商業服務業個資管理與資訊安全實務宣導說明會（高雄場）
- 商業服務業個資管理與資訊安全實務宣導說明會（台南場）
- 商業服務業個資管理與資訊安全實務宣導說明會（台中場）
- 商業服務業個資管理與資訊安全實務宣導說明會（台北場）
依日本2017年5月30日修正施行之個人資料保護法的最新規定，家長會、同學會、管委會等，就個人資料的蒐集、處理、利用，應與以蒐集、處理、利用個人資料為業之公司行號，在法律上承擔相當之責任、義務。 因此自2017年5月30日起，家長會蒐集、處理、利用個人資料，需要注意以下四點： 一、經當事人請求，應刪除其個人資料。 修正後的個人資料保護法施行後，明知未經或不確定是否經學生監護人同意，而取得其個人資料，都是違法的行為。但目前已經取得的個人資料，即使明知未經或不確定是否經學生監護人同意，也不需要立即刪除。惟若當事人請求刪除，則必須立即刪除。 二、學校應善盡告知之義務，取得學生監護人之同意後，方得將其個人資料轉交家長會蒐集、利用、處理，。 修正後的個人資料保護法允許由學校取得學生監護人之同意後，將其個人資料轉交家長會蒐集、利用、處理。但如果校方未充分盡到告知義務，則有違法之虞。實務上在九州的熊本曾經發生過這樣的案例，由於家長會未依法蒐集、處理、利用其個人資料，監護人提起告訴，最後雙方在二審達成和解。 三、經過監護人同意，方得將其個人資料造冊並刊登照片 由於須明確取得學生監護人之同意，方得將其個人資料造冊並刊登照片。因此為避免學校未善盡告知義務，建議家長會直接請監護人填妥加入家長會之同意書，並於同意書上載明授權蒐集、處理、利用其個人資料之範圍。 四、遵從個人情報保護委員會的指導 若家長會有非法蒐集、利用、處理個人資料之虞，個人情報保護委員會可以檢查並限期改正。屆期如未改正，可裁處罰金或懲役。
日本製鐵收購美國鋼鐵案簡介日本製鐵收購美國鋼鐵案簡介 資訊工業策進會科技法律研究所 2024年09月30日 日本製鐵（日本製鉄，以下簡稱日鐵）於2023年12月宣布對美國鋼鐵（United States Steel Corporation, U.S. Steel）之收購計畫，此舉引發美國鋼鐵工人公會（United Steelworkers Union, USW）強烈反對。美國總統拜登及副總統賀錦麗（民主黨總統候選人），以及共和黨總統候選人川普亦陸續發表聲明，反對此項收購計畫。 上述收購計畫為今（2024）年美國總統大選備受關注的議題之一，本文將簡單介紹事件摘要、本案可能涉及之經濟安全問題及各方意見，以及目前最新進展。 壹、事件摘要 U.S. Steel為美國指標性鋼鐵企業，近年受到產業結構改變影響持續虧損，最終於2023年8月宣布出售。日鐵為進軍美國電動車鋼品市場，於2023年12月18日發表將收購U.S. Steel，消息曝光後引發美國各界嘩然，白宮更於同年12月21日表示此項收購可能影響國家安全和供應鏈可靠性，應嚴格進行審查。 日鐵收購之U.S. Steel計畫將同時由美國司法部審查是否違反反托拉斯法，以及由美國外資投資委員會（Committee on Foreign Investment in the United States, CFIUS）根據《外國投資風險審查現代化法》（Foreign InvestmentRisk Review Modernization Act of 2017, FIRRMA）審查是否影響經濟安全，導致美國技術經由投資或併購不當流出。 CFIUS原訂於今（2024）9月23日完成審查，惟CFIUS於8月31日向日鐵表示，此項收購計畫可能降低美國國內鋼鐵產能，影響交通、建築和農業等領域之鋼鐵供應，存在經濟安全上之隱憂。根據歐美媒體報導，美國總統拜登可能發布中止收購之行政命令，故日鐵重新向CFIUS申請審查，將審查期間延長為90天，讓本案可以在美國總統大選結束後做出決定，以降低政治影響。 貳、 重點說明 一、收購計畫涉及之經安問題及日鐵回應： CFIUS係依據《1950年國防生產法》第721條（section 721 of the Defense Production Act of 1950）、第11858號行政命令（Executive Order 11858）以及《聯邦法規》第31編第8篇（chapter VIII of title 31 of the Code of Federal Regulations.）組成之跨部門委員會，其任務為審查外資收購美國公司是否構成國家安全威脅，避免外國人透過併購或投資等方式控制美國企業。 針對日鐵收購US Steel一事，CFIUS於8月31日致函日鐵和US Steel，指出可能存在兩大經濟安全上之問題： （一）降低美國鋼鐵產能：因日鐵擴大對印度市場投資並收購當地鋼鐵廠，CFIUS擔心其可能將美國鋼鐵產線轉移至印度，進而影響美國產能。針對上述疑慮，日鐵承諾將額外投資27億美元，用於更新US Steel的老舊設備及生產據點，並優先在美國國內生產。 （二）關稅問題：CFIUS指出US Steel過去曾要求美國提高對中國廉價鋼材產品之關稅，惟日鐵表示反對，擔心其可能會影響US Steel之決策。針對上述問題，日鐵表示不會干涉相關決策，並會在公司內設立由美國籍委員組成之「通商委員會」，以打消美方顧慮。 二、美國總統發布行政命令中止收購之影響及產業看法 在CFIUS提出對日鐵收購US Steel一事之疑慮後，據傳美國總統拜登擬發布行政命令中止此項收購計畫。由於行政命令發布後，日鐵將無法再以同一案件進行申請，即便想以CFIUS審查過程中存在問題為由，向聯邦法院提起訴訟，惟訴訟曠日費時且勝訴機率不高，收購計畫恐就此破裂。 由於美國以往多是禁止中國企業收購美國企業，如美國前總統川普於2018年3月12日發布行政命令禁止博通（Broadcom）併購高通（Qualcomm），若拜登就本案發布行政命令，將是首次禁止日本企業收購美國企業。 日本丸紅經濟研究所今村卓社長表示，若美國對作為同盟國的日本企業發布行政命令，未來須對併購鋼鐵等基礎產業抱持謹慎態度。日本經濟團體聯合會（日本経済団体連合会）、美國國際工商理事（United States Council for International Business）、全球商業聯盟（Global Business Alliance）等多個經濟團體亦致函美國財政部長，表達對政治壓力影響CIFUS審查結果之擔憂，並指出此行為可能會損害美國投資環境，並將美國經濟和勞工置於危險之中。 參、事件評析 根據美國商務部經濟分析局資料，去（2023）年美國獲外國直接投資5.4兆美元，其中日本為投資最多國家，投資金額高達7,833億美元，已連續5年居冠，顯示出在中美對抗情勢下，日美持續擴大合作之趨勢。 有輿論認為，拜登政府擬中止日鐵收購計畫一事，暴露出美國推動產業發展政策的矛盾之處。一方面，美國透過制定《降低通貨膨脹法》（Inflation Reduction Act; IRA）及《晶片與科學法》（CHIPS and Science Act）吸引外資；另一方面，則以經濟安全及供應鏈穩定為由，加強審查外國直接投資。 在中美對抗持續升溫下，美國勢必需要吸引包括日本在內之盟友國家之投資，以推動電動車、半導體等關鍵產業發展。惟若美國中止日鐵對US Steel之收購計畫，導致雙方破局，未來可能影響外國直接投資意願，進而影響美國產業轉型腳步。
美國藥品CGMP規範關於製劑部分修正之觀察美國食品及藥物管理局（Food and Drug Administration，FDA）於2008年9月8日針對現行優良藥品製造作業規範（Current Good Manufacturing Practice In Manufacturing, Processing, Packing or Holding of Drugs，藥品CGMP規範）中關於製劑的部分，公布了最新修正規則，並在同年的12月8日正式實施，希冀藉此能與其它FDA規範（例如：品質系統規範﹙the Quality System Regulation, 21 CFR part 820﹚）和國際性的CGMP標準（例如：歐盟CGMP規範﹙the CGMPs of the European Union﹚）相調和。 本次修正係採漸進式，而非一次性的方式為之，主要針對無菌處理（aseptic processing）、石棉過濾裝置（asbestos filters）之使用、以及第二者驗證（verification by a second individual）等做修正。 首先，針對無菌處理部分，要求設備及器具必須清潔、保養，且視藥品的本質不同，予以消毒和（或）殺菌，以避免故障或污染。對於可能遭微生物污染致影響其預定用途之原料、藥品容器或封蓋，要求應於使用前經過微生物檢驗。此外，尚新增生物負荷量測試（bioburden testing）於管制程序的列表中，以保障每批藥品之均一及完整性。 其次，關於石棉過濾裝置之使用方面，回應一直以來所存在著將使用於生產液態注射劑產品（liquid injectable products）之過濾裝置規範更現代化的需求，本次修正明訂，於今後禁止使用石棉過濾裝置，同時，亦將石棉過濾裝置於非纖維釋出性過濾裝置的定義之中刪除。 最後，有關第二者驗證部分，因應生產過程逐步自動化的潮流，本次修正於原有規範下增設規定指出，如以自動化設備執行秤重、測量、分裝、產量計算、設備清潔與使用記錄、生產與管控紀錄等之工作，且符合相關條文要求，並有一人檢查該設備是否如預設正常運作，則視為合乎原有規範下須有一人操作另一人檢查之規定。亦即修正後之執行，只需一人加以確認該自動化設備是否適當運作即為已足，毋須就過程中的每一步驟加以檢視，避免多餘人力之浪費。 總括來說，本次修正確保法規確實涵蓋現行業界的操作實務，同時並確立FDA將藥品CGMP規範與以現代化，並與國際標準調和之目標，為以漸進方式修訂藥品CGMP規範跨出重要的一步。
日本文部科學省發布2021年科學技術與創新白皮書，著眼於韌性社會願景與疫後對策的具體措施日本文部科學省於2021年6月8日公布「2021年科學技術與創新白皮書」（令和3年版科学技術・イノベーション白書），為文部省就政府所訂立之科技政策藍圖，所發布的年度報告書。本年度白皮書循往例，區分為第一部分與第二部分。第一部分著重同年3月發布之第6期科學技術與創新基本計畫（第６期科学技術・イノベーション基本計画）框架下，為達成Society 5.0之願景政府所規劃的一系列政策；第二部分則回顧去（2020）年，政府針對科技與創新創造所採取的各項對策。 本白皮書就韌性社會所需科研項目、強化研究能量的激勵措施等層面，提出以下具體方向： （1）推動社會數位化與零碳排放（脱炭素化） 為強化網路虛擬空間與現實社會間的資源共享與互動發展，虛擬空間之基礎技術方面，持續研發超級電腦、AI與量子電腦，利用所累積的資料運用於深度分析與模擬，並實現超高速計算與量子通訊。虛擬空間與現實社會結合之應用型技術研發方面，包含能輔助身體運作的外部機械、透過自駕車系統銜接高齡化社會交通需求、以及遠端遙控之機器人技術應用於高風險作業環境。推動零碳排放、強化防災能量等面向，則藉由綠色成長戰略、綠色創新基金等政策，發展核融合、次世代蓄電池、精準預測氣候變遷之系統等新興技術；運用AI模擬等強化地震與天災的預報精準度，提升社會應對大規模自然災害的韌性。 （2）「知識」的整合創造與利用，以用於解決各類社會議題 考量社會議題的解決，不僅在於前瞻性自然科學技術的研發，尚需同步理解人類社會的多樣性。同時，人文社會科學近年來，亦多有採用自然科學的研究方法。因之，白皮書主張兩方的跨域知識結合，應用上強調須以人為本來解決各類社會議題。 （3）強化基礎研究能量 應著手改善出於個人經濟因素，放棄申請博士後課程的現況，創造年輕研究者敢於投入自身有興趣且具挑戰性研究課題之環境。基此，白皮書提出設置10兆日圓規模的大學基金，提升約15,000名博士後課程學生的待遇，並推動「創造發展性研究支援事業」（創発的研究支援事業）措施，穩定提供10年期間的研究資金。 （4）COVID-19疫情對策 持續投入研發治療方法（如檢驗抗病毒藥物Favipiravir用於治療COVID-19的效果與安全性）、疫苗與相關醫療器材，並推動以遠距方式進行研究活動，導入機器人技術等來發展自動化實驗、於虛擬空間內進行實驗等；另一方面，有效的防疫對策（如避免人潮密集、密切接觸、密閉空間的「三密」），根基於COVID-19的最新科研成果，因此需讓科學性、客觀性資訊透過適切的管道（如日本科學未來館網站），以淺顯易懂的形式向大眾宣達。