落實完善數位資料管理機制,有助於降低AI歧視及資料外洩風險

落實完善數位資料管理機制,
有助於降低AI歧視及資料外洩風險

資訊工業策進會科技法律研究所
2023年07月07日

近年來,科技快速發展,AI(人工智慧)等技術日新月異,在公私部門的應用日益廣泛,而且根據美國資訊科技研究與顧問公司Gartner在2023年5月發布的調查指出,隨著由OpenAI開發的ChatGPT取得成功,更促使各領域對於AI應用的高度重視與投入[1],與此同時,AI歧視及資料外洩等問題,亦成為社會各界的重大關切議題。

壹、事件摘要

目前AI科技發展已牽動全球經濟發展,根據麥肯錫公司近期發布的《生成式人工智慧的經濟潛力:下一個生產力前沿(The next productivity frontier)》研究報告指出,預測生成式AI(Generative AI)有望每年為全球經濟增加2.6兆至4.4兆的經濟價值[2]。同時在美國資訊科技研究與顧問公司Gartner對於超過2500名高階主管的調查中,45%受訪者認為ChatGPT問世,增加其對於AI的投資。而且68%受訪者認為AI的好處大於風險,僅有5%受訪者認為風險大於好處[3]。然而有社會輿論認為AI的判斷依賴訓練資料,將可能複製人類偏見,造成AI歧視問題,而且若程式碼有漏洞或帳戶被盜用時,亦會造成資料外洩問題。

貳、重點說明

首先,關於AI歧視問題,以金融領域為例,近期歐盟委員會副主席Margrethe Vestager強調若AI用於可能影響他人生計的關鍵決策時,如決定是否能取得貸款,應確保申請人不受性別或膚色等歧視[4],同時亦有論者認為若用於訓練AI的歷史資料,本身存有偏見問題,則可能導致系統自動拒絕向邊緣化族群貸款,在無形之中加劇,甚至永久化對於特定種族或性別的歧視[5]

其次,關於資料外洩問題,資安公司Group-IB指出因目前在預設情況下,ChatGPT將保存使用者查詢及AI回應的訊息紀錄,若帳戶被盜,則可能洩露機敏資訊。據統計在2022年6月至2023年5月間,在亞太地區有近41000個帳戶被盜,而在中東和非洲地區有近25000個帳戶被盜,甚至在歐洲地區也有近17000個帳戶被盜[6]。另外在2023年3月時,ChatGPT除了發生部分用戶能夠檢視他人聊天紀錄標題的問題外,甚至發生個人資料外洩問題,即用戶可能知悉他人的姓名、電子郵件,付款地址,信用卡到期日及號碼末四碼等資料[7]

參、事件評析

對於AI歧視及資料外洩等問題,應透過落實完善數位資料治理與管理機制,以降低問題發生的風險。首先,在收集訓練資料時,為篩選適合作為模型或演算法基礎的資料,應建立資料評估或審查機制,減少或避免使用有潛在歧視問題的資料,以確保分析結果之精確性。

其次,不論對於訓練資料、分析所得資料或用戶個人資料等,均應落實嚴謹的資料保密措施,避免資料外洩,如必須對於資料進行標示或分類,並依照不同標示或分類,評估及採取適當程度的保密措施。同時應對於資料進行格式轉換,以無法直接開啟的檔案格式進行留存,縱使未來可能不慎發生資料外洩,任意第三人仍難以直接開啟或解析資料內容。甚至在傳送帳戶登入訊息時,亦應採取適當加密傳送機制,避免遭他人竊取,盜取帳戶或個人資料。

財團法人資訊工業策進會科技法律研究所長期致力於促進國家科技法制環境完善,於2021年7月發布「重要數位資料治理暨管理制度規範(Essential Data Governance and Management System,簡稱EDGS)」,完整涵蓋數位資料的生成、保護與維護,以及存證資訊的取得、維護與驗證的流程化管理機制,故對於不同公私部門的AI相關資料,均可參考EDGS,建立系統性數位資料管理機制或強化既有機制。

本文同步刊登於TIPS網站(https://www.tips.org.tw

[1]Gartner, Gartner Poll Finds 45% of Executives Say ChatGPT Has Prompted an Increase in AI Investment (May 3, 2023), https://www.gartner.com/en/newsroom/press-releases/2023-05-03-gartner-poll-finds-45-percent-of-executives-say-chatgpt-has-prompted-an-increase-in-ai-investment (last visited June 30, 2023).

[2]McKinsey, The economic potential of generative AI: The next productivity frontier (June 14, 2023), https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/the-economic-potential-of-generative-AI-the-next-productivity-frontier#introduction (last visited June 30, 2023).

[3]Gartner, supra note 1.

[4]Zoe Kleinman, Philippa Wain & Ashleigh Swan, Using AI for loans and mortgages is big risk, warns EU boss (June 14, 2023), https://www.bbc.com/news/technology-65881389 (last visited June 30, 2023).

[5]Ryan Browne & MacKenzie Sigalos, A.I. has a discrimination problem. In banking, the consequences can be severe (June 23, 2023), https://www.cnbc.com/2023/06/23/ai-has-a-discrimination-problem-in-banking-that-can-be-devastating.html (last visited June 30, 2023).

[6]Group-IB, Group-IB Discovers 100K+ Compromised ChatGPT Accounts on Dark Web Marketplaces; Asia-Pacific region tops the list (June 20, 2023), https://www.group-ib.com/media-center/press-releases/stealers-chatgpt-credentials/ (last visited June 30, 2023).

[7]OpenAI, March 20 ChatGPT outage: Here’s what happened (Mar. 24, 2023),https://openai.com/blog/march-20-chatgpt-outage (last visited June 30, 2023).

你可能會想參加
※ 落實完善數位資料管理機制,有助於降低AI歧視及資料外洩風險, 資訊工業策進會科技法律研究所, https://stli.iii.org.tw/article-detail.aspx?d=9013&no=66&tp=1 (最後瀏覽日:2026/07/22)
引註此篇文章
你可能還會想看
日本透過「產業財產權人才培養協力事業」支援發展中國家智慧財產人才培養,消除企業於發展中國家進行經濟投資或活動時所面臨的智慧財產權相關妨礙

2024年2月,日本專利廳根據公開招募結果,公布將由一般社團法人發明推進協會執行令和6年度的「產業財產權人才培養協力事業」。 日本自2021年起開始推動「產業財產權人才培養協力事業」,至今年已邁入第4年,且自2024年起預計於南非共和國開設新的專利審查實務課程,以提升南非共和國專利審查官的必要能力。 「產業財產權人才培養協力事業」主要針對日本企業進行海外經濟投資及活動熱門的發展中國家(包含新興國家以及最低度開發國家LDC),提供積極性的人才培養支援,並以強化該國家能安定培養智慧財產相關權利取得與執行的實施人才為目的。在法制整備較為落後的最低度開發國家如柬埔寨,人才培養強化支援的範圍亦包含產業財產權制度的整備。人才培養的對象以智慧財產廳的職員、取締機關的職員以及民間的智慧財產關係業者為重點,透過提升其對於智慧財產權的能力,解決日本企業為在外國取得產業財產權的權利保護需要花費大量時間、日本企業的產業財產權在外國受到侵害的案件逐年增加等問題,以消除日本企業在外國進行經濟投資及活動時的巨大妨礙。 日本專利廳亦針對研修方針下列事項提出建議: 1、消除發展中國家審查延遲的對應方針 於研修中透過增加案例閱讀、資料尋找演習等的講義時間,提升尋找能力及判斷能力;並透過學習日本的IT系統、業務處理過程,提升系統面的支援能力。 2、提升發展中國家審查品質的方針 透過學習日本的基準、判斷手法提升審查、審判的品質;並透過學習日本的管理手法,提升審查品質管理能力。 3、仿冒品對策的對應方針 透過介紹以日本及各國事例為基礎的支援,加深對於仿冒品對策的理解;並透過增加與實施健全執法相關聯的講義時間,加深對於仿冒品對策的一般理解。 4、建構更有效果的研修方法的對應方針 透過設置課程全體的導師制度(mentor),提升研修效果的同時,有效活用「線上」及「實體」連續性的混合研修方法,並透過於實體研修中實施團體討論、在職訓練(OJT)、案件閱讀、模擬裁判(Mock Trial)等,提升實踐能力。 本文後續會持續留意日本「產業財產權人才培養協力事業」的發展,以掌握日本對於發展中國家支援的最新資訊。我國企業如未來預計於發展中國家進行經濟投資或活動時,亦應注意該國智慧財產權之程度,以評估相關風險。 本文同步刊登於TIPS網(https://www.tips.org.tw)

印度為促進新創公司發展 將不予受理軟體專利申請案

  印度「專利設計與商標管理局」(Controller General of Patents, Designs and Trademarks)於2016年2月19日發佈最新的「審查電腦相關之發明專利準則」(Guidelines for Examination of Computer Related Inventions, CRIs),決定在專利申請之審查程序中落實印度於1970年所制定的專利法(Patents Act, 1970)之意旨,未來當局將不再受理與電腦相關的軟體專利申請案。印度《專利法》第3條第k項排除本質上為數學演算法、商業方法與電腦程式運算法則等申請案之可專利性(Patentable)。該規定在印度《專利法》於2002年、2004年與2005年修法過程中,雖面臨各方利益團體試圖影響國會立法放寬法定可專利性範圍的壓力,但仍然為印度國會(Bhārat kī Sansad)所保留。   然而,印度「專利設計與商標管理局」卻於2015年8月21日發佈違反《專利法》意旨的CRIs,導致軟體專利的可專利性被實質上放寬。一般認為開放申請軟體專利的政策將會阻礙新創公司的發展,並有利於所謂「專利主張實體」(Patent Assertion Entity, PAE)藉大量軟體專利向一般公司提起訴訟或請求授權金,導致印度當局遭受國內新創軟體公司與相關非政府組織的激烈抗議。   「自由軟體法律中心」(Software Freedom Law Center, SFLC)與「印度軟體產品圓桌會議」(Indian Software Product Industry Round Table, iSPIRT)等機構即代表眾多新創公司與學術界人士上書印度「總理辦公室」(Prime Minister’s Office),請求政府對2015年8月發佈的CRIs進行檢討。SFLC等組織的積極作為,成功說服印度當局作出暫緩該高度爭議的CRIs生效之決定。代表SFLC等組織的專家表示,印度的軟體已受到《著作權法》與《營業秘密法》的足夠保障,進一步開放發明人申請軟體專利只會對該國軟體產業並無助益。   印度當局與相關團體在數個月間密集的進行研議,終於在2016年2月決定修正原先發佈的CRIs,使其回歸印度《專利法》不開放軟體專利申請的立法意旨。

韓國修訂《不正當競爭預防和營業秘密保護法》加強對於營業秘密侵權之監管

經查,韓國《不正當競爭預防和營業秘密保護法》(下稱UCPA)之修正案於2024年1月國會通過、2月公布,預計將於8月21日生效。旨在加強對於營業秘密侵權行為的法規監管與處罰力度,故本次修訂以營業秘密相關規定之修正為主,以其他修正(如商標、標誌、地理標示誤用、侵權或其他不公平競爭行為)為輔,本文摘要如下: 一、與營業秘密相關 (一)懲罰性賠償之加重:根據第14-2條第6項規定,針對「故意」營業秘密侵權行為,將懲罰性賠償從3倍上修到5倍。 (二)增加營業秘密侵權行為之監管與罰責:新增第9-8條規定,將「任何人在未經正當授權或超越授權範圍的情況下,不得損害、破壞或改變他人的營業秘密」納入規範,如有違反,將透過新增之第18條第3項規定課予最高10年監禁或最高5億韓元的罰款。 (三)加強對於企業(組織犯罪)之管制效力:基於修法前法人與自然人之罰款數額相同、企業的追訴時效短於自然人,造成難以抑止組織犯罪行為,故新增第19條規定,使企業罰款最高可處自然人罰款3倍,並新增第19-2條規定,將對企業的公訴時效延長至10年(與自然人之訴訟時效同)。 (四)新增沒收規定:依據修法前規定,即使透過UCPA提起訴訟,且侵權人承認侵權,但因為缺乏沒收規定(需要另外依據民事訴訟法才能對犯罪所得進行沒收),導致防止二次侵權損害之效果有限,故修法後透過第18-5條之規定納入可沒收特定營業秘密所得之規定。 二、其他修正 以下兩項修正之對象涉及第2條第1項第1款、第3條、第3-2條第1款(主要為商標、標誌、地理標示等誤用、侵權或其他不公平競爭行為),並不包括營業秘密(營業秘密第2條第1項第2款以下): (一)加強行政機關的職權:根據第8條規定,關於上述違規行為,相較修法前行政機關僅能提出「建議」(無強制力),修法後特別賦予智慧財產局(KIPO)可以「下令糾正」(시정을 명할 수 있다)之權利,即若未有正當理由依命令糾正者可依照第8條、第20條第1項第1、2款規定公布違反行為及糾正之建議或命令的內容,並對其進行罰款。 (二)法院查閱行政調查記錄的權力的擴張與限制:根據第14-7條規定賦予法院職權,即在法院在特定訴訟中認為必要時,可以要求相關行政單位向法院提出其依據第7條執行的調查紀錄(包括案件當事人的審問筆錄、速記紀錄及其他證據等),若相關紀錄涉及營業秘密,當事人或其代理人可向法院申請就查閱範圍、閱覽人數等進行限制。 綜上所述,可以發現此次修法除了加強法規的監管、處罰力度,顯示近年重視營業秘密爭議外,更特別修訂針對企業、法人等組織犯罪相關規定(如賠償金額的增加,甚至處罰力度大於自然人、訴訟時效的延長等),間接強調企業、法人等組織對於營業秘密侵權有內部管理與監督之責任,若參照資策會科法所創意智財中心於2023年發布之「營業秘密保護管理規範」對於企業內部管理與監督如何落實之研究,係透過將管理措施歸納成(包括從最高管理階層角色開始的整體規劃建議、營業秘密範圍確定、營業秘密使用行為管理、員工管理、網路與環境設備管理、外部活動管理,甚至是後端的爭議處理機制,如何監督與改善等)十個單元的PDCA管理循環,旨在提供企業作為機制建立之參考或自我檢視機制完善性的依據,期冀促進企業落實營業秘密管理。 本文同步刊登於TIPS網(https://www.tips.org.tw)

日本修正施行藥機法與醫療法以強化藥品供應韌性

日本修正施行藥機法與醫療法以強化藥品供應韌性 資訊工業策進會科技法律研究所 2026年03月10日 日本政府為因應後疫情時代全球供應鏈失衡,以及國內學名藥產業因品質違規(GMP)引發的結構性缺藥危機,徹底解決國內藥品供應鏈之脆弱性,於 2025 年(令和 7 年)5 月 14 日國會表決通過《確保藥品及醫療器材等之品質、有效性及安全性法》(下稱《藥機法》)與《醫療法》等之修正法(令和7年法律第37號),並自同年 11 月 20 日起分階段施行。此項歷史性改革象徵日本為了確保藥品供應韌性,從藥事管制與確保醫療提供體制之觀點,將企業的自主遵從正式躍升為國家經濟安全保障之核心位階。管理手段亦從過往的行政上通知,轉向具備法律強制力之「韌性監控體系」。 壹、立法背景 2020 年底,日本因日醫工、小林化工等學名藥龍頭發生大規模 GMP 違規,引發震驚全國的缺藥潮,徹底暴露日本醫藥產業的四大結構性危機:首先是「少量多品目」特徵與惡性低價競爭導致產業結構失衡,使企業陷入收益低且產線缺乏彈性的惡性循環;其次是每年藥價改訂持續壓縮利潤,致使醫療必需藥品難以維持生產成本;再者是 API 原藥料高度依賴中、韓、印等海外市場,造成嚴重的供應鏈脆弱性;最後則是產銷資訊不透明與總價議價機制導致流通失靈,誘發恐慌性囤貨。厚勞省體認到單靠市場機制與行政指導已難以為繼,遂決定修訂《藥機法》與《醫療法》,將供應安全提升至法律位階,建立國家主導的「強韌性監控體系」,從根本強化藥品供應韌性。 貳、立法重點說明 本次修法首要戰略係建立由廣入深之金字塔監控體系。 一、特定藥品(處方藥)的基礎監控 (一)特定藥品之申報義務 依據修正後《藥機法》新設「特定藥品」定義,將絕大多數處方藥納入監控,確立「常態性申報義務」。製造販賣業者負有定期申報製造、進口及銷售流量數據之法定義務,旨在消除資訊黑洞並實現供應鏈可視化。 (二)供應不穩之報告與公開 製造販賣業者若發生出貨停止或限制出貨情形,或預見 6 個月內有發生之虞,應向厚勞大臣報告。大臣應將該申報內容公開,並得要求相關業者(含批發商)就製造、銷售、授與狀況提出報告,以利掌握替代藥品之供應現狀。 (三)請求相關業者協力(醫療法權限) 大臣針對特定藥品供應不足或具極大可能性(蓋然性)時,得要求供應端(藥廠、批發商)增產或調整銷售;針對使用端(藥局、醫院),得要求在調劑或處方上採取適當配慮(如節約使用)。 (四)設置供應體制管理責任者 藥廠必須指定專門負責人,其法律地位與品質負責人對等,專職負責供應鏈風險管理。若違反義務,行政機關可命強制撤換該負責人。 二、戰略保衛層:醫療法上「供給確保藥品」之計畫管理 針對前述特定藥品中,大臣得指定「醫療上不可或缺」且「供需風險顯著」之品項為「供給確保藥品」或「重要供給確保藥品」。 (一)藥品分類標準與指定 厚勞大臣衡量疾病嚴重性、有無替代療法及供應鏈狀況等,綜合考量後進行指定,並將藥品依重要性分為三類: 1. A類: 斷貨將直接危及生命且無替代藥(如全麻劑、碳青黴烯類抗生素)。 2. B類: 臨床必需,替代藥切換具高度挑戰(如抗癲癇藥、窄治療窗口藥品)。 3. C類: 臨床常用藥,替代容易且供應來源分散(如一般血壓藥)。 厚勞省於2025年11月10日公告(厚生勞動省告示第292號)供給確保藥品及重要供給確保藥品清單,並自同年月20日起實施。供給確保藥品共762成分,其中重要供給確保藥品清單75成分(A+B)[1],其管制強度由強至弱。A類與B類之差異為相對性之結果,其因指定所產生之法律效果相同。 (二)上游管理與強化義務 指定對象包含「製造該藥品不可或缺之原料或材料」,將管理延伸至活性成分(API)及關鍵賦形劑。業者負有強化義務,包括遵循「穩定供應確保指針」、配合平時監測及遵循行政機關之協力要請。 (三)平時監測配合義務,接受政府針對供應鏈穩定性之常態化檢查與壓力測試。 (四).協力要求之遵循,當供應不足出現徵兆時,行政機關可發布正式之「協力要求」,要求業者調整出貨計畫或優先供給特定醫療機構。 三、重要供給確保藥品之強制義務 針對「重要供給確保藥品」,厚勞大臣擁有兩階段強大權限: (一)預防階段:發布「未然防止措置指示」 若合理判斷存在供應不足之蓋然性,大臣得指示業者擬定並申報「供給不足未然防止措置計畫」。業者負有法定義務執行預防措施,如原料多軌化或增加庫存儲備。 (二)危機階段:發布「增產等指示」 當「現已供應不足」或不足之蓋然性特別高時,大臣得指示業者擬定並申報「製造或輸入計畫」。此機制賦予政府在市場失靈時直接介入,將企業計畫轉化為法律強制義務。 參、立法評析與建議 日本此次修正施行之核心在於使藥品供應韌性具備強制性法律基礎。將通報門檻提前至「預見風險之虞」,並擴大監控範圍至關鍵原料,確保行政機關得以早期介入。並建立法治化的管制手段,賦予主管機關下達「強制增產指令」與「流向調控指令」的法源,並將批發商納入義務對象,確保調度實效性。 我國115年3月4日公布修正《藥事法》,核心為確立必要藥品「常態性申報義務」,要求藥商定期回報產銷數據並於六個月前預警缺藥(§27-2);授權主管機關得限制供應流向及專案核准替代品(§27-3)(以上兩條另訂施行日期);並擴大緊急專案核准之要件(§48-2)。違者最高可處200萬元罰鍰。此舉標誌著我國由被動通報正式轉向主動監控機制。 相較於日本將監控觸角延伸至上游原料(API)並賦予政府下達「強制增產指令」的剛性權力,臺灣新法雖強化了監控與流向限制,但管理深度仍侷限於成品藥。日本的「分級管理」與「專職管理員」制度,相較臺灣現行的必要藥品申報,展現出更具層次感的精準干預能力與法律規範力。 [1]2021年厚勞省以「安定確保藥品」名稱,公布第一次關鍵藥品清單共506成分,其中A成分21種、B成分29種。本次藥機法法律明文定為「供給確保藥品」清單增加約1/3成分。

TOP