落實完善數位資料管理機制，有助於降低AI歧視及資料外洩風險
落實完善數位資料管理機制，
有助於降低AI歧視及資料外洩風險
資訊工業策進會科技法律研究所
2023年07月07日
近年來，科技快速發展，AI(人工智慧)等技術日新月異，在公私部門的應用日益廣泛，而且根據美國資訊科技研究與顧問公司Gartner在2023年5月發布的調查指出，隨著由OpenAI開發的ChatGPT取得成功，更促使各領域對於AI應用的高度重視與投入[1]，與此同時，AI歧視及資料外洩等問題，亦成為社會各界的重大關切議題。
壹、事件摘要
目前AI科技發展已牽動全球經濟發展，根據麥肯錫公司近期發布的《生成式人工智慧的經濟潛力：下一個生產力前沿(The next productivity frontier)》研究報告指出，預測生成式AI(Generative AI)有望每年為全球經濟增加2.6兆至4.4兆的經濟價值[2]。同時在美國資訊科技研究與顧問公司Gartner對於超過2500名高階主管的調查中，45%受訪者認為ChatGPT問世，增加其對於AI的投資。而且68%受訪者認為AI的好處大於風險，僅有5%受訪者認為風險大於好處[3]。然而有社會輿論認為AI的判斷依賴訓練資料，將可能複製人類偏見，造成AI歧視問題，而且若程式碼有漏洞或帳戶被盜用時，亦會造成資料外洩問題。
貳、重點說明
首先，關於AI歧視問題，以金融領域為例，近期歐盟委員會副主席Margrethe Vestager強調若AI用於可能影響他人生計的關鍵決策時，如決定是否能取得貸款，應確保申請人不受性別或膚色等歧視[4]，同時亦有論者認為若用於訓練AI的歷史資料，本身存有偏見問題，則可能導致系統自動拒絕向邊緣化族群貸款，在無形之中加劇，甚至永久化對於特定種族或性別的歧視[5]。
其次，關於資料外洩問題，資安公司Group-IB指出因目前在預設情況下，ChatGPT將保存使用者查詢及AI回應的訊息紀錄，若帳戶被盜，則可能洩露機敏資訊。據統計在2022年6月至2023年5月間，在亞太地區有近41000個帳戶被盜，而在中東和非洲地區有近25000個帳戶被盜，甚至在歐洲地區也有近17000個帳戶被盜[6]。另外在2023年3月時，ChatGPT除了發生部分用戶能夠檢視他人聊天紀錄標題的問題外，甚至發生個人資料外洩問題，即用戶可能知悉他人的姓名、電子郵件，付款地址，信用卡到期日及號碼末四碼等資料[7]。
參、事件評析
對於AI歧視及資料外洩等問題，應透過落實完善數位資料治理與管理機制，以降低問題發生的風險。首先，在收集訓練資料時，為篩選適合作為模型或演算法基礎的資料，應建立資料評估或審查機制，減少或避免使用有潛在歧視問題的資料，以確保分析結果之精確性。
其次，不論對於訓練資料、分析所得資料或用戶個人資料等，均應落實嚴謹的資料保密措施，避免資料外洩，如必須對於資料進行標示或分類，並依照不同標示或分類，評估及採取適當程度的保密措施。同時應對於資料進行格式轉換，以無法直接開啟的檔案格式進行留存，縱使未來可能不慎發生資料外洩，任意第三人仍難以直接開啟或解析資料內容。甚至在傳送帳戶登入訊息時，亦應採取適當加密傳送機制，避免遭他人竊取，盜取帳戶或個人資料。
財團法人資訊工業策進會科技法律研究所長期致力於促進國家科技法制環境完善，於2021年7月發布「重要數位資料治理暨管理制度規範（Essential Data Governance and Management System，簡稱EDGS）」，完整涵蓋數位資料的生成、保護與維護，以及存證資訊的取得、維護與驗證的流程化管理機制，故對於不同公私部門的AI相關資料，均可參考EDGS，建立系統性數位資料管理機制或強化既有機制。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
[1]Gartner, Gartner Poll Finds 45% of Executives Say ChatGPT Has Prompted an Increase in AI Investment (May 3, 2023), https://www.gartner.com/en/newsroom/press-releases/2023-05-03-gartner-poll-finds-45-percent-of-executives-say-chatgpt-has-prompted-an-increase-in-ai-investment (last visited June 30, 2023).
[2]McKinsey, The economic potential of generative AI: The next productivity frontier (June 14, 2023), https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/the-economic-potential-of-generative-AI-the-next-productivity-frontier#introduction (last visited June 30, 2023).
[3]Gartner, supra note 1.
[4]Zoe Kleinman, Philippa Wain & Ashleigh Swan, Using AI for loans and mortgages is big risk, warns EU boss (June 14, 2023), https://www.bbc.com/news/technology-65881389 (last visited June 30, 2023).
[5]Ryan Browne & MacKenzie Sigalos, A.I. has a discrimination problem. In banking, the consequences can be severe (June 23, 2023), https://www.cnbc.com/2023/06/23/ai-has-a-discrimination-problem-in-banking-that-can-be-devastating.html (last visited June 30, 2023).
[6]Group-IB, Group-IB Discovers 100K+ Compromised ChatGPT Accounts on Dark Web Marketplaces; Asia-Pacific region tops the list (June 20, 2023), https://www.group-ib.com/media-center/press-releases/stealers-chatgpt-credentials/ (last visited June 30, 2023).
[7]OpenAI, March 20 ChatGPT outage: Here’s what happened (Mar. 24, 2023),https://openai.com/blog/march-20-chatgpt-outage (last visited June 30, 2023).
歐洲藥物管理局（European Medicine Agency，EMA）於今年六月下旬起至九月底止，開放接受公眾針對該局所擬「臨床試驗資料公開與近用政策」草案（draft policy on publication and access to clinical-trial data）提出回饋意見。所有公眾建言都將由EMA加以檢視，並將成為上述政策草案正式定案前之參考。原本EMA預計在2013年年底即對上述政策草案拍版定案，然而，由於歐洲藥物管理局收到超過一千則來自四面八方、不同立場之公眾回饋意見，為求妥適、深入檢視、分析這些意見，EMA原訂之定案時程將被迫遞延。新的定案時間表最慢將於十二月中上旬公布。 根據上述「臨床試驗資料公開與近用政策」草案之現行版本（亦即提供公眾評論並回饋意見之版本），原則上，EMA所持有之臨床試驗資料，將依其類型之差異而適用不同的公開或近用標準。依照EMA之分類，試驗資料將被區分為（1）「公開後不會導致個資保護疑慮之試驗資料」、（2）「如經公開，可能產生個資保護疑慮之試驗資料」、（3）「內含商業機密資訊之試驗資料」等三大類。上述第三類之「內含商業機密資訊之試驗資料」不會受到此一政策草案之影響，第二類資料將有限制的公開與提供近用，至於第一類資料，則將公開於EMA網站上供公眾下載。
歐盟議會通過對RoHS指令修正之提案，奈米銀與長型多壁奈米碳管將可能成為禁止之列歐盟議會之環境、公共健康暨食品安全委員會（以下簡稱委員會）於6月2日以55票贊成，1票反對，2票棄權，通過對電子電機設備有害物質限用指令（RoHS指令）修訂之提案。該提案要求對包括鹵化阻燃劑（Halogenated Flame Retardants）、聚氯乙烯（PVC）以及奈米銀(nanosilver)、長型多壁奈米碳管(long multi-walled carbon nanotubes，MWCNT)等目前未列於有害物質禁用清單之化學物質，評估是否列入清單。 RoHS指令適用於自其他第三國進口以及於歐盟地區所生產之電子電機設備產品，影響層面廣泛，值得注意的是，該修訂提案中就其適用對象改採「開放性適用」（open scope），亦即除有特別明文排除者外，所有電子電機設備產品皆適用此一指令。歐盟議會目前提議排除用於生產再生能源、特定大規模設備與工業工具以及用於生產軍事目的之物質和車輛之電子電機設備。 針對奈米銀和長型多壁奈米碳管兩項奈米物質，委員會於修訂提案將其增列於附件IV當中，將產生對內含上述二種物質且達可探測程度（detectable level）之電子電機設備禁止進入歐盟市場流通之效果。委員會也對內含奈米物質之電子電機設備要求進行標示，製造商亦應向歐盟執委會提供奈米物質之安全數據。惟有論者表示，在歐洲議會目前對於奈米物質之定義尚未明確之前提下，此修訂提案可能導致必須對所有的電子產品進行奈米標示之情況。
歐盟執委會提出《歐洲晶片法案》應對半導體短缺並加強歐洲技術領先地位歐盟執委會於2022年2月8日提出《歐洲晶片法案》（European Chips Act），以確保歐盟在半導體技術和應用的供應鏈安全、彈性和技術領先地位。近來全球半導體短缺，迫使汽車及醫療保健設備等眾多領域工廠關閉，部分歐盟成員國的汽車產量於2021年下降三分之一，顯示在複雜的全球地緣政治背景下，半導體價值鏈極度依賴數量有限的參與者。《歐洲晶片法案》將動員公共及私人投資歐洲半導體產業，金額超過430億歐元；並制定政策措施以預防、準備、預測和迅速應對未來任何供應鏈中斷情形，幫助歐盟實現2030年將現行晶片市場占比提升至20%的願景。《歐洲晶片法案》共分成八大章節，涵蓋歐洲晶片倡議、供應安全、監測和危機應對、治理模式、保密處罰及程序等議題。其中《歐洲晶片法案》主要由三大支柱組成，規範內容如下： 支柱一：歐洲晶片倡議（法案第3條至第9條）。歐洲晶片倡議將對現有關鍵數位技術重新進行戰略定位，以強化歐盟成員國和相關第三國及私營部門的「晶片聯合資源承諾」。歐盟預計將投入110億歐元用於加強研究、開發和創新，以確保部署先進半導體工具、原型設計實驗產線、測試和用於創新生活應用的新設備，培訓員工深入了解半導體生態系統和價值鏈。 支柱二：供應安全（法案第10條至第14條）。建立半導體「集成生產設施（Integrated Production Facility, IPF）」和「開放歐盟代工廠（Open EU Foundry, OEF）」，透過吸引投資與提高生產能力來建立供應安全的新框架，用以發展先進節點創新及節能晶片。此外，晶片基金將為新創企業提供融資管道，協助技術成熟並吸引投資者；投資歐洲基金（Invest EU）將設置專屬半導體股權投資的選項，以擴大歐洲半導體研發規模。 支柱三：監測和危機應對（法案第15條至第22條）。建立歐盟成員國和執委會間的協調機制，用以監測半導體供應、估計需求和預測短缺。透過蒐集企業的關鍵情報能發現歐洲主要弱點和瓶頸，從而監控半導體價值鏈穩定。歐盟將彙整危機評估報告並協調各成員國採取歐盟建議的應對方案，以便共同做出迅速正確的決定。
加拿大修正專利法，於2019年正式生效2018年12月1日，加拿大智慧財產局公告了新專利法，並立2018年12月1日起至31日為公衆諮詢期，該法於2019年正式生效。 本次專利法修改多屬鬆綁權利人之期日限制，包括： 恢復優先權主張：在新專利法上路後，在非故意錯過了12個月的優先權期限的情況下，可允許將優先權期限延長至14個月； 更容易取得申請日：針對直接申請加拿大專利而非透過專利合作條約（Patent Cooperation Treaty，PCT）的申請案，即使尚未繳納申請費，或是相關申請文件非英文和法文，一樣可以取得申請日； 允許補交在主張優先權申請遺漏的內容； 獲核准通知後提出修改作業的程序順暢化； 採用電子送件，排序列表不會被徵收超頁費； 對特定的錯誤有更明確的修正截止日：移除因「行政作業」上疏失而提出修正請求的規定，在其他規定上增加了明確的截止日； 採PCT途徑進入國家階段已經不再有42個月的期限； 維持費用制度較為複雜，錯過實質審查期限影響也較嚴重； 如果已遞交之申請案並非英文或法文版本，那未來修改申請案必須要能自合理的從原本外語版本中合理推論而出； 需提出優先權證明文件：申請人必須向加拿大專利局遞交每一件先前申請的優先權證明文件，特殊情況下才能豁免提交； 部分申請期限變短：新專利制度縮短申請人部分申請程序及時間，例如申請實體審查期限從申請日起5年內降為4年等。