落實完善數位資料管理機制, 有助於降低AI歧視及資料外洩風險 資訊工業策進會科技法律研究所 2023年07月07日 近年來,科技快速發展,AI(人工智慧)等技術日新月異,在公私部門的應用日益廣泛,而且根據美國資訊科技研究與顧問公司Gartner在2023年5月發布的調查指出,隨著由OpenAI開發的ChatGPT取得成功,更促使各領域對於AI應用的高度重視與投入[1],與此同時,AI歧視及資料外洩等問題,亦成為社會各界的重大關切議題。 壹、事件摘要 目前AI科技發展已牽動全球經濟發展,根據麥肯錫公司近期發布的《生成式人工智慧的經濟潛力:下一個生產力前沿(The next productivity frontier)》研究報告指出,預測生成式AI(Generative AI)有望每年為全球經濟增加2.6兆至4.4兆的經濟價值[2]。同時在美國資訊科技研究與顧問公司Gartner對於超過2500名高階主管的調查中,45%受訪者認為ChatGPT問世,增加其對於AI的投資。而且68%受訪者認為AI的好處大於風險,僅有5%受訪者認為風險大於好處[3]。然而有社會輿論認為AI的判斷依賴訓練資料,將可能複製人類偏見,造成AI歧視問題,而且若程式碼有漏洞或帳戶被盜用時,亦會造成資料外洩問題。 貳、重點說明 首先,關於AI歧視問題,以金融領域為例,近期歐盟委員會副主席Margrethe Vestager強調若AI用於可能影響他人生計的關鍵決策時,如決定是否能取得貸款,應確保申請人不受性別或膚色等歧視[4],同時亦有論者認為若用於訓練AI的歷史資料,本身存有偏見問題,則可能導致系統自動拒絕向邊緣化族群貸款,在無形之中加劇,甚至永久化對於特定種族或性別的歧視[5]。 其次,關於資料外洩問題,資安公司Group-IB指出因目前在預設情況下,ChatGPT將保存使用者查詢及AI回應的訊息紀錄,若帳戶被盜,則可能洩露機敏資訊。據統計在2022年6月至2023年5月間,在亞太地區有近41000個帳戶被盜,而在中東和非洲地區有近25000個帳戶被盜,甚至在歐洲地區也有近17000個帳戶被盜[6]。另外在2023年3月時,ChatGPT除了發生部分用戶能夠檢視他人聊天紀錄標題的問題外,甚至發生個人資料外洩問題,即用戶可能知悉他人的姓名、電子郵件,付款地址,信用卡到期日及號碼末四碼等資料[7]。 參、事件評析 對於AI歧視及資料外洩等問題,應透過落實完善數位資料治理與管理機制,以降低問題發生的風險。首先,在收集訓練資料時,為篩選適合作為模型或演算法基礎的資料,應建立資料評估或審查機制,減少或避免使用有潛在歧視問題的資料,以確保分析結果之精確性。 其次,不論對於訓練資料、分析所得資料或用戶個人資料等,均應落實嚴謹的資料保密措施,避免資料外洩,如必須對於資料進行標示或分類,並依照不同標示或分類,評估及採取適當程度的保密措施。同時應對於資料進行格式轉換,以無法直接開啟的檔案格式進行留存,縱使未來可能不慎發生資料外洩,任意第三人仍難以直接開啟或解析資料內容。甚至在傳送帳戶登入訊息時,亦應採取適當加密傳送機制,避免遭他人竊取,盜取帳戶或個人資料。 財團法人資訊工業策進會科技法律研究所長期致力於促進國家科技法制環境完善,於2021年7月發布「重要數位資料治理暨管理制度規範(Essential Data Governance and Management System,簡稱EDGS)」,完整涵蓋數位資料的生成、保護與維護,以及存證資訊的取得、維護與驗證的流程化管理機制,故對於不同公私部門的AI相關資料,均可參考EDGS,建立系統性數位資料管理機制或強化既有機制。 本文同步刊登於TIPS網站(https://www.tips.org.tw) [1]Gartner, Gartner Poll Finds 45% of Executives Say ChatGPT Has Prompted an Increase in AI Investment (May 3, 2023), https://www.gartner.com/en/newsroom/press-releases/2023-05-03-gartner-poll-finds-45-percent-of-executives-say-chatgpt-has-prompted-an-increase-in-ai-investment (last visited June 30, 2023). [2]McKinsey, The economic potential of generative AI: The next productivity frontier (June 14, 2023), https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/the-economic-potential-of-generative-AI-the-next-productivity-frontier#introduction (last visited June 30, 2023). [3]Gartner, supra note 1. [4]Zoe Kleinman, Philippa Wain & Ashleigh Swan, Using AI for loans and mortgages is big risk, warns EU boss (June 14, 2023), https://www.bbc.com/news/technology-65881389 (last visited June 30, 2023). [5]Ryan Browne & MacKenzie Sigalos, A.I. has a discrimination problem. In banking, the consequences can be severe (June 23, 2023), https://www.cnbc.com/2023/06/23/ai-has-a-discrimination-problem-in-banking-that-can-be-devastating.html (last visited June 30, 2023). [6]Group-IB, Group-IB Discovers 100K+ Compromised ChatGPT Accounts on Dark Web Marketplaces; Asia-Pacific region tops the list (June 20, 2023), https://www.group-ib.com/media-center/press-releases/stealers-chatgpt-credentials/ (last visited June 30, 2023). [7]OpenAI, March 20 ChatGPT outage: Here’s what happened (Mar. 24, 2023),https://openai.com/blog/march-20-chatgpt-outage (last visited June 30, 2023).
防止境外勢力影響國家安全,加拿大將敏感技術納入投資審查防止境外勢力影響國家安全,加拿大將敏感技術納入投資審查 資訊工業策進會科技法律研究所 2026年02月04日 加拿大創新、科學與經濟發展部(Innovation, Science and Economic Development,ISED)擬於2026年夏天公告修正後之《加拿大投資法》(Investment Canada Act,ICA)[1],以敏感技術為投資審查中,對國家安全風險之評估要件[2];並對該類型之投資,採事前申報制[3]。加拿大政府定期盤點敏感技術項目,研究者應自行評估其研究計畫有無涉及敏感技術;ISED亦試圖於2026年,以投資審查方式,防免境外勢力取得加拿大敏感技術,本文分析如下。 壹、背景摘要 依據加拿大於2025年10月公布之《2025年至2027年監理前瞻計畫:外國投資審查與經濟安全部門》(2025-2027 Forward Regulatory Plan – Foreign Investment Review and Economic Security Branch),於C-34法案(Bill C-34)中修正ICA[4]。本次之ICA草案,為對《國家安全投資審查條例》(National Security Review of Investments Regulations)和《加拿大投資條例》(Investment Canada Regulations)之修正[5]。申言之,ICA草案以相關的投資條例為修正標的,提升外國投資對加拿大國家安全之風險評估。 ICA為加拿大政府審查外國投資之依據。目的為審查重大外國投資,對加拿大之淨經濟效益(net economic benefit),與投資有無可能損及加拿大之國家安全[6]。C-34法案於2024年3月通過,大部分條款於2024年9月生效。新修正之ICA聚焦於強化加拿大投資的透明度,與投資者的可確定性,並賦予加拿大政府必要的審查權限[7]。 貳、重點說明 一、階段生效,ICA納入對敏感技術之國安審查 ICA採分階段生效之立法模式,2024年9月生效的條款,主要為擴張ISED部長的審查權限,審慎評估外國投資對國家安全的影響[8]。修正內容為授權ISED部長得延長對國家安全之投資審查期限,與臨時提出審查條件[9];投資者所提出的承諾具有拘束力,得作為審查的依據,並視情形要求修改或解除承諾[10]。以及強化與國際執行投資審查業務之主管機關共享資訊,和提升司法審查過程中對資訊之保護等[11]。 針對敏感技術之投資審查,ISED預計於2026年夏天公布最終版本[12]。ICA草案擬要求事前申報對敏感產業領域(sensitive sectors)之投資,並強化對違規行為的處罰力度,且主管機關具審查國營事業投資淨效益的權限等[13]。 綜上所述,ICA之修正,要求境外投資敏感技術應事先申報,以評估對於國家安全之影響。並配合2024年9月生效的條款,賦予ISED部長得依據個案情形,彈性調整審查期限或條件,以因應不同類型的投資風險。 二、配套措施,全面保護敏感技術 (一)敏感技術連接投資審查 加拿大於2025年3月5日修訂《國家安全投資審查指引》(Guidelines on the National Security Review of Investments),於審查境外投資應考量之國家安全因素,包含該投資對加拿大國防與國家利益之潛在影響;投資若屬於2025年2月6日公布敏感技術清單(Sensitive Technology List)項目[14]之研究、設計、製造,則可能影響加拿大境外敏感技術的移轉[15]。亦即若為與敏感技術相關的投資,應經國家安全審查。 (二)敏感技術研究計畫之評估 加拿大於2025年5月7日更新「敏感技術研究領域清單」[16],研究者應依據《敏感技術研究與附屬機關(構)政策》(Policy on Sensitive Technology Research and Affiliations of Concern),先自行評估所研究之技術,是否歸屬於加拿大政府公布之敏感技術類型;次為檢視參與研究人員所隸屬之機關(構),是否屬於加拿大政府公布之「指定研究機關(構)清單」[17]。若研究目的為產出敏感技術,或研究過程有助於敏感技術的發展,則參與該敏感技術研究的人員,不得與指定研究機關(構)具有隸屬關係,或受該些機關(構)的資助[18]。換言之,若預期的研發成果可歸類為敏感技術,則計畫經費應排除來自於特定的機關(構),或與執行計畫人員具隸屬關係。 (三)國內外敏感技術研究合作 依據ISED發布《研究合作的國家安全指引》(National Security Guidelines for Research Partnerships),敏感研究的國內外合作,有國家安全風險者,包含具軍民兩用應用潛力技術的研究;或於該研究中產出的技術,能協助提升國外的軍事、情報與監視能力,擾亂加拿大經濟、社會和關鍵基礎設施,損害加拿大國家利益[19]。研究者應識別潛在的風險,並採取必要的緩解措施,以保護敏感技術的研發成果[20]。此有助研究者評估風險,避免敏感技術因國內外之合作研究,而外洩相關的研發機密。 參、事件評析 外國對加拿大敏感技術研究、設計、製造等之投資,納入投資審查的項目,以避免技術外流所形成的國家安全風險。研究計畫若涉及敏感技術,參與計畫之人員,亦應避免與加拿大政府列舉之特定機關(構)具有隸屬關係,或受其資助;並提供研究者指引,以識別合作研究的潛在風險。加拿大以ICA之國安審查,防堵敏感技術經由投資手段外流。ICA之執法,對敏感技術之保護效能,仍有待評估。 本文為資策會科法所創智中心完成之著作,非經同意或授權,不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。 本文同步刊登於TIPS網站(https://www.tips.org.tw) [1] Innovation, Science and Economic Development Canada, Red Tape Review – Foreign Investment Review and Economic Security Branch, Government of Canada Gouvernement du Canada, 2025-09-08, https://ised-isde.canada.ca/site/acts-regulations/en/red-tape-review-progress-report/red-tape-review-foreign-investment-review-and-economic-security-branch (last visited Jan. 13, 2026). [2] Innovation, Science and Economic Development Canada, What is the Investment Canada Act?, Government of Canada Gouvernement du Canada, 2024-11-20, https://ised-isde.canada.ca/site/investment-canada-act/en/what-investment-canada-act#s4.2 (last visited Jan. 20, 2026). [3] Innovation, Science and Economic Development Canada, Modernization, Government of Canada Gouvernement du Canada, 2025-08-21, https://ised-isde.canada.ca/site/investment-canada-act/en/investment-canada-act/modernization (last visited Jan. 20, 2026). [4] Innovation, Science and Economic Development Canada, 2025-2027 Forward Regulatory Plan – Foreign Investment Review and Economic Security Branch, Government of Canada Gouvernement du Canada, 2025-10-09, https://ised-isde.canada.ca/site/acts-regulations/en/forward-regulatory-plan/foreign-investment-review-and-economic-security-branch (last visited Jan. 13, 2026). [5] Id. [6] Innovation, Science and Economic Development Canada, supra note 1. [7] Id. [8] Id. [9] Id. [10] Innovation, Science and Economic Development Canada, supra note 3. [11] Id. [12] Innovation, Science and Economic Development Canada, supra note 1. [13] Innovation, Science and Economic Development Canada, supra note 3. [14] Sensitive Technology List, Government of Canada Gouvernement du Canada, 2025-02-06, https://www.canada.ca/en/services/defence/nationalsecurity/sensitive-technology-list.html (last visited Jan. 15, 2026). [15] Guidelines on the National Security Review of Investments, Government of Canada Gouvernement du Canada, paragraph 9(i)(ii), March 5, 2025, https://ised-isde.canada.ca/site/investment-canada-act/en/investment-canada-act/guidelines/guidelines-national-security-review-investments (last visited Jan. 20, 2026). [16] Sensitive Technology Research Areas, Government of Canada Gouvernement du Canada, 2025-05-07, https://science.gc.ca/site/science/en/safeguarding-your-research/guidelines-and-tools-implement-research-security/sensitive-technology-research-and-affiliations-concern/sensitive-technology-research-areas#top (last visited Jan. 15, 2026). [17] Innovation, Science and Economic Development Canada, Policy on Sensitive Technology Research and Affiliations of Concern, Government of Canada Gouvernement du Canada, 2025-05-22, https://science.gc.ca/site/science/en/safeguarding-your-research/guidelines-and-tools-implement-research-security/sensitive-technology-research-and-affiliations-concern/policy-sensitive-technology-research-and-affiliations-concern (last visited Jan. 15, 2026). [18] Id. [19] Innovation, Science and Economic Development Canada, National Security Guidelines for Research Partnerships, Government of Canada Gouvernement du Canada, 2025-05-12, https://science.gc.ca/site/science/en/safeguarding-your-research/guidelines-and-tools-implement-research-security/national-security-guidelines-research-partnerships#top (last visited Jan. 19, 2026). [20] Id.
中國大陸最高人民法院於2014年11月3日公布《最高人民法院關於北京、上海、廣州知識產權法院案件管轄的規定》根據中國大陸最高人民法院(以下簡稱高法)2014年11月3日公布之《最高人民法院關於北京、上海、廣州知識產權法院案件管轄的規定》,大陸地區將陸續於北京、上海、廣州成立知識產權法院(即我國的智慧財產法院)。另據高法6日新聞報導,北京知識產權法院已於同月6日掛牌成立,至於上海、廣州兩地法院也將於年內正式成立。 大陸地區成立知識產權法院係本年8月31日由其第12屆全國人民代表大會常務委員會第10次會議所決定的,初步將於北京、上海、廣州三地成立專責法院。根據前開規定第1條,知識產權法院管轄的第一審案件包括三類:一、專利、植物新品種、集成電路布圖設計(即我國之積體電路布局)、技術秘密、計算機軟件等技術類民事和行政案件;二、對國務院部門或者縣級以上地方人民政府涉及著作權、商標、不正當競爭等行政行為提起訴訟的行政案件;三、涉及馳名商標認定的民事案件。 北京、上海、廣州知識產權法院的管轄範圍分別為北京、上海兩直轄市,以及廣東省,前述提及三類相關案件由三地知識產權法院專屬管轄。如有上訴,相關案件均由法院所在地的高級人民法院知識產權審判庭審理,而不再透過該地中級人民法院。且相關法院之法官除依專業進行分類、配置外,亦將設有技術調查官等,以強化專業審判的能力。 隨著科技的日新月異,以及智慧財產相關糾紛或訴訟案件的高度專業化,有關大陸地區成立知識產權法院,或許是為因應趨勢所不得不為之措施,然其具體運作及成效,後續仍值持續關切。
世界經濟論壇發布《人工智慧公平性和包容性藍圖》白皮書世界經濟論壇(World Economic Forum, WEF)於2022年6月29日發布《人工智慧公平性和包容性藍圖》白皮書(A Blueprint for Equity and Inclusion in Artificial Intelligence),說明在AI開發生命週期和治理生態系統中,應該如何改善公平性和強化包容性。根據全球未來人類AI理事會(Global Future Council on Artificial Intelligence for Humanity)指出,目前AI生命週期應分為兩個部分,一是管理AI使用,二是設計、開發、部署AI以滿足利益相關者需求。 包容性AI不僅是考量技術發展中之公平性與包容性,而是需整體考量並建立包容的AI生態系統,包括(1)包容性AI基礎設施(例如運算能力、資料儲存、網路),鼓勵更多技術或非技術的人員有能力參與到AI相關工作中;(2)建立AI素養、教育及意識,例如從小開始開啟AI相關課程,讓孩子從小即可以從父母的工作、家庭、學校,甚至玩具中學習AI系統對資料和隱私的影響並進行思考,盡可能讓使其互動的人都了解AI之基礎知識,並能夠認識其可能帶來的風險與機會;(3)公平的工作環境,未來各行各業需要越來越多多元化人才,企業需拓寬與AI相關之職位,例如讓非傳統背景人員接受交叉培訓、公私協力建立夥伴關係、提高員工職場歸屬感。 在設計包容性方面,必須考慮不同利益相關者之需求,並從設計者、開發者、監督機關等不同角度觀察。本報告將包容性AI開發及治理整個生命週期分為6個不同階段,期望在生命週期中的每個階段皆考量公平性與包容性: 1.了解問題並確定AI解決方案:釐清為何需要部署AI,並設定希望改善的目標變量(target variable),並透過制定包容性社會參與框架或行為準則,盡可能實現包容性社會參與(特別是代表性不足或受保護的族群)。 2.包容性模型設計:設計時需考慮社會和受影響的利益相關者,並多方考量各種設計決策及運用在不同情況時之公平性、健全性、全面性、可解釋性、準確性及透明度等。 3.包容性資料蒐集:透過設計健全的治理及隱私,確定更具包容性的資料蒐集路徑,以確保所建立之模型能適用到整體社會。 4.公平和包容的模型開發及測試:除多元化開發團隊及資料代表性,組織也應引進不同利益相關者進行迭代開發與測試,並招募測試組進行測試與部署,以確保測試人群能夠代表整體人類。且模型可能隨著時間發展而有變化,需以多元化指標評估與調整。 5.公平地部署受信任的AI系統,並監控社會影響:部署AI系統後仍應持續監控,並持續評估可能出現新的利益相關者或使用者,以降低因環境變化而可能產生的危害。 6.不斷循環發展的生命週期:不應以傳統重複循環過程看待AI生命週期,而是以流動、展開及演變的態度,隨時評估及調整,以因應新的挑戰及需求,透過定期紀錄及審查,隨時重塑包容性AI生態系統。 綜上,本報告以包容性AI生態系統及生命週期概念,期望透過基礎設施、教育與培訓、公平的工作環境等,以因應未來無所不在的AI社會與生活,建立公司、政府、教育機構可以遵循的方向。