落實完善數位資料管理機制，有助於降低AI歧視及資料外洩風險
落實完善數位資料管理機制，
有助於降低AI歧視及資料外洩風險
資訊工業策進會科技法律研究所
2023年07月07日
近年來，科技快速發展，AI(人工智慧)等技術日新月異，在公私部門的應用日益廣泛，而且根據美國資訊科技研究與顧問公司Gartner在2023年5月發布的調查指出，隨著由OpenAI開發的ChatGPT取得成功，更促使各領域對於AI應用的高度重視與投入[1]，與此同時，AI歧視及資料外洩等問題，亦成為社會各界的重大關切議題。
壹、事件摘要
目前AI科技發展已牽動全球經濟發展，根據麥肯錫公司近期發布的《生成式人工智慧的經濟潛力：下一個生產力前沿(The next productivity frontier)》研究報告指出，預測生成式AI(Generative AI)有望每年為全球經濟增加2.6兆至4.4兆的經濟價值[2]。同時在美國資訊科技研究與顧問公司Gartner對於超過2500名高階主管的調查中，45%受訪者認為ChatGPT問世，增加其對於AI的投資。而且68%受訪者認為AI的好處大於風險，僅有5%受訪者認為風險大於好處[3]。然而有社會輿論認為AI的判斷依賴訓練資料，將可能複製人類偏見，造成AI歧視問題，而且若程式碼有漏洞或帳戶被盜用時，亦會造成資料外洩問題。
貳、重點說明
首先，關於AI歧視問題，以金融領域為例，近期歐盟委員會副主席Margrethe Vestager強調若AI用於可能影響他人生計的關鍵決策時，如決定是否能取得貸款，應確保申請人不受性別或膚色等歧視[4]，同時亦有論者認為若用於訓練AI的歷史資料，本身存有偏見問題，則可能導致系統自動拒絕向邊緣化族群貸款，在無形之中加劇，甚至永久化對於特定種族或性別的歧視[5]。
其次，關於資料外洩問題，資安公司Group-IB指出因目前在預設情況下，ChatGPT將保存使用者查詢及AI回應的訊息紀錄，若帳戶被盜，則可能洩露機敏資訊。據統計在2022年6月至2023年5月間，在亞太地區有近41000個帳戶被盜，而在中東和非洲地區有近25000個帳戶被盜，甚至在歐洲地區也有近17000個帳戶被盜[6]。另外在2023年3月時，ChatGPT除了發生部分用戶能夠檢視他人聊天紀錄標題的問題外，甚至發生個人資料外洩問題，即用戶可能知悉他人的姓名、電子郵件，付款地址，信用卡到期日及號碼末四碼等資料[7]。
參、事件評析
對於AI歧視及資料外洩等問題，應透過落實完善數位資料治理與管理機制，以降低問題發生的風險。首先，在收集訓練資料時，為篩選適合作為模型或演算法基礎的資料，應建立資料評估或審查機制，減少或避免使用有潛在歧視問題的資料，以確保分析結果之精確性。
其次，不論對於訓練資料、分析所得資料或用戶個人資料等，均應落實嚴謹的資料保密措施，避免資料外洩，如必須對於資料進行標示或分類，並依照不同標示或分類，評估及採取適當程度的保密措施。同時應對於資料進行格式轉換，以無法直接開啟的檔案格式進行留存，縱使未來可能不慎發生資料外洩，任意第三人仍難以直接開啟或解析資料內容。甚至在傳送帳戶登入訊息時，亦應採取適當加密傳送機制，避免遭他人竊取，盜取帳戶或個人資料。
財團法人資訊工業策進會科技法律研究所長期致力於促進國家科技法制環境完善，於2021年7月發布「重要數位資料治理暨管理制度規範（Essential Data Governance and Management System，簡稱EDGS）」，完整涵蓋數位資料的生成、保護與維護，以及存證資訊的取得、維護與驗證的流程化管理機制，故對於不同公私部門的AI相關資料，均可參考EDGS，建立系統性數位資料管理機制或強化既有機制。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
[1]Gartner, Gartner Poll Finds 45% of Executives Say ChatGPT Has Prompted an Increase in AI Investment (May 3, 2023), https://www.gartner.com/en/newsroom/press-releases/2023-05-03-gartner-poll-finds-45-percent-of-executives-say-chatgpt-has-prompted-an-increase-in-ai-investment (last visited June 30, 2023).
[2]McKinsey, The economic potential of generative AI: The next productivity frontier (June 14, 2023), https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/the-economic-potential-of-generative-AI-the-next-productivity-frontier#introduction (last visited June 30, 2023).
[3]Gartner, supra note 1.
[4]Zoe Kleinman, Philippa Wain & Ashleigh Swan, Using AI for loans and mortgages is big risk, warns EU boss (June 14, 2023), https://www.bbc.com/news/technology-65881389 (last visited June 30, 2023).
[5]Ryan Browne & MacKenzie Sigalos, A.I. has a discrimination problem. In banking, the consequences can be severe (June 23, 2023), https://www.cnbc.com/2023/06/23/ai-has-a-discrimination-problem-in-banking-that-can-be-devastating.html (last visited June 30, 2023).
[6]Group-IB, Group-IB Discovers 100K+ Compromised ChatGPT Accounts on Dark Web Marketplaces; Asia-Pacific region tops the list (June 20, 2023), https://www.group-ib.com/media-center/press-releases/stealers-chatgpt-credentials/ (last visited June 30, 2023).
[7]OpenAI, March 20 ChatGPT outage: Here’s what happened (Mar. 24, 2023),https://openai.com/blog/march-20-chatgpt-outage (last visited June 30, 2023).
聯合國人權理事會(Human Rights Council)於2016年3月8日依據28/16號「數位時代下之隱私權」(Right to Privacy in the Digital Age)決議，設立隱私特別報告員(Special Rapporteur on Privacy, SRP)，專責調查各國隱私保護情形並每年定期向人權理事會和聯合國大會提交隱私報告(Report of the Sepcial Rapporteur on the right to privacy)。 2017年年度隱私報告(A/HRC/34/60)於2月24日提出，報告除延續第一年報告中所列出的五大隱私優先課題 (跨國界隱私認知、安全與監督、巨量資料與開放資料、健康資料、企業擔任資料管理者議題等)，主題聚焦於「情報蒐集」行為的監督，將政府監督行為歸類為十項： 基於使用國際化、標準化的術語和語言而有監督必要； 基於了解國家體系、體系比較之監督必要，以秘密(secretive)或公開形式進行； 促進、保護基本人權之相關措施； 保障與救濟措施(隱私特別報告員建議採國際性層次)； 責任與透明度； 為蒐集、討論實務實踐狀況； 對政府監督行為之進一步討論； 尋求與公民溝通管道； 基於放寬安全部門、執法機關秘密性監督之必要； 基於對政府監督議題之公共論壇需求。 期中報告對現階段政府監督行為以隱私友善(privacy-friendly)立場出發，總結後續推動方向如下： 為何民粹主義(polulism)、隱私兩議題與安全議題會產生衝突； 國家如何透過監督情報增進隱私保護； 誰有權主張隱私權，隱私權的普世性(universality)於政府監督行為具特別意義； 隱私權如何透過內國法、國際法的推動而更加落實； 透過更廣泛討論，關於監督的法律文件及相關國際法規範可期待成熟發展。
新加坡無人車測試之法制配套評析新加坡無人車測試之法制配套評析 資策會科技法律研究所 法律研究員 王凱嵐 106年07月25日 壹、前言 隨著人工智慧的發展其運用日趨多元，與之結合之「無人車」逐漸成為人們熱門關注的科技名詞。所謂無人車（Autonomous Car），其車輛外觀與一般車輛相似，利用感測器及其他科技裝備，搭配電腦運算或機器學習等技術，辨識車輛周遭環境及狀況。同時根據外部資訊如：道路、交通號誌、車輛位置、障礙物等數據做出分析判斷，由電腦控制車輛方向及速度，實現無人車輛依據自身（電腦）意圖做出擬人駕駛的動作[1]。 包括Apple[2]、Google、Uber等非傳統汽車製造產業在內，世界各地串起一場以無人車為首的交通實驗。在無人車發展面向上，美國、新加坡早已有為無人車產業發展，提出修法或補助等政策措施。與我國比鄰的韓國，其政府近來也積極推動自動駕駛技術之發展，不僅核准多家業者上路實測，更計畫打造全球最大無人車車測場地「K-City」[3]。未來我國在台北、高雄[4]等地也即將出現無人車的身影，惟目前我國相關法規仍未針對無人車詳加規範，使得無人車發展上窒礙難行。 我國科學工業園區長久以來扮演著台灣科技工業發展之重要角色，參考國際在相關領域的發展，除硬體、軟體技術上配合，尚提供良好且完善的測試場域或法規配套。本文為建構國內無人車發展環境，打造產業聚落及完備有善法制環境，參考新加坡無人車立法例，提供我國未來科學工業園區區內無人車測試及法規配套之建議參考。 貳、新加坡無人車測試之法規調適 新加坡作為典型的「城市國家」，城市規劃是亞洲甚至全球的典範，良好的交通規劃、道路狀況及相關的基礎建設，都是無人車駕駛試驗所要求的環境。新加坡政府對於無人駕駛的發展，於2014年成立專門委員會管理無人駕駛車，而新加坡陸路交通管理局（LTA[5]）近年來也積極的和多家發展無人駕駛技術的廠商密切合作[6]。針對無人駕駛技術的創新與應用，未來只會有增無減，而為適應科技成就所帶來之便利及法制之衝擊，新加坡政府於2017年2月[7]通過《公路交通法修正案》（Road Traffic (Amendment) Bill）。該修正案新增針對無人車測試有關之條文（6C、6D、6E），透過法規的修正讓科技與法制間增進一些彈性與空間。以下針對此次新加坡新修《公路交通法修正案》的三項關於無人車測試的條文分別說明: 首先在條文6C[8]部分，先做初步適用範圍及相關測試規範說明。考量無人車的測試需保護社會大眾之用路安全，該法案給予主管機關相關的權限，得針對無人車測試予以限制及規範，同時明確規範在何種情況下，主管機關得取消無人車業者之測試申請（如有損公眾利益）。針對測試之限制，新增定之條文規範包含測試時之天氣[9]、測試車輛硬體設備[10]、車輛系統建置的限制（要求能隨時介入車輛之操縱）等皆為評估允許無人車測試之依據。另外，對於車輛測試業者，於測試之前政府得要求保「責任險」（Liability Insurance）或相當金額之保證金[11]。測試業者需公布實驗計畫之內容，如測試地點、時間及所屬負責人，所有的測試資料應跟主管單位陸路交通管理局分享[12]。 條文6D則是規範有關於無人車測試時責任豁免（Exemptions）的規定，在有條件或無條件情形下，根據此條文得以免除特定法規或法律[13]。然該免除責任的範圍，仍以此《公路交通法》及其附屬法規為主。新加坡在一般情形下，駕駛人於道路上發生交通事故，根據《公路交通法》將需負擔相關道路責任。不過在最新通過的《公路交通法修正案》無人車測試免責規定中，考量無人車科技無規範「人員過失」之必要，原則上將免除無人車測試相關人員之法律責任（包含駕駛人、參與測試的人員等）。若是無人車業者（測試申請人）違反或不遵守前條6C的規定及條件，則無本條免責之適用。未來無人車真正上路後，若發生故障或交通事故，本次修法並未有說明，其責任歸屬仍待討論。最後在條文6E針對於無人車測試中，有蓄意破壞或是干擾測試者，對其處與相當金額之罰鍰[14]。 整體而言，新加坡政府對於無人車態度較為積極且開放，除法規上預留彈性用以降低無人車發展測試與現行法規的衝擊，另一方面也與多間無人車公司合作，在整體產業面上提供多方面的便利。去年新加坡成為全球第一個讓無人計程車(nuTonomy)[15]上路的國家，預計在2018年，亞洲第一輛投入商業化的無人巴士也將在新加坡上路。 參、小結 隨著科技的進步，新興科技與生活的結合衝擊著現有的法制規範。調整且負有彈性的法制規範，漸漸在國際上得到重視，諸如英國、澳洲及新加坡皆推出金融業的「監理沙盒」制度或政策，我國金管會也於今年( 2017)初提出《金融科技創新實驗條例》草案，帶動金融領域新的成長與翻轉。無論是金融或非金融，法規侷限新興限科技應用的問題皆存在，從「創新、試驗」的角度，新加坡將未來無人車測試的法律依據植入《公路交通法》，針對單一領域法規進行修法，似已成功將「監理沙盒」機制從目前以金融業為主轉換到非金融領域，此作法值得我國參考。 [1] 數位時代, https://www.bnext.com.tw/search/tag/%E7%84%A1%E4%BA%BA%E8%BB%8A（最後瀏覽日:2017/07/04） [2] TechNews科技新報,＜蘋果自駕車真面目，矽谷街頭試行照曝光＞,2017/04/28,https://technews.tw/2017/04/28/the-lexus-that-apples-using-to-test-self-driving-car-technology/ （最後瀏覽日：2017/06/02） [3] TechNews科技新報,＜加速推動自駕車發展，南韓打造全球最大自駕車測試場地＞,2017/05/10,https://technews.tw/2017/05/10/south-korea-begins-development-of-test-bed-k-city-for-self-driving-cars/ （最後瀏覽日：2017/06/02） [4] TechNews科技新報,＜高雄欲導入的法國EasyMile無人自駕巴士，究竟魅力何在＞,2017/04/05,https://technews.tw/2017/04/05/kaohsiung-city-government-signed-mou-with-easymile-and-7starlake-2017/ （最後瀏覽日：2017/06/02） [5] Land Transport Authority, 簡稱LTA. [6] 數位時代, ＜為什麼新加坡能夠成為無人駕駛「重鎮」？＞,2017/07/04, https://www.bnext.com.tw/article/41716/why-singapore-can-be-automated-pilot-strategic-town（最後瀏覽日：2017/07/04） [7] Parliament of Singapore, https://www.parliament.gov.sg/publications/2017 (最後瀏覽日：2017/07/04) [8] Road Traffic (Amendment)Bill, 6C. [9] 6C(1)(f)Prescribe the weather and any climatic or other circumstances when an approved trial or approved special use may or not be undertaken or carried out, as the case may be; [10] 6C(1)(g)Prescribe the construction, design or use of infrastructure technology, equipment or devices in relation to the autonomous motor vehicle or automated vehicle technology involved in the approved trial or approved special use, including requiring that the vehicle- [11] 6D(1)(b)To have in place liability insurance before the approved trial or approved special use starts, and to ensure that it is in force at all times during the period of the approved trial or approved special use； [12] 6D(1)(i)Require the keeping of records by the specified person, and the giving of information to the Authority or any other person designated by the Authority about the approved trial or approved special use undertaken or carried out, including the automated vehicle technology involved in the trial or special use； [13] 6D(1)(a)Exempt (with or without conditions) from the application of section 5 or other specified provisions of this Act or its subsidiary legislation, or any other written law, any of the following. [14] Road Traffic (Amendment)Bill, 6E [15] Inside，＜第一批無人駕駛計程車新加坡上市，nuTonomy:我們才是第一＞，2016/08/25，https://www.inside.com.tw/2016/08/25/nutonomy （最後瀏覽日：2017/07/18）
中國國務院發布AI行動意見，全面推動智慧應用加速現代化建設中國國務院發布AI行動意見，全面推動智慧應用加速現代化建設 資訊工業策進會科技法律研究所 2025年12月10日 隨著人工智慧（下稱AI）技術的快速發展，全球各國政府均積極推動AI在百工百業各領域的應用，以提升國家創新力、產業競爭力與社會治理效能，中國政府亦是如此。同時，受地緣政治及經貿競爭的影響，中國政府為強化國家供應鏈安全與韌性，由政府主導加速現代化建設，以推動智慧社會新型態的發展為目標。 壹、事件摘要 中國國務院於2025年8月26日發布「關於深入實施人工智能+行動的意見」（國發［2025〕11號）（下稱行動意見）[1]，旨在全面推動AI應用於各行各業，以提升國內產業生產力與創新量能，並促進人機協作的智慧社會新型態，作為推動「中國式現代化」發展之重要建設。 貳、行動意見重點內容 於該行動意見中，中國國務院提出三項階段性目標，分別為： 一、 2027年前：AI應用普及率達70%以上 推動科技、產業、消費、民生、治理與全球合作的6大核心領域全面結合AI應用，擴大AI使用普及率達70%以上，以達加速公共治理與產業創新之成效。 二、 2030年前：AI應用普及率達90%以上 強化前述6大核心領域，持續擴大AI使用普及率可達90%以上，實現研發成果共享之效益。 三、 2035年前：AI應用普及率達100% 建立全面人機協作之智慧經濟與社會新型態，作為國家現代化建設之重要基礎。 為實現前述三階段目標，中國政府針對6大核心領域提出具體行動方向，重點整理如下： 一、 AI+科學技術 為加速科研進程並推動大模型建設與應用，將強化基礎科學研究平台和重要科技基礎建設的智慧化升級，打造開放式且高品質的共享資料集，以促進AI跨領域的結合發展。同時，亦積極促進AI帶動研發模式創新與效能的提升，以加速技術研發和產品應用落地。 二、 AI+產業發展 鼓勵企業將AI導入內部策略規劃、組織架構與業務流程設計等，以建構創新的商業模式；並在技術、產品與服務體系中推動智慧化應用，強化供應鏈各環節與AI的協作，同時最佳化工業、農業及服務業的生產與服務模式，藉以帶動傳統產業轉型升級，建構新型生態體系並加速整體產能提升。 三、 AI+消費增質 透過推動AI與服務的結合，建立多元及智慧化的服務模式，加速發展智慧消費相關基礎建設；此外，推動AI應用於各類商品與設備，重點發展智慧聯網汽車、智慧機器人、智慧家居、智慧穿戴等終端商品，加速技術融合與產品創新，以提升人民生活的品質。 四、 AI+民生福祉 透過推動人機協作的模式，提供新型的工作、學習與生活型態，建立更具智慧化的社會發展模式。例如，企業雇主可藉由AI協助建立新型組織架構和管理模式，提升傳統職務執行之效率，亦或是透過AI進行技能培訓以因應勞動力短缺之情形；學校教育面向則可推動AI融入教學教材，推動更加多元與互動之學習生態；生活方面則計劃推動AI健康照護、社會服務等領域廣泛應用，全面提升公共服務與生活品質，形成具包容性的智慧化社會。 五、 AI+智慧治理 推動AI全面導入社會治理過程，以促進市政管理、政務服務及公共資源運作的智慧化轉型，並利用AI強化公共安全與網路安全治理能力，完善國家安全防護的機制；於生態層面，將運用AI推動綠色永續與人機協作，強化於環境與碳管理領域的監測、預測及治理能力，促進高效及精準的治理模式。 六、 AI+全球合作 推動AI的普及與共向，建立開放生態系、強化運算能力、資料與人才領域的國際合作，共同提升全球南方AI基礎建設，縮減全球數位落差，協助各國可平等參與智慧化發展過程，共同因應AI應用相關風險，確保技術發展安全且可信賴地發展。 參、事件評析 從上述中國國務院發布之行動意見可知，其目標在於藉由強化安全及可信賴的AI，並促進AI應用於各領域的發展，以建構可持續性的智慧化生態系，提升社會治理效率與全民生活的品質，以利國家經濟與科技的共同發展。 然而，該行動意見雖明確提出國家整體目標及治理方向，為相關領域的智慧化發展提供指引，惟對於各項目標尚未提出可操作性措施、具體政策細節，或對產官學各單位可獲得的政府資源、技術支持與協助等進行明確規範。故後續仍需持續關注相應政策措施及配套資源的發布，以評估其實際推動AI應用之成效。 [1]《国务院关于深入实施“人工智能+”行动的意见》（國發[2025]11号）。
加拿大提供App開發供應商指導方針解決因隱私保護所引發之問題。App已成為多數人每日不可或缺之夥伴，其應用層面廣及食、衣、住、行、育、樂等生活領域；不過用戶可能多未意識到，在App程式的下載及安裝過程中，開發供應商會記錄或接觸使用者手機中如電話簿、照片、影音檔案、簡訊、密碼記錄等其他資訊之可能。根據華爾街日報報導，56%的應用程式在用戶不知情的情況下，手機ID會發送給廠商；47%的應用程式會透露用戶的所處位置，使得個人隱私蕩然無存。 加拿大當地的隱私法規要求企業在追求創新及企業精神時必須將隱私保護納入考量；而在行動裝置應用環境中，無論是開發商、服務供應商、應用平台或是廣告商，只要有接觸用戶個人資訊之可能，就有遵守法規之義務。但考量App這樣一個嶄新又快速發展的科技生態，在實踐隱私保護精神之初可能會面臨到新的衝擊與挑戰。因此，加拿大隱私權主管機關（Office of the Privacy Commissioner of Canada，簡稱OPC）乃會同加拿大境內的阿爾伯特及不列顛哥倫比亞兩省各自之地方主管機關（其分別為Office of the Information & Privacy Commissioner of Alberta及Office of the Information & Privacy Commissioner for British Columbia）撰寫指導文件，希望能提供當地App開發供應商建議方案。 該項建議方案促使行動軟體開發供應商在設計與開發App應用程式時必須顧及使用者隱私之保護，並提供協助方式與預防原則，提高使用者隱私受保護之程度；除必須使用清晰且易懂之方式告知用戶的個人資料將進行何種用途外，在使用者下載前亦應告知被蒐集之資料類別及原因、資料儲存位置或地點、資料分享之可能及其原因、資料保存之期限、及其他可能影響用戶隱私之事件；倘若廠商必須變更隱私政策與規定，則應使用明確易懂之方式事先通知所有使用者了解進行何項變更，以強化用戶隱私與個人資料保護意識。