開放非銀行事業從事預付式行動付款服務法制議題之研究
落實完善數位資料管理機制， 有助於降低AI歧視及資料外洩風險 資訊工業策進會科技法律研究所 2023年07月07日 近年來，科技快速發展，AI(人工智慧)等技術日新月異，在公私部門的應用日益廣泛，而且根據美國資訊科技研究與顧問公司Gartner在2023年5月發布的調查指出，隨著由OpenAI開發的ChatGPT取得成功，更促使各領域對於AI應用的高度重視與投入[1]，與此同時，AI歧視及資料外洩等問題，亦成為社會各界的重大關切議題。 壹、事件摘要 目前AI科技發展已牽動全球經濟發展，根據麥肯錫公司近期發布的《生成式人工智慧的經濟潛力：下一個生產力前沿(The next productivity frontier)》研究報告指出，預測生成式AI(Generative AI)有望每年為全球經濟增加2.6兆至4.4兆的經濟價值[2]。同時在美國資訊科技研究與顧問公司Gartner對於超過2500名高階主管的調查中，45%受訪者認為ChatGPT問世，增加其對於AI的投資。而且68%受訪者認為AI的好處大於風險，僅有5%受訪者認為風險大於好處[3]。然而有社會輿論認為AI的判斷依賴訓練資料，將可能複製人類偏見，造成AI歧視問題，而且若程式碼有漏洞或帳戶被盜用時，亦會造成資料外洩問題。 貳、重點說明 首先，關於AI歧視問題，以金融領域為例，近期歐盟委員會副主席Margrethe Vestager強調若AI用於可能影響他人生計的關鍵決策時，如決定是否能取得貸款，應確保申請人不受性別或膚色等歧視[4]，同時亦有論者認為若用於訓練AI的歷史資料，本身存有偏見問題，則可能導致系統自動拒絕向邊緣化族群貸款，在無形之中加劇，甚至永久化對於特定種族或性別的歧視[5]。 其次，關於資料外洩問題，資安公司Group-IB指出因目前在預設情況下，ChatGPT將保存使用者查詢及AI回應的訊息紀錄，若帳戶被盜，則可能洩露機敏資訊。據統計在2022年6月至2023年5月間，在亞太地區有近41000個帳戶被盜，而在中東和非洲地區有近25000個帳戶被盜，甚至在歐洲地區也有近17000個帳戶被盜[6]。另外在2023年3月時，ChatGPT除了發生部分用戶能夠檢視他人聊天紀錄標題的問題外，甚至發生個人資料外洩問題，即用戶可能知悉他人的姓名、電子郵件，付款地址，信用卡到期日及號碼末四碼等資料[7]。 參、事件評析 對於AI歧視及資料外洩等問題，應透過落實完善數位資料治理與管理機制，以降低問題發生的風險。首先，在收集訓練資料時，為篩選適合作為模型或演算法基礎的資料，應建立資料評估或審查機制，減少或避免使用有潛在歧視問題的資料，以確保分析結果之精確性。 其次，不論對於訓練資料、分析所得資料或用戶個人資料等，均應落實嚴謹的資料保密措施，避免資料外洩，如必須對於資料進行標示或分類，並依照不同標示或分類，評估及採取適當程度的保密措施。同時應對於資料進行格式轉換，以無法直接開啟的檔案格式進行留存，縱使未來可能不慎發生資料外洩，任意第三人仍難以直接開啟或解析資料內容。甚至在傳送帳戶登入訊息時，亦應採取適當加密傳送機制，避免遭他人竊取，盜取帳戶或個人資料。 財團法人資訊工業策進會科技法律研究所長期致力於促進國家科技法制環境完善，於2021年7月發布「重要數位資料治理暨管理制度規範（Essential Data Governance and Management System，簡稱EDGS）」，完整涵蓋數位資料的生成、保護與維護，以及存證資訊的取得、維護與驗證的流程化管理機制，故對於不同公私部門的AI相關資料，均可參考EDGS，建立系統性數位資料管理機制或強化既有機制。 本文同步刊登於TIPS網站（https://www.tips.org.tw） [1]Gartner, Gartner Poll Finds 45% of Executives Say ChatGPT Has Prompted an Increase in AI Investment (May 3, 2023), https://www.gartner.com/en/newsroom/press-releases/2023-05-03-gartner-poll-finds-45-percent-of-executives-say-chatgpt-has-prompted-an-increase-in-ai-investment (last visited June 30, 2023). [2]McKinsey, The economic potential of generative AI: The next productivity frontier (June 14, 2023), https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/the-economic-potential-of-generative-AI-the-next-productivity-frontier#introduction (last visited June 30, 2023). [3]Gartner, supra note 1. [4]Zoe Kleinman, Philippa Wain & Ashleigh Swan, Using AI for loans and mortgages is big risk, warns EU boss (June 14, 2023), https://www.bbc.com/news/technology-65881389 (last visited June 30, 2023). [5]Ryan Browne & MacKenzie Sigalos, A.I. has a discrimination problem. In banking, the consequences can be severe (June 23, 2023), https://www.cnbc.com/2023/06/23/ai-has-a-discrimination-problem-in-banking-that-can-be-devastating.html (last visited June 30, 2023). [6]Group-IB, Group-IB Discovers 100K+ Compromised ChatGPT Accounts on Dark Web Marketplaces; Asia-Pacific region tops the list (June 20, 2023), https://www.group-ib.com/media-center/press-releases/stealers-chatgpt-credentials/ (last visited June 30, 2023). [7]OpenAI, March 20 ChatGPT outage: Here’s what happened (Mar. 24, 2023),https://openai.com/blog/march-20-chatgpt-outage (last visited June 30, 2023).
義大利發布最新全國性AI法案，預計設立醫療AI用平臺，並強化權利保護與病患福利壹、義大利最新AI法案簡介 義大利於2025年9月17日通過《人工智慧規範與政府授權》立法法案（Disposizioni e delega al Governo in materia di intelligenza artificiale，下稱1146‑B法案），為該國首次針對AI全面立法，亦為歐盟成員國內AI專法先驅。義大利將歐盟《人工智慧法》（AI Act，下稱AIA）框架轉化為國內法，並設立獨立窗口與歐盟對接。為確保落地效率並兼顧國家安全與資料治理，本法採「雙主管機關制」，由隸屬於總理府（Presidenza del Consiglio dei Ministri）之數位局（Agenzia per l’Italia Digitale，AgID）及國家網路安全局（Agenzia per la Cybersicurezza Nazionale，ACN）共同執行。AgID 負責AI技術標準、互通性與公共行政實務執行；ACN則負責資安韌性、事故通報與高風險AI安全性。 目前該法案已由參議院（Senato della Repubblica）審議並表決通過，2025年9月25日已載於義大利《官方公報》（Gazzetta Ufficiale），再經過15天緩衝期後，預計於2025年10月10日正式生效。然截至2025年10月27日為止，未有官方宣布該法案正式生效之證明，故法案是否依該版本內容正式施行仍待確認。其中醫療為AIA顯示之高風險領域之一，亦涉及資料隱私與病患權益等敏感法益，可謂本法落地機制中具代表性之政策面向，故本文特以醫療AI應用為分析重點。 貳、設立醫療AI應用平臺，輔助專業醫護及強化醫療服務取得 1146‑B法案第10條規定，將由義大利衛生服務局（Agenzia nazionale per i servizi sanitari regionali，AGENAS）主導設立該國家醫療AI應用平臺。該平臺定位為全國級資料治理與AI導入審查機制工具，主要功能為對醫療專業人員提供照護病患與臨床實踐時無法律約束力之建議，並對病患提供接觸社區醫療中心AI服務之管道與機會。該平臺僅得依「資料最小化原則」（dati strettamente necessary）蒐集以上醫療服務所需之必要資料，經向衛生部（Ministero della salute）、資料保護局（Garante per la protezione dei dati personali）及CAN徵詢意見後，由 AGENAS 負責資料處理，並經地方常設協調會議同意後，得以公告方式制定符合歐盟《一般資料法規》（General Data Protection Regulation，GDPR）之風險控管與敏感健康資料處理細則。 在確保資料安全合規後，法案強調對醫療保健之服務可及性（accesso ai servizi）進行改善，病人能透過此平臺更便利地接觸到社區醫療中心所提供之各類AI健康醫療服務，如診斷輔助、數位健康檔案調閱等，亦符合AIA強調AI發展應確保社會公益等權利之宗旨。 參、醫療用AI之限制與目標 法案第7條第5項規定AI僅能作為醫療決策輔助工具提供無拘束力之建議，重申前述醫療平臺相關規定；AI亦不得根據歧視性標準選擇或限制病人獲取醫療服務。病人享有「知情權」（diritto di essere informato），即有權知悉診療過程中是否使用有使用AI、使用方式（如僅為輔助）及其限制。針對健康資料之隱私處理方面，如病歷、基因資料、診斷紀錄等，要求醫用AI系統須持續監測、定期驗證與更新，以降低錯誤風險，維護病人健康安全，亦明文強調醫療AI之使用應以改善身心障礙者生活為目標。 四、總結 1146-B法案在醫療 AI 治理上，透過雙主管機關制平衡歐盟對接、技術發展與風險控管，符合AIA要求並避免權責衝突。建立由 AGENAS 主導的醫療 AI 應用平臺，在相關部門意見下運作，確保資料處理與服務推動合規與安全。病人權利方面，強調知情權、健康資料隱私與地方醫療AI普及，符合資料最小化與 GDPR 規範，展現義大利在醫療 AI 上兼顧創新、透明與權益保障之立場，往後應持續關注AGENAS釋出之關於該平臺使用之相關細則。 本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。 本文同步刊登於TIPS網站（https://www.tips.org.tw）
韓國修法簡化"孤兒著作法定授權程序"韓國著作權法施行令於今年(2012)4月12日修正，10月13日施行，其中值得注意的地方就是簡化「孤兒著作法定授權程序」，目的就是要改善孤兒著作授權，耗時過長的問題。在韓國，一般來說，取得孤兒著作授權要花2個月以上時間，而且對申請人而言，最困難的地方在於要證明已盡一切努力搜尋權利人未果，所以過去10年(2001~2011)內，只有37件孤兒著作獲得授權。 韓國孤兒著作法定授權程序之簡化內容為：除申請人可自行證明已盡相當努力外，政府可代為證明已盡相當努力，亦即只要符合「查詢著作權登記簿」、「查詢著作權集體管理團體之權利資訊目錄」、「著作在『尋找權利人資訊系統』公告3個月以上」等法定要件，即可認定已盡相當努力，直接准予授權使用孤兒著作。其目的主要就是要增進使用孤兒著作的便利性。 前述之「尋找權利人網站」：www.findcopyright.or.kr，係由韓國著作權委員會建置，申請人亦可在網站上申請孤兒著作授權。手續費每件1萬韓圜(相當於新台幣287.9元)。
美國白宮呼籲採取行動，打擊利用AI生成影像進行之性虐待行為美國白宮於2024年5月23日公開呼籲採取行動以打擊利用AI生成性影像，及未經當事人同意傳播真實影像的性虐待行為。此次呼籲源自白宮「解決線上騷擾與虐待問題工作小組」（Task Force to Address Online Harassment and Abuse）相關行動、總統第14110號行政命令－「安全、可靠且可信任之AI開發及利用」（Executive Order on the Safe, Secure, and Trustworthy Development and Use of Artificial Intelligence），以及尖端AI公司自願管理AI風險之承諾（Voluntary AI Commitments）。 白宮指出，迄今為止生成式AI已淪為性虐待的主要工具，同時，涉及未經同意散布或威脅散布私人性影像，亦將對受害者造成嚴重的心理傷害。白宮呼籲相關利害關係人透過自願性承諾，預防與減輕性虐待影像之影響，如： （1）阻止性虐待影像獲利： 對於從事性虐待影像業務的網站或應用程式，支付平臺與金融機構可限制或拒絕對其提供支付服務。 （2）停止創建深偽性虐待影像 ： 對於可透過AI生成性影像之網路服務或應用程式，雲端服務供應商與應用程式商店得減少此類網路服務或應用程式運作。此外，應用程式商店可要求應用程式開發人員採取措施，防止使用者製作非經當事人同意的AI生成性影像。 （3）防止散播性虐待影像： 應用程式與作業系統開發人員可啟用技術保護措施，以保護數位裝置上儲存之內容，防止未經當事人同意分享其影像。 （4）支援並參與為受害者提供有效補救措施之服務： 平臺與利害關係人可選擇與相關組織合作，使性虐待影像受害者可輕鬆且安全地從線上平臺中刪除未經同意之內容。此外，白宮亦呼籲國會修訂於2022年重新授權之「婦女暴力防制法」（Violence Against Women Act Reauthorization），延續並加強原有法律保護效力，同時為AI生成之性虐待影像的受害者提供關鍵援助資源。