FDA發佈人工智慧/機器學習行動計畫
美國食品藥物管理署（U.S. Food & Drug Administration, FDA）在2021年1月12日發布有關人工智慧醫療器材上市管理的「人工智慧/機器學習行動計畫」（Artificial Intelligence/Machine Learning (AI/ML)-Based Software as a Medical Device (SaMD) Action Plan）。該行動計畫的制定背景係FDA認為上市後持續不斷更新演算法的機器學習醫療器材軟體（Software as Medical Device, SaMD），具有極高的診療潛力，將可有效改善醫療品質與病患福祉，因此自2019年以來，FDA嘗試提出新的上市後的監管框架構想，以突破現有醫療器材軟體需要「上市前鎖定演算法、上市後不得任意變更」的監管規定。
2019年4月，FDA發表了「使用人工智慧/機器學習演算法之醫療器材軟體變更之管理架構—討論文件」（Proposed Regulatory Framework for Modifications to Artificial Intelligence/Machine earning (AI/ML)-Based Software as a Medical Device (SaMD) - Discussion Paper and Request for Feedback）。此一諮詢性質的文件當中提出，將來廠商可在上市前審查階段提交「事先訂定之變更控制計畫」（pre-determined change control plan），闡明以下內容：(1)SaMD預先規範（SaMD Pre-Specification, SPS）：包含此產品未來可能的變更類型（如：輸入資料、性能、適應症）、變更範圍；(2)演算法變更程序（Algorithm Change Protocol, ACP）：包含變更對應之處理流程、風險控制措施，以及如何確保軟體變更後之安全及有效性。
根據「人工智慧/機器學習行動計畫」內容所述，「事先訂定之變更控制計畫」構想被多數（包含病患團體在內）的利害關係人肯認，並於相關諮詢會議當中提出完善的細部建言。FDA將根據收到的反饋意見，於2021年以前正式提出有關人工智慧/機器學習上市後監管的指引草案（Draft Guidance），並持續研究提高演算法透明度、避免演算法偏見的方法。
- Artificial Intelligence/Machine Learning (AI/ML)-Based Software as a Medical Device (SaMD) Action Plan (2021)
- Proposed Regulatory Framework for Modifications to Artificial Intelligence/Machine earning (AI/ML)-Based Software as a Medical Device (SaMD) - Discussion Paper and Request for Feedback (2019)
蔡宜臻
專案經理 編譯整理
U.S. FOOD & DRUG ADMINISTRATION[FDA], Artificial Intelligence/Machine Learning (AI/ML)-Based Software as a Medical Device (SaMD) Action Plan (2021). https://www.fda.gov/media/145022/download (last visited Jan. 27, 2021)
U.S. FOOD & DRUG ADMINISTRATION [FDA], Proposed Regulatory Framework for Modifications to Artificial Intelligence/Machine earning (AI/ML)-Based Software as a Medical Device (SaMD) - Discussion Paper and Request for Feedback (2019). https://www.fda.gov/media/122535/download (last visited Jan. 27, 2021)
落實完善數位資料管理機制， 有助於降低AI歧視及資料外洩風險 資訊工業策進會科技法律研究所 2023年07月07日 近年來，科技快速發展，AI(人工智慧)等技術日新月異，在公私部門的應用日益廣泛，而且根據美國資訊科技研究與顧問公司Gartner在2023年5月發布的調查指出，隨著由OpenAI開發的ChatGPT取得成功，更促使各領域對於AI應用的高度重視與投入[1]，與此同時，AI歧視及資料外洩等問題，亦成為社會各界的重大關切議題。 壹、事件摘要 目前AI科技發展已牽動全球經濟發展，根據麥肯錫公司近期發布的《生成式人工智慧的經濟潛力：下一個生產力前沿(The next productivity frontier)》研究報告指出，預測生成式AI(Generative AI)有望每年為全球經濟增加2.6兆至4.4兆的經濟價值[2]。同時在美國資訊科技研究與顧問公司Gartner對於超過2500名高階主管的調查中，45%受訪者認為ChatGPT問世，增加其對於AI的投資。而且68%受訪者認為AI的好處大於風險，僅有5%受訪者認為風險大於好處[3]。然而有社會輿論認為AI的判斷依賴訓練資料，將可能複製人類偏見，造成AI歧視問題，而且若程式碼有漏洞或帳戶被盜用時，亦會造成資料外洩問題。 貳、重點說明 首先，關於AI歧視問題，以金融領域為例，近期歐盟委員會副主席Margrethe Vestager強調若AI用於可能影響他人生計的關鍵決策時，如決定是否能取得貸款，應確保申請人不受性別或膚色等歧視[4]，同時亦有論者認為若用於訓練AI的歷史資料，本身存有偏見問題，則可能導致系統自動拒絕向邊緣化族群貸款，在無形之中加劇，甚至永久化對於特定種族或性別的歧視[5]。 其次，關於資料外洩問題，資安公司Group-IB指出因目前在預設情況下，ChatGPT將保存使用者查詢及AI回應的訊息紀錄，若帳戶被盜，則可能洩露機敏資訊。據統計在2022年6月至2023年5月間，在亞太地區有近41000個帳戶被盜，而在中東和非洲地區有近25000個帳戶被盜，甚至在歐洲地區也有近17000個帳戶被盜[6]。另外在2023年3月時，ChatGPT除了發生部分用戶能夠檢視他人聊天紀錄標題的問題外，甚至發生個人資料外洩問題，即用戶可能知悉他人的姓名、電子郵件，付款地址，信用卡到期日及號碼末四碼等資料[7]。 參、事件評析 對於AI歧視及資料外洩等問題，應透過落實完善數位資料治理與管理機制，以降低問題發生的風險。首先，在收集訓練資料時，為篩選適合作為模型或演算法基礎的資料，應建立資料評估或審查機制，減少或避免使用有潛在歧視問題的資料，以確保分析結果之精確性。 其次，不論對於訓練資料、分析所得資料或用戶個人資料等，均應落實嚴謹的資料保密措施，避免資料外洩，如必須對於資料進行標示或分類，並依照不同標示或分類，評估及採取適當程度的保密措施。同時應對於資料進行格式轉換，以無法直接開啟的檔案格式進行留存，縱使未來可能不慎發生資料外洩，任意第三人仍難以直接開啟或解析資料內容。甚至在傳送帳戶登入訊息時，亦應採取適當加密傳送機制，避免遭他人竊取，盜取帳戶或個人資料。 財團法人資訊工業策進會科技法律研究所長期致力於促進國家科技法制環境完善，於2021年7月發布「重要數位資料治理暨管理制度規範（Essential Data Governance and Management System，簡稱EDGS）」，完整涵蓋數位資料的生成、保護與維護，以及存證資訊的取得、維護與驗證的流程化管理機制，故對於不同公私部門的AI相關資料，均可參考EDGS，建立系統性數位資料管理機制或強化既有機制。 本文同步刊登於TIPS網站（https://www.tips.org.tw） [1]Gartner, Gartner Poll Finds 45% of Executives Say ChatGPT Has Prompted an Increase in AI Investment (May 3, 2023), https://www.gartner.com/en/newsroom/press-releases/2023-05-03-gartner-poll-finds-45-percent-of-executives-say-chatgpt-has-prompted-an-increase-in-ai-investment (last visited June 30, 2023). [2]McKinsey, The economic potential of generative AI: The next productivity frontier (June 14, 2023), https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/the-economic-potential-of-generative-AI-the-next-productivity-frontier#introduction (last visited June 30, 2023). [3]Gartner, supra note 1. [4]Zoe Kleinman, Philippa Wain & Ashleigh Swan, Using AI for loans and mortgages is big risk, warns EU boss (June 14, 2023), https://www.bbc.com/news/technology-65881389 (last visited June 30, 2023). [5]Ryan Browne & MacKenzie Sigalos, A.I. has a discrimination problem. In banking, the consequences can be severe (June 23, 2023), https://www.cnbc.com/2023/06/23/ai-has-a-discrimination-problem-in-banking-that-can-be-devastating.html (last visited June 30, 2023). [6]Group-IB, Group-IB Discovers 100K+ Compromised ChatGPT Accounts on Dark Web Marketplaces; Asia-Pacific region tops the list (June 20, 2023), https://www.group-ib.com/media-center/press-releases/stealers-chatgpt-credentials/ (last visited June 30, 2023). [7]OpenAI, March 20 ChatGPT outage: Here’s what happened (Mar. 24, 2023),https://openai.com/blog/march-20-chatgpt-outage (last visited June 30, 2023).
澳洲詮釋自動駕駛「恰當駕駛」內涵澳洲國家交通委員會（National Transport Commission, NTC）2017年11月提出「國家自駕車實施指南（National enforcement guidelines for automated vehicles）」，協助執法單位適用目前道路駕駛法規於自駕車案例上。由於澳洲道路法規（Australian Road Rules）第297條第1項規範「駕駛者不得駕駛車輛除非其有做出恰當控制（A driver must not drive a vehicle unless the driver has proper control）」，此法規中的「恰當控制」先前被執法機關詮釋為駕駛者應坐在駕駛座上並至少有一隻手置於方向盤上。因此本指南進一步針對目前現行法規適用部分自動駕駛系統時，執法機關應如何詮釋「恰當駕駛」內涵，並確認人類駕駛於部分自動駕駛系統運作時仍應為遵循道路駕駛法規負責。 本指南僅提供「恰當控制」之案例至SAE J2016第一級、第二級和第三級之程度，而第四級與第五級之高程度自動駕駛應不會於2020年前進入市場並合法上路，因此尚未納入本指南之詮釋範圍之中。本指南依照採取駕駛行動之對象、道路駕駛法規負責對象（誰有控制權）、是否應將一隻手放置於方向盤、是否應隨時保持警覺以採取駕駛行動、是否可於行駛中觀看其他裝置等來區分各級自動駕駛系統運作時，人類駕駛應有之恰當駕駛行為。
美國如何管制新興技術出口美國國會於2018年8月13日通過之《出口管制改革法》（Export Control Reform Act of 2018, ECRA）第1758條，以國家安全為由，授權商務部建立對美國新興與基礎技術出口、再出口或移轉之認定與管制程序。有鑑於此，商務部下轄之工業安全局（Bureau of Industry and Security, BIS）於同年11月19日發布了法規制定預告（advance notice of proposed rulemaking），對外徵求關於認定「新興技術」之意見。 BIS指出，美國政府多年來依循《出口管制條例》（Export Administration Regulations, EAR）限制特定敏感技術或產品出口，以避免關鍵技術落入他國手中。惟既有之審查範圍已不足以涵蓋近年許多重大創新技術，故BIS先行臚列了14項擬在未來實施出口管制的新興科技，向公眾徵求其是否確屬「涉及國家安全之特定新興技術」相關意見。該14項科技包含：(1)生物技術；(2)人工智慧與機器學習技術；(3) 定位、導航和定時技術；(4)微處理器技術；(5)先進計算技術；(6)數據分析技術；(7)量子信息和傳感技術；(8)物流技術；(9)積層製造技術；(10)機器人；(11)腦機介面；(12)高超聲速；(13)先進材料；(14)先進監控技術。 除此之外，民眾亦得對如何認定「新興技術」提出一般性之意見，俾將來政策實施更加周全。意見徵求期間從2018年11月19日起，至2019年1月10日截止。
新加坡發布《應用程式分發服務安全準則》以強化應用程式用戶保護為降低應用程式（App）用戶接觸有害內容的風險，新加坡資通訊媒體發展管理局（Infocomm Media Development Authority，IMDA）發布《應用程式分發服務安全準則》（Code of Practice for Online Safety for App Distribution Services），要求應用程式分發服務（App Distribution Services，ADSs）採取必要防護措施，並導入年齡驗證機制，以進一步強化兒童保護。該準則將於 2025 年 3 月 31 日 生效。 本次IMDA依據《廣播法》（Broadcasting Act）第45L條所發布之《應用程式分發服務安全準則》，係為進一步強化對App用戶的保護。ADSs作為數位裝置存取應用程式的主要入口，是許多網路內容（例如線上遊戲）的上架平台，當用戶透過 ADSs下載App的比例提高，其接觸不當內容的風險亦增加。因此，新加坡要求指定業者建立安全措施，以降低用戶接觸不當內容的風險。被指定業者包括：Apple App Store、Google Play Store、Huawei AppGallery、Microsoft Store及Samsung Galaxy Store等。該準則亦要求ADSs業者建立年齡驗證機制，訂定年齡分級標準並限制兒童存取及下載不適齡的App，同時強化家長控制功能。這一措施讓新加坡成為全球首批強制推動年齡驗證的國家或地區之一，其他國家包括澳洲、歐盟、英國及美國。IMDA 亦將持續與ADSs 業者溝通，確保其有效落實年齡驗證機制。 早在2023年1月，新加坡已於《廣播法》中將線上通訊服務納入規範，政府可要求業者封鎖惡性內容（egregious content），確保網路環境安全並保護兒童免受不當內容影響。此外，依據《網路安全準則》（Code of Practice for Online Safety），政府可要求指定社群媒體服務業者（如Facebook、Instagram、TikTok、Twitter與YouTube等）降低用戶接觸有害內容的風險。 為因應日益增加的有害線上內容，新加坡未來將持續與相關政府機構、產業及社群合作，推動適當的監管措施與公共教育，以確保新加坡用戶免受線上風險侵害。