FDA發佈人工智慧/機器學習行動計畫
美國食品藥物管理署（U.S. Food & Drug Administration, FDA）在2021年1月12日發布有關人工智慧醫療器材上市管理的「人工智慧/機器學習行動計畫」（Artificial Intelligence/Machine Learning (AI/ML)-Based Software as a Medical Device (SaMD) Action Plan）。該行動計畫的制定背景係FDA認為上市後持續不斷更新演算法的機器學習醫療器材軟體（Software as Medical Device, SaMD），具有極高的診療潛力，將可有效改善醫療品質與病患福祉，因此自2019年以來，FDA嘗試提出新的上市後的監管框架構想，以突破現有醫療器材軟體需要「上市前鎖定演算法、上市後不得任意變更」的監管規定。
2019年4月，FDA發表了「使用人工智慧/機器學習演算法之醫療器材軟體變更之管理架構—討論文件」（Proposed Regulatory Framework for Modifications to Artificial Intelligence/Machine earning (AI/ML)-Based Software as a Medical Device (SaMD) - Discussion Paper and Request for Feedback）。此一諮詢性質的文件當中提出，將來廠商可在上市前審查階段提交「事先訂定之變更控制計畫」（pre-determined change control plan），闡明以下內容：(1)SaMD預先規範（SaMD Pre-Specification, SPS）：包含此產品未來可能的變更類型（如：輸入資料、性能、適應症）、變更範圍；(2)演算法變更程序（Algorithm Change Protocol, ACP）：包含變更對應之處理流程、風險控制措施，以及如何確保軟體變更後之安全及有效性。
根據「人工智慧/機器學習行動計畫」內容所述，「事先訂定之變更控制計畫」構想被多數（包含病患團體在內）的利害關係人肯認，並於相關諮詢會議當中提出完善的細部建言。FDA將根據收到的反饋意見，於2021年以前正式提出有關人工智慧/機器學習上市後監管的指引草案（Draft Guidance），並持續研究提高演算法透明度、避免演算法偏見的方法。
- Artificial Intelligence/Machine Learning (AI/ML)-Based Software as a Medical Device (SaMD) Action Plan (2021)
- Proposed Regulatory Framework for Modifications to Artificial Intelligence/Machine earning (AI/ML)-Based Software as a Medical Device (SaMD) - Discussion Paper and Request for Feedback (2019)
蔡宜臻
專案經理 編譯整理
U.S. FOOD & DRUG ADMINISTRATION[FDA], Artificial Intelligence/Machine Learning (AI/ML)-Based Software as a Medical Device (SaMD) Action Plan (2021). https://www.fda.gov/media/145022/download (last visited Jan. 27, 2021)
U.S. FOOD & DRUG ADMINISTRATION [FDA], Proposed Regulatory Framework for Modifications to Artificial Intelligence/Machine earning (AI/ML)-Based Software as a Medical Device (SaMD) - Discussion Paper and Request for Feedback (2019). https://www.fda.gov/media/122535/download (last visited Jan. 27, 2021)
2014年6月26日歐盟執委會提出電信網路層級服務協議標準化指導原則(Cloud Service Level Agreement Standardisation Guidelines)。網路服務提供業者通常會與消費者簽訂契約，內容約定有服務之等級，稱之為電信服務層級契約(SLAs)，在雲端運算服務中，通常橫跨不同的管轄領域，適用的法律要件亦產生變化，而在雲端部分所儲存的個人資料保護部分尤其重要。不同的雲端服務與模式所需要的協議約定亦不同，這些都增加訂定的複雜性。 指導原則之提出將幫助專業的雲端服務業者在契約訂定時應該注意的內容，其中主要相關項目包括： 1.雲端服務的可利用性與真實性 2.從雲端服務提供業者中可取得服務的品質 3.安全層級 4.在雲端中如何妥善管理資料 指導原則首先明定原則，以做為雲端運算服務契約之參考。並同時針對不同的名詞定義解是，亦針對不同的契約與法律議題說明，包括業者在依據所訂定的契約中處理個人資料時，應符合歐盟資料保護之規範。 在指導原則提出之後，執委會將與雲端使用者，特別是一些小型企業進行檢視，後續並朝向通過國際ISO之認證。
美國國家標準暨技術研究院發布「全球AI安全機構合作策略願景目標」，期能推動全球AI安全合作美國國家標準暨技術研究院（National Institute of Standards and Technology, NIST）於2024年5月21日提出「全球AI安全機構合作策略願景目標」（The United States Artificial Intelligence Safety Institute: Vision, Mission, and Strategic Goals，下稱本策略願景），美國商務部（Department of Commerce）亦於2024年參與AI首爾峰會（AI Seoul Summit）期間對外揭示本策略願景，期能與其他國家攜手打造安全、可靠且可信賴之AI生態系。 由於AI可信賴與否往往取決於安全性，NIST指出當前AI安全所面臨的挑戰包含：一、欠缺對先進AI之標準化衡量指標；二、風險測試、評估、驗證及確效（Test, Evaluation, Validation, and Verification, TEVV）方法不健全；三、欠缺對AI建模後模型架構與模型表現間因果關係的了解；四、產業、公民社會、國內外參與者等在實踐AI安全一事上合作程度極為有限。 為因應上述挑戰並促進AI創新，NIST在本策略願景中擬定以下三大戰略目標：(1)推動AI安全科學發展：為建立安全準則與工具進行技術合作研究，並預先部署TEVV方法，以利評估先進AI模型之潛在風險與應對措施；(2)推展AI安全實務作法：制定並發布不同領域AI風險管理之相關準則與指標，以達到負責任設計、開發、部署與應用AI模型與系統之目的；(3)支持AI安全合作：促進各界採用前述安全準則、工具或指標，並推動全球合作，以發展國際通用的AI安全風險應對機制。
京都議定書效應 核電乾淨能源鹹魚翻身京都議定書實施後，號稱最乾淨能源的核電，反而有利於環境；而台灣燃煤電廠密度列世界前茅，是否有必要再檢討「非核家園」政策，值得觀察。 調查顯示，美國除了將要提前除役的核電廠延役外，芬蘭、韓國、日本都有建新核電廠的計畫，中國大陸更將以一年一座核電的速度，持續到 2020 年，美國奇異公司、法國、甚至韓國都有意分食這塊大餅，就連台灣反核的師法對象德國，都有改弦易轍的打算。 另外，根據國際原子能委員會推估， 2020 年前全球將有超過 60 座的核電廠上線運作，將全球核電廠的數量推升到 500 座，這些核電廠大多分布在亞洲。 目前台灣燃煤發電廠密度名列世界前茅，不論是二氧化碳及汞汙染都十分嚴重，面對京都議定書，燃煤電廠勢必不能再增加，不必將核能發電排除在未來選項中。面對京都議定書所造成的新論點，及國際能源不斷上漲的新趨勢，台灣在六月份全國能源會議中該訂定新的能源比例，不必特別排除核能發電，並發展再生能源，另外，在鼓勵汽電共生政策中，該特別鼓勵天然氣電廠，以減少燃煤電廠比例不斷上升。
美國聯邦地方法院撤銷農業部對基因改造甜菜根之同意案今（2010）年8月中，美國聯邦地方法院法官Jeffrey S. White撤銷了美國農業部（United States Department of Agriculture，簡稱USDA）對基因改造甜菜根（genetically modified sugar beets）之同意案，並發出非永久性之禁制令（non-permanent injunction），從2011年開始禁止商業種植基因改造甜菜根。 事實上，早在去（2009）年由多個環保與消費者團體所提起的訴訟中，White法官即已認定美國農業部並未適切地評估商業化種植基因改造甜菜根所可能帶來的生態影響，特別是遠血緣繁殖（out-crossing）的風險，因此，該同意案實已違反國家環境政策法（National Environmental Policy Act，簡稱 NEPA）之規定，但當時法院並未具體指明補救之辦法；在今年8月上旬的聽證會結束後，White法官認為原告已充分闡明基因改造甜菜根可能對環境造成「無可修補之傷害」，在考量到可能造成之經濟影響後，聯邦地方法院特意裁定允許農民仍可按期收穫尚在成長中之基因改造甜菜根，直至2011年春季始完全禁止。然而，美國農業部則是初步回應，他們打算在明年准許基因改造甜菜根在受到控制的情況下有限度地栽種，持續地努力讓傳統、有機與生物科技生產系統得以共存。 由甜菜根所製取的（食用）糖，大約供應了美國國內50%的需求；其中，從2007年開始種植的基因改造甜菜根，其耕地面積在2010年時已達470,000公頃，佔全美甜菜根收成總數的95%之譜!本案深刻地點出基因改造生物體（Genetically Modified Organism，簡稱GMO）所涉及之安全風險與經濟效益的衡平問題，後續所引發的討論值得我們追蹤下去。