美國「人工智慧應用管制指引」
美國白宮科學與技術政策辦公室（The White House’s Office of Science and Technology Policy , OSTP）於2020年1月9日發布「人工智慧應用管制指引」（Guidance for Regulation of Artificial Intelligence Application），為美國政府機關起草人工智慧規範並進行管制時提供指引，該指引內要求各機關之規範應遵循以下10項人工智慧原則：
一.公眾對AI之信任：政府對AI之管制或其他措施應促進AI之可靠性、健全性，且於應用上應具備可信性。
二.公共參與：政府應提供機會讓利害關係人參與AI管制規範立法程序。
三.科學實證與資訊品質：科學實證與資訊品質：政府機關發展AI之相關技術資訊，應透過公開且可驗證之方式提供給大眾參考，以提高大眾對AI之信任與協助政策制定。
四.風險分析與管理：應採取以風險為基礎之分析評估方法，確認哪些風險係可接受之風險，或那些風險代表無法接受之損害或所失利易大於預期利益。
五.利益與成本：政府於擬定相關規範時，應小心評估AI對於整體社會之利益，與預期外之效果。
六.彈性：法規應持續滾動檢視與調修以因應AI之創新應用。
七.公平且無歧視：政府應針對AI之應用與決策，考量公平與無歧視相關議題。
八.揭露與透明：透明度與揭露程序之建立可提升公眾對AI應用之信任。
九.安全：政府應特別注意AI系統內所儲存或傳輸資訊之安全與相關安全維護控制措施。
十.跨機關合作：政府各部會或機構間應相互合作與分享經驗，以確保AI相關政策之一致性與可預測性。
本文為「經濟部產業技術司科技專案成果」
余和謙
法律研究員 編譯整理
余和謙，歐盟執委會提出「具可信度之人工智慧倫理指引」，資策會科技法律研究所，https://stli.iii.org.tw/article-detail.aspx?no=67&tp=5&d=8236 （最後瀏覽日：2020/02/15）
2024年3月27日，美國商務部國家電信和資訊管理局（National Telecommunications and Information Administration, NTIA）發布「人工智慧問責政策報告」（AI Accountability Policy Report），該報告呼籲對人工智慧系統進行獨立評估（Independent Evaluations）或是第三方評測，期待藉此提高人工智慧系統的透明度。 人工智慧問責政策報告就如何對人工智慧系統進行第三方評測提出八項建議作法，分別如下： 1.人工智慧稽核指引：聯邦政府應為稽核人員制定適合的人工智慧稽核指引，該指引須包含評估標準與合適的稽核員證書。 2.改善資訊揭露：人工智慧系統雖然已經應用在許多領域，但其運作模式尚缺乏透明度。NTIA認為未來可以透過類似營養標籤（Nutrition Label）的方式，使人工智慧模型的架構、訓練資料、限制與偏差等重要資訊更加透明。 3.責任標準（Liability Standards）：聯邦政府應盡快訂定相關責任歸屬標準，以解決現行制度下，人工智慧系統造成損害的法律責任問題。 4.增加第三方評測所需資源：聯邦政府應投入必要的資源，以滿足國家對人工智慧系統獨立評估的需求。相關必要資源如： (1)資助美國人工智慧安全研究所（U.S. Artificial Intelligence Safety Institute）； (2)嚴格評估所需的運算資源與雲端基礎設施（Cloud Infrastructure）； (3)提供獎金和研究資源，以鼓勵參與紅隊測試的個人或團隊； (4)培養第三方評測機構的專家人才。 5.開發及使用驗證工具：NTIA呼籲聯邦機關開發及使用可靠的評測工具，以評估人工智慧系統之使用情況，例如透明度工具（Transparency Tools）、認驗證工具（Verification and Validation Tools）等。 6.獨立評估：NTIA建議聯邦機關應針對高風險的人工智慧類別進行第三方評測與監管，特別是可能侵害權利或安全的模型，應在其發布或應用前進行評測。 7.提升聯邦機關風險管控能力：NTIA建議各機關應記錄人工智慧的不良事件、建立人工智慧系統稽核的登記冊，並根據需求提供評測、認證與文件紀錄。 8.契約：透過採購契約要求政府之供應商、承包商採用符合標準的人工智慧治理方式與實踐。 NTIA將持續與利害關係各方合作，以建立人工智慧風險的問責機制，並確保該問責報告之建議得以落實。
英國下議院正在二讀審查商業及貿易部提交之數位市場、競爭和消費者法案英國商業及貿易部（Department for Business and Trade）於2023年4月25日向下議院提交《數位市場、競爭和消費者法案》（Digital Markets, Competition and Consumers Bill，以下稱DMCC法案），該法案提議對既有的企業競爭與消費者權益規範進行調整，以促進數位市場之競爭及創新。DMCC法案正在下議院進行二讀中，法案架構參考澳洲與歐盟相關制度規範，期望能藉政府干預而調解大型網路平台分別與小型媒體、消費者間議價能力失衡及資訊不對稱問題。 DMCC法案將授權英國競爭暨市場管理署（Competition and Markets Authority）及其轄下數位市場部（Digital Markets Unit）監管與確保數位市場之開放性，並強化消費者權益的保護。法案主要分為三部分： 一、更新數位市場制度：數位市場部將依據企業的商業模式、全球或英國營業總額與市場影響力等面向，判斷該企業是否具策略市場地位（Strategic Market Status，以下稱SMS），並為SMS企業設定行為準則，避免其策略或活動影響市場自由。 二、公平競爭：DMCC法案調整《競爭法》（Competition Act 1998）涵蓋範圍，自地域管轄擴張為對英國貿易產生直接、實質與可預見影響的境內、外行為；同時加強競爭暨市場管理署調查反競爭行為與執法權限，包含扣押文件及證據、面談案件任何關係人。 三、強化消費者保護：DMCC法案將替代部分《保護消費者免受不公平交易條例》（Consumer Protection from Unfair Trading Regulations 2008），且針對線上交易提供新的契約規則，賦予競爭暨市場管理署調查侵權行為之權力。 DMCC法案正在下議院審查中，但草案內容已引起各方關注，正式通過前仍可能因社會各方利益團體之遊說、磋商而修改條文內容。
世界衛生組織公布「人工智慧於健康領域之倫理與治理」指引世界衛生組織（World Health Organization, WHO）於2021年6月底公布「人工智慧於健康領域之倫理與治理」（Ethics and governance of artificial intelligence for health）指引。目前人工智慧於在改善診斷、治療、健康研究、藥物開發及公共衛生等健康領域皆有廣泛之應用與前景，而該指引首先指出人工智慧應用於健康領域中最相關之法律與政策外，並強調相關應用皆須以「倫理」及「人權」作為相關技術設計、部署與使用之核心，最後則提出人工智慧應用於健康領域之六大關鍵原則： 一、保護人類自主性（autonomy）：本指引認為人類仍應該掌有關於醫療保健系統之所有決定權，而人工智慧只是輔助功能，無論是醫療服務提供者或患者皆應在知情之狀態下作決定或同意。 二、促進人類福祉、安全與公共利益：人工智慧不應該傷害人類，因此須滿足相關之事前監管要求，同時確保其安全性、準確性及有效性，且其不會對患者或特定群體造成不利影響。 三、確保透明度、可解釋性與可理解性（intelligibility）：開發人員、用戶及監管機構應可理解人工智慧所作出之決定，故須透過記錄與資訊揭露提高其透明度。 四、確立責任歸屬（responsibility）與問責制（accountability）：人工智慧在醫學中所涉及之內部責任歸屬相當複雜，關於製造商、臨床醫師及病患間相關之問責機制之設計將會成為各國之挑戰，故須存在有效之機制來確保問責，也應避免責任分散之問題產生。 五、確保包容性（inclusiveness）與衡平性（equity）：應鼓勵應用於健康領域之人工智慧能被廣泛且適當地使用，無論年齡、性別、收入及其他特徵而有差別待遇，且應避免偏見之產生。 六、促進具適應性（responsive）及可持續性之人工智慧：人工智慧應符合設計者、開發者及用戶之需求與期待，且能充分具適應性之回應且符合使用環境中之要求。
美國食品及藥物管理局推動細胞治療新指引草案增加「傘狀試驗」加速細胞產品開發美國食品及藥物管理局（U.S. Food and Drug Administration, USFDA）於2021年9月30日發佈了最新細胞與基因治療指南草案，提出細胞治療可透過「傘狀試驗」（umbrella trial）機制，使細胞治療於同一個臨床試驗計畫之下，針對同一類疾病，可進行兩種以上細胞治療技術試驗，來加速細胞治療臨床開發速度。 每個癌症病患實際上會有不同的基因變異，即使是相同類型的癌症也少有完全一樣的疾病機制（disease mechanism），因此，傳統臨床試驗僅能評估疾病機制較大族群的療效，但不同基因型的受試者對於相同藥物的反應可能有所差異，故難以預測病人是否將受益，亦或產生嚴重副作用，導致治癒效果不如預期。且現行的臨床治療規範中，即便醫師知道某標靶治療藥物對於特定基因體變異有效，但若此藥物未經USFDA核准於該腫瘤類型的適應症，醫師也無法使用。因此，透過傘狀實驗可提高細胞產品研發的靈活性與效率，並降低大量重複性工作，例如重複進行臨床前批次試驗、製程驗證、毒性測試…等等。若發生安全性疑慮，USFDA可針對個別研究組進行終止實驗，而不須將全部的臨床試驗計畫終止。 台灣未來可考慮將傘狀試驗納入細胞治療臨床試驗設計模式，並參考USFDA審核方式與標準，以加速台灣細胞治療或精準醫療發展。