歐盟執委會公布《可信賴的AI政策及投資建議》
歐盟執委會於2018年6月成立人工智慧高級專家組(The High-Level Expert Group on Artificial Intelligence, AI HLEG)，主要負責兩項工作：(1)人工智慧倫理準則；(2)人工智慧政策與投資建議。並於2019年4月8日提出《可信賴的人工智慧倫理準則》(Ethics Guidelines for Trustworthy AI)，2019年6月公布之《可信賴的AI政策及投資建議》(Policy and Investment Recommendations for Trustworthy Artificial Intelligence)則是人工智慧高級專家組所交付之第二項具體成果。
該報告主要分為兩大部分，首先第一部分是要透過可信賴的人工智慧建立對歐洲之正面影響，內容提及人工智慧應保護人類和社會，並促進歐洲公司各部門利用人工智慧及技術移轉，而公部門則扮演人工智慧增長及創新之催化劑，以確保歐洲具有世界一流之研究能力；第二部分則是影響歐洲各成員國建立可信賴之人工智慧，內容則提及將發展人工智慧相關基礎設施、教育措施、政策規範及資金投資，同時合法、有道德的使用各項數據。
在本報告中關於法規面的建議則是進一步制定政策和監管框架，確保人工智慧在尊重人權、民主及創新下發展，因此將建立人工智慧政策制定者、開發者及用戶間的對話機制，若是遇到將對社會或是人類產生重大影響之敏感性人工智慧系統，除透過歐洲人工智慧聯盟(The European AI Alliance)進行對話之外，也需要在尊重各成員國之語言及文化多樣性下展開協調機制。另外，報告中也特別提到如果政府以「保護社會」為由建立一個普遍的人工智慧監督系統是非常危險的作法，政府應該承諾不對個人進行大規模監視，並在遵守法律及基本權利下進行人工智慧系統之發展。
吳佳琳
高級法律研究員 編譯整理
The High-Level Expert Group on Artificial Intelligence, Policy and Investment Recommendations for Trustworthy Artificial Intelligence, Jun. 2019, https://ec.europa.eu/digital-single-market/en/news/policy-and-investment-recommendations-trustworthy-artificial-intelligence(last visited Jun. 5, 2019).
美國聯邦總務署（General Service Administration）於2024年6月27日發布《新興科技優先審查架構》（Emerging Technologies Prioritization Framework），該架構係為回應拜登總統針對AI安全所提出之第14110號行政命令，而在「聯邦政府風險與授權管理計畫」（Federal Risk and Authorization Management Program，以下簡稱FedRAMP）底下所設置之措施。 一般而言，雲端服務供應商（cloud service providers）若欲將其產品提供予政府單位使用，需依FedRAMP相關規範等候審查。《新興科技優先審查架構》則例外開放，使提供「新興科技」產品之雲端服務供應商得視情況優先審查。 現階段《新興科技優先審查架構》所定義之「新興科技」係為提供下列四種功能的生成式AI技術： 1.聊天介面（chat interface）：提供對話式聊天介面的產品。允許用戶輸入提示詞（prompts），然後利用大型語言模型產出內容。 2.程式碼生成與除錯工具（code generation and debugging tools）：軟體開發人員用來協助他們開發和除錯軟體的工具。 3.圖片生成（prompt-based image generators）：能根據使用者輸入之文字或圖像而產生新圖像或影像的產品。 4.通用應用程式介面（general purpose API）：基於API技術將前述三項功能加以整合的產品。 美國政府為挑選最具影響力的產品，要求雲端服務供應商繳交相關資料以利審查，例如公開的模型卡（model card）。模型卡應詳細說明模型的細節、用途、偏見和風險，以及資料、流程和參數等訓練細節。此外，模型卡應包含評估因素、指標和結果，包括所使用的評估基準。 《新興科技優先審查架構》第一波的申請開放至2024年8月31日，且FedRAMP將於9月30日宣布優先名單。這項措施將使生成式AI技術能夠以更快的速度被導入政府服務之中。
美國國家安全局發布「軟體記憶體安全須知」美國國家安全局（National Security Agency, NSA）於2022年11月10日發布「軟體記憶體安全須知」（“Software Memory Safety” Cybersecurity Information Sheet），說明目前近70%之漏洞係因記憶體安全問題所致，為協助開發者預防記憶體安全問題與提升安全性，NSA提出具體建議如下： 1.使用可保障記憶體安全之程式語言（Memory safe languages）：建議使用C#、Go、Java、Ruby、Rust與Swift等可自動管理記憶體之程式語言，以取代C與C++等無法保障記憶體安全之程式語言。 2.進行安全測試強化應用程式安全：建議使用靜態（Static Application Security Testing, SAST）與動態（Dynamic Application Security Testing, DAST）安全測試等多種工具，增加發現記憶體使用與記憶體流失等問題的機會。 3.強化弱點攻擊防護措施（Anti-exploitation features）：重視編譯（Compilation）與執行（Execution）之環境，以及利用控制流程防護（Control Flow Guard, CFG）、位址空間組態隨機載入（Address space layout randomization, ASLR）與資料執行防護（Data Execution Prevention, DEP）等措施均有助於降低漏洞被利用的機率。 搭配多種積極措施增加安全性：縱使使用可保障記憶體安全之程式語言，亦無法完全避免風險，因此建議再搭配編譯器選項（Compiler option）、工具分析及作業系統配置等措施增加安全性。
瑞士聯邦委員會發布報告推進以數位自決權創建可信賴資料空間瑞士聯邦委員會於2022年3月30日，發布了一份關於推進可信的「資料空間」（Data Spaces）與「數位自決權」（Digital Self-Determination）報告。此份報告旨在強調資料是數位時代下創造價值的基礎，為了更好地運用資料的潛在價值，呼籲各界採用新的資料使用概念，加強資料所有者（Data Owner）或資料控管者（Data Controller）對於資料的控制，以「數位自決權」為核心，透過科學技術與法律制度，進一步為實踐「資料共享」（Data Sharing）提供一個安全、便捷、自主、開放、公平而值得信賴的「資料空間」。 值得注意的是，透過該報告，聯邦委員會指示聯邦外交部（FDFA）與聯邦環境、運輸、能源和通訊部（DETEC）實施多項措施，以期能在2023年6月份之前，制定一部由所有利害關係人參與的可信賴資料空間操作之自願行為準則。 此外，該報告列舉出當下對於充分發揮資料潛力所存在的障礙，包括： 資料愈趨集中於大企業手中，且多基於自身目的而使用。 私人和公共服務的提供者在資料的使用上存在多種障礙，例如：資源不足、缺乏專業知識以及擔心競爭劣勢。 社會對於資料的使用態度轉趨保守，無論是擔心資料被濫用而侵犯隱私，或是缺乏資料共享的動機。 該報告更進一步指出資料流通的跨國性，因而有必要創建值得信賴且國際兼容的資料空間，為此亦須建立可信賴資料空間的國際準則，以在國際間形成法律確定性。 觀諸我國個人資料保護法第1條便明確指出，本法制定的目的不僅是為了保護個人資料以及相應之人格權與隱私權，而是更進一步欲透過個人資料管理制度的建構與落實，健全社會及商業互信，以期達成資料的合理利用、創造價值並促進公共福祉的終極目標。 關於我國的資料共享體制，現階段主要從金融機構間開始萌芽，未來如何以數位自決權為基礎，同時在充分保障資訊安全的前提下，擴及其他產業並接軌國際，有賴更多科技與法制的創造與積累、外國經驗的借鑑以及國際參與，而台灣近日以創始會員身分加入「全球跨境隱私規則論壇」（Global Cross-Border Privacy Rules Forum）即為著例。
美國食品藥物管理局發布《上市後研究及臨床試驗：判定未遵守聯邦食品、藥品和化妝品法案第505(o)(3)(E)(ii)節的正當理由》指引草案美國食品藥物管理局（U.S. Food and Drug Administration, US FDA）於2023年7月14日發布《上市後研究及臨床試驗：判定未遵守聯邦食品、藥品和化妝品法案第505(o)(3)(E)(ii)節的正當理由》（Postmarketing Studies and Clinical Trials: Determining Good Cause for Noncompliance with Section 505(o)(3)(E)(ii) of the Federal Food, Drug, and Cosmetic Act）指引草案，說明FDA如何判定處方藥廠商未遵守上市後要求（Postmarketing Requirements, PMRs）的正當理由。 根據聯邦食品、藥品和化妝品法案（Federal Food, Drug, and Cosmetic Act, FD&C Act）第505(o)(3)節，應完成PMR的廠商必須向FDA更新研究或臨床試驗進度的狀態及時間表，例如：提交最終版本計畫書、完成研究/臨床試驗、提交結案報告。廠商若未向FDA更新上述PMR資訊即違反FD&C Act，除非廠商提出正當理由。 未遵守PMR的正當理由應符合下列三項條件： 一、與錯失時程直接相關的情況。 二、超出廠商的控制範圍。 三、當初制定時間表時無法合理預期的情況。 該指引草案舉例說明可能的正當理由及非正當理由，另建議廠商提交年度報告前主動通報PMR進度的狀態，並在預期錯過時程之前儘快提供理由，亦須採取矯正PMR不合規行為的措施，包括立即制定矯正計畫、主動向FDA通報實際或預期的延誤，以及修訂合理的時間表。未遵守PMR的廠商可能會收到FDA的警告信（Warning Letter）或無標題信（Untitled Letter）、不當標示指控（Misbranding Charges）和民事罰款，FDA將根據廠商是否採取矯正措施來確定罰金。 「本文同步刊載於 stli生醫未來式 網站（https://www.biotechlaw.org.tw）」