美國商務部國家電信和資訊管理局呼籲透過第三方評測提高AI系統透明度
2024年3月27日，美國商務部國家電信和資訊管理局（National Telecommunications and Information Administration, NTIA）發布「人工智慧問責政策報告」（AI Accountability Policy Report），該報告呼籲對人工智慧系統進行獨立評估（Independent Evaluations）或是第三方評測，期待藉此提高人工智慧系統的透明度。
人工智慧問責政策報告就如何對人工智慧系統進行第三方評測提出八項建議作法，分別如下：
1.人工智慧稽核指引：聯邦政府應為稽核人員制定適合的人工智慧稽核指引，該指引須包含評估標準與合適的稽核員證書。
2.改善資訊揭露：人工智慧系統雖然已經應用在許多領域，但其運作模式尚缺乏透明度。NTIA認為未來可以透過類似營養標籤（Nutrition Label）的方式，使人工智慧模型的架構、訓練資料、限制與偏差等重要資訊更加透明。
3.責任標準（Liability Standards）：聯邦政府應盡快訂定相關責任歸屬標準，以解決現行制度下，人工智慧系統造成損害的法律責任問題。
4.增加第三方評測所需資源：聯邦政府應投入必要的資源，以滿足國家對人工智慧系統獨立評估的需求。相關必要資源如：
(1)資助美國人工智慧安全研究所（U.S. Artificial Intelligence Safety Institute）；
(2)嚴格評估所需的運算資源與雲端基礎設施（Cloud Infrastructure）；
(3)提供獎金和研究資源，以鼓勵參與紅隊測試的個人或團隊；
(4)培養第三方評測機構的專家人才。
5.開發及使用驗證工具：NTIA呼籲聯邦機關開發及使用可靠的評測工具，以評估人工智慧系統之使用情況，例如透明度工具（Transparency Tools）、認驗證工具（Verification and Validation Tools）等。
6.獨立評估：NTIA建議聯邦機關應針對高風險的人工智慧類別進行第三方評測與監管，特別是可能侵害權利或安全的模型，應在其發布或應用前進行評測。
7.提升聯邦機關風險管控能力：NTIA建議各機關應記錄人工智慧的不良事件、建立人工智慧系統稽核的登記冊，並根據需求提供評測、認證與文件紀錄。
8.契約：透過採購契約要求政府之供應商、承包商採用符合標準的人工智慧治理方式與實踐。
NTIA將持續與利害關係各方合作，以建立人工智慧風險的問責機制，並確保該問責報告之建議得以落實。
陳郁潔
副法律研究員 編譯整理
NATIONAL TELECOMMUNICATIONS AND INFORMATION ADMINISTRATION, NTIA calls for audits and investments in trustworthy AI systems (Mar. 27, 2024), https://www.ntia.gov/press-release/2024/ntia-calls-audits-and-investments-trustworthy-ai-systems (last visited April 26, 2024).
National Telecommunications and Information Administration, FACT SHEET: NTIA Urges Policy Changes to Boost Accountability and Trustworthiness in Artificial Intelligence Systems (Mar. 27, 2024), https://www.ntia.gov/other-publication/2024/fact-sheet-ntia-artificial-intelligency-policy-accountability (last visited April 26, 2024).
美國財政部投資安全辦公室發布有關對外投資審查議題的法規預告 資訊工業策進會科技法律研究所 2024年09月16日 隨著地緣政治局勢升溫，國際主要國家為強化技術保護，並防止資源持續流入國族國家敵對勢力（Nation-state adversaries），有研議新增「對外投資審查」為監管工具的趨勢，例如歐盟執委會（European Commission）於2024年1月發布「對外投資白皮書」（White Paper on Outbound Investments），以及美國總統拜登於2023年8月9日發布《第14105號行政命令》（Executive Order 14105，以下簡稱《對外投資命令》），確立美國應增設對外投資審查制度之目標。 壹、事件摘要 為了落實《對外投資命令》，美國財政部（Department of the Treasury）投資安全辦公室（Office of Investment Security）於2024年7月5日發布「有關美國於關切國家投資特定國家安全技術與產品」的法規預告（Notice of Proposed Rulemaking：Provisions Pertaining to U.S. Investments in Certain National Security Technologies and Products in Countries of Concern，以下簡稱法規預告），將半導體與微電子、量子資訊技術以及人工智慧列為三大目標監控領域。 依據法規預告，未來「美國人」（U.S. Person）若從事涉及「特定外國人」（Covered Foreign Person）的三大「特定領域活動」（Covered Activity）投資交易，除合乎例外交易（Excepted Transactions）情形外，皆屬未來對外投資審查法規的管轄範圍。 貳、重點說明 以下簡介法規預告的重點規範內容： 一、三大特定領域活動：包含半導體與微電子、量子資訊技術以及人工智慧三個領域。 二、美國人：指美國公民、美國法定永久居留權人、任何依照美國法律設立或受美國管轄的法人實體（Entity），及任何在美國境內的自然人。 三、關切國家：指中國大陸，並包含香港及澳門地區。 四、特定外國人：指「屬於關切國家的個人或法人實體，並從事三大特定領域活動者」，具體而言包含關切國家公民或法定永久居留權人、政府單位或人員、依關切國家法律設立的法人實體、總部位於關切國家的法人實體等。 五、雙軌制：法規預告將對外投資分為兩大交易類別，即「禁止交易」（Prohibited Transactions）及「通報交易」（Notifiable Transactions）。原則上投資若涉及三大特定領域活動且屬於法規預告指定之「先進技術項目」者，為禁止交易；未涉及先進技術項目，則屬通報交易。 六、半導體領域之禁止交易： 鑒於半導體產業對於我國影響重大，且亦為我國管制重點項目，以下簡要說明半導體領域之禁止交易： （一）先進設計：禁止任何涉及超出美國《出口管制規則》（Export Administration Regulation, EAR）的「出口管制分類代碼」（Export Control Classification Number, ECCN）3A090.a技術參數，或可於4.5克耳文（Kelvin）以下溫度運作的半導體先進設計相關投資。ECCN 3A090.a技術參數係指半導體「總處理效能」（Total Processing Performance, TPP）為4800以上；或TPP為1600以上且「性能密度」（Performance Density, PD）為5.92以上者。 （二）先進製造： 禁止涉及以下項目的先進半導體製造相關投資： 1.使用非平面晶體管架構（non-planar transistor architecture）或16奈米、14奈米或以下製程技術的邏輯晶片。 2.具有128層以上的快閃（NOT-AND）記憶半導體。 3.使用18奈米以下半週距製程技術的動態隨機存取記憶體（dynamic random-access memory）晶片。 4.使用鎵化合物（gallium-based compound）的化合物半導體。 5.使用石墨稀電晶體（graphene transistors）或奈米碳管（carbon nanotubes）的半導體。 6.能於4.5克耳文以下溫度運行的半導體。 （三） 先進封裝：法規預告禁止任何使用先進封裝技術的半導體封裝相關投資。先進封裝係指「以2.5D及3D進行半導體封裝」，例如透過矽穿孔（through-silicon vias）、黏晶或鍵合技術（die or wafer bonding）、異質整合等先進技術進行半導體封裝。 （四） 電子設計自動化軟體（electronic design automation software，以下簡稱EDA軟體）：禁止開發、生產用於先進半導體設計或先進封裝的任何EDA軟體。 七、不採取逐案審查模式：法規預告不採取逐案審查模式，而係由美國人自行判斷投資類型為禁止或通報交易。 八、通報程序：原則採取「事後通報」模式，美國人應於通報交易完成日（completion date）後的30個日曆天（calendars day）內，透過財政部對外投資安全計畫（Department of the Treasury’s Outbound Investment Security Program）網站進行通報，並應將相關需求文件提供予財政部，如投資交易雙方的交易後組織結構圖（post-transaction organizational chart）、交易總價值及其計算方式、交易對價描述、交易後對特定外國人的控制狀況等。 九、例外交易： 法規預告的例外交易主要包含兩大類別，分述如下： （一） 技術不當外流風險較低的例外交易：某些交易類型的技術不當移轉風險較低，若實質上亦未賦予美國人超出「標準少數股東保護範圍之權限」（rights beyond standard minority shareholder protections），則此種投資即可排除於法規預告外，例如於公開交易市場的證券買賣、買斷關切國家法人實體的所有權，以及不取得管理決策權或出資金額低於100萬美元的有限合夥投資等。 （二） 基於其他外交、政治因素的例外交易：若交易發生於美國境外，且經財政部部長認為該國或地區已具備足以應對國安威脅的措施，或經財政部認定為對國家安全有利的交易，皆可排除於法規預告的管轄之外。 參、事件評析 美國財政部發布對外投資的法規預告，顯示出美國政府認為既有技術管制措施，如出口管制、營業秘密及對內投資審查等，已不足以涵蓋對外投資所生之技術外流風險，且對外投資若涉及關鍵領域的先進技術，所帶來的無形技術移轉利益，可能遠大於投資資金本身。 我國基於兩岸情勢及國安考量，自1992年以來即透過《臺灣地區與大陸地區人民關係條例》第35條，就赴中國大陸之投資進行審查。隨著地緣政治複雜化，加諸我國處於半導體等關鍵產業供應鏈的重要地位，我國應持續關注及研析美國等國家之對外投資審查制度發展，以利定期檢視相關機制的妥適性，並達到維護產業競爭力及防範先進技術遭到不當外流之目標。
美國聯邦航空總署公布《無人機遠端識別最終規則》美國聯邦航空總署（Federal Aviation Administraiton, FAA）於2020年12月28日公布「無人機遠端識別最終規則（Final Rule on Remote Identification of Unmanned Aircraft）」，針對250克以上無人機的遠端身分識別操作規則進行規範： (1)標準配備有遠端識別的無人機： 無人機需透過wifi或藍芽等技術廣播（broadcast）其遠端識別資訊，包含無人機ID，即無人機序號（serial number）或交談識別碼（session ID）；無人機的速度、經緯度和海拔高度；控制站的經緯度和海拔高度；緊急狀況的狀態和時間戳記（time mark）。該規則要求無人機廣播範圍內大多數的個人無線裝置（wireless device）都可取得無人機的遠端識別訊息，但序號、交談識別碼以及註冊資料庫僅限FAA和被授權人員可於特定情況下取得。 (2)額外加裝遠端識別廣播模組的無人機： 廣播模組可能為與無人機連線的獨立裝置，或以加裝於無人機內部的形式存在，此類無人機必須於視距內操作，並透過wifi或藍芽等技術廣播其遠端識別資訊，包含模組的序號；無人機的速度、經緯度和海拔高度；起飛地點的經緯度、海拔高度和時間戳記。 (3)於FAA認可之識別區域（FAA-Recognized Identification Areas, FRIA）中飛行： 在FRIA區域中，無人機可不具備遠端識別飛行，但無人機操作需處於視距內與FRIA區域界線內。 該最終規則已送至美國聯邦公報辦公室（Office of the Federal Register），且會在公告後60天生效，預計於2021年1月公告。
歐洲藥品管理局更新利益衝突規範歐洲藥品管理局（The European Medicines Agency，EMA）於3月底至6月初陸續發布四份利益衝突範。包括「處理管理董事會利益衝突政策方針」（European Medicines Agency Policy on the Handling of Conflicts of Interests of the Management Board），將董事會自過去的利益衝突獨立出來單獨規範；並針對違反利益聲明揭露訂立「EMA科學委員會和專家違反利益衝突信賴程序」（European Medicines Agency Breach of Trust Procedure on Conflicts of Interests for Scientific Committee Members and Experts），和「EMA管理董事會違反利益衝突信賴程序」（European Medicines Agency Breach of Trust Procedure on Conflicts of Interests for Management Board Members）；以及修定「處理管理董事會、科學委員會成員和專家利益衝突政策方針」（European Medicines Agency Breach of Trust Procedure on Conflicts of Interests for Scientific Committee Members and Experts）。 針對專家和管理董事會所制定的處理利益衝突規範，主要目的是確保兩者在參與EMA的活動時，不會發生與醫藥業者相關聯的利益衝突，影響EMA公正性。觀察上述規範，可以發現EMA對於專家和管理董事會兩者的規範原則相當一致，皆聚焦於增進利益衝突處理過程的強健性（robustness）、有效性（efficiency）和透明性（transparency）。分別規範的原因在於兩者功能上的區別，分述如下： 1. 專家規範層面，有鑒於在先進醫藥領域中的專家有限，缺少可替代性，因此規範目的在於兼顧公正性與專業之間的平衡； 2. 管理董事會層面，由於其主要任務為監管和決策，規範上區別成員所參與活動的程度和範圍做更為細部的規範，與專家不同，並非有利益衝突就必須迴避。 為進一步加強EMA處理利益衝突的強健性，EMA科學委員會和專家，以及管理董事會違反利益衝突信賴程序的主要規範內容為專家和管理董事會成員作出不實利益聲明時，EMA的處理程序。可區分為調查、聽證與修正三個階段，分述如下： 1.調查階段，首先調查系爭當事人是否為不實之利益聲明後，評估是否啟動違反利益衝突信賴程序； 2.聽證階段，召開聽證會，聽證系爭當事人陳述觀點。倘若確定違反利益衝突信賴，系爭當事人即自EMA除名； 3.修正階段，EMA將審查系爭當事人曾經參與科學審查案件的公正性，並評估是否進行補救措施。 雖然EMA對於專家是否確實聲明利益缺少強制力，然而仍能透過新的利益衝突機制設計，看出EMA對完善利益衝突規範的企圖，值得近來正在修訂利益衝突機制的我國學習。
日本經產省預計向國會提出「不正競爭防止法」修正草案進行審議