美國商務部國家電信和資訊管理局呼籲透過第三方評測提高AI系統透明度
2024年3月27日，美國商務部國家電信和資訊管理局（National Telecommunications and Information Administration, NTIA）發布「人工智慧問責政策報告」（AI Accountability Policy Report），該報告呼籲對人工智慧系統進行獨立評估（Independent Evaluations）或是第三方評測，期待藉此提高人工智慧系統的透明度。
人工智慧問責政策報告就如何對人工智慧系統進行第三方評測提出八項建議作法，分別如下：
1.人工智慧稽核指引：聯邦政府應為稽核人員制定適合的人工智慧稽核指引，該指引須包含評估標準與合適的稽核員證書。
2.改善資訊揭露：人工智慧系統雖然已經應用在許多領域，但其運作模式尚缺乏透明度。NTIA認為未來可以透過類似營養標籤（Nutrition Label）的方式，使人工智慧模型的架構、訓練資料、限制與偏差等重要資訊更加透明。
3.責任標準（Liability Standards）：聯邦政府應盡快訂定相關責任歸屬標準，以解決現行制度下，人工智慧系統造成損害的法律責任問題。
4.增加第三方評測所需資源：聯邦政府應投入必要的資源，以滿足國家對人工智慧系統獨立評估的需求。相關必要資源如：
(1)資助美國人工智慧安全研究所（U.S. Artificial Intelligence Safety Institute）；
(2)嚴格評估所需的運算資源與雲端基礎設施（Cloud Infrastructure）；
(3)提供獎金和研究資源，以鼓勵參與紅隊測試的個人或團隊；
(4)培養第三方評測機構的專家人才。
5.開發及使用驗證工具：NTIA呼籲聯邦機關開發及使用可靠的評測工具，以評估人工智慧系統之使用情況，例如透明度工具（Transparency Tools）、認驗證工具（Verification and Validation Tools）等。
6.獨立評估：NTIA建議聯邦機關應針對高風險的人工智慧類別進行第三方評測與監管，特別是可能侵害權利或安全的模型，應在其發布或應用前進行評測。
7.提升聯邦機關風險管控能力：NTIA建議各機關應記錄人工智慧的不良事件、建立人工智慧系統稽核的登記冊，並根據需求提供評測、認證與文件紀錄。
8.契約：透過採購契約要求政府之供應商、承包商採用符合標準的人工智慧治理方式與實踐。
NTIA將持續與利害關係各方合作，以建立人工智慧風險的問責機制，並確保該問責報告之建議得以落實。
陳郁潔
副法律研究員 編譯整理
NATIONAL TELECOMMUNICATIONS AND INFORMATION ADMINISTRATION, NTIA calls for audits and investments in trustworthy AI systems (Mar. 27, 2024), https://www.ntia.gov/press-release/2024/ntia-calls-audits-and-investments-trustworthy-ai-systems (last visited April 26, 2024).
National Telecommunications and Information Administration, FACT SHEET: NTIA Urges Policy Changes to Boost Accountability and Trustworthiness in Artificial Intelligence Systems (Mar. 27, 2024), https://www.ntia.gov/other-publication/2024/fact-sheet-ntia-artificial-intelligency-policy-accountability (last visited April 26, 2024).
澳洲隱私保護辦公室(Office of the Australian Information Commissioner, OAIC)專員今年(2016)4月發表聲明認為，在符合特定條件之情形下，亦即，去識別化過程符合OAIC認定之最高標準時，去識別化後之資料不適用「1988隱私法案」(Privacy Act)；澳洲企業組織目前所進行之個人資料去識別化，是否已符合「1988隱私法案」之規範要求，OAIC仍持續關注。OAIC近期準備提出去識別化認定標準之指引草案。 澳洲「1988隱私法案」揭示了「澳洲隱私原則」(Australian Privacy Principles, APPs)，就非公務機關蒐集、利用、揭露與保存設有規定，APPs第6條更明文限制非公務機關揭露個人資料，於特定情況下，APPs允許個人資料經去識別化後揭露。例如，APPs第11.2條規定，若非公務機關當初之蒐集、利用目的已消失，須以合理方式將個人資料進行銷毀或去識別化。 如非公務機關係合法保有個人資料，即無銷毀或去識別化義務；此外，若所保有個人資料屬健康資料者，因係澳洲政府機關以契約方式委託非公務機關，非公務機關亦無銷毀或去識別化義務。應注意者，APPs原則上禁止非公務機關基於學術研究、公共衛生或安全之目的，主動蒐集個人健康資料 (APPs第16B(2)條)，同時亦禁止基於學術研究、公共衛生或安全目的，就保有之個人資料進行去識別化 (APPs第16B(2)(b)條)。如非基於前述目的，且符合APPs第16B(2)條之要件者，非公務機關始得基於研究、公共衛生或安全目的蒐集個人健康資料 (APPs第95A條)。 其他如「稅號指引」(Tax File Number Guidelines)、隱私專員所提「2014隱私(財務信用有關研究)規則」(Privacy Commissioner’s Privacy (Credit Related Research) Rule 2014) 等，均就個人資料去識別化訂有相關規範。 未來以資料為導向之經濟發展，將需堅實的隱私保護作為發展基礎，澳洲去識別化個人資料認定標準之提出，以及標準之認定門檻，殊值持續關注。
德國禁種MON810爭議，行政法院裁定有理由，支持主管機關禁種決定跨國農業生技公司Monsanto研發的MON810品系抗蟲基因改造玉米，於今（2009）年4月中旬遭到德國農業生技的主管機關－聯邦營養、農業與消費者保護局（Bundesministerium für Ernährung, Landwirtschaft und Verbraucherschutz, BMELV）援引歐盟基因改造生物環境釋出指令（EU-Freisetzungsrichtlinie）中的防衛條款，加以禁種。 雖然Monsanto隨即對BMELV此項決定提出行政訴訟，但Braunschweig行政法院在5月初作出的暫時性裁定，支持了BMELV此項決定。法院基於兩大理由，裁定BMELV之禁種決定並非無據：（1）只要有新的或進一步的資訊出現，支持基因改造作物可能會對人體或動物健康造成損害，即可支持主管機關作出禁止種植已經取得歐盟上市許可的基因改造作物之決定之論據，不需要存在有必然會有風險的科學知識。（2）據此論據進行風險調查及風險評估，乃主管機關之執掌，主管機關對此有裁量權（Beurteilungsspielraum），從而，法院介入審查該行政決定的重點，在於主管機關是否已為充分的風險調查、有無恣意論斷風險。本案目前尚非終局之決定，Monsanto仍可對於此項裁定提出抗告。 在歐盟，基因改造生物的上市需透過歐盟程序為之，一旦歐盟執委會允許某一基因改造生物的上市，該基因改造生物原則上即可在全體歐盟會員國推廣銷售，包括種植。唯歐盟環境釋出指令例外容許會員國得於一定條件下，援引防衛條款主張已通過歐盟審查的基因改造生物，對於其境內環境或人體與動植物健康有負面影響，從而禁止特定已取得歐盟上市許可的基因改造生物於其境內流通。防衛條款的動用屬例外情形，且須定期接受歐盟層級的審查。
何謂「歐盟防禦基金」?歐盟防禦基金（European Defence Fund）係於2016年，由歐盟執委會主席Juncker所宣布成立，旨在促進成員國之技術與設備合作、鼓勵中小企業參與項目，促進突破性創新（breakthrough innovation）解決方案，俾達協調、供給並擴大國防設施投資、捍衛歐盟戰略自主之目的。 歐盟防禦基金之進程目前可分為兩階段。第一階段係於2017-2020年，透過「國防研究籌備行動」與「歐盟防禦工業發展項目」等兩個項目，對歐盟成員國間之防禦合作進行測試。其後，為進一步強化戰略自主與抵禦之能力，歐盟執委會於2018年6月13日決議增加基金2021-2027年之預算至130億歐元，與成員國共同進行防禦科技與設備之研發，是為第二階段。 於130億歐元之預算中，89億歐元將以共同投資之方式，讓歐盟與成員國共同投入發展計畫，包含原型（prototype）之開發（占20%）、認證與測試（占80%）。而為確保、鼓勵研發成果之可用性，共同投資係以成員國承諾採購研發成果為前提。具體而言，此一共同投資計畫具下述特點： 投資項目需有助於歐盟國防安全、符合《共同安全與防禦政策》（Common Security and Defence Policy）之優先項目，並經其成員國與NATO等國際組織同意。 以突破性創新為目標，提撥5%的資金專用於破壞式創新技術和設備之研發，以提升、鞏固歐盟長期之技術領先地位。 合作項目需有三個以上、來自不同成員國之參與者；並以優惠利率為誘因，吸引中小型企業跨境參與。 參與之成員國需承諾採購最終之研發成果。
歐洲專利局闡明CRISPR專利優先權認定的裁決理由歐洲專利局（European Patent Office，下簡稱EPO）於2020年11月發布了裁定撤銷歐洲專利EP2771468的書面理由。EP2771468是the Broad Institute of Massachusetts Institute of Technology（以下簡稱Broad Institute）持有的一項關於CRISPR（clustered, regularly interspaced, short palindromic repeats）技術的專利。2020年1月，EPO的上訴委員會（Board of Appeal，下簡稱BoA）裁定在該專利的優先權要求被駁回後，專利應予以撤銷。 CRISPR是相對簡單但功能強大的基因編輯工具，使科學家能夠更改DNA序列並修飾基因功能。它具有改變醫學、診斷、治療和預防多種疾病的潛力，已被用於開發診斷試劑盒，可用於檢測傳染病，例如Covid-19。該技術預估在未來五年的價值將超過50億美元。 一般而言，專利申請日是評估專利有效性的日期，但有的專利可能會要求已揭露該發明之較早專利申請的申請日作為優先權日。在本案裡，專利的優先權日期尤為重要，因為還有許多其他機構和研究人員聲稱在Broad Institute之前就已經發現CRISPR技術。 在2018年，EPO的異議庭（Opposition Division）認為EP2771468專利無權享有部分專利的優先權。因為其主張優先權的美國專利臨時案共有四名申請人，但在EPO提交專利時，有一位申請人未包含其中。因此，異議庭認為，該專利不能主張美國專利的優先權，導致EP2771468因為在申請日前有其他公開文獻而喪失新穎性。 Broad Institute提出上訴，但BoA駁回了上訴，並指出需要所有申請人在初始申請和後續申請中都列出才能享有優先權。 由於優先權制度是在申請專利保護時常會運用的布局手段，後續在運用優先權時，應特別注意申請人的一致性，避免因優先權無法主張而影響專利的有效性。 「本文同步刊登於TIPS網站（https://www.tips.org.tw）」