美國商務部國家電信和資訊管理局呼籲透過第三方評測提高AI系統透明度
2024年3月27日，美國商務部國家電信和資訊管理局（National Telecommunications and Information Administration, NTIA）發布「人工智慧問責政策報告」（AI Accountability Policy Report），該報告呼籲對人工智慧系統進行獨立評估（Independent Evaluations）或是第三方評測，期待藉此提高人工智慧系統的透明度。
人工智慧問責政策報告就如何對人工智慧系統進行第三方評測提出八項建議作法，分別如下：
1.人工智慧稽核指引：聯邦政府應為稽核人員制定適合的人工智慧稽核指引，該指引須包含評估標準與合適的稽核員證書。
2.改善資訊揭露：人工智慧系統雖然已經應用在許多領域，但其運作模式尚缺乏透明度。NTIA認為未來可以透過類似營養標籤（Nutrition Label）的方式，使人工智慧模型的架構、訓練資料、限制與偏差等重要資訊更加透明。
3.責任標準（Liability Standards）：聯邦政府應盡快訂定相關責任歸屬標準，以解決現行制度下，人工智慧系統造成損害的法律責任問題。
4.增加第三方評測所需資源：聯邦政府應投入必要的資源，以滿足國家對人工智慧系統獨立評估的需求。相關必要資源如：
(1)資助美國人工智慧安全研究所（U.S. Artificial Intelligence Safety Institute）；
(2)嚴格評估所需的運算資源與雲端基礎設施（Cloud Infrastructure）；
(3)提供獎金和研究資源，以鼓勵參與紅隊測試的個人或團隊；
(4)培養第三方評測機構的專家人才。
5.開發及使用驗證工具：NTIA呼籲聯邦機關開發及使用可靠的評測工具，以評估人工智慧系統之使用情況，例如透明度工具（Transparency Tools）、認驗證工具（Verification and Validation Tools）等。
6.獨立評估：NTIA建議聯邦機關應針對高風險的人工智慧類別進行第三方評測與監管，特別是可能侵害權利或安全的模型，應在其發布或應用前進行評測。
7.提升聯邦機關風險管控能力：NTIA建議各機關應記錄人工智慧的不良事件、建立人工智慧系統稽核的登記冊，並根據需求提供評測、認證與文件紀錄。
8.契約：透過採購契約要求政府之供應商、承包商採用符合標準的人工智慧治理方式與實踐。
NTIA將持續與利害關係各方合作，以建立人工智慧風險的問責機制，並確保該問責報告之建議得以落實。
陳郁潔
副法律研究員 編譯整理
NATIONAL TELECOMMUNICATIONS AND INFORMATION ADMINISTRATION, NTIA calls for audits and investments in trustworthy AI systems (Mar. 27, 2024), https://www.ntia.gov/press-release/2024/ntia-calls-audits-and-investments-trustworthy-ai-systems (last visited April 26, 2024).
National Telecommunications and Information Administration, FACT SHEET: NTIA Urges Policy Changes to Boost Accountability and Trustworthiness in Artificial Intelligence Systems (Mar. 27, 2024), https://www.ntia.gov/other-publication/2024/fact-sheet-ntia-artificial-intelligency-policy-accountability (last visited April 26, 2024).
美國網際網路安全聯盟（Internet Security Alliance，ISA）日前公佈一份新的報告，期使歐巴馬政府之「網路空間政策檢討」（Cyberspace Policy Review）能更進一步的落實。 網路安全聯盟主席Larry Clinton指出：「ISA對歐巴馬政府的網路安全政策表示支持，而目前民間機構需要設計一套規範，去落實ISA與政府對於網路安全重要議題共通之協議。本次所提出的報告，就是為了要提供能解決此一關鍵問題的架構。」 此份報告之標題為「利用ISA之社會契約模型執行歐巴馬政府之網路安全策略」（Implementing the Obama Cyber Security Strategy via the ISA Social Contract Model），而此報告強調必須重視網路安全的經濟意義。 Clinton認為，一旦討論到網路安全議題，會發現所有的經濟因素都對攻擊者有利，攻擊者總是能以簡單、成本低廉之攻擊方式得到巨大的利益。相對地，防守者（網路使用者）卻往往要付出高昂的成本。需要防護的領域太廣，而投資的回收通常很有限。必須從經濟的角度去平衡考慮成本與回收，才能建立具實效性且持續穩固的網路安全系統。 此份報告包含下列事項之架構：1.在商業計劃層面，創設政府與民間機構的合作夥伴關係，以強化網路安全；2.提出關於網路安全的國際議題；3.維持全球IT產業供應鏈的安全；4.建立新式資訊分享範例。 上述架構均依循ISA之網路安全社會契約模型，此一模型是源自於20世紀早期美國政府為了提供民間企業電信與電力服務，所成功建立之夥伴關係。
Other Transaction(OT)於新創政府採購之應用今(2018)年2月，一家成立於2013年、位於美國維吉尼亞州的雲端策略服務公司REAN Cloud Llc.以其他交易(Other Transaction, OT)模式獲得了美國國防部(Department of Defense)5年合計9.5億美金的合約，讓OT自2016年10 U.S. Code §2371b正式生效進一步確認美國國防部針對原型(Prototype)及其後續之產品開發適用OT以來[1]，再次引起討論。 OT源於冷戰時期的美國，主要用於讓聯邦政府部門取得尖端國防技術的研究與發展(Research and Development, R & D)成果和原型。OT並非傳統之契約(contract)、授權書(grant)或合作協議(cooperative agreement)，且法並無明確定義OT究竟實質內容為何。OT不受聯邦併購規則(Federal Acquisition Regulation, FAR)所規範，更接近一般私人商業契約，因此具備極大的合作彈性，可大幅度縮短私部門與政府合作常碰到的冗長時程。由於OT快速、彈性的這兩項特質，近年來應用於國防以外之新創或尖端科技之公私合作亦逐漸普遍。 然OT雖然簡化了政府採購的時程與限制，但同時也減少了問責可能性和透明度，因此目前只限具備美國國會授予其他交易授權(Other Transaction Authority, OTA)的聯邦政府機構得以使用OT。在美國計有太空總署(NASA)、美國國防部、美國聯邦航空總署(Federal Aviation Administration)、美國運輸部(Department of Transportation)、國土安全部(Department of Homeland Security)、運輸安全管理局(Transportation Security Administration)、衛生與公共服務部(Department of Health and Human Services)、美國能源部(Department of Energy)獲得國會授予OTA，其餘未獲OTA之政府部門僅得以在聯邦預算管理局(Office of Management and Budget)主任授權下有條件地使用OT。 尖端技術的R&D在不同領域皆有其特殊性，難以一體適用FAR，是以OT在實務運作上為兼顧持有尖端技術的公司重視速度和營業秘密之特質與採購之公平性，其運作模式通常為：聯邦政府成立某種技術領域的OT聯盟(consortium)，私部門的潛在締約者可以申請加入，繳交會費並同意該聯盟的約定條款。聯盟之約定條款通常較政府採購契約來的有彈性，例如智慧財產權的歸屬是以個案個別約定。擁有OTA之政府機關嗣後可向聯盟成員徵求產品或服務白皮書，之後再從中挑選優秀者進一步繳交更詳細的產品或服務計畫書，最終經由聯盟管理機構(consortium management organization)挑選出最適者。 OT與OT聯盟的運作模式，為公私合作提供極大的法律彈性，且非常迅速。平均而言，從政府徵求白皮書到成功找到最適者，不過兩個月時間。時間與彈性乃是新創企業或尖端技術持有者與政府合作時最有疑慮之處，OT可以解決此一問題。然需注意OT在適用上仍存在諸多挑戰，例如成效難以評估、較不透明導致監督困難、智慧財產權歸屬爭議等，有待克服。 [1] 美國國防部在此前乃是遵循Section 845 of the National Defense Authorization Act(NDAA) for Fiscal Year(FY) 1994, Public Law 103-160適用OT。
歐盟通過經濟安全關鍵技術領域建議，以利會員國進行關鍵技術風險評估歐盟執委會（European Commission）於2023年10月3日公布「關於歐盟經濟安全關鍵技術領域之建議」（Recommendation on Critical Technology Areas for the EU’s Economic Security），以便與各會員國進行經濟安全關鍵技術之風險評估。該建議源自於歐盟於6月發布之「歐盟經濟安全戰略」（European Economic Security Strategy）目的在於地緣政治緊張之局勢下，將最大限度的減少經濟流動所帶來之風險，為歐盟經濟安全制定全面的戰略方針。此「建議」列出十大關鍵技術領域的清單，係根據以下標準進行風險評估： （1）技術是有促成及轉型之本質（Enabling and Transformative Nature of the Technology）。 （2）民用與軍用融合技術之風險（The Risk of Civil and Military Fusion）。 （3）科技可能被用於侵害人權之風險（The Risk the Technology Could Be Used in Violation of Human rights）。 根據上述標準所列出十個關鍵技術領域後，其中有四個領域項目被認定是最敏感之技術領域，分別有半導體、人工智慧技術、量子技術及生物技術四大類別。 歐盟積極制定此計畫，以確保先進技術不落入敵國手中，減少對於如中國等國家單一供應商之依賴；歐盟預計於今年年底與會員國進行廣泛的風險評估，以確保下一步可能所採取的措施，可能包含出口管制及對外之審查投資，預計於2024年初提案。
歐盟創業教育政策推動對我國創業人才培育之啟示