美國商務部國家電信和資訊管理局呼籲透過第三方評測提高AI系統透明度
2024年3月27日，美國商務部國家電信和資訊管理局（National Telecommunications and Information Administration, NTIA）發布「人工智慧問責政策報告」（AI Accountability Policy Report），該報告呼籲對人工智慧系統進行獨立評估（Independent Evaluations）或是第三方評測，期待藉此提高人工智慧系統的透明度。
人工智慧問責政策報告就如何對人工智慧系統進行第三方評測提出八項建議作法，分別如下：
1.人工智慧稽核指引：聯邦政府應為稽核人員制定適合的人工智慧稽核指引，該指引須包含評估標準與合適的稽核員證書。
2.改善資訊揭露：人工智慧系統雖然已經應用在許多領域，但其運作模式尚缺乏透明度。NTIA認為未來可以透過類似營養標籤（Nutrition Label）的方式，使人工智慧模型的架構、訓練資料、限制與偏差等重要資訊更加透明。
3.責任標準（Liability Standards）：聯邦政府應盡快訂定相關責任歸屬標準，以解決現行制度下，人工智慧系統造成損害的法律責任問題。
4.增加第三方評測所需資源：聯邦政府應投入必要的資源，以滿足國家對人工智慧系統獨立評估的需求。相關必要資源如：
(1)資助美國人工智慧安全研究所（U.S. Artificial Intelligence Safety Institute）；
(2)嚴格評估所需的運算資源與雲端基礎設施（Cloud Infrastructure）；
(3)提供獎金和研究資源，以鼓勵參與紅隊測試的個人或團隊；
(4)培養第三方評測機構的專家人才。
5.開發及使用驗證工具：NTIA呼籲聯邦機關開發及使用可靠的評測工具，以評估人工智慧系統之使用情況，例如透明度工具（Transparency Tools）、認驗證工具（Verification and Validation Tools）等。
6.獨立評估：NTIA建議聯邦機關應針對高風險的人工智慧類別進行第三方評測與監管，特別是可能侵害權利或安全的模型，應在其發布或應用前進行評測。
7.提升聯邦機關風險管控能力：NTIA建議各機關應記錄人工智慧的不良事件、建立人工智慧系統稽核的登記冊，並根據需求提供評測、認證與文件紀錄。
8.契約：透過採購契約要求政府之供應商、承包商採用符合標準的人工智慧治理方式與實踐。
NTIA將持續與利害關係各方合作，以建立人工智慧風險的問責機制，並確保該問責報告之建議得以落實。
陳郁潔
副法律研究員 編譯整理
NATIONAL TELECOMMUNICATIONS AND INFORMATION ADMINISTRATION, NTIA calls for audits and investments in trustworthy AI systems (Mar. 27, 2024), https://www.ntia.gov/press-release/2024/ntia-calls-audits-and-investments-trustworthy-ai-systems (last visited April 26, 2024).
National Telecommunications and Information Administration, FACT SHEET: NTIA Urges Policy Changes to Boost Accountability and Trustworthiness in Artificial Intelligence Systems (Mar. 27, 2024), https://www.ntia.gov/other-publication/2024/fact-sheet-ntia-artificial-intelligency-policy-accountability (last visited April 26, 2024).
自2012年開始，荷蘭科學研究組織(Netherlands Organisation for Scientific Research, NWO)會擇定幾個重點領域，該重點領域係包含：農業食品，園藝及繁殖材料，水 ( Agri & Food, Horticulture & Propagation Materials, Water)、生物經濟，化學，跨部門的信息和通信技術方案(Biobased Economy, Chemistry, Cross-sector theme ICT)、創意產業(Creative Industry)、能源產業(Energy)、生命科學與健康(Life Sciences and Health)…等等領域，並由其中擇定有發展前景的計畫(top program)，以公私夥伴關係推動發展，其每年投注於該重點領域研究金額大約245,000,000歐元，而投注於公私夥伴關係計畫中的金額更高達100,000,000歐元。公部門與產業間以及研究者間權利義務關係依合作強度以及產業投入的資金而有所不同。荷蘭此類公私夥伴關係依發動者不同而分三種不同類型： 1.科學家發動的公私夥伴關係(Science Takes Initiative) 2.共同發動的公私夥伴關係(Joint Initiative) 3.由產界發動之公私夥伴關係(Business Takes Initiative) NWO在評估是否給予補助時，可以採取面談或現場參觀評估之方式，而NWO亦得附帶條件要求補助所購買的特殊儀器設備提供他人使用。而NWO補助所生的研究成果應盡可能公開並有利於未來的研究使用，例外情形則可延後公開。 又研究成果原則上係歸屬受補助者，但NWO在於特定研究補助之目的有此必要，得於事前與受補助者簽訂書面協定取得研究成果之權利。又若該研究計畫是在國外執行且完全由該國之學術機構負責，在該國的專利法並不損及荷蘭方之當事人依荷蘭專利法可享的權利下，則該國之學術機構就研究成果之開發及利用得依該國專利法之規定。國際合作的公私夥伴間彼此的權利義務會因個案約定而有不同。
歐盟通過反脅迫規則，將針對他國的經濟脅迫手段採取反制措施歐盟理事會（European Council）表示已與歐盟執委會（European Commission，以下簡稱「執委會」）、議會（European Parliament）於2023年11月22日完成《保護歐盟及其成員國免受第三國經濟脅迫規則》（Regulation on the protection of the Union and its Member States from economic coercion by third countries，以下簡稱「反脅迫規則」）之立法流程，並將於2023年12月27日正式施行生效。 該法起源於中國大陸於2021年為抗議立陶宛（Lithuania）同意我國政府以「臺灣」名義在其首都維爾紐斯（Vilnius）設立代表處，停止輸入多項產品，導致立陶宛對中貿易額大幅降低。歐盟為避免特定國家持續利用此種經濟脅迫手段影響歐盟交易市場與會員國之主權，決定立法採行反制措施，並於2021年之貿易政策回顧（2021 Trade Policy Review）公布《反脅迫規則》之立法框架。 根據《反脅迫規則》，執委會得根據會員國、歐盟議會及其他經濟聯盟所提供之資訊進行職權（ex officio）調查；亦可依照受脅迫之會員國或企業的請求進行調查。在調查階段，執委會會在4個月內判斷特定國家之行為是否確實造成經濟脅迫，若確實存在，將進一步評估其對歐盟帶來之影響。調查完成後，若他國政府確實對歐盟成員國或企業實施經濟脅迫手段，執委會將提交報告與理事會進行決議，通過後，執委會將先採行不干涉措施（non-interventionist measures），與實施經濟脅迫手段之國家進行協商，並要求賠償因經濟脅迫而產生的損害。若採行不干涉措施後仍無改善，執委會得考慮採行干涉措施（interventionist measures），包含但不限於限制特定企業進入歐盟市場與投標政府採購案；終止對特定國家的關稅優惠，並課予額外之關稅等，以阻止該特定國家繼續干擾歐盟經濟體。
ITU研議修改國際電信規則ITU國際電信聯盟秘書長Dr. Hanmasoun I Toure於2012年5月一場在加拿大舉行的無線通訊座談會中，針對之前國際上傳言聯合國與ITU將嘗試介入管理網際網路之說法進行澄清，並主張自1988年修改沿用至今的國際電信規則(ITRs)已不能應付目前新興之電信商業模式。 新型態的電信商業模式引發網路中立爭議的戰火，已延燒多時。從前的網際網路服務供應業者(ISP)，主要遵守網際網路協定，扮演好笨水管（Dum Pipe）的角色。但隨著網際網路內容與各類應用服務的急速成長，各類封包的傳輸加重了原有管道的乘載負擔，再加上網際網路管理技術的演進，業者可透過網管技術對資訊封包的傳輸做更細緻的調節，逐漸形成內容傳輸優先次序差異化的新興商業模式，並且持續發展中。 依目前的技術能力，網際網路中任何內容傳輸的速度，皆能透過寬頻管理機制(QoS)進行調節。過去，QoS在國際通訊上，於各國的終端網路中進行調節工作。但現有的封包式的網路傳輸架構(packet-base networks)動搖了原有的秩序，不僅質量參數(quality parameters)大部分未受明確定義，QoS的角色也逐漸模糊。導致各系統本身無法完全控制跨網資訊傳輸的品質，影響各類服務在使用者的終端設備上所呈現的服務品質。對於需與固網或各類終端設備連結的行動通訊業者而言，如何解決這類問題儼然已成了燃眉之急。 目前ITU剛結束於日內瓦的年會，從會中委員會對其文件是否具備國際效力之議題討論，不難看出ITU對於網際網路管理態度已由被動態度轉為積極。未來ITU更期望，藉由年底舉行2012年國際電信世界大會(WCIT-12)，重新修訂舊有國際電信規則(ITRs)，引領網際網路的新秩序。
美國國家標準與技術研究院公布人工智慧風險管理框架（AI RMF 1.0）美國國家標準與技術研究院（National Institute of Standards and Technology, NIST）於2023年1月26日公布「人工智慧風險管理框架1.0」（Artificial Intelligence Risk Management Framework, AI RMF 1.0），該自願性框架提供相關資源，以協助組織與個人管理人工智慧風險，並促進可信賴的人工智慧（Trustworthy AI）之設計、開發與使用。NIST曾於2021年7月29日提出「人工智慧風險管理框架」草案進行公眾徵詢，獲得業界之建議包含框架應有明確之衡量方法以及數值指標、人工智慧系統設計時應先思考整體系統之假設於真實世界中運作時，是否會產生公平性或誤差的問題等。本框架將隨著各界使用後的意見回饋持續更新，期待各產業發展出適合自己的使用方式。 本框架首先說明人工智慧技術的風險與其他科技的差異，定義人工智慧與可信賴的人工智慧，並指出設計該自願性框架的目的。再來，其分析人工智慧風險管理的困難，並用人工智慧的生命週期定義出風險管理相關人員（AI actors）。本框架提供七種評估人工智慧系統之信賴度的特徵，包含有效且可靠（valid and reliable）：有客觀證據證明人工智慧系統的有效性與系統穩定度；安全性（safe）：包含生命、健康、財產、環境安全，且應依照安全風險種類決定管理上的優先次序；資安與韌性（secure and resilient）；可歸責與資訊透明度（accountable and transparent）；可解釋性與可詮譯性（explainable and interpretable）；隱私保護（privacy-enhanced）；公平性—有害偏見管理（fair – with harmful bias managed）。 本框架亦提出人工智慧風險管理框架核心（AI RMF Core）概念，包含四項主要功能：治理、映射（mapping）、量測與管理。其中，治理功能為一切的基礎，負責孕育風險管理文化。各項功能皆有具體項目與子項目，並對應特定行動和結果產出。NIST同時公布「人工智慧風險管理框架教戰手冊」（AI RMF Playbook），提供實際做法之建議，並鼓勵業界分享其具體成果供他人參考。