美國商務部國家電信和資訊管理局呼籲透過第三方評測提高AI系統透明度
2024年3月27日，美國商務部國家電信和資訊管理局（National Telecommunications and Information Administration, NTIA）發布「人工智慧問責政策報告」（AI Accountability Policy Report），該報告呼籲對人工智慧系統進行獨立評估（Independent Evaluations）或是第三方評測，期待藉此提高人工智慧系統的透明度。
人工智慧問責政策報告就如何對人工智慧系統進行第三方評測提出八項建議作法，分別如下：
1.人工智慧稽核指引：聯邦政府應為稽核人員制定適合的人工智慧稽核指引，該指引須包含評估標準與合適的稽核員證書。
2.改善資訊揭露：人工智慧系統雖然已經應用在許多領域，但其運作模式尚缺乏透明度。NTIA認為未來可以透過類似營養標籤（Nutrition Label）的方式，使人工智慧模型的架構、訓練資料、限制與偏差等重要資訊更加透明。
3.責任標準（Liability Standards）：聯邦政府應盡快訂定相關責任歸屬標準，以解決現行制度下，人工智慧系統造成損害的法律責任問題。
4.增加第三方評測所需資源：聯邦政府應投入必要的資源，以滿足國家對人工智慧系統獨立評估的需求。相關必要資源如：
(1)資助美國人工智慧安全研究所（U.S. Artificial Intelligence Safety Institute）；
(2)嚴格評估所需的運算資源與雲端基礎設施（Cloud Infrastructure）；
(3)提供獎金和研究資源，以鼓勵參與紅隊測試的個人或團隊；
(4)培養第三方評測機構的專家人才。
5.開發及使用驗證工具：NTIA呼籲聯邦機關開發及使用可靠的評測工具，以評估人工智慧系統之使用情況，例如透明度工具（Transparency Tools）、認驗證工具（Verification and Validation Tools）等。
6.獨立評估：NTIA建議聯邦機關應針對高風險的人工智慧類別進行第三方評測與監管，特別是可能侵害權利或安全的模型，應在其發布或應用前進行評測。
7.提升聯邦機關風險管控能力：NTIA建議各機關應記錄人工智慧的不良事件、建立人工智慧系統稽核的登記冊，並根據需求提供評測、認證與文件紀錄。
8.契約：透過採購契約要求政府之供應商、承包商採用符合標準的人工智慧治理方式與實踐。
NTIA將持續與利害關係各方合作，以建立人工智慧風險的問責機制，並確保該問責報告之建議得以落實。
陳郁潔
副法律研究員 編譯整理
NATIONAL TELECOMMUNICATIONS AND INFORMATION ADMINISTRATION, NTIA calls for audits and investments in trustworthy AI systems (Mar. 27, 2024), https://www.ntia.gov/press-release/2024/ntia-calls-audits-and-investments-trustworthy-ai-systems (last visited April 26, 2024).
National Telecommunications and Information Administration, FACT SHEET: NTIA Urges Policy Changes to Boost Accountability and Trustworthiness in Artificial Intelligence Systems (Mar. 27, 2024), https://www.ntia.gov/other-publication/2024/fact-sheet-ntia-artificial-intelligency-policy-accountability (last visited April 26, 2024).
中國大陸科學技術部於2019年9月12日公布《關於促進新型研發機構發展的指導意見》，目標是提升國家創新體系整體效能。在2016年5月中國大陸國務院發布的《第十三個五年規劃綱要》提及，為強化科技創新的引導作用，必須優化創新組織體系，藉由發展市場導向的「新型研發機構」，推動跨領域偕同創新。故「新型研發機構」必須聚焦在科技創新需求，主要從事科學技術創新與研發服務，具備投資主體多元化、管理制度現代化、營運機制市場化、用人機制靈活的獨立法人機構，得依法註冊為科技類民辦非企業單位（社會服務機構）、事業單位和企業。 中國大陸科學技術部本次公布的指導意見，主要係針對「新型研發機構」在未來政策上之具體運作與發展方向提供指引，包括新型研發機構能夠申報的國家科研項目、鼓勵設立科技類民辦非企業單位的新型研發機構政策、政府獎勵科研措施等說明。 （一） 新型研發機構申報國家科研項目 本指導意見第11條，符合條件的新型研發機構，可申報國家科技重大專項、國家重點研發計劃、國家自然科學基金等各類政府科技項目、科技創新基地和人才計劃。 （二） 鼓勵設立科技類民辦非企業單位的新型研發機構 本指導意見第12條，科技類民辦非企業單位應依法進行登記管理，營運所得利潤主要用於機構管理運作、建設發展和研發創新等，出資方不得分紅。並得依據《中華人民共和國企業所得稅法》及非營利組織企業所得稅、職務科技成果轉化個人所得稅、科技創新進口稅收等規定，享受稅收優惠。 （三） 支持與獎勵科研措施 本指導意見第14條，地方政府得根據區域創新發展需要，支持新型研發機構建設發展，包括給予基礎建設、購買科研設備、人才住房配套服務；採用創新券（innovation vouchers），推動企業向新型研發機構購買研發創新服務。第15條，更鼓勵透過國家科技成果轉化引導基金，支持新型研發機構推動科研成果轉化。
歐盟執委會通過下世代接取網路管制建議歐盟在今年5月19日公布的數位議程（Digital Agenda）中，設定了多項寬頻建設目標，包括所有歐洲民眾於2013年均能擁有基本寬頻， 2020年擁有30Mbps以上的高速寬頻，與50%以上的歐盟家戶擁有100Mbps以上的超高速寬頻。為達成此項目標，歐盟執委會於今年9月20日提出了採納下世代網路管制建議（Commission Recommendation on regulated access to Next Generation Access Networks（NGA））、提出未來五年的無線電頻譜政策計畫，與鼓勵公、私部門進行寬頻網路投資等三項主要推動措施。 在NGA管制建議正式公布前，執委會曾於2008年與2009年兩度就建議草案進行公開資詢。執委會認為，此一建議除了可提升管制明確性，避免管制假期（regulatory holidays）外，並在鼓勵投資與維護競爭間取得適當平衡，其重要管制原則如下： 1. 管制者對於獨占業者之光纖網路接取進行成本訂價管制時，應藉由風險溢價（risk premium）充分反應投資風險，使投資者能獲取具吸引力之利潤。 2. 管制者應採取適當的接取管制措施，促使新進業者進入市場，使其可依投資階梯（ladder of investment）逐步建置其自有網路，促進基礎設施競爭。 3. 管制者所採取之事前管制措施，應反映個別市場與城鄉區域之市場競爭差異。 4. 管制建議強烈支持NGA網路的共同投資，並對長期或大量的光纖迴路接取合約，允許在一定條件下給予價格折扣。
人工智慧採購指南草案人工智慧作為一前瞻性技術，運用於公部門，可以降低成本、提高管理品質、節省基層公務人員時間，整體改善政府公共服務。然而AI技術進化以及市場發展過於快速，現有採購類型沒有可以直接適用AI採購的判斷標準範本。因此，英國人工智慧辦公室（Office for Artificial Intelligence）與產官學研各界進行研商後，於2019年9月20日發表人工智慧採購指南草案（Draft Guidelines for AI procurement），作為公部門採購AI產品與服務之準則。該指南旨在加強公部門採購人員能力、協助採購人員評估供應商，讓廠商可以隨之調整其產品和服務內容。 該指南提供採購人員規劃政府AI採購的方向，包含招標、公告、評選、決標到履約。但指南強調無法解決採購AI產品與服務時遇到的所有挑戰。 指南內容簡述如下： 在制定規範時應重視如何清楚闡述面臨到的問題，而非只是說明解決方案； 評估AI帶來的風險時應緊扣公共利益，在招標階段敘明以公共利益為核心，並有可能在招標、評選和決標階段變動評估標準； 在招標文件中確實引用法規和AI相關實務守則； 其他包含將AI產品的生命週期納入招標和履約考慮、為提供AI產品和服務的廠商創造公平競爭環境、需與跨領域的團隊進行採購討論、確保採購流程從一開始就建立資料管理機制等。
昇陽進入開放原始碼 Solaris 時代昇陽公司本月十四日把 500 多萬行 Solaris 核心 (kernel) 的原始碼張貼在 OpenSolaris 網站上。不過，一些原始碼元件，像是安裝程式與管理工具，因為仍在逐行檢視以免專利侵權問題，稍後才會推出。 Solaris 是使用率相當廣的一種 Unix 衍生版本，在一九九○年代末期網路泡沫時期大行其道，但後來隨開原碼作業系統 Linux 竄起而式微。同時，微軟的 Windows 作業系統，也蠶食著昇陽的市占率。為了讓 Solaris 成為開放原始碼軟體，昇陽積極拉攏軟體開發人員，軟體開發人數增多，可能引來更多的使用者、更多的合作夥伴，以及更多的軟體開發者。然而，要與氣勢正旺的 Linux 競爭，並非易事。 Solaris 開發工程僅傾昇陽一家公司之力，但 Linux 幕後卻有廣大的開發人員社群支持。 Quandt Analytics 分析師 Stacey Quandt 說，與外部程式設計師分享權力，是昇陽必須通過的考驗。對昇陽來說，真正的挑戰是，昇陽是否真能容納局外人貢獻的修補程式，而且不叫昇陽經驗老到的工程師加以改寫。 OpenSolaris 是昇陽自行研發的專屬計畫，但不表示一定會失敗。 IBM 即曾經以 Eclipse 程式設計工具為中心，建立起活力十足的開原碼社群，就是成功的例子。昇陽雖來不及按原訂計畫在二○○四年推出 OpenSolaris ，但已推動一些配套措施，包括在今年一月發布稱為 DTrace 的元件，提供詳細的效能分析；吸引一百五十位外部程式設計人員參與 OpenSolaris 測試計畫；並成立由五人組成的社群顧問委員會，其中兩席是昇陽的代表。