美國商務部國家電信和資訊管理局呼籲透過第三方評測提高AI系統透明度
2024年3月27日，美國商務部國家電信和資訊管理局（National Telecommunications and Information Administration, NTIA）發布「人工智慧問責政策報告」（AI Accountability Policy Report），該報告呼籲對人工智慧系統進行獨立評估（Independent Evaluations）或是第三方評測，期待藉此提高人工智慧系統的透明度。
人工智慧問責政策報告就如何對人工智慧系統進行第三方評測提出八項建議作法，分別如下：
1.人工智慧稽核指引：聯邦政府應為稽核人員制定適合的人工智慧稽核指引，該指引須包含評估標準與合適的稽核員證書。
2.改善資訊揭露：人工智慧系統雖然已經應用在許多領域，但其運作模式尚缺乏透明度。NTIA認為未來可以透過類似營養標籤（Nutrition Label）的方式，使人工智慧模型的架構、訓練資料、限制與偏差等重要資訊更加透明。
3.責任標準（Liability Standards）：聯邦政府應盡快訂定相關責任歸屬標準，以解決現行制度下，人工智慧系統造成損害的法律責任問題。
4.增加第三方評測所需資源：聯邦政府應投入必要的資源，以滿足國家對人工智慧系統獨立評估的需求。相關必要資源如：
(1)資助美國人工智慧安全研究所（U.S. Artificial Intelligence Safety Institute）；
(2)嚴格評估所需的運算資源與雲端基礎設施（Cloud Infrastructure）；
(3)提供獎金和研究資源，以鼓勵參與紅隊測試的個人或團隊；
(4)培養第三方評測機構的專家人才。
5.開發及使用驗證工具：NTIA呼籲聯邦機關開發及使用可靠的評測工具，以評估人工智慧系統之使用情況，例如透明度工具（Transparency Tools）、認驗證工具（Verification and Validation Tools）等。
6.獨立評估：NTIA建議聯邦機關應針對高風險的人工智慧類別進行第三方評測與監管，特別是可能侵害權利或安全的模型，應在其發布或應用前進行評測。
7.提升聯邦機關風險管控能力：NTIA建議各機關應記錄人工智慧的不良事件、建立人工智慧系統稽核的登記冊，並根據需求提供評測、認證與文件紀錄。
8.契約：透過採購契約要求政府之供應商、承包商採用符合標準的人工智慧治理方式與實踐。
NTIA將持續與利害關係各方合作，以建立人工智慧風險的問責機制，並確保該問責報告之建議得以落實。
陳郁潔
副法律研究員 編譯整理
NATIONAL TELECOMMUNICATIONS AND INFORMATION ADMINISTRATION, NTIA calls for audits and investments in trustworthy AI systems (Mar. 27, 2024), https://www.ntia.gov/press-release/2024/ntia-calls-audits-and-investments-trustworthy-ai-systems (last visited April 26, 2024).
National Telecommunications and Information Administration, FACT SHEET: NTIA Urges Policy Changes to Boost Accountability and Trustworthiness in Artificial Intelligence Systems (Mar. 27, 2024), https://www.ntia.gov/other-publication/2024/fact-sheet-ntia-artificial-intelligency-policy-accountability (last visited April 26, 2024).
自2013年起，新加坡綜合考量其天然資源匱乏之劣勢與位處東南亞經貿核心之優勢，提出「智慧財產中心藍圖」（IP Hub Master Plan），目標在10年內讓新加坡成為亞洲的全球智慧財產營運中心（IP Hub），藉以打造新加坡作為亞洲金融與法律中心之重要地位；「智慧財產中心藍圖」的具體規劃包含在「交易與管理」、「高值智財申請」與「爭議解決」等三大面向，成為匯聚亞洲且面向全球的智財營運中心。 在考量全球經濟成長力趨緩，世界各國紛紛加大投資創新與數位轉型的趨勢下，新加坡智財局（IPOS）於2017年再次更新這份藍圖：盤點自本藍圖提出迄今的各項執行成果，並探討如何與世界趨勢接軌。在更新版藍圖中強調未來智慧財產在具創新力公司資產內的比重將遠高於實體財產，對智財體制的依賴將與日俱增，新加坡應及早因應以提供新創產業包含智財保護、管理與最大化智財價值等協助，以打造未來產業競爭力。 更新版藍圖引用OECD「創新就是將創意帶往市場」之定義，智財產業將成為創新型經濟（innovation-driven economy）中的關鍵。根據IPOS估計，智財交易與管理活動將為新加坡在未來5年創造至少15億新幣的產值，而未來的挑戰在於提高「智財創造」的便利、「智財保護」的普及，以及「智財商業化」的推進等三大面向；因此IPOS將加強智財檢索與政府機關間合作、協助中小企業導入智財管理制度提升企業效益，並打造無形資產評價、交易與融資平台，以達成更新版藍圖所提出之挑戰目標。
18F與加州政府共同打造採購新流程美國的數位服務推動小組18F（Digital service delivery，18F），因辦公室位於華盛頓特區F街18號而得名。2014年3月由總務署（General Service Administration，GSA）成立，透過業界與政府合作模式，幫助政府機關改善流程及增進效率，其所輔導的專案計畫將實際轉變政府機關提供數位服務及科技產品之運作模式，以達跨部會、機關之整合，並使對公眾的數位服務更便於使用。 18F為幫助美國各機關建造、購買及分享現代數位服務以提升政府的使用者經驗，提供了五項服務：（一）就已存的數位規格（digital component）打造訂製化產品（custom products）；（二）以創新方式購買科技，使各政府能夠獲得更快、更好及產生更好結果的IT服務。詳細服務內容有代寫委外服務建議書（Request For Proposal，RFP）、開發市場利用現代技術購買IT服務、購買開放源代碼（open source code）以提升專案計畫；（三）替政府建造一安全、可擴展的工具與平台，其能更加符合需求並能夠持續為改善以達需求；（四）協助成為數位化組織，不只是增加組織內部數位化能力，更要形成數位習慣並最終促使組織文化改變；（五）透過討論會、設計工作室、指南及文件工作平台，提供及分享18F實際運用的相關現代數位化服務技術，使政府機關能自行複製及使用。 近期知名成果案例發生於加州。在加州，每一年的孩童福利服務案件管理系統超過2萬名社工利用為追蹤管理超過50萬件虐待及忽視兒童案件，若使用過時系統產生風險將無法估計，故加州政府、美國衛生與人群服務部（Department of Health and Human Services，DHHS）即利用了前述相關服務，與18F共同重新設計該系統的採購流程。從2015年11月至2016年10月，合作建立新系統不到1年的時間，導入了契約文件之簡化、模組化（modular）契約之合併、敏捷性開發（agile development）、使用者中心之設計及開放源（open source）之實踐。 首先，代寫委外服務建議書，18F於其中展示如何將專案計畫為模組化，亦即別於過往採購的傳統模式，非尋找單一開發商去建置整個已預設需求的系統，透過分離的方式，找尋不同開發商以更符合實際需求，亦能避免時間金錢的浪費，降低遲約或違約之風險。再者，聚集可能符合資格的供應商，邀請眾供應商建造以開放源代碼（open source code）方式的原型（prototype）。透過此一過程的激盪，18F從中協助評估所提出的原型、技術等，以了解供應商如何提出及是否符合使用者中心的設計。同時也能減少政府與供應商雙方的招標時間及行政成本。最後，為使加州政府機關能自行複製及使用相關現代數位化服務技術，18F示範敏捷軟體開發（agile software development）專案計畫。從中加州政府不僅瞭解如何為風險評估，且思考相關技術部門於專案計畫中的角色定位。 面臨現代化數位服務，在美國，聯邦與州政府都面臨極大挑戰。18F介入發展新模式，更能達實際需求，亦為內化之協助，利於政府自行發展其他數位服務。18F與加州政府合作之案例，或許能為國家發展數位服務運作之借鏡。
化學奈米 將改善人類生活為勾勒人類未來生活型態，英國將在新堡（ New Castle ）投入約新台幣 150 億元建立一科學城，預定五年內整合化學、奈米、微機電及醫療技術整合。這座科學城是一座整合科學及產業技術的場所，由業界及政府共同支持，科學城內將成立三大研究機構，分別進行幹細胞研究、老年人健康、分子工程，及環境能源的改善。 英國皇家工程院院士雷蒙奧立佛（ Raymond Oliver F.R.Eng ）是這座科學城的主要規劃人，他指出，人類生活在下一個 20 年將出現四項結構性的現象：一是人口老化，二是個人化產品的普及，三是智慧型生活空間的出現，四是再生能源出現。面對這四大現象的普及，化工業者可以找到兩個發展方向，一是利用化學來提高醫療生活品質；二是利用化學來創造更自然的智慧型生活空間。 以醫療生活品質而言，化學可以進一步和幹細胞研究結合，並透過奈米技術發展出奈米級醫療電子產品，包括影像攝影取代藥物的人體臨床實驗，或是透過紅外線體外照射，讓硫化鎘等化學藥物能在體內直接殺死癌細胞 ； 在奈米材料方面，雷蒙指出，已有廠商研究出適合老人駕駛的汽車，這類汽車從空調、氣味，到生理資訊的偵測，都能配合老人較易疲勞的體質去設計。
日本計劃於今年秋天提出中小企業智財保護指針，防止大企業不當取得智財近年日本中小企業與大型企業合作研發、進行交易合作的商業型態日益增加，故日本中小企業廳自2017年1月至2020年3月為止（約三年間），針對日本的中小企業進行了訪談，調查了中小企業與大型企業間約12,000筆合作研發等商業行為，從中發現了許多問題，如大型企業常藉由合作研發，參觀中小企業工廠的名義，實際上是竊取中小企業技術、know how；其他還有以共同研發為名，擅自將研發成果使用在其他領域的案例等。 由於中小企業常在商業合作上處與弱勢，故日本政府為促使中小企業與大型企業的合作能符合公平交易原則、以及保護中小企業的智慧財產、技術，防止中小企業的智慧財產、技術、Know how等無形資產被商業合作夥伴（大型企業）不當使用或以非法的方式取得、使用，故日本政府計劃於今年秋天發布「中小企業智慧財產、技術保護指針」。 為改善中小企業與大型企業合作時，可能遭遇的智財、技術歸屬等問題，除透過「中小企業智慧財產、技術保護指針」提供具體的對策與措施，日本中小企業廳將於2021年編列相關預算，以智慧財產權的角度協助中小企業解決智財相關問題，並強化中小企業保護智慧財產權之意識，另外還會提供中小企業智財諮詢等相關支援。 「本文同步刊登於TIPS網站（https://www.tips.org.tw ）」