美國商務部國家電信和資訊管理局呼籲透過第三方評測提高AI系統透明度
2024年3月27日，美國商務部國家電信和資訊管理局（National Telecommunications and Information Administration, NTIA）發布「人工智慧問責政策報告」（AI Accountability Policy Report），該報告呼籲對人工智慧系統進行獨立評估（Independent Evaluations）或是第三方評測，期待藉此提高人工智慧系統的透明度。
人工智慧問責政策報告就如何對人工智慧系統進行第三方評測提出八項建議作法，分別如下：
1.人工智慧稽核指引：聯邦政府應為稽核人員制定適合的人工智慧稽核指引，該指引須包含評估標準與合適的稽核員證書。
2.改善資訊揭露：人工智慧系統雖然已經應用在許多領域，但其運作模式尚缺乏透明度。NTIA認為未來可以透過類似營養標籤（Nutrition Label）的方式，使人工智慧模型的架構、訓練資料、限制與偏差等重要資訊更加透明。
3.責任標準（Liability Standards）：聯邦政府應盡快訂定相關責任歸屬標準，以解決現行制度下，人工智慧系統造成損害的法律責任問題。
4.增加第三方評測所需資源：聯邦政府應投入必要的資源，以滿足國家對人工智慧系統獨立評估的需求。相關必要資源如：
(1)資助美國人工智慧安全研究所（U.S. Artificial Intelligence Safety Institute）；
(2)嚴格評估所需的運算資源與雲端基礎設施（Cloud Infrastructure）；
(3)提供獎金和研究資源，以鼓勵參與紅隊測試的個人或團隊；
(4)培養第三方評測機構的專家人才。
5.開發及使用驗證工具：NTIA呼籲聯邦機關開發及使用可靠的評測工具，以評估人工智慧系統之使用情況，例如透明度工具（Transparency Tools）、認驗證工具（Verification and Validation Tools）等。
6.獨立評估：NTIA建議聯邦機關應針對高風險的人工智慧類別進行第三方評測與監管，特別是可能侵害權利或安全的模型，應在其發布或應用前進行評測。
7.提升聯邦機關風險管控能力：NTIA建議各機關應記錄人工智慧的不良事件、建立人工智慧系統稽核的登記冊，並根據需求提供評測、認證與文件紀錄。
8.契約：透過採購契約要求政府之供應商、承包商採用符合標準的人工智慧治理方式與實踐。
NTIA將持續與利害關係各方合作，以建立人工智慧風險的問責機制，並確保該問責報告之建議得以落實。
陳郁潔
副法律研究員 編譯整理
NATIONAL TELECOMMUNICATIONS AND INFORMATION ADMINISTRATION, NTIA calls for audits and investments in trustworthy AI systems (Mar. 27, 2024), https://www.ntia.gov/press-release/2024/ntia-calls-audits-and-investments-trustworthy-ai-systems (last visited April 26, 2024).
National Telecommunications and Information Administration, FACT SHEET: NTIA Urges Policy Changes to Boost Accountability and Trustworthiness in Artificial Intelligence Systems (Mar. 27, 2024), https://www.ntia.gov/other-publication/2024/fact-sheet-ntia-artificial-intelligency-policy-accountability (last visited April 26, 2024).
德國聯邦議會於2015年12月3日通過「健康制度安全數位通訊與應用法」 (下稱數位健康法，Gesetz für sichere digitale Kommunikation und Anwendungen im Gesundheitswesen, e-Health-Gesetz)，本法無須經過聯邦參議院同意，最快將於2016 年初生效。 該法係以患者的權益和隱私為中心而制定。其中安全的數位基礎設施將改善健康照護、加強病患的自我決定權。數位健康法要求於全德範圍內，從2016 年中期開始至 2018年中，依法定之資訊技術基礎設施的時間表引進相關技術與設施，在醫療診所和醫院之間全面進行電信基礎設施的連結。 本法案要點摘要如下: • 最新一代的主資料管理（Stammdatenmanagement） (被保險人主資料（Versichertenstammdaten）的測試及更新) 將提供醫生最新資料和防止醫療給付濫用。這個數位健康卡第一個線上應用，將在2018 年中全面引進。而 2018 年 7 月 1 日起未參加線上被保險人主資料驗證之醫生，其補貼亦將削減。 • 醫療用緊急資料（Notfalldaten）應從 2018 年開始依被保險人意願在數位健康卡上儲存，以避免危險藥物的交互作用。因此，從2016 年 10 月開始，使用三種以上藥物患者，將收到藥物治療計畫（Medikationsplan）。而藥劑師自始即有義務在被保險人變更處方時更新之。從 2018 年開始，用藥計畫可以以電子傳輸方式從數位健康卡卡中檢索。 • 數位健康法將促進電子病歷（Arztbriefe）的推動。病患可以對其主治者告知其最重要的健康資料，並以數位資料形式儲存使用。另外，病患的權益和自主決定是本法重點，患者不僅可自行決定何種醫療資料應以卡片儲存，並可決定誰有權查閱。病患亦得提取卡片中儲存之資料。如血糖測量值、從可穿戴裝置或隨身手圈所量測的資料。 • 為提倡遠距醫療（Telemedizin），從 2017 年4 月開始遠距 x 光診斷評估和從 2017年7 月起，線上視訊諮詢時段納入醫療合約給付中。使病患更易獲取醫療訊息，同時在預後諮詢和監控諮詢中亦能得到醫療服務。 • 為進入遠端醫療時代，必須確保各種 IT 系統可以進行溝通，故須在 2017 年 6 月 30 日前提出互通性指引（Interoperabilitätsverzeichnis），使衛生部門不同的 IT 系統所採用的標準簡明化。 • 智慧手機和其他行動裝置使用健康APP已漸普及，到 2016 年底前應確認，被保險人是否可以使用相關設備來行使他們的醫療資料存取權限以及資料是否能夠相互連結進行傳輸。
「挑戰智慧美國」(the Smart America Challenge) 計畫美國聯邦政府於2013年12月啟動「挑戰智慧美國」(the SmartAmerica Challenge)計畫，目標是匯集產官學研以呈現網實整合系統(Cyber-Physical System, CPS)與智慧聯網如何能夠創造就業機會、新的商業機會、以及為美國帶來社經上之利益。2014年6月，24個技術團隊及超過100個組織機構共同於華府進行智慧聯網應用展示，藉此展現智慧聯網如何促進運輸、緊急服務、健康照護、安全、節能、以及製造。於整合性之解決套案上，「挑戰智慧美國」計畫選定加州的聖荷西市(The City of San Jose)，由聖荷西市政府與Intel公司共同建立「智慧聯網智慧城市示範平台」(IoT Smart City Demonstration Platform)。研究團隊於城市各處廣泛裝置感測器，蒐集空氣品質、噪音、交通流量、能源效率等相關資料，藉此試驗城市如何利用智慧聯網技術來改善在地市民的整體生活。在我國，2014年則可稱為智慧城市發展元年，經濟部技術處與工業局等中央政府機關與新北市、桃園縣、新竹市、台中市等地方政府皆相繼投入並推動智慧城市計畫。搭配軟硬體之技術整合與相關產業之參與、以及法人與學術機構之投入，我國透過智慧聯網與網實整合系統以發展智慧城市之未來值得期待。
何謂「歐盟防禦基金」?歐盟防禦基金（European Defence Fund）係於2016年，由歐盟執委會主席Juncker所宣布成立，旨在促進成員國之技術與設備合作、鼓勵中小企業參與項目，促進突破性創新（breakthrough innovation）解決方案，俾達協調、供給並擴大國防設施投資、捍衛歐盟戰略自主之目的。 歐盟防禦基金之進程目前可分為兩階段。第一階段係於2017-2020年，透過「國防研究籌備行動」與「歐盟防禦工業發展項目」等兩個項目，對歐盟成員國間之防禦合作進行測試。其後，為進一步強化戰略自主與抵禦之能力，歐盟執委會於2018年6月13日決議增加基金2021-2027年之預算至130億歐元，與成員國共同進行防禦科技與設備之研發，是為第二階段。 於130億歐元之預算中，89億歐元將以共同投資之方式，讓歐盟與成員國共同投入發展計畫，包含原型（prototype）之開發（占20%）、認證與測試（占80%）。而為確保、鼓勵研發成果之可用性，共同投資係以成員國承諾採購研發成果為前提。具體而言，此一共同投資計畫具下述特點： 投資項目需有助於歐盟國防安全、符合《共同安全與防禦政策》（Common Security and Defence Policy）之優先項目，並經其成員國與NATO等國際組織同意。 以突破性創新為目標，提撥5%的資金專用於破壞式創新技術和設備之研發，以提升、鞏固歐盟長期之技術領先地位。 合作項目需有三個以上、來自不同成員國之參與者；並以優惠利率為誘因，吸引中小型企業跨境參與。 參與之成員國需承諾採購最終之研發成果。
南非提出個人資料保護法草案南非共和國議會在2013年8月22日通過了個人資料保護法修正案（PROTECTION OF PERSONAL INFORMATION BILL），該法案已由總統Jacob Zuma簽署正式成為法律，這也是南非首次全面性的個人資料保護立法 。 該部立法目的在於為促進個人資料的保護，建立全面性的個人資料保護原則。此次提出多項修正，包括 ： 1. 設立獨立法人監察機構作為獨立且公正的執行個人資料保護法上職務及權力。 2. 公、私部門僅在特定情形時方可處理個人資料。 3. 蒐集個人資料必須提交予前述獨立法人監察機構。 4. 限制蒐集兒童個人資料，並將哲學、信仰、宗教，種族、民族血統，工會會員，政治觀點，健康，性生活或犯罪前科列為特種個人資料，並加以限制蒐集。 5. 需要處理個人資料者，必須落實保護措施，以保護個人資料為完整之狀態。 6. 發生個人資料外洩情形時，必須通知受影響的當事人以及前述獨立法人監察機構。 7. 要求公、私部門均需指定專責個人資料保護人員。 8. 透過自動傳呼裝置行銷需受到一定程度之限制。 9. 限制跨境傳輸時，限制傳輸收受方必須是至少具備與南非相同個人資料保護水準之區域。 南非之個人資料保護法通過後，對於消費者保障係又提升至另一層次，然該法之施行會對企業造成的衝擊，以及消費者是否可以在修法後獲得實質上的保障，仍待觀察。