美國國土安全部發布「2024人工智慧路線圖」，確保AI安全開發與部署
美國國土安全部（Department of Homeland Security, DHS）於2024年3月17日發布「2024人工智慧路線圖」（2024 Artificial Intelligence Roadmap）（下稱AI路線圖），設立三大目標，將偕同旗下機關與產官學研各界合作，確保AI的安全開發與部署，保護國家關鍵基礎設施安全，以強化國家安全。
美國拜登總統於2023年10月30日簽署的第14110號總統行政命令《安全可靠且值得信賴的人工智慧開發暨使用》（Executive Order on the Safe, Secure, and Trustworthy Development and Use of Artificial Intelligence）（下稱AI總統行命令），要求DHS應管理使用於關鍵基礎設施與資通安全的AI、制定全球AI標準並推廣、降低利用AI造成具有大規模殺傷力武器攻擊之風險、保護AI智慧財產權、以及吸引AI領域人才，以促使、加強AI開發與部署等事項。為踐行上述事項，DHS制定AI路線圖，其三大目標如下：
（1） 負責任的使用AI以推進國安任務（Responsibly Leverage AI to Advance Homeland Security Mission）：透過建置AI基礎建設、建立AI系統測試與評估（Testing and Evaluation, T&E）、推動AI人才培育計畫等行動措施，帶領主管機關負責任的使用AI，以保護國家安全及避免AI對關鍵基礎設施的風險，確保AI於使用過程中係尊重個人隱私、保護公民權利與自由。
（2） 促進AI安全與資安（Promote Nationwide AI Safety and Security）：利用AI技術改善與預防關鍵基礎設施之安全與資安風險、制定關鍵基礎設施之AI使用指引、以及成立AI安全與資安委員會（AI Safety and Security Board, AISSB），彙集產官學研各界專家意見。
（3） 透過擴大AI國際合作來引領AI發展（Continue to Lead in AI Through Strong, Cohesive Partnerships）：將透過與產官學研各界合作，擴大AI的國際合作，並持續與公眾進行意見交流與分享，推廣AI政策或相關行動措施；DHS亦將持續與參眾議院及其他主管機關匯報AI相關之工作進度與未來規劃，以提升部門AI的透明度，並建立公眾對AI的信任。
本文為「經濟部產業技術司科技專案成果」
劉心妍
副法律研究員 編譯整理
U.S. Department of Homeland Security, 2024 Artificial Intelligence Roadmap, Mar. 17, 2024, https://www.dhs.gov/sites/default/files/2024-03/24_0315_ocio_roadmap_artificialintelligence-ciov3-signed-508.pdf (last visited May 7, 2024).
陳政陽，〈日本公布設立AI安全研究所與著手訂定AI安全性評鑑標準〉，資訊工業策進會科技法律研究所，2024/4，https://stli.iii.org.tw/article-detail.aspx?no=64&tp=1&d=9157〈最後瀏覽日：2024/5/7〉。
周晨蕙，〈日本經產省和總務省共同發布AI業者指引草案，公開徵集意見〉，資訊工業策進會科技法律研究所，2024/4，https://stli.iii.org.tw/article-detail.aspx?no=64&tp=1&d=9146〈最後瀏覽日：2024/5/7〉。
吳彬詣，〈歐盟執委會發布人工智慧創新政策套案〉，資訊工業策進會科技法律研究所，2024/4，https://stli.iii.org.tw/article-detail.aspx?no=64&tp=1&d=9143〈最後瀏覽日：2024/5/7〉。
科法觀點
世界經濟論壇（World Economic Forum, WEF）於2020年11月10日發表「2020年十大新興科技報告」（Top 10 Emerging Technologies 2020），報告中提出10個近年出現，且被認為在未來5年內最具有正面改變社會潛力的新興科技，並說明除了關注這些科技帶來的改變外，也應關注其引發的風險。 2020年全球最密切關注的議題為健康與氣候變遷，也因此2020年被認為具有發展潛力的新興技術均與這兩個議題有關，包含：（1）無痛注射與測試用的微針技術（Microneedles）；（2）太陽能化學（Sun-Powered Chemistry）利用可見光將二氧化碳轉換為普通材料，可作為合成藥物、清潔劑、化學肥料和紡織品的材料；（3）虛擬患者（Virtual Patients），替代人類做人體臨床試驗，比一般試驗更快更安全；（4）空間計算（Spatial Computing）以強化虛擬生活和現實的連結；（5）數位醫療（Digital Medicine）應用程式之發展可以診斷甚至治癒疾病；（6）電動飛航（Electric Aviation）裝置，例如電動推進器可以清除直接碳排放（direct carbon emissions），減少九成的燃料成本、五成維護成本和七成噪音汙染，降低整體航空旅程環境污染並提高效率；（7）低碳水泥（Lower-Carbon Cement）的發展作為氣候變遷下的新興建築材料；（8）量子感測（Quantum Sensing）做為高精準度計算方式，將於未來三到五年進入市場，並首重用於醫療和國防應用產業上；（9）新興零碳能源如綠氫（Green Hydrogen），可補充風力和太陽能；（10）全基因合成（Whole-Genome Synthesis）作為下一代細胞工程（cell engineering）尖端科技，使未來醫學得以治癒更多遺傳疾病。 報告中指出，雖然這些新興技術具有改變社會和產業的潛力，但卻無法確保技術本身是否能被妥善使用（Good is not guaranteed）。首先，這些技術仍需要龐大資金以達到成熟度和可利用的價格點（price point），才能與相關產業達成整合化、規模化。此外面對這些新興科技，決策者必須迅速針對可能引發的風險提出對應策略，例如數位醫療在手機應用程式上會引發政府許可、資料利用、隱私等問題。因此，政策與產業如何協作，使用相關科技、限制濫用並控制技術中風險等，是面對是類新興科技應積極考量的方向。
德國聯邦資訊技術，電信和新媒體協會針對AI及自動決策技術利用提出建議指南德國聯邦資訊技術，電信和新媒體協會於2018年2月6日在更安全的網路研討會中針對利用人工智慧及自動決策技術利用提出建議指南（Empfehlungen für den verantwortlichen Einsatz von KI und automatisierten Entscheidungen），旨在提升企業數位化與社會責任，並提升消費者權益保護。 本份指南提出六項建議： 促進企業內部及外部訂定相關準則 例如規定公司在利用演算法和AI時，必須將影響評估列入開發流程，並列為公司應遵守的道德倫理守則，以確保開發的產品或服務符合公平及道德。 提升透明度 使用者如有興趣了解演算法及其含義，企業應協助調查並了解使用者想獲知的訊息，並透過相關訊息管道提升產品及服務透明度。因此，企業應努力使演算法及其操作和含義能夠被使用者理解。此亦涉及即將實施的歐盟一般資料保護規則中的透明度義務。在機器學習或深度學習情況下，可能會增加理解性和可追溯性難度，但有助於分析流程並使其更接近人類理解的方法在科學和商業實踐中，應特別關注並進一步討論。另外，透過教育及使用說明協助及控制功能，教導消費者係建立雙方信任的重要手段。企業應在第一線中說明產品或服務中使用的手段（演算法，機器學習，AI）。除了解釋使用那些技術來改進產品和服務外，應一併解釋如何從技術控制過程中獲得相關知識以及提供那些後援支持。另外，例如透過幫助頁面，儀表板或部落格，解釋發生什麼以及如何做出某些影響深遠的自動化決策，使用戶更了解有關使用自動決策相關訊息。因此建議企業採取強制有效以建立信任的措施，使用戶理解是否及如何使用相關演算法，此可能包括使用自動化決策，使用特定資料組和使用技術的目的，亦即使用戶對演算法，機器學習或AI支持的決策有基本的了解。 為全體利益使用相關技術 人工智慧等新技術之重要性不應被低估，目前在生活和工業等眾多領域皆有廣泛應用。對於個人和集體而言，將可帶來巨大的利益，因此應該充分利用。例如，人工智慧可降低語言障礙，幫助行動不便的人可更加獨立自主生活，改善醫療診斷，提升能源供應效率，甚至是交通規劃和搜索停車位，都只是人工智慧偉大且已被使用的案例。為促進技術發展，應公平地利用其優勢並預留商業應用模式的空間，同時充分解決涉及的具體風險。產業特定的解決方案十分重要，但應兼顧受影響者的利益，並與廣大公眾利益找出妥協平衡點，且應排除不適當的歧視。建議在使用決策支持技術時，應事先檢查相關後果並與其利益比較。例如，可以在資料保護影響評估的框架進行。作為道德準則的一部分，必須確保演算法盡可能量準確地預測結果。 開發安全的資料基礎 資料係人工智慧支援決策的基礎。與人為決策者相同，資料不完整或錯誤，將導致做出錯誤的決定。因此決策系統的可靠性仍取決資料的準確性。但資料質量和資料來源始終不能追溯到源頭，如果可能的話，只有匯總或非個人資料可用於分析或分類用戶群組。因此，確切細節不可被使用或揭露。因此建議企業應考慮要使用的資料、資料的類別和在使用AI系統前仔細檢查資料使用情況，特別是在自我學習系統中資料引入的標準，並根據錯誤來源進行檢查，且儘可能全面記錄，針對個人資料部分更應謹慎處理。 解決機器偏差問題 應重視並解決所謂機器偏差和演算法選擇和模型建立領域的相關問題。解釋演算法，機器學習或AI在基層資料選擇和資料庫時所產生決策偏見相當重要，在開發預期用途的演算法時必須納入考量，對員工應針對道德影響進行培訓，並使用代表性紀錄來創建可以識別和最小化偏差的方法。企業並應該提高員工的敏感度並培訓如何解決並減少機器偏見問題，並特別注意資料饋送，以及開發用於檢測模式的內、外部測試流程。 適合個別領域的具體措施和文件 在特別需要負責的決策過程，例如在車輛的自動控制或醫療診斷中，應設計成由責任主體保留最終的決策權力，直到AI的控制品質已達到或高於所有參與者水平。對類人工智慧的信任，並非透過對方法的無條件追踪來實現，而是經過仔細測試，學習和記錄來實現
經濟部選定八大產業發展綠色能源經濟部所擬定的「綠色能源產業發展計劃」可分為兩大領域，一是發展再生能源，如推動太陽光電、風力發電、生質柴油等，取代部分石化能源；另一則是透過節能措施減少使用化石能源的使用量，如生產LED照明、混合動力車輛等。 此發展計劃選定太陽光電、太陽能熱水系統、風力發電、生質柴油、氫能及燃料電池、LED照明、冷凍空調、混合動力車輛等八大產業為重點輔導對象，並擬利用貨物稅租稅工具、經費補貼政策及行政力主導等政策工具引導業界大力投資。透過給予進口混合動力車貨物稅減半、五千萬元以上公共工程須設置一定比例太陽光電設施等措施輔導業界投入。
美國網路安全暨基礎設施安全局（CISA）成立聯合網路防禦協作機制（Joint Cyber Defense Collaborative，JCDC），將領導推動國家網路聯防計畫美國網路安全暨基礎設施安全局（Cybersecurity and Infrastructure Security Agency，以下簡稱CISA）於2021年8月宣布成立聯合網路防禦協作機制（Joint Cyber Defense Collaborative，以下簡稱JCDC），依據《國防授權法》（National Defense Authorization Act of 2021, NDAA）所賦予的權限，匯集公私部門協力合作，以共同抵禦關鍵基礎設施的網路威脅，從而引領國家網路防禦計畫的制定。 聯合網路防禦協作辦公室（JCDC's office）將由具代表性的聯邦政府單位所組成，包括國土安全部（Department of Homeland Security, DHS）、司法部（Department of Justice, DOJ）、美國網路司令部（United States Cyber Command, USCYBERCOM）、國家安全局（National Security Agency, NSA）、聯邦調查局（Federal Bureau of Investigation, FBI）和國家情報總監辦公室（Office of the Director of National Intelligence, ODNI）。此外，JCDC將與自願參與的夥伴合作、協商，包括州、地方、部落和地區政府、資訊共享與分析組織和中心（ISAOs/ISACs），以及關鍵資訊系統的擁有者和營運商，以及其他私人企業實體等（例如：Microsoft、Amazon、google等服務提供商）。 目的在藉由這項新的合作機制，協調跨聯邦部門、各州地方政府、民間或組織等合作夥伴，來識別、防禦、檢測和應對涉及國家利益或關鍵基礎設施的惡意網路攻擊，尤其是勒索軟體，同時建立事件應變框架，進而提升國家整體資安防護和應變能力。 是以，JCDC此一新單位有以下特點： 具獨特的公私部門規劃要求和能力。 落實有效協調機制。 建立一套共同風險優先項目，並提供共享資訊。 制定、協調網路防禦計畫。 進行聯合演練和評估，以妥適衡量網路防禦行動的有效性。 而JCDC主要功能，整理如下： 全面、全國性的計畫，以處理穩定操作和事件期間的風險。 對情資進行分析，使公私合作夥伴間能採取應對風險的協調行動。 整合網路防禦能力，以保護國家的關鍵基礎設施。 確保網路防禦行動計畫具有適當性，以抵禦對方針對美國發動的網路攻擊。 計畫和合作的機動性，以滿足公私部門的網路防禦需求。 制度化的演練和評估，以持續衡量網路防禦計畫和能力的有效性。 與特定風險管理部門（Sector Risk Management Agencies, SRMAs）密切合作（例如：國土安全部-通訊部門、關鍵製造部門、資訊技術等），將其獨特專業知識用於量身定制計畫，以應對風險。