美國國土安全部發布「2024人工智慧路線圖」，確保AI安全開發與部署
美國國土安全部（Department of Homeland Security, DHS）於2024年3月17日發布「2024人工智慧路線圖」（2024 Artificial Intelligence Roadmap）（下稱AI路線圖），設立三大目標，將偕同旗下機關與產官學研各界合作，確保AI的安全開發與部署，保護國家關鍵基礎設施安全，以強化國家安全。
美國拜登總統於2023年10月30日簽署的第14110號總統行政命令《安全可靠且值得信賴的人工智慧開發暨使用》（Executive Order on the Safe, Secure, and Trustworthy Development and Use of Artificial Intelligence）（下稱AI總統行命令），要求DHS應管理使用於關鍵基礎設施與資通安全的AI、制定全球AI標準並推廣、降低利用AI造成具有大規模殺傷力武器攻擊之風險、保護AI智慧財產權、以及吸引AI領域人才，以促使、加強AI開發與部署等事項。為踐行上述事項，DHS制定AI路線圖，其三大目標如下：
（1） 負責任的使用AI以推進國安任務（Responsibly Leverage AI to Advance Homeland Security Mission）：透過建置AI基礎建設、建立AI系統測試與評估（Testing and Evaluation, T&E）、推動AI人才培育計畫等行動措施，帶領主管機關負責任的使用AI，以保護國家安全及避免AI對關鍵基礎設施的風險，確保AI於使用過程中係尊重個人隱私、保護公民權利與自由。
（2） 促進AI安全與資安（Promote Nationwide AI Safety and Security）：利用AI技術改善與預防關鍵基礎設施之安全與資安風險、制定關鍵基礎設施之AI使用指引、以及成立AI安全與資安委員會（AI Safety and Security Board, AISSB），彙集產官學研各界專家意見。
（3） 透過擴大AI國際合作來引領AI發展（Continue to Lead in AI Through Strong, Cohesive Partnerships）：將透過與產官學研各界合作，擴大AI的國際合作，並持續與公眾進行意見交流與分享，推廣AI政策或相關行動措施；DHS亦將持續與參眾議院及其他主管機關匯報AI相關之工作進度與未來規劃，以提升部門AI的透明度，並建立公眾對AI的信任。
本文為「經濟部產業技術司科技專案成果」
劉心妍
副法律研究員 編譯整理
U.S. Department of Homeland Security, 2024 Artificial Intelligence Roadmap, Mar. 17, 2024, https://www.dhs.gov/sites/default/files/2024-03/24_0315_ocio_roadmap_artificialintelligence-ciov3-signed-508.pdf (last visited May 7, 2024).
陳政陽，〈日本公布設立AI安全研究所與著手訂定AI安全性評鑑標準〉，資訊工業策進會科技法律研究所，2024/4，https://stli.iii.org.tw/article-detail.aspx?no=64&tp=1&d=9157〈最後瀏覽日：2024/5/7〉。
周晨蕙，〈日本經產省和總務省共同發布AI業者指引草案，公開徵集意見〉，資訊工業策進會科技法律研究所，2024/4，https://stli.iii.org.tw/article-detail.aspx?no=64&tp=1&d=9146〈最後瀏覽日：2024/5/7〉。
吳彬詣，〈歐盟執委會發布人工智慧創新政策套案〉，資訊工業策進會科技法律研究所，2024/4，https://stli.iii.org.tw/article-detail.aspx?no=64&tp=1&d=9143〈最後瀏覽日：2024/5/7〉。
科法觀點
落實完善數位資料管理機制， 有助於降低AI歧視及資料外洩風險 資訊工業策進會科技法律研究所 2023年07月07日 近年來，科技快速發展，AI(人工智慧)等技術日新月異，在公私部門的應用日益廣泛，而且根據美國資訊科技研究與顧問公司Gartner在2023年5月發布的調查指出，隨著由OpenAI開發的ChatGPT取得成功，更促使各領域對於AI應用的高度重視與投入[1]，與此同時，AI歧視及資料外洩等問題，亦成為社會各界的重大關切議題。 壹、事件摘要 目前AI科技發展已牽動全球經濟發展，根據麥肯錫公司近期發布的《生成式人工智慧的經濟潛力：下一個生產力前沿(The next productivity frontier)》研究報告指出，預測生成式AI(Generative AI)有望每年為全球經濟增加2.6兆至4.4兆的經濟價值[2]。同時在美國資訊科技研究與顧問公司Gartner對於超過2500名高階主管的調查中，45%受訪者認為ChatGPT問世，增加其對於AI的投資。而且68%受訪者認為AI的好處大於風險，僅有5%受訪者認為風險大於好處[3]。然而有社會輿論認為AI的判斷依賴訓練資料，將可能複製人類偏見，造成AI歧視問題，而且若程式碼有漏洞或帳戶被盜用時，亦會造成資料外洩問題。 貳、重點說明 首先，關於AI歧視問題，以金融領域為例，近期歐盟委員會副主席Margrethe Vestager強調若AI用於可能影響他人生計的關鍵決策時，如決定是否能取得貸款，應確保申請人不受性別或膚色等歧視[4]，同時亦有論者認為若用於訓練AI的歷史資料，本身存有偏見問題，則可能導致系統自動拒絕向邊緣化族群貸款，在無形之中加劇，甚至永久化對於特定種族或性別的歧視[5]。 其次，關於資料外洩問題，資安公司Group-IB指出因目前在預設情況下，ChatGPT將保存使用者查詢及AI回應的訊息紀錄，若帳戶被盜，則可能洩露機敏資訊。據統計在2022年6月至2023年5月間，在亞太地區有近41000個帳戶被盜，而在中東和非洲地區有近25000個帳戶被盜，甚至在歐洲地區也有近17000個帳戶被盜[6]。另外在2023年3月時，ChatGPT除了發生部分用戶能夠檢視他人聊天紀錄標題的問題外，甚至發生個人資料外洩問題，即用戶可能知悉他人的姓名、電子郵件，付款地址，信用卡到期日及號碼末四碼等資料[7]。 參、事件評析 對於AI歧視及資料外洩等問題，應透過落實完善數位資料治理與管理機制，以降低問題發生的風險。首先，在收集訓練資料時，為篩選適合作為模型或演算法基礎的資料，應建立資料評估或審查機制，減少或避免使用有潛在歧視問題的資料，以確保分析結果之精確性。 其次，不論對於訓練資料、分析所得資料或用戶個人資料等，均應落實嚴謹的資料保密措施，避免資料外洩，如必須對於資料進行標示或分類，並依照不同標示或分類，評估及採取適當程度的保密措施。同時應對於資料進行格式轉換，以無法直接開啟的檔案格式進行留存，縱使未來可能不慎發生資料外洩，任意第三人仍難以直接開啟或解析資料內容。甚至在傳送帳戶登入訊息時，亦應採取適當加密傳送機制，避免遭他人竊取，盜取帳戶或個人資料。 財團法人資訊工業策進會科技法律研究所長期致力於促進國家科技法制環境完善，於2021年7月發布「重要數位資料治理暨管理制度規範（Essential Data Governance and Management System，簡稱EDGS）」，完整涵蓋數位資料的生成、保護與維護，以及存證資訊的取得、維護與驗證的流程化管理機制，故對於不同公私部門的AI相關資料，均可參考EDGS，建立系統性數位資料管理機制或強化既有機制。 本文同步刊登於TIPS網站（https://www.tips.org.tw） [1]Gartner, Gartner Poll Finds 45% of Executives Say ChatGPT Has Prompted an Increase in AI Investment (May 3, 2023), https://www.gartner.com/en/newsroom/press-releases/2023-05-03-gartner-poll-finds-45-percent-of-executives-say-chatgpt-has-prompted-an-increase-in-ai-investment (last visited June 30, 2023). [2]McKinsey, The economic potential of generative AI: The next productivity frontier (June 14, 2023), https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/the-economic-potential-of-generative-AI-the-next-productivity-frontier#introduction (last visited June 30, 2023). [3]Gartner, supra note 1. [4]Zoe Kleinman, Philippa Wain & Ashleigh Swan, Using AI for loans and mortgages is big risk, warns EU boss (June 14, 2023), https://www.bbc.com/news/technology-65881389 (last visited June 30, 2023). [5]Ryan Browne & MacKenzie Sigalos, A.I. has a discrimination problem. In banking, the consequences can be severe (June 23, 2023), https://www.cnbc.com/2023/06/23/ai-has-a-discrimination-problem-in-banking-that-can-be-devastating.html (last visited June 30, 2023). [6]Group-IB, Group-IB Discovers 100K+ Compromised ChatGPT Accounts on Dark Web Marketplaces; Asia-Pacific region tops the list (June 20, 2023), https://www.group-ib.com/media-center/press-releases/stealers-chatgpt-credentials/ (last visited June 30, 2023). [7]OpenAI, March 20 ChatGPT outage: Here’s what happened (Mar. 24, 2023),https://openai.com/blog/march-20-chatgpt-outage (last visited June 30, 2023).
智慧城市－「智慧城市世界大會展覽」暨歐盟政策今年11月17日到19日為期三天的第五屆「智慧城市世界大會展覽（Smart City Expo World Congress）－都會平台（Urban Platforms）：串聯資料數據以及城市之間的連結」於西班牙巴塞隆納舉行。該大會凝聚了世界500個城市、450個參展單位，以及400位講者於一堂，主要觸及了城市如何因應大量成長的數據、從新的管理方式中，要如何以及在哪裡得到價值，以及在加速城市中的都會平台過程中，要付出什麼樣的代價等議題。 今年度的大會展覽令人耳目一新的創新作品包括：綠色環保無人駕駛小公車、提醒視力受損者，道路上有障礙物的智慧應用程式、能夠辨識在範圍內的射擊，並且精準地指出事件發生地點的麥克風系統，還有其他諸如無人飛機、物流和都會區內遞送服務等等創意新點子。 「智慧城市」一詞，意味著一個能夠合於未來發展的都會，同時轉變為一個可以在提升資源以及能源效率的同時，還能夠減少對於生態衝擊的環境。而歐洲的智慧城市發展，主要是在「歐洲2020戰略」（Europe 2020）中，由歐盟執行委員會所實施的「歐洲創新夥伴計畫」（The European Innovation Partnership, EIP）帶領歐洲倡議都會平台於以下三個交互運作的活動以及發展：（一）以城市需求為導向的發展，使得能快速地適應都會平台；（二）由備忘錄（Memorandum of Understanding, MoU）所鞏固的供給導向發展；（三）在信任的基礎上所建立的標準化導向發展。 歐盟於2011年6月公布的「智慧城市與社群歐洲創新夥伴計畫」（The European Innovation Partnership on Smart Cities and Communities, EIP-SCC）目的是為了要將城市、企業與市民結合起來，共同藉由永續的解決方案，來改善都會城市現有的問題，並提升城市的整體生活。此計畫期許以資通訊科技（Information and Communication Technology, ICT）、能源與交通管理的結合，共同提出創新的解決方案，為今日歐洲城市面對來自於環境、社會與健康等挑戰進行解套，計畫發展核心包含開放資料（Open Data）、商業模式（Business Models）、政策與法規（Policy and Regulation）、能源效率與低碳解決方案（Energy Efficiency and Low Carbon Solutions）、財政金融與採購（Finance and Procurement）、都會移動（Urban Mobility）、能源整合網絡（Integrated Energy Networks）等。 從歐盟所發展的大戰略計畫，到今年第五年的「智慧城市世界大會展覽」，明顯嶄露出歐盟在積極推動經濟發展的同時，帶著永續環境的思維，這是之所以歐盟能持續引領歐洲，甚至世界未來發展趨勢的關鍵原因。
馬來西亞個人資料保護法之發展仍有諸多不確定因素馬來西亞於2010年6月即通過個人資料保護法，延宕經年，該法終於自2013年底開始正式施行，而數項配套規範亦同步施行。前個資保護部門首長Abu Hassan Ismail則被任命為新設之個資保護專員，受通訊及多媒體部部長之指揮監督。 從規範內容架構觀察，馬國此部個資法之範疇堪稱恢弘，不但包括了諸多的實質行為規定，例如，在行為規範的面向上，馬國個資法要求其所謂的資料使用者（data user） 必須遵守多項個資保護原則並尊重當事人權利；此外，該法亦有不少與個資保護相關之組織及程序規則，例如，該法設有行政救濟法庭，如對個資保護專員之決定有所不服者，即可在此提出救濟。惜該法之適用對象不包括公部門，且在適用情形方面，除排除了純粹因個人或家庭目的而蒐集、處理、利用個人資料外，亦針對諸多情形分別排除該法所設之不同個資保護原則之適用，且更賦予個資保護專員另行指定排除適用情形之權限，因而除將相當程度限制該法影響範圍外，並使該法之適用與發展增加許多不確定之因素。
循環型採購（Circular Procurement）相較於綠色採購（Green public procurement, GPP）所揭櫫的於採購產品、服務或勞務時選擇於其生命週期中對於環境造成衝擊較小者，循環型採購（Circular Procurement）可說是在綠色採購的基礎上，加入循環經濟（Circular Economy）強調最大化資源利用效率的概念，使對於環境的影響與衝擊並非唯一的標準，而應考量產品、服務或勞務對資源的利用效益。 歐盟執委會於2017年10月發布《循環經濟公共採購範例與指引》（Public Procurement for A Circular Economy: Good Practice and Guidance），其中指出循環型採購的意義在於促進歐盟邁向循環經濟轉型，藉由循環型採購所創造的需求，達成循環經濟所強調封閉資源循環（Closing the Loop）以最大化資源利用效率的概念，並肯認政府採購為推動循環經濟轉型的重要誘因之一。 具體的循環型採購做法，包含選擇具高度資源循環利用性的產品，例如可維修、再利用或利於回收再循環的產品，以及以採購服務代替採購硬體等，透過循環型採購對於資源利用效率的重視，支持符合循環經濟概念的產品設計、研發技術與商業模式等創新成果，與提出這些解決方案的企業或團隊，進而達成促進社會邁向循環經濟轉型與永續發展的目標。