拜登政府宣布採取促進負責任AI創新之新行動，以保護美國人民權利與安全
拜登政府於2023年5月4日宣布將採取促進負責任AI創新之新行動，表示公司於部署或公開其產品前，應致力於降低AI風險，並強調風險管理與保障措施的重要性，以防止AI對個人與社會造成潛在危害。此外，拜登總統於2月簽署「透過聯邦政府進一步推動種族平等和支持弱勢群體」行政命令（Executive Order on Further Advancing Racial Equity and Support for Underserved Communities Through The Federal Government），指示聯邦政府機關在設計和使用AI等新技術時，應避免偏見，並保護公眾免受演算法歧視。促進負責任AI創新之新行動包括：
一、投資負責任AI的研發
美國國家科學基金會（National Science Foundation）宣布撥款1.4億美元以啟動7個新的國家AI研究所，未來全美將有25個國家級AI研究所。除有助於促進公私部門之間合作外，將強化AI研發基礎設施、支持多元化AI勞動力發展，及推動氣候、農業、能源、公共衛生、教育與資安等關鍵領域之突破。
二、公開評估現有的生成式AI系統（generative AI systems）
Anthropic、Google、Hugging Face、微軟、NVIDIA、OpenAI和Stability AI等領先AI開發商將參與AI系統獨立公開評估，以評估其模型是否符合AI權利法案藍圖（Blueprint for an AI Bill of Rights），及AI風險管理框架（AI Risk Management Framework）所提出之原則與實踐，並使企業及開發人員能就所發現問題，進一步採取解決措施。
三、提出政策引導聯邦政府減輕AI風險及提升AI利用機會
美國行政管理預算局（Office of Management and Budget）宣布，將於2023年夏季發布有關聯邦政府機關各部門使用AI系統之政策指引草案，並徵詢公眾意見。
柯郁萱
副法律研究員 編譯整理
FACT SHEET: Biden-Harris Administration Announces New Actions to Promote Responsible AI Innovation that Protects Americans’ Rights and Safety, The White House (2023), https://www.whitehouse.gov/briefing-room/statements-releases/2023/05/04/fact-sheet-biden-harris-administration-announces-new-actions-to-promote-responsible-ai-innovation-that-protects-americans-rights-and-safety/ (last visited May 19, 2023).
Blueprint for an AI Bill of Rights, The White House (2022), https://www.whitehouse.gov/ostp/ai-bill-of-rights/ (last visited May 19, 2023).
PCAST Working Group on Generative AI Invites Public Input, The White House (2023), https://www.whitehouse.gov/pcast/briefing-room/2023/05/13/pcast-working-group-on-generative-ai-invites-public-input/ (last visited May 19, 2023).
許嘉芳，〈美國白宮科學與技術政策辦公室發布《人工智慧權利法案藍圖》〉，《科技法律透析》，第35卷第2期，頁6–7（2023）。
許嘉芳，〈修復AI偏見－以NIST標準為核心建立識別與管理AI偏見之作法〉，《科技法律透析》，第34卷第7期，頁37–44（2022）。
陳箴，〈美國國家標準與技術研究院公布人工智慧風險管理框架（AI RMF 1.0）〉，資策會科技法律研究所，2023年2月，https://stli.iii.org.tw/article-detail.aspx?tp=1&d=8974&no=64（最後瀏覽日：2023/05/19）。
張瀠心，〈美國參議院於2022年4月提出《演算法問責法案》對演算法治理再次進行立法嘗試〉，資策會科技法律研究所，2022年11月，https://stli.iii.org.tw/article-detail.aspx?tp=1&d=8912&no=64（最後瀏覽日：2023/05/19）。
德國聯邦食品農也消保部（BMELV）發言人宣布，針對非基因改造食品標示制度之修正，今（2008）年初已達成政治協商，未來德國的非基因改造食品標示，將會容許那些在無可得替代產品的情形下而使用了基因改造維他命、添加物或加工輔助用料等基因改造產品之終端食品，標示為非基因改造食品。如此一來，那些使用目前只能以基因改造加工製成之維他命（如維他命B21、lyside等）所飼養之動物，日後動物來源食品以其作為原料時，這些食品將來也可以標示為非基因改造。此修法預計可在明年初完成實施。 德國此次修法目的，實係為了促進食品產業使用非基因改造標示。自從1990年建立非基因改造食品專有之標示制度起，動物來源食品如要作非基因改造標示，必須連在飼養時都使用非基因改造飼料，但食品產業卻表示此規定審為嚴苛且維持基因改造聲明所需的文件繁多，此機制實際上根本難以運用。BMELV為了促進食品產業使用非基因改造標示，遂決定修法放寬標準。 然而，這樣的修法仍然引起部分反對意見，例如德國食品產業聯盟（German food industry federation）即表示，非基因改造標示應當只能給予完全未使用基因改造之產品，其他產品則應使用諸如未含基因改造植物之類的聲明，否則就是誤導民眾之行為。此外，假如標有非基因改造標示的食品以此種方式使用過基因改造材料的話，更可能會折損非基因改造食品標示可性度。
FCC指定九家業者負責管理閒置頻譜資料庫美國聯邦通訊委員會（Federal Communications Commission，FCC）於2008年11月公布法規命令，開放閒置無線頻譜之使用。閒置頻譜緣起於美國無線電視訊號，對於鄉村或偏遠人口較少之地區並無覆蓋，這些地區之無線電視頻譜處於閒置未用狀態。FCC因應無線通訊對頻譜之需求，在以拍賣釋出新頻譜的同時，也由增進既有頻譜的效率著手。 FCC於此法規命令中公布初步的技術規範，包含使用地理資料庫以及感知無線電技術作為利用閒置頻譜之要件。之後，FCC於2009年11月公告接受業者遞交計畫書，審查是否能成為資料庫管理者之資格。 2010年9月FCC再度公布新的法規命令，取消感知無線電技術作為必要條件之要求，並調整技術規範，也預告將選擇民間業者來進行地理資料庫之管理與建置。 2011年01月26日，FCC正式公告九家業者，包括Comsearch、 Frequency Finder、Google、KB Enterprises LLC and LS Telcom、 Key Bridge Global LLC、 Neustar、Spectrum Bridge、 Telcordia Technologies、 WSdb LLC.。這九家業者將必須針對2010年所發佈之新規則提出補充資料，並與FCC工程技術辦公室（Office of Engineering and Technology ，OET）配合，舉行一系列的研討與測試實驗，確立最後的技術標準與測試資料庫運作的穩定度。 FCC亦表示，資料庫管理者必須同意，他們將不會從事任何歧視性及反競爭行為，亦不可有危及用戶隱私之行為。 在FCC指定地理資料庫的管理者後，美國開放閒置頻譜使用的前置準備也可說是完成，未來等業者完成測試，相關利用頻譜的設備上市之後，可望為無線通訊市場帶來更多低成本的選擇。
落實完善數位資料管理機制，有助於降低AI歧視及資料外洩風險落實完善數位資料管理機制， 有助於降低AI歧視及資料外洩風險 資訊工業策進會科技法律研究所 2023年07月07日 近年來，科技快速發展，AI(人工智慧)等技術日新月異，在公私部門的應用日益廣泛，而且根據美國資訊科技研究與顧問公司Gartner在2023年5月發布的調查指出，隨著由OpenAI開發的ChatGPT取得成功，更促使各領域對於AI應用的高度重視與投入[1]，與此同時，AI歧視及資料外洩等問題，亦成為社會各界的重大關切議題。 壹、事件摘要 目前AI科技發展已牽動全球經濟發展，根據麥肯錫公司近期發布的《生成式人工智慧的經濟潛力：下一個生產力前沿(The next productivity frontier)》研究報告指出，預測生成式AI(Generative AI)有望每年為全球經濟增加2.6兆至4.4兆的經濟價值[2]。同時在美國資訊科技研究與顧問公司Gartner對於超過2500名高階主管的調查中，45%受訪者認為ChatGPT問世，增加其對於AI的投資。而且68%受訪者認為AI的好處大於風險，僅有5%受訪者認為風險大於好處[3]。然而有社會輿論認為AI的判斷依賴訓練資料，將可能複製人類偏見，造成AI歧視問題，而且若程式碼有漏洞或帳戶被盜用時，亦會造成資料外洩問題。 貳、重點說明 首先，關於AI歧視問題，以金融領域為例，近期歐盟委員會副主席Margrethe Vestager強調若AI用於可能影響他人生計的關鍵決策時，如決定是否能取得貸款，應確保申請人不受性別或膚色等歧視[4]，同時亦有論者認為若用於訓練AI的歷史資料，本身存有偏見問題，則可能導致系統自動拒絕向邊緣化族群貸款，在無形之中加劇，甚至永久化對於特定種族或性別的歧視[5]。 其次，關於資料外洩問題，資安公司Group-IB指出因目前在預設情況下，ChatGPT將保存使用者查詢及AI回應的訊息紀錄，若帳戶被盜，則可能洩露機敏資訊。據統計在2022年6月至2023年5月間，在亞太地區有近41000個帳戶被盜，而在中東和非洲地區有近25000個帳戶被盜，甚至在歐洲地區也有近17000個帳戶被盜[6]。另外在2023年3月時，ChatGPT除了發生部分用戶能夠檢視他人聊天紀錄標題的問題外，甚至發生個人資料外洩問題，即用戶可能知悉他人的姓名、電子郵件，付款地址，信用卡到期日及號碼末四碼等資料[7]。 參、事件評析 對於AI歧視及資料外洩等問題，應透過落實完善數位資料治理與管理機制，以降低問題發生的風險。首先，在收集訓練資料時，為篩選適合作為模型或演算法基礎的資料，應建立資料評估或審查機制，減少或避免使用有潛在歧視問題的資料，以確保分析結果之精確性。 其次，不論對於訓練資料、分析所得資料或用戶個人資料等，均應落實嚴謹的資料保密措施，避免資料外洩，如必須對於資料進行標示或分類，並依照不同標示或分類，評估及採取適當程度的保密措施。同時應對於資料進行格式轉換，以無法直接開啟的檔案格式進行留存，縱使未來可能不慎發生資料外洩，任意第三人仍難以直接開啟或解析資料內容。甚至在傳送帳戶登入訊息時，亦應採取適當加密傳送機制，避免遭他人竊取，盜取帳戶或個人資料。 財團法人資訊工業策進會科技法律研究所長期致力於促進國家科技法制環境完善，於2021年7月發布「重要數位資料治理暨管理制度規範（Essential Data Governance and Management System，簡稱EDGS）」，完整涵蓋數位資料的生成、保護與維護，以及存證資訊的取得、維護與驗證的流程化管理機制，故對於不同公私部門的AI相關資料，均可參考EDGS，建立系統性數位資料管理機制或強化既有機制。 本文同步刊登於TIPS網站（https://www.tips.org.tw） [1]Gartner, Gartner Poll Finds 45% of Executives Say ChatGPT Has Prompted an Increase in AI Investment (May 3, 2023), https://www.gartner.com/en/newsroom/press-releases/2023-05-03-gartner-poll-finds-45-percent-of-executives-say-chatgpt-has-prompted-an-increase-in-ai-investment (last visited June 30, 2023). [2]McKinsey, The economic potential of generative AI: The next productivity frontier (June 14, 2023), https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/the-economic-potential-of-generative-AI-the-next-productivity-frontier#introduction (last visited June 30, 2023). [3]Gartner, supra note 1. [4]Zoe Kleinman, Philippa Wain & Ashleigh Swan, Using AI for loans and mortgages is big risk, warns EU boss (June 14, 2023), https://www.bbc.com/news/technology-65881389 (last visited June 30, 2023). [5]Ryan Browne & MacKenzie Sigalos, A.I. has a discrimination problem. In banking, the consequences can be severe (June 23, 2023), https://www.cnbc.com/2023/06/23/ai-has-a-discrimination-problem-in-banking-that-can-be-devastating.html (last visited June 30, 2023). [6]Group-IB, Group-IB Discovers 100K+ Compromised ChatGPT Accounts on Dark Web Marketplaces; Asia-Pacific region tops the list (June 20, 2023), https://www.group-ib.com/media-center/press-releases/stealers-chatgpt-credentials/ (last visited June 30, 2023). [7]OpenAI, March 20 ChatGPT outage: Here’s what happened (Mar. 24, 2023),https://openai.com/blog/march-20-chatgpt-outage (last visited June 30, 2023).
歐洲議會通過《關鍵原物料法案》強化供應鏈韌性及提升戰略自主權歐盟執委會（European Commission）於2023年3月16日提出《確立關鍵原物料安全及永續供應框架規則草案》（Proposal for a regulation of establishing a framework for ensuring a secure and sustainable supply of critical raw materials，以下簡稱關鍵原物料法案），歐盟理事會和歐洲議會於2023年11月13日就草案內容達成政治協議，歐洲議會於2023年12月12日通過草案，有望於2024年完成立法。 《關鍵原物料法案》設有「關鍵原物料清單」（List of critical raw materials）和「戰略性原物料清單」（List of strategic raw materials），前者包含34種對歐盟經濟至關重要之關鍵原物料，而其中17種關鍵原物料又因具戰略重要性且預期將有全球供需失衡問題，而被劃分至「戰略性原物料清單」。為確保上述關鍵原物料之永續供應，《關鍵原物料法案》採取以下措施： （1）強化歐盟關鍵原物料價值鏈，制定2030年戰略性原物料基準：於2030年前，每年消費之戰略性原物料，至少10%於歐盟境內開採、40%於歐盟境內加工製造、25%於歐盟境內回收再利用。 （2）確保戰略性原物料供應多元化：未來加工階段使用之戰略性原物料，來自單一第三方國家之比例，不得超過總需求量65%。 （3）強化供應鏈韌性：提高歐盟監控和減輕關鍵原物料供應鏈風險之能力。 （4）關鍵原物料循環利用：確保關鍵原物料和含有關鍵原物料的產品在歐盟市場內能自由流通，並透過提高循環性和永續性，落實高水準環境保護政策。 歐盟期望透過上開目標之落實，並配合法案中之簡化開採許可程序及優惠融資管道等經濟鼓勵措施，促進關鍵原物料研發及供應鏈多元化，以落實綠色和數位轉型，並提升歐盟及其會員國之戰略自主權（strategic autonomy）。