拜登政府宣布採取促進負責任AI創新之新行動，以保護美國人民權利與安全
拜登政府於2023年5月4日宣布將採取促進負責任AI創新之新行動，表示公司於部署或公開其產品前，應致力於降低AI風險，並強調風險管理與保障措施的重要性，以防止AI對個人與社會造成潛在危害。此外，拜登總統於2月簽署「透過聯邦政府進一步推動種族平等和支持弱勢群體」行政命令（Executive Order on Further Advancing Racial Equity and Support for Underserved Communities Through The Federal Government），指示聯邦政府機關在設計和使用AI等新技術時，應避免偏見，並保護公眾免受演算法歧視。促進負責任AI創新之新行動包括：
一、投資負責任AI的研發
美國國家科學基金會（National Science Foundation）宣布撥款1.4億美元以啟動7個新的國家AI研究所，未來全美將有25個國家級AI研究所。除有助於促進公私部門之間合作外，將強化AI研發基礎設施、支持多元化AI勞動力發展，及推動氣候、農業、能源、公共衛生、教育與資安等關鍵領域之突破。
二、公開評估現有的生成式AI系統（generative AI systems）
Anthropic、Google、Hugging Face、微軟、NVIDIA、OpenAI和Stability AI等領先AI開發商將參與AI系統獨立公開評估，以評估其模型是否符合AI權利法案藍圖（Blueprint for an AI Bill of Rights），及AI風險管理框架（AI Risk Management Framework）所提出之原則與實踐，並使企業及開發人員能就所發現問題，進一步採取解決措施。
三、提出政策引導聯邦政府減輕AI風險及提升AI利用機會
美國行政管理預算局（Office of Management and Budget）宣布，將於2023年夏季發布有關聯邦政府機關各部門使用AI系統之政策指引草案，並徵詢公眾意見。
柯郁萱
副法律研究員 編譯整理
FACT SHEET: Biden-Harris Administration Announces New Actions to Promote Responsible AI Innovation that Protects Americans’ Rights and Safety, The White House (2023), https://www.whitehouse.gov/briefing-room/statements-releases/2023/05/04/fact-sheet-biden-harris-administration-announces-new-actions-to-promote-responsible-ai-innovation-that-protects-americans-rights-and-safety/ (last visited May 19, 2023).
Blueprint for an AI Bill of Rights, The White House (2022), https://www.whitehouse.gov/ostp/ai-bill-of-rights/ (last visited May 19, 2023).
PCAST Working Group on Generative AI Invites Public Input, The White House (2023), https://www.whitehouse.gov/pcast/briefing-room/2023/05/13/pcast-working-group-on-generative-ai-invites-public-input/ (last visited May 19, 2023).
許嘉芳，〈美國白宮科學與技術政策辦公室發布《人工智慧權利法案藍圖》〉，《科技法律透析》，第35卷第2期，頁6–7（2023）。
許嘉芳，〈修復AI偏見－以NIST標準為核心建立識別與管理AI偏見之作法〉，《科技法律透析》，第34卷第7期，頁37–44（2022）。
陳箴，〈美國國家標準與技術研究院公布人工智慧風險管理框架（AI RMF 1.0）〉，資策會科技法律研究所，2023年2月，https://stli.iii.org.tw/article-detail.aspx?tp=1&d=8974&no=64（最後瀏覽日：2023/05/19）。
張瀠心，〈美國參議院於2022年4月提出《演算法問責法案》對演算法治理再次進行立法嘗試〉，資策會科技法律研究所，2022年11月，https://stli.iii.org.tw/article-detail.aspx?tp=1&d=8912&no=64（最後瀏覽日：2023/05/19）。
澳大利亞國庫部（Department of the Treasury）於2023年10月11日發布《支付系統管理法》（Payment Systems（Regulation）Act 1998）修正草案，擬擴張法案適用主體，將Apple Pay、Google Pay等數位支付或提供此項支付服務事業納入規範，其目的在於提升企業的開放性及責任，並關注大型科技企業在其中扮演的角色。 本次修正案中，將修改現行支付系統的定義及適用主體，擴大至提供支付服務平臺企業，將被視為金融機構受到拘束，並授權澳大利亞準備銀行（the Reserve Bank of Australia，下稱RBA）監管數位支付平臺。修正草案內容整理如下： 1.重新定義「支付系統」。現行法定義為「透過任何形式或方式促進貨幣流通的系統」，草案則納入非貨幣（non-monetary，如數位貨幣）及提供便利支付服務的支付平臺系統。 2.擴大「參與者」定義。現行法規中參與者僅包含管理、運作支付系統的企業，草案則擴張至與支付價值鏈（payments value chain）具直接或非直接相關連之所有企業。 3.現行規範中，僅RBA在可能涉及使用者財務安全及公共利益（下述）考量時，有指定支付系統的職權，並有權監管該支付系統，包含決定新參與者的加入、訂定制度內參與者應遵守的標準及指引、對相關爭議問題進行仲裁等。修法後國庫部部長（Minister）將擁有相同權力。規範所稱之「公共利益」，指有助提升財務安全、高效率並具有競爭性，且不會導致金融體系風險增加。 4.提高法案中刑事處罰的罰金金額。現行法規授權RBA訂定支付制度之相關標準及指引，若制度內參與者未依標準或指引行事，RBA會提出要求企業為特定行為或不行為之指示，仍未依循可能會科處澳幣5,500元的罰金（約臺幣11萬3千元），修法後將提高至2倍，惟罰金之處罰權最終仍須法院審判決定。 我國針對電子支付產業有電子支付機構管理條例、金融消費者保護法規範，並要求第三方支付服務業者落實洗錢防制法規定，避免淪為洗錢或地下匯兌工具，未來可持續觀察澳大利亞及其他國家對於支付平臺議題之討論及發展趨勢，作為我國評估相應治理措施及手段參考基礎。
數位著作權侵權監控公司Rightscorp, Inc.之爭議Rightscorp, Inc.成立於2011年，總部位於美國洛杉磯，該公司與網際網路服務提供者合作（Internet Service Provider, ISP），監控以P2P方式所進行之非法下載行為，並依數位千禧年著作權法（Digital Millennium Copyright Act）之規定，代理權利人與當事人和解（下載一非法檔案的和解金額是20美元）或透過訴訟以保護權利人之智慧財產權，近年越來越多大學甚至是華納兄弟（Warner Bros.）、唱片公司BMG使用Rightscorp這樣第三方公司的服務來監控非法網路活動。 年初（2015）在喬治亞州（City of Monroe, Georgia），該公司因未得消費者同意以電話留言或者發送簡訊、email的方式威嚇消費者達成非法著作權下載之和解，被控訴違反「電話消費者保護法」（Telephone Consumer Protection Act），原告Brown和Ben Jenkin主張針對每一筆非法之通訊連絡請求損害賠償，總額估算可能會超過千元美元。 去年（2014），Rightscorp在加州聯邦法院（California federal court）面臨之集體訴訟仍在進行中，原告方指出Rightscorp並未提供非法下載之債務有效證明且濫用美國千禧年著作權法（DMCA）的通知機制，控訴該公司違反「電話消費者保護法」（TCPA）、「公平債務催收行為法案」（Fair Debt Collection Practice Act ）和「濫用訴訟權利」（Abuse of Process）。 Rightscorp的商業模式，對權利人來說，確實可以有效追蹤侵權行為人，某種程度上可適當地遏止非法下載行為，但手段上也影響到當事人的權利，妥適性有待商榷。惟可預見的是，後續判決結果將可能影響類似公司在防範網路非法下載時的相關反制措施。
FCC就電信轉接服務相關法規之適用發布命令1990 美國身障礙法要求 FCC 確保在合理的情況下，有聽覺或語言障礙人士都能夠接近使用 電信轉接服務 ( telecommunication relay services ， TRS ) 。 TRS 的提供使有聽覺或語言障礙者得以能夠利用電信設施與其他人溝通，而這樣的溝通過程必須是在有受過訓練之通訊輔助人 (communication assistant ， CA) 的協助方能夠完成。 CA 會負責交換使用各種不同輔助通訊裝置 ( 例如 TTY 或電腦 ) 者與使用語音電話者間的通訊。為了減少因為通訊轉換所造成的中斷以及為了使該通訊在功能上幾近等同於語音通訊， TRS 相關規定要求 CA 必須等待至少 10 分鐘後，方能將該筆通訊移轉給另一個 CA 。然而，此規則應用於影像轉接服務 (Video Relay Serices) 時，卻引發相關疑義，例如當發話端使用 ASL(American Sign Language ，美國手語 ) 時， VRS CA 可能會因為使用的手語系統的不同而不能夠正確地了解發話端的意思，因此最好的情況時，可以立即將該筆通訊移轉給另外一個 CA 處理。於此情況下， FCC 於 16 日所發布的命令 (Order) 中表示，考量通訊本身的效率性， CA 可以將通訊移轉給另一名 CA 處理，而不必等待至少 10 分鐘後才將該通訊轉出去。
落實完善數位資料管理機制，有助於降低AI歧視及資料外洩風險落實完善數位資料管理機制， 有助於降低AI歧視及資料外洩風險 資訊工業策進會科技法律研究所 2023年07月07日 近年來，科技快速發展，AI(人工智慧)等技術日新月異，在公私部門的應用日益廣泛，而且根據美國資訊科技研究與顧問公司Gartner在2023年5月發布的調查指出，隨著由OpenAI開發的ChatGPT取得成功，更促使各領域對於AI應用的高度重視與投入[1]，與此同時，AI歧視及資料外洩等問題，亦成為社會各界的重大關切議題。 壹、事件摘要 目前AI科技發展已牽動全球經濟發展，根據麥肯錫公司近期發布的《生成式人工智慧的經濟潛力：下一個生產力前沿(The next productivity frontier)》研究報告指出，預測生成式AI(Generative AI)有望每年為全球經濟增加2.6兆至4.4兆的經濟價值[2]。同時在美國資訊科技研究與顧問公司Gartner對於超過2500名高階主管的調查中，45%受訪者認為ChatGPT問世，增加其對於AI的投資。而且68%受訪者認為AI的好處大於風險，僅有5%受訪者認為風險大於好處[3]。然而有社會輿論認為AI的判斷依賴訓練資料，將可能複製人類偏見，造成AI歧視問題，而且若程式碼有漏洞或帳戶被盜用時，亦會造成資料外洩問題。 貳、重點說明 首先，關於AI歧視問題，以金融領域為例，近期歐盟委員會副主席Margrethe Vestager強調若AI用於可能影響他人生計的關鍵決策時，如決定是否能取得貸款，應確保申請人不受性別或膚色等歧視[4]，同時亦有論者認為若用於訓練AI的歷史資料，本身存有偏見問題，則可能導致系統自動拒絕向邊緣化族群貸款，在無形之中加劇，甚至永久化對於特定種族或性別的歧視[5]。 其次，關於資料外洩問題，資安公司Group-IB指出因目前在預設情況下，ChatGPT將保存使用者查詢及AI回應的訊息紀錄，若帳戶被盜，則可能洩露機敏資訊。據統計在2022年6月至2023年5月間，在亞太地區有近41000個帳戶被盜，而在中東和非洲地區有近25000個帳戶被盜，甚至在歐洲地區也有近17000個帳戶被盜[6]。另外在2023年3月時，ChatGPT除了發生部分用戶能夠檢視他人聊天紀錄標題的問題外，甚至發生個人資料外洩問題，即用戶可能知悉他人的姓名、電子郵件，付款地址，信用卡到期日及號碼末四碼等資料[7]。 參、事件評析 對於AI歧視及資料外洩等問題，應透過落實完善數位資料治理與管理機制，以降低問題發生的風險。首先，在收集訓練資料時，為篩選適合作為模型或演算法基礎的資料，應建立資料評估或審查機制，減少或避免使用有潛在歧視問題的資料，以確保分析結果之精確性。 其次，不論對於訓練資料、分析所得資料或用戶個人資料等，均應落實嚴謹的資料保密措施，避免資料外洩，如必須對於資料進行標示或分類，並依照不同標示或分類，評估及採取適當程度的保密措施。同時應對於資料進行格式轉換，以無法直接開啟的檔案格式進行留存，縱使未來可能不慎發生資料外洩，任意第三人仍難以直接開啟或解析資料內容。甚至在傳送帳戶登入訊息時，亦應採取適當加密傳送機制，避免遭他人竊取，盜取帳戶或個人資料。 財團法人資訊工業策進會科技法律研究所長期致力於促進國家科技法制環境完善，於2021年7月發布「重要數位資料治理暨管理制度規範（Essential Data Governance and Management System，簡稱EDGS）」，完整涵蓋數位資料的生成、保護與維護，以及存證資訊的取得、維護與驗證的流程化管理機制，故對於不同公私部門的AI相關資料，均可參考EDGS，建立系統性數位資料管理機制或強化既有機制。 本文同步刊登於TIPS網站（https://www.tips.org.tw） [1]Gartner, Gartner Poll Finds 45% of Executives Say ChatGPT Has Prompted an Increase in AI Investment (May 3, 2023), https://www.gartner.com/en/newsroom/press-releases/2023-05-03-gartner-poll-finds-45-percent-of-executives-say-chatgpt-has-prompted-an-increase-in-ai-investment (last visited June 30, 2023). [2]McKinsey, The economic potential of generative AI: The next productivity frontier (June 14, 2023), https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/the-economic-potential-of-generative-AI-the-next-productivity-frontier#introduction (last visited June 30, 2023). [3]Gartner, supra note 1. [4]Zoe Kleinman, Philippa Wain & Ashleigh Swan, Using AI for loans and mortgages is big risk, warns EU boss (June 14, 2023), https://www.bbc.com/news/technology-65881389 (last visited June 30, 2023). [5]Ryan Browne & MacKenzie Sigalos, A.I. has a discrimination problem. In banking, the consequences can be severe (June 23, 2023), https://www.cnbc.com/2023/06/23/ai-has-a-discrimination-problem-in-banking-that-can-be-devastating.html (last visited June 30, 2023). [6]Group-IB, Group-IB Discovers 100K+ Compromised ChatGPT Accounts on Dark Web Marketplaces; Asia-Pacific region tops the list (June 20, 2023), https://www.group-ib.com/media-center/press-releases/stealers-chatgpt-credentials/ (last visited June 30, 2023). [7]OpenAI, March 20 ChatGPT outage: Here’s what happened (Mar. 24, 2023),https://openai.com/blog/march-20-chatgpt-outage (last visited June 30, 2023).