拜登政府宣布採取促進負責任AI創新之新行動，以保護美國人民權利與安全
拜登政府於2023年5月4日宣布將採取促進負責任AI創新之新行動，表示公司於部署或公開其產品前，應致力於降低AI風險，並強調風險管理與保障措施的重要性，以防止AI對個人與社會造成潛在危害。此外，拜登總統於2月簽署「透過聯邦政府進一步推動種族平等和支持弱勢群體」行政命令（Executive Order on Further Advancing Racial Equity and Support for Underserved Communities Through The Federal Government），指示聯邦政府機關在設計和使用AI等新技術時，應避免偏見，並保護公眾免受演算法歧視。促進負責任AI創新之新行動包括：
一、投資負責任AI的研發
美國國家科學基金會（National Science Foundation）宣布撥款1.4億美元以啟動7個新的國家AI研究所，未來全美將有25個國家級AI研究所。除有助於促進公私部門之間合作外，將強化AI研發基礎設施、支持多元化AI勞動力發展，及推動氣候、農業、能源、公共衛生、教育與資安等關鍵領域之突破。
二、公開評估現有的生成式AI系統（generative AI systems）
Anthropic、Google、Hugging Face、微軟、NVIDIA、OpenAI和Stability AI等領先AI開發商將參與AI系統獨立公開評估，以評估其模型是否符合AI權利法案藍圖（Blueprint for an AI Bill of Rights），及AI風險管理框架（AI Risk Management Framework）所提出之原則與實踐，並使企業及開發人員能就所發現問題，進一步採取解決措施。
三、提出政策引導聯邦政府減輕AI風險及提升AI利用機會
美國行政管理預算局（Office of Management and Budget）宣布，將於2023年夏季發布有關聯邦政府機關各部門使用AI系統之政策指引草案，並徵詢公眾意見。
柯郁萱
副法律研究員 編譯整理
FACT SHEET: Biden-Harris Administration Announces New Actions to Promote Responsible AI Innovation that Protects Americans’ Rights and Safety, The White House (2023), https://www.whitehouse.gov/briefing-room/statements-releases/2023/05/04/fact-sheet-biden-harris-administration-announces-new-actions-to-promote-responsible-ai-innovation-that-protects-americans-rights-and-safety/ (last visited May 19, 2023).
Blueprint for an AI Bill of Rights, The White House (2022), https://www.whitehouse.gov/ostp/ai-bill-of-rights/ (last visited May 19, 2023).
PCAST Working Group on Generative AI Invites Public Input, The White House (2023), https://www.whitehouse.gov/pcast/briefing-room/2023/05/13/pcast-working-group-on-generative-ai-invites-public-input/ (last visited May 19, 2023).
許嘉芳，〈美國白宮科學與技術政策辦公室發布《人工智慧權利法案藍圖》〉，《科技法律透析》，第35卷第2期，頁6–7（2023）。
許嘉芳，〈修復AI偏見－以NIST標準為核心建立識別與管理AI偏見之作法〉，《科技法律透析》，第34卷第7期，頁37–44（2022）。
陳箴，〈美國國家標準與技術研究院公布人工智慧風險管理框架（AI RMF 1.0）〉，資策會科技法律研究所，2023年2月，https://stli.iii.org.tw/article-detail.aspx?tp=1&d=8974&no=64（最後瀏覽日：2023/05/19）。
張瀠心，〈美國參議院於2022年4月提出《演算法問責法案》對演算法治理再次進行立法嘗試〉，資策會科技法律研究所，2022年11月，https://stli.iii.org.tw/article-detail.aspx?tp=1&d=8912&no=64（最後瀏覽日：2023/05/19）。
促進數位資產流通機制建立之法制初探 資訊工業策進會科技法律研究所 2021年2月3日 現代社會中，數位資產已無處不在，並很大程度地在經濟社會活動中佔有一席之地。舉凡非有體物形式財產[1]；或個人有權利或利益之電子形式紀錄[2]；抑或所有可儲存在伺服器、電腦或其他電子設備上的事物，包括社群網站帳號、照片、網站、線上銀行帳戶、比特幣、線上音樂、網域和數位財產相關之任何智慧財產權皆可歸為[3]數位資產範疇。在此些數位資產中，除資料、智慧財產等無形資產外，有部分係奠基於網路服務業者所提供服務，進而在使用者利用過程中衍生其價值之數位資產（如社群媒體帳號、線上遊戲寶物、數位代幣等），如能有效就此類數位資產加以流通活用，預料將可促進數位經濟成長並厚植競爭實力。 欲流通、活用前開數位資產，首先面臨的挑戰是如何釐清數位資產[4]內涵。蓋其未必具有實體，似難認其具有民法上物權性質，且亦非法律上已給予明確定位之智慧財產權，或依其性質已由主管機關訂其適用法律之證券型代幣發行（Security Token Offering），實難就該等數位資產之內涵給予法律上評價與定論。是故，網路服務業者與使用者間就該等數位資產的使用，遂回歸私法自治精神，由雙方當事人以契約之私法關係約定。但此作法卻易造成具有優勢地位的網路服務業者慣於藉契約限制或排除使用者轉讓、贈與甚至是繼承數位資產之可能性，對使用者權利的保障似仍無足堪用；其次，相比實體資產，數位資產於交易上，未如動產以占有、不動產以占有加登記、智慧財產權以註冊或法律明文保護方式具體化公示外觀，交易當下難確知數位資產是否真實存在、交易對造是否有權處分等，影響經濟活動信任基礎之建立。 鑒於數位資產已逐漸顯露在經濟活動中的重要性，卻仍無足堪適用之法律促進流通並保障相應權利。是以，實有觀察國際間應對數位資產流通困境措施之必要，以為我國推行數位資產流通機制之借鏡。 壹、事件摘要 誠如前言，數位資產縱已是現代生活不可或缺之一步，但就數位代幣、線上遊戲寶物、社群媒體帳號等數位形式存在之標的，在法律上仍難以明確可茲適用法律，致使使用者在權利保障上未能周全。同時，因數位資產並無公示外觀表彰權源，亦無可形構數位信任基礎之制度，而難活絡數位資產流通市場。 對應於此，美國懷俄明州（State of Wyoming）於2019年7月1日施行《數位資產法》（Digital assets-existing law, NO. SF0125[5]），就數位資產嘗試給予法律定位，並建立銀行提供數位資產託管服務的法律基礎。在數位資產法律定位上，框定以電腦可讀格式存儲具有經濟價值、專有的或存取的權利（economic, proprietary or access rights）為數位資產，並明定數位資產具懷俄明《統一商業法典》（Uniform Commercial Code）所稱財產之性質。同時，也進一步將數位資產劃分為數位消費資產（Digital Consumer Assets）、數位證券（Digital Securities）、虛擬貨幣（Virtual Currencies）三者[6]。數位消費資產是指符合統一商法典中所稱一般無形資產（General Intangibles[7]）之個人無形資產，主要用於消費、個人或家庭目的之數位資產譬如開放式區塊鏈代幣（Open Blockchain Token）、如線上遊戲寶物、社群媒體帳號等；而數位證券乃指符合統一商法典所稱證券或投資財產（Investment Property[8]）定義之數位資產；至於虛擬貨幣[9]，則是指用做交易媒介、帳戶單位或價值儲存的數位資產。另方面，在構築數位資產可信賴性之作為上，懷俄明州授權數位資產具有擔保權益[10]，並建立銀行提供數位資產託管服務（Custodial Services）的法律框架[11] ，將被納入懷俄明州統一商法典「財產」範疇下的數位資產，允許銀行為其提供託管服務，同時，根據懷俄明州統一信託法（Uniform Trust Code）進行數位資產的控制和保護。由此觀察，顯見美國個別州已有意識地逐步為數位資產流通環境創設有利發展的監管環境。 無獨有偶，俄羅斯同樣積極地以法律手段回應數位資產活用、流通的需求。俄羅斯在2019年3月提出聯邦民法典修正案－數位權利法案，在民法第128條民事權利客體增設「數位權利」，並於第141.1條指出「數位權利」發生的條件，係當數位標的被存放於符合一定法定標準之資訊系統（即以區塊鏈技術運作之系統），即賦予其民事權利客體地位，將之納入民事權利關係中，擴展數位資產發展的法律空間。換言之，未來，俄羅斯數位資產如欲受到數位權利之保障，必須是在分散式資訊系統（Decentralised Information System）內運作，並且，該系統必須可使有權存取數位資產之人，可以在任何時間知悉該資產的狀態；同時，僅有在資訊系統內才可行使轉讓、擔保和數位權利其他形式之負擔行為，且不需經第三方之介入。除非法律另有規定，否則數位權利持有者（Owners）是唯一有權根據相關資訊系統規則處分（Dispose）此類權利的人，並且，應由他人就數位資產權利歸屬進行驗證。值得注意的是，數位貨幣和加密貨幣已被排除在適用範圍之外[12]。 貳、重點說明 承續觀察美國懷俄明州以及俄羅斯等國際間應對數位資產之見，具有以下特色： 一、嘗試為數位資產明確其適用法律 由於數位資產在法律上未必有特別規定，形成實務上多以私法契約關係約定數位資產使用權現象。當數位資產在當今社經發展下漸顯其重要性時，如仍一概以私法契約關係約定雙方當事人權利義務似有所不足。 因此可發現美國懷俄明州和俄羅斯分別尋思不同路徑，嘗試為數位資產提供明確的法律地位。美國懷俄明州就數位資產類型化為數位消費資產、數位證券、虛擬貨幣三者。藉此敘明，在基於《統一商業法典》擔保交易之目的下，數位消費資產應直接適用統一商法典下的一般無形資產相關規定；數位證券則是適用統一商法典下有關證券及投資財產相關規範；虛擬貨幣則被視為是貨幣，適用與貨幣相關法令，受讓人應擔保相關財產權[13]；俄羅斯則是在其既有的民事權利客體體系下，增設數位權利。換言之，當數位資產在符合民法所定義的環境中運作時，俄羅斯將賦與該等數位資產數位權利地位而受民法保障。 二、試圖構築數位資產信任基礎 除上述（權利）定性問題外，數位資產另一困境係缺乏形構數位信任的相應作為，而亟待尋求建立數位信任的解方。 是以，美國懷俄明州利用其銀行體系作為構築數位信任的工具。透過《數位資產法》闡明銀行作為數位資產託管服務提供者的標準及程序[14]，擬藉由託管數位資產方式，由銀行負責管理，並受託管人指示進行數位資產交易。經由託管人指示進行數位資產交易後，銀行將代表客戶進行數位資產之購入或售出，讓數位資產交易可以獲得安全且可靠的銀行服務；俄羅斯則直接以民法明文規定數位資產流通環境之標準與規則，並明確指出在該等環境中，數位資產所可主張之權利包含支配權、排他權等，並且，得在不經由第三方協助下，直接執行與管理數位權利，包含轉讓、擔保等。換言之，俄羅斯企以法定標準方式，導引業者共同形塑安全資訊系統環境，在該等環境中，數位資產之狀態得以固化與被驗證，並具有準物權性質和得公示之外觀，突破數位資產流通與活用最根本的信任問題。 參、事件評析 美國懷俄明州、俄羅斯嘗試將法律作為調節數位資產與社會關係的重要工具，客觀地從數位資產內涵以及數位資產交易之信任構築著手，形塑數位資產流通與活用基礎，極具參考價值。 面對數位資產浪潮，我們可觀察到兩類因應取徑。美國懷俄明州採取數位資產與周邊產業關係的再形塑，針對數位資產在特定交易目的下的應用，以《數位資產法》闡明其適用法令，並為當地金融業開展新形態服務建立框架，由此擴大金融業經營業務範圍，藉金融體系作為公正可信賴第三方者促進數位資產流通，促成產業與消費者雙贏，帶動產業生態系的成形；俄羅斯則著眼於數位資產流通環境的建設，企圖以數位基礎建設構築一可固定數位資產狀態，並形成可公示外觀與提供數位資產所有者支配權、排他權之環境，以此促進數位資產在該等環境下的流通與活用，進而預先為未來智慧合約等更新穎的數位資產應用準備。 對照於此，何以擘劃我國數位資產流通與活用政策，或可融鑄美國與俄羅斯之見，為數位資產內涵與適用法律給予明確地位，避免業者藉由私法手段片面限制數位資產的流通。換言之，或許宜進一步思考當數位資產具有經濟效益且已有長期反覆慣行交易行為，被人民確信其法律效力者，是否可認其已有民法第757條所稱之習慣，而具有物權內涵，可為流通與交易而不受業者單以（債權）契約約定；其次，建議考量是否借鏡俄羅斯創設數位權利，法定化數位資產流通環境之資訊系統，或如美國借力具提供數位資產管理、處分能力業者，共構數位資產流通環境基礎建設與驗證標準，通過技術手段具體化數位資產權利外觀，以確實解消流通環境安全問題並建立數位信任。 [1] 盛雅、陳芳鑫，〈數字信號代碼是否可以繼承？〉，《法治天地》，第8期，頁54（2019）。 [2] American Bar Association[ABA], Digital and Digitized Assets: Federal and State Jurisdictional Issues, (2019), https://www.americanbar.org/content/dam/aba/administrative/business_law/buslaw/committees/CL620000pub/digital_assets.pdf (last visited Jan. 1, 2020). [3] Thomson Reuters/Tax and Accounting Gross Estate, Key Issue 8J: Digital Assets, 706/709 Deskbook Key Iss 8J 1-3 (25th ed, 2019). [4] 本研究以下所討論之數位資產範圍，僅限於網路服務業者所提供服務，進而在使用者利用過程中衍生其價值之數位資產（如數位代幣、線上遊戲寶物、社群媒體帳號等）。 [5] Digital assets-existing law, SF0125 WY §§34‑29‑101- 13-2-101 (2019), https://www.wyoleg.gov/Legislation/2019/SF0125 (last visited Mar. 24, 2019). [6] Digital assets-existing law, Section 1, §34‑29‑104, Digital asset custodial services, “（a） A bank may provide custodial services consistent with this section upon providing sixty （60） days written notice to the commissioner. The provisions of this section are cumulative and not exclusive as an optional framework for enhanced supervision of digital asset custody. If a bank elects to provide custodial services under this section, it shall comply with all provisions of this section.”, https://www.wyoleg.gov/Legislation/2019/SF0125 (last visited Mar. 12, 2019). [7] "General intangible" means any personal property, including things in action, other than accounts, chattel paper, commercial tort claims, deposit accounts, documents, goods, instruments, investment property, letter-of-credit rights, letters of credit, money and oil, gas or other minerals before extraction. The term includes payment intangibles and software. [8] "Investment property" means a security, whether certificated or uncertificated, security entitlement, securities account, commodity contract or commodity account. [9] Digital assets-existing law, Section 1, §34‑29‑102 (a), “ (iii) Virtual currency is intangible personal property and shall be considered money, notwithstanding W.S. 34.1‑1‑201(b)(xxiv), only for the purposes of article 9 of the Uniform Commercial Code, title 34.1, Wyoming statutes. ”, https://www.wyoleg.gov/Legislation/2019/SF0125 (last visited Mar. 12, 2019). [10] Wyo. Stat. § 34-29-103 [11] Wyo. Stat. § 34-29-104 [12] Global Legal Insights, Blockchain & Cryptocurrency Regulation 2020 Russia (2019), https://www.globallegalinsights.com/practice-areas/blockchain-laws-and-regulations/russia (last visited Jan. 16, 2020) [13] Uniform Commercial Code§ 9-332. TRANSFER OF MONEY; TRANSFER OF FUNDS FROM DEPOSIT ACCOUNT. [14] Supra note 12.
用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限 資訊工業策進會科技法律研究所 2023年09月08日 生成式AI是透過研究過去資料，以創造新內容和想法的AI技術，其應用領域包括文字、圖像及影音。以ChatGPT為例，OpenAI自2022年11月30日發布ChatGPT後，短短二個月內，全球月均用戶數即達到1億人，無疑成為民眾日常生活中最容易近用的AI科技。 惟，生成式AI大量使用後，其中的問題也逐漸浮現。例如，ChatGPT提供的回答僅是從所學習的資料中統整歸納，無法保證資料的正確性。Roberto Mata v. Avianca, Inc.案即是因律師利用ChatGPT撰寫訴狀，卻未重新審視其所提供判決之正確性，以致後續引發訴狀中所描述的判決不存在爭議。 壹、事件摘要 Roberto Mata v. Avianca, Inc.案[1]中，原告Roberto Mata於2019年8月搭乘哥倫比亞航空從薩爾瓦多飛往紐約，飛行過程中膝蓋遭空服員的推車撞傷，並於2022年2月向法院提起訴訟，要求哥倫比亞航空為空服員的疏失作出賠償；哥倫比亞航空則主張已超過《蒙特婁公約》（Montreal Convention）第35條所訂之航空器抵達日起兩年內向法院提出損害賠償之請求時效。 R然而，法院審理過程中發現原告訴狀內引用之六個判決無法從判決系統中查詢，進而質疑判決之真實性。原告律師Steven A. Schwartz因而坦承訴狀中引用的六個判決是ChatGPT所提供，並宣稱針對ChatGPT所提供的判決，曾多次向ChatGPT確認該判決之正確性[2]。 貳、生成式AI應用之潛在風險 雖然運用生成式AI技術並結合自身專業知識執行特定任務，可能有助於提升效率，惟，從前述Roberto Mata v. Avianca, Inc.案亦可看出，依目前生成式AI技術之發展，仍可能產生資訊正確性疑慮。以下彙整生成式AI應用之8大潛在風險[3]： 一、能源使用及對環境危害 相較於傳統機器學習，生成式AI模型訓練將耗費更多運算資源與能源。根據波士頓大學電腦科學系Kate Saenko副教授表示，OpenAI的GPT-3模型擁有1,750億個參數，約會消耗1,287兆瓦/時的電力，並排放552噸二氧化碳。亦即，每當向生成式AI下一個指令，其所消耗的能源量相較於一般搜尋引擎將可能高出4至5倍[4]。 二、能力超出預期（Capability Overhang） 運算系統的黑盒子可能發展出超乎開發人員或使用者想像的隱藏功能，此發展將會對人類帶來新的助力還是成為危險的阻力，則會隨著使用者之間的相互作用而定。 三、輸出結果有偏見 生成式AI通常是利用公開資料進行訓練，若輸入資料在訓練時未受監督，而帶有真實世界既存的刻板印象（如語言、種族、性別、性取向、能力、文化等），據此建立之AI模型輸出結果可能帶有偏見。 四、智慧財產權疑慮 生成式AI進行模型訓練時，需仰賴大量網路資料或從其他大型資料庫蒐集訓練資料。然而，若原始資料來源不明確，可能引發取得資料未經同意或違反授權條款之疑慮，導致生成的內容存在侵權風險。 五、缺乏驗證事實功能 生成式AI時常提供看似正確卻與實際情形不符的回覆，若使用者誤信該答案即可能帶來風險。另外，生成式AI屬於持續動態發展的資訊生態系統，當產出結果有偏誤時，若沒有大規模的人為干預恐難以有效解決此問題。 六、數位犯罪增加與資安攻擊 過去由人工產製的釣魚郵件或網站可能受限於技術限制而容易被識破，然而，生成式AI能夠快速建立具高度說服力的各種擬真資料，降低詐騙的進入門檻。又，駭客亦有可能在不熟悉技術的情況下，利用AI進一步找出資安弱點或攻擊方法，增加防禦難度。 七、敏感資料外洩 使用雲端服務提供商所建立的生成式AI時，由於輸入的資料存儲於外部伺服器，若要追蹤或刪除有一定難度，若遭有心人士利用而導致濫用、攻擊或竄改，將可能產生資料外洩的風險。 八、影子AI（Shadow AI） 影子AI係指開發者未知或無法控制之AI使用情境。隨著AI模型複雜性增加，若開發人員與使用者未進行充分溝通，或使用者在未經充分指導下使用 AI 工具，將可能產生無法預期之風險。 參、事件評析 在Roberto Mata v. Avianca, Inc.案中，法院關注的焦點在於律師的行為，而非對AI技術使用的批判。法院認為，隨著技術的進步，利用可信賴的AI工具作為協助用途並無不當，惟，律師應踐行其專業素養，確保所提交文件之正確性[5]。 當AI科技發展逐漸朝向自主與獨立的方向前進，仍需注意生成式AI使用上之侷限。當個人在使用生成式AI時，需具備獨立思考判斷的能力，並驗證產出結果之正確性，不宜全盤接受生成式AI提供之回答。針對企業或具高度專業領域人士使用生成式AI時，除確認結果正確性外，更需注意資料保護及治理議題，例如建立AI工具合理使用情境及加強員工使用相關工具之教育訓練。在成本能負擔的情況下，可選擇透過企業內部的基礎設施訓練AI模型，或是在訓練模型前確保敏感資料已經加密或匿名。並應注意自身行業領域相關法規之更新或頒布，以適時調整資料使用之方式。 雖目前生成式AI仍有其使用之侷限，仍應抱持開放的態度，在技術使用與風險預防之間取得平衡，以能夠在技術發展的同時，更好地學習新興科技工具之使用。 [1]Mata v. Avianca, Inc., 1:22-cv-01461, (S.D.N.Y.). [2]Benjamin Weiser, Here’s What Happens When Your Lawyer Uses ChatGPT, The New York Times, May 27, 2023, https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html (last visited Aug. 4, 2023). [3]Boston Consulting Group [BCG], The CEO’s Roadmap on Generative AI (Mar. 2023), https://media-publications.bcg.com/BCG-Executive-Perspectives-CEOs-Roadmap-on-Generative-AI.pdf (last visited Aug. 29, 2023). [4]Kate Saenko, Is generative AI bad for the environment? A computer scientist explains the carbon footprint of ChatGPT and its cousins, The Conversation (May 23, 2023.), https://theconversation.com/is-generative-ai-bad-for-the-environment-a-computer-scientist-explains-the-carbon-footprint-of-chatgpt-and-its-cousins-204096 (last visited Sep. 7, 2023). [5]Robert Lufrano, ChatGPT and the Limits of AI in Legal Research, National Law Review, Volume XIII, Number 195 (Mar. 2023), https://www.natlawreview.com/article/chatgpt-and-limits-ai-legal-research (last visited Aug. 29, 2023).
日本修訂《教育資訊安全政策指引》以建構安全的校園ICT環境日本文部科學省於2022年3月發布「教育資訊安全政策指引」（教育情報セキュリティポリシーに関するガイドライン）修訂版本，該指引於2017年10月訂定，主要希望能作為各教育委員會或學校作成或修正資訊安全政策時的參考，本次修訂則是希望能具體、明確化之前的指引內容。本次修訂主要內容如下。 （1）增加校務用裝置安全措施的詳細說明： 充實「以風險為基礎的認證」（リスクベース認証）、「異常活動檢測」（ふるまい検知）、「惡意軟體之措施」（マルウェア対策）、「加密」（暗号化）、「單一登入的有效性」（SSOの有効性）等校務用裝置安全措施內容敘述。 （2）明確敘述如何實施網路隔離與控制存取權的相關措施： 對於校務用裝置實施網路隔離措施，並將網路分成校務系統或學習系統等不同系統，若運用精簡型電腦技術（シンクライアント技術）則可於同一裝置執行網路隔離。另外，針對校務用裝置攜入、攜出管理執行紀錄，並依實務運作調整控制存取權措施，例如安全侵害影響輕微者則可放寬限制以減輕管理者負擔。
國際推動綠色科技發展重要法制政策研析