美國科羅拉多州通過《人工智慧消費者保護法》

2024年5月17日,科羅拉多州州長簽署了《人工智慧消費者保護法》(Consumer Protections for Artificial Intelligence Act,Colorado AI Act,下簡稱本法),其內容將增訂於《科羅拉多州修訂法規》(Colorado Revised Statutes,簡稱CRS)第6篇第17部分,是美國第一部廣泛對AI規範的法律,將於2026年2月1日生效。

本法旨在解決「高風險人工智慧系統」的演算法歧視(Algorithmic Discrimination)的問題 ,避免消費者權益因為演算法之偏見而受到歧視。是以,本法將高風險AI系統(High-risk Artificial Intelligence System)定義為「部署後作出關鍵決策(Consequential Decision)或在關鍵決策中起到重要作用的任何AI系統」。

而後,本法藉由要求AI系統開發者(Developers)與部署者(Deployers)遵守「透明度原則」與「禁止歧視原則」,來保護消費者免受演算法歧視。規定如下:

(一)系統透明度:

1.開發者應向部署者或其他開發者提供該系統訓練所使用的資料、系統限制、預期用途、測試演算法歧視之文件以及其他風險評估文件。

2.部署者應向消費者揭露高風險人工智慧系統的預期用途,也應在高風險人工智慧系統做出決策之前向消費者提供聲明,聲明內容應該包含部署者之聯絡方式、該系統的基本介紹、部署者如何管理該系統可預見之風險等資訊。

(二)禁止歧視:

1.開發者應實施降低演算法歧視之措施,並應協助部署者理解高風險人工智慧系統。此外,開發者也應該持續測試與分析高風險人工智慧系統可能產生之演算法歧視風險。若開發者有意修改該系統,應將更新後的系統資訊更新於開發者網站,並須同步提供給部署者。

2.部署者應該實施風險管理計畫,該風險管理計畫應包含部署者用於識別、紀錄降低演算法歧視風險之措施與負責人員,且風險管理計畫應定期更新。在制定風險管理計畫時,必須參考美國商務部國家標準暨技術研究院(National Institute of Standards and Technology, NIST)的《人工智慧風險管理框架》(AI Risk Management Framework, AI RMF 2.0)與ISO/IEC 42001等風險管理文件。

美國普遍認為科羅拉多州的《人工智慧消費者保護法》為目前針對人工智慧系統最全面之監管法規,可作為其他州有關人工智慧法規的立法參考,美國各州立法情況與作法值得持續關注。

相關連結
※ 美國科羅拉多州通過《人工智慧消費者保護法》, 資訊工業策進會科技法律研究所, https://stli.iii.org.tw/article-detail.aspx?d=9217&no=55&tp=1 (最後瀏覽日:2025/11/24)
引註此篇文章
你可能還會想看
新加坡修正通過電子交易法

  新加坡於2010年5月19日修正通過電子交易法,並於7月1日正式施行。此次新修正之「電子交易法」,是依據新加坡資通訊發展局(Infocomm Development Authority,IDA)及司法部於2004到2005年間推行之公眾意見諮詢,進行法條之全面翻修。作為電子交易法制之先驅國家,新加坡於此次修法中納入聯合國「跨國契約中使用電子通訊公約」(United Nations Convention on the Use of Electronic Communications in International Contracts)之相關規定,此一公約旨在促進全球之電子通訊及交易以相同之法律模式加以運作。     該法之修正係為因應新加坡電子商務之日趨成長以及國民對電子化政府之需求,以建立新加坡成為全球可信賴之資通訊中心。此次修正重點如下: 一、參照聯合國「跨國契約中使用電子通訊公約」之規定,調整電子簽章之要件以及對於收發電子文件時間與地點之認定。納入以自動處理訊息系統做為契約訂立之方式,以電子文件作為正本以取代實體書面之正本文件,並就電子交易中要約之引誘以及電子通訊中發生錯誤時之解決方式加以規定,使新加坡之法律制度能與國際電子商務法律制度接軌。 二、促進民眾及企業與政府機關進行互動時,更有效率地使用電子文件相關服務,以加強電子化政府服務之應用。如提供綜合性電子表格,讓使用者僅需填寫一次相關資訊,即能利用不同種類的電子化政府服務。 三、對憑證管理中心之規範採用技術中立的認證架構,未來憑證管理中心不一定要使用公開金鑰基礎建設(Public Key Infrastructure,PKI)之相關技術作為提供驗證服務之方式,相對地,在其他技術逐漸開發之狀況下,也可採用其他技術提供驗證服務,如生物鑑識技術。當然,主管機關仍會以相同標準對採用不同驗證技術之憑證管理中心進行監督,以確保憑證服務之安全性及有效性。 。

英國發布「人工智慧:機會與未來決策影響」政策報告,並聚焦人工智慧運用及管理

  英國科學辦公室於2016年11月9日,發布一份政策報告:「人工智慧:機會與未來決策影響(Artificial intelligence: opportunities and implications for the future of decision making)」,介紹人工智慧對於社會及政府的機會和影響,此份政策報告並提出以下各項重要建議: (一)關於人工智慧及應用界定與發展   人工智慧是指由人工製造系統所表現出來的智慧。不僅是將現有的流程自動化,還包含制定目標,並利用電腦程式實現這些目標,常見案例包括線上翻譯、語音辨識、搜尋引擎篩選排序、垃圾郵件過濾、透過用戶回饋改善線上服務、預測交通流量、環境或社會經濟趨勢發展觀察等。 (二)未來對社會及政府利益及衝擊   人工智慧針對提高生產力有巨大的潛力,最明顯的就是幫助企業或個人更有效地運用資源,並簡化大量資料的處理,例如Ocado 及 Amazon這樣的公司正充份利用人工智慧改善倉儲及銷售網路系統,使得客戶可便利快速購得網購商品。   目前,政府也日益增加相關技術的運用,以提高公共服務效率,使資源達到最佳化分配;減少決策者被誤導的可能;使政府決策透明化;確保各部門更了解人民的意見。然政府在利用人工智慧及巨量資料時,應遵守倫理使用指南,並遵守英國資料保護法及歐盟一般資料保護規則等相關法規。   在巨量資料、機器人、自動系統對於勞動市場的衝擊一直都是關注的議題,對於面臨未來工作結構的轉型及相關技術人員的進修及培養,應及早規劃,以適應未來的轉變。 (三)關於相關道德及法律風險管理課題   人工智慧可能潛在相關道德倫理問題。許多專家認為政府應積極管理並降低風險發生可能性,可從以下兩個面向思考: (1)研究機器學習與個人資料運用結合時,對個人自由、隱私和同意等概念的影響。 (2)調適由人工智慧作決策行為時的歸責概念和機制。   有關實際案例之研究,則包括,執法單位在應用預測技術時,應避免以種族、國籍、地址作為標準,並嚴守無罪推定原則,以防止民眾受到歧視或不公平的指控;透過人工智慧可從公開資料推測出某些私人訊息或其親朋好友的消息,此訊息即可能超出原先個人同意披露的內容;原先匿名化及去識別化的訊息,因人工智慧功能加強,導至可能被重新識別,故須定期檢視該保護措施是否足夠。另外,人工智慧的演算偏差可能導致偏見的風險,為了降低這種風險,技術人員應採取對應措施。   針對責任及疏失的判斷,目前尚無太多的實務案例,但為保持對使用人工智慧的信任,仍需有明確的歸責制,可能有必要讓首席執行長或高級主管對人工智慧做出的決策負最終責任。許多專家也建議,部分技術內容須保持透明度,以確定技術使用時是否有盡到相關注意義務。   人工智慧已成為未來發展趨勢之一,對於社會整體層面影響將越來越深,新的技術除了可提升生產力,帶來便利的生活,同樣也會帶來衝擊。為促進相關產業發展及推展新技術的使用,應打造技術發展友善環境,並對於公眾安全進行相關風險評估,如果風險屬於現有監管制度範圍,應評估是否可充分解決風險,或是須要做相對應的調適。另外,在人工智慧融入現實世界同時,相關業者應注意相關產品安全性、隱私權保護和從業人員的倫理教育,以提高大眾對新技術的接受及信賴,並確保對於未來挑戰及轉變已做好萬全準備。

歐盟理事會公告延長對俄羅斯經濟制裁

  歐盟理事會(European Council)於2023年1月27日決定將針對俄羅斯特定經濟部門的限制措施延長六個月至2023年7月31日。歐盟對俄羅斯的制裁可回溯自2014年「克里米亞危機」,俄羅斯破壞烏克蘭局勢穩定。自2022年2月以來,鑑於俄羅斯對烏克蘭軍事侵略,歐盟制裁範圍大幅擴大(截至2022年12月16日共有9輪制裁)。歐盟的制裁範圍廣泛,涉及如下不同領域的措施:   (1)貿易層面:對技術和軍民兩用貨品(dual-use goods)、提升俄羅斯工業能力交易、陸海空運輸以及奢侈品交易等進行限制。   (2)能源層面:禁止向俄羅斯購買原油及特定石油產品;或透過第三國將原油及特定石油產品從俄羅斯進口或移轉到歐盟境內。   (3)金融層面:將俄羅斯銀行踢出「環球銀行金融電信協會」(SWIFT)支付系統,以及限制提供給俄羅斯的金融服務(如存款、信託、信評等)。   (4)資訊層面:終止透過假消息(disinformation)支持克里姆林宮的廣播活動和廣播許可證。   歐盟自2022年2月24日以來,針對俄羅斯全面入侵烏克蘭採取史無前例的強硬制裁措施。歐盟並藉此傳達其支持烏克蘭在國際公認邊界內的獨立、主權以及領土完整。

美國廠商使用之DMCA侵權調查正確性遭質疑

  一項由華盛頓大學所發表的研究聲明指出,媒體工業團體正使用有瑕疵的方式調查peer-to-peer網路文件共享中侵害著作權的問題。包括M.P.A.A.、E.S.A.、R.I.A.A等團體,不斷寄出逐年增加的DMCA侵權移除通知(takedown notices)給各大學和其他的網路業者。許多大學會在未經查證的情況下直接將侵權移除通知轉寄給學生,R.I.A.A.甚至跟進其中的一些侵權報告並將之寫入財務報告中。   但在2008年6月5日由華盛頓大學的助理教授等三人所發表的研究中認為這一些侵權移除通知應該更審慎檢視之。研究指出,這些團體在指控檔案分享者的調查過程中有嚴重的瑕疵,可能使對方遭受不當的侵權指控,甚至可能來自其他網路使用者的陷害。在2007年5月及8月的兩次實驗中,研究員利用網路監控軟體監控他們的網路流量,實驗結果顯示即使網路監控軟體並未下載任何檔案,卻仍然接收到了超過400次的侵權警告信。   該研究結果顯示執法單位的調查過程中只查詢了網路分享軟體使用者的I.P.位址,卻未真正查明使用者正在下載或是上傳的實際檔案為何,在這種薄弱的搜查技巧跟技術方式之下任何使用網路文件分享軟體的使用者都可能被告,不論其所分享的檔案是否侵權皆如此。

TOP