美國科羅拉多州通過《人工智慧消費者保護法》
2024年5月17日，科羅拉多州州長簽署了《人工智慧消費者保護法》（Consumer Protections for Artificial Intelligence Act，Colorado AI Act，下簡稱本法），其內容將增訂於《科羅拉多州修訂法規》（Colorado Revised Statutes，簡稱CRS）第6篇第17部分，是美國第一部廣泛對AI規範的法律，將於2026年2月1日生效。
本法旨在解決「高風險人工智慧系統」的演算法歧視（Algorithmic Discrimination）的問題 ，避免消費者權益因為演算法之偏見而受到歧視。是以，本法將高風險AI系統（High-risk Artificial Intelligence System）定義為「部署後作出關鍵決策（Consequential Decision）或在關鍵決策中起到重要作用的任何AI系統」。
而後，本法藉由要求AI系統開發者（Developers）與部署者（Deployers）遵守「透明度原則」與「禁止歧視原則」，來保護消費者免受演算法歧視。規定如下：
(一)系統透明度：
1.開發者應向部署者或其他開發者提供該系統訓練所使用的資料、系統限制、預期用途、測試演算法歧視之文件以及其他風險評估文件。
2.部署者應向消費者揭露高風險人工智慧系統的預期用途，也應在高風險人工智慧系統做出決策之前向消費者提供聲明，聲明內容應該包含部署者之聯絡方式、該系統的基本介紹、部署者如何管理該系統可預見之風險等資訊。
(二)禁止歧視：
1.開發者應實施降低演算法歧視之措施，並應協助部署者理解高風險人工智慧系統。此外，開發者也應該持續測試與分析高風險人工智慧系統可能產生之演算法歧視風險。若開發者有意修改該系統，應將更新後的系統資訊更新於開發者網站，並須同步提供給部署者。
2.部署者應該實施風險管理計畫，該風險管理計畫應包含部署者用於識別、紀錄降低演算法歧視風險之措施與負責人員，且風險管理計畫應定期更新。在制定風險管理計畫時，必須參考美國商務部國家標準暨技術研究院（National Institute of Standards and Technology, NIST）的《人工智慧風險管理框架》（AI Risk Management Framework, AI RMF 2.0）與ISO/IEC 42001等風險管理文件。
美國普遍認為科羅拉多州的《人工智慧消費者保護法》為目前針對人工智慧系統最全面之監管法規，可作為其他州有關人工智慧法規的立法參考，美國各州立法情況與作法值得持續關注。
陳郁潔
副法律研究員 編譯整理
6 C.R.S. § 1-17 (2024).
Consumer Protections for Artificial Intelligence, Colorado General Assembly, https://leg.colorado.gov/bills/sb24-205 (last visited May 29, 2024).
Colorado Passes Groundbreaking AI Bill, Lexology, https://www.lexology.com/library/detail.aspx?g=24eab89b-0b77-43e2-9ebf-396c766b6bb9 (last visited May 29, 2024).
Colorado Enacts Landmark AI Legislation, Wily, https://www.wiley.law/alert-Colorado-Enacts-Landmark-AI-Legislation (last visited May 29, 2024).
Colorado Legislature Sends Broad AI Bill Regulating Employment Decisions to Governor; Business Groups Urge Veto, Lexology, https://www.lexology.com/library/detail.aspx?g=f0528150-8d3b-4f08-b75d-bf96065c5e99 (last visited May 29, 2024).
Colorado Passes New Watershed AI Consumer Protection Bill, Akin, https://www.akingump.com/en/insights/alerts/colorado-passes-new-watershed-ai-consumer-protection-bill (last visited May 29, 2024).
The Colorado AI Act: What you need to know, iapp, https://iapp.org/news/a/the-colorado-ai-act-what-you-need-to-know (last visited May 29, 2024).
美國司法部於2021年4月29日宣布，德國SAP全球軟體公司承認從2010年1月至2017年9月，因未能識別用戶下載軟體的地理位置，導致美國原產技術和軟體在未經許可下，透過雲端伺服器和入口網站提供給伊朗用戶，已違反美國《出口管制規則》（Export Administration Regulations, EAR）和《伊朗交易和制裁條例》（Iranian Transaction and Sanction Regulation, ITSR）。SAP向美國司法部、商務部和財政部支付800萬美元罰款並配合調查與補救，雙方達成不起訴協議。 美國司法部指出，SAP違規行為主要為以下兩種。首先，SAP及其海外合作夥伴向伊朗用戶輸出超過20,000次的美國軟體產品，其方式包括軟體的更新、升級和修補程式。SAP及總部位於美國的供應商，均未使用地理位置過濾器來識別並阻止伊朗用戶下載，且多年來SAP並未採取任何措施解決此問題，導致伊朗用戶下載後，絕大多數美國軟體再流向土耳其、阿聯酋及多家伊朗跨國公司。其次，SAP旗下的雲端企業Cloud Business Group companies（簡稱CBGs）允許約2,360名用戶在伊朗使用美國的雲端運算服務。從2011年開始SAP陸續收購多家雲端服務供應商成為其CBGs，透過收購前的盡職調查及收購後的出口管制特種審計，清楚了解到這些CBGs缺乏足夠的出口管制與制裁合規程序，但SAP仍允許CBGs被收購後繼續作為獨立實體營運，且未能將CBGs完全整合至SAP自身的出口管制規劃中。 美國司法部指出，為確保軟體等美國敏感技術產品，不會非法出口至伊朗等禁運地，公司除必須識別用戶來源外，也有責任確保供應鏈下游與之為產品交易的外國子公司能識別產品輸出地，並且同樣遵守美國經濟制裁政策與出口管制法規，維護美國外交政策與國家安全，防止美國敏感技術落入競爭對手手中。
「何謂行動健康?」行動健康是指利用行動應用程式與智慧手機、平板、或無線裝置等行動裝置結合，運用這些裝置的核心功能，如聲音、簡訊、定位系統、藍芽、或3G、4G行動通信技術等，作為健康照護用途，以提升傳統照護品質與管理健康，減少醫療成本耗費。倘若行動應用程式具有醫療用途，可用於診斷、治療、預防疾病等，則屬於醫療器材，且該應用程式通常為醫療器材之附件，或與行動裝置結合使用而成為醫療器材，對此則稱之為行動醫療。 隨著智慧聯網(IoT)的應用，國際間對於行動健康與醫療的發展日益著重，除了鼓勵創新研發之外，也紛紛制訂法規政策因應，包括美國食品藥物管理局(FDA)在2013年9月公布行動醫療應用程式指導原則(Mobile Medical Application, Guidance For Industry and Food and Drug Administration Staff)，並於2015年2月修訂；歐盟2012年提出eHealth 行動計畫(eHealth Action Plan 2012-2020)，並在2014年4月針對行動健康的管理規範議題開放各類相關人士進行公共諮詢，後續在2015年1月公布諮詢結果。我國亦在2015年4月公布醫用軟體分類參考指引，以提供產業開發產品、申請查驗登記之參考。 未來，行動健康與醫療的發展將持面臨挑戰，相關問題包括行動健康與行動醫療之區分標準、行動醫療應用程式與傳統醫療軟體之監管差異、行動健康應用程式開發使用之自律性規範、使用者或病人隱私與個人資料保護、以及在研發過程中涉及的研究倫理等議題。
英國數位、文化、媒體暨體育部公布「家用智慧裝置消費者指引」英國數位、文化、媒體暨體育部於2018年10月14日公布「家用智慧裝置消費者指引」（Consumer guidance for smart devices in the home）。該指引之目的係因應家用之智慧及聯網設備（例如：智慧電視、音樂播放器、聯網玩具或智慧廚房等）日益普及，以及可能發生之侵害消費者個人資料之風險。 本指引提出以下方向，供消費者參考： 一. 智慧裝置之設定 (一) 應閱讀與遵循智慧設備之設定指示。 (二) 確認設備指示是否要求使用者須至製造商網站設定帳號。 (三) 若所設備預設之密碼過於簡單(例如，0000)，則應更換成較複雜之密碼。 二. 帳號管理 (一) 確保密碼複雜性。 (二) 若設備提供雙重驗證功能，消費者應使用之。 (三) 特定產品可能提供遠端存取功能，消費者應於不再家時考慮將該功能關閉。 三. 持續更新應用軟體與Apps (一) 消費者應檢查其設備是否可設定自動更新。 (二) 應安裝最新版本的軟體與Apps。 四. 若接到資安事件之通知，應採取行動 (一) 於接到資安事件通知後，應訪問製造商網站以確認其是否提供後續因應措施等資訊。 (二) 定時確認國家安全網路中心以及資訊保護委員會辦公室網站是否公布相關網路安全指引。
何謂公共出借權(Public Lending Right；PLR )?隨著科技及網際網路的普及，扮演著知識保存及傳遞角色的圖書館，在近幾年來因應讀者的需求，逐漸朝向數位化邁進。提供數位化服務對於圖書館的使用者來說，可降低資料蒐集的時間成本。然而，對於著作創作人而言，圖書館若提供數位化服務，可能會造成整個著作市場的失序，著作權人無法由著作市場取得著作權法所賦予的相當報酬，同時因應數位時代來臨所衍生的電子資料庫業者的生存空間亦大幅被壓縮。目前已有28個國家立法承認著作人的租借權，對於圖書館出借館藏造成著作權人的損失，採取補償制度，即賦予著作權人「公共出借權」（Public Lending Right；PLR），對於著作權人因為圖書館出借館藏所可能的損失，予以一定額度的補償，而歐盟亦正醞釀推行統一的出借權制度。依據法源的不同，PLR在實施上會有不同的做法。目前已實行PLR的28國，其立法基礎大致可分為三類：(1) 根據著作權法中租借權的授權，如德國、澳洲；(2) 根據著作權法外的補償權，如英國；(3) 或是透過地方文化機構的補助。 所謂「公共出借權」或稱「公共借閱權」乃指圖書或其他媒體資料，透過圖書館出借給讀者，而衍生政府以補償金或酬金支給作家的一種權利，是一種權利補償金制度。這個制度經濟上的假設是圖書館的出借行為會對於著作在市場上的銷售產生不利的影響，從而減損了著作權人的收入。但因為圖書館出借圖書乃是整個著作權法促進文化發展下所必須的一環，因此，對於著作權人的特別犧牲加以補償。從文化政策的角度來看，是屬於國家對文化創造者所實施的保護與獎勵措施。而基於圖書館對社會大眾提供免費服務的信念，實施公共出借權的國家，皆以政府經費或另設基金的方式來運作，並未直接向圖書館使用者要求收費，也並非以圖書館經費來支應給予作者的報酬。