美國科羅拉多州通過《人工智慧消費者保護法》
2024年5月17日，科羅拉多州州長簽署了《人工智慧消費者保護法》（Consumer Protections for Artificial Intelligence Act，Colorado AI Act，下簡稱本法），其內容將增訂於《科羅拉多州修訂法規》（Colorado Revised Statutes，簡稱CRS）第6篇第17部分，是美國第一部廣泛對AI規範的法律，將於2026年2月1日生效。
本法旨在解決「高風險人工智慧系統」的演算法歧視（Algorithmic Discrimination）的問題 ，避免消費者權益因為演算法之偏見而受到歧視。是以，本法將高風險AI系統（High-risk Artificial Intelligence System）定義為「部署後作出關鍵決策（Consequential Decision）或在關鍵決策中起到重要作用的任何AI系統」。
而後，本法藉由要求AI系統開發者（Developers）與部署者（Deployers）遵守「透明度原則」與「禁止歧視原則」，來保護消費者免受演算法歧視。規定如下：
(一)系統透明度：
1.開發者應向部署者或其他開發者提供該系統訓練所使用的資料、系統限制、預期用途、測試演算法歧視之文件以及其他風險評估文件。
2.部署者應向消費者揭露高風險人工智慧系統的預期用途，也應在高風險人工智慧系統做出決策之前向消費者提供聲明，聲明內容應該包含部署者之聯絡方式、該系統的基本介紹、部署者如何管理該系統可預見之風險等資訊。
(二)禁止歧視：
1.開發者應實施降低演算法歧視之措施，並應協助部署者理解高風險人工智慧系統。此外，開發者也應該持續測試與分析高風險人工智慧系統可能產生之演算法歧視風險。若開發者有意修改該系統，應將更新後的系統資訊更新於開發者網站，並須同步提供給部署者。
2.部署者應該實施風險管理計畫，該風險管理計畫應包含部署者用於識別、紀錄降低演算法歧視風險之措施與負責人員，且風險管理計畫應定期更新。在制定風險管理計畫時，必須參考美國商務部國家標準暨技術研究院（National Institute of Standards and Technology, NIST）的《人工智慧風險管理框架》（AI Risk Management Framework, AI RMF 2.0）與ISO/IEC 42001等風險管理文件。
美國普遍認為科羅拉多州的《人工智慧消費者保護法》為目前針對人工智慧系統最全面之監管法規，可作為其他州有關人工智慧法規的立法參考，美國各州立法情況與作法值得持續關注。
陳郁潔
副法律研究員 編譯整理
6 C.R.S. § 1-17 (2024).
Consumer Protections for Artificial Intelligence, Colorado General Assembly, https://leg.colorado.gov/bills/sb24-205 (last visited May 29, 2024).
Colorado Passes Groundbreaking AI Bill, Lexology, https://www.lexology.com/library/detail.aspx?g=24eab89b-0b77-43e2-9ebf-396c766b6bb9 (last visited May 29, 2024).
Colorado Enacts Landmark AI Legislation, Wily, https://www.wiley.law/alert-Colorado-Enacts-Landmark-AI-Legislation (last visited May 29, 2024).
Colorado Legislature Sends Broad AI Bill Regulating Employment Decisions to Governor; Business Groups Urge Veto, Lexology, https://www.lexology.com/library/detail.aspx?g=f0528150-8d3b-4f08-b75d-bf96065c5e99 (last visited May 29, 2024).
Colorado Passes New Watershed AI Consumer Protection Bill, Akin, https://www.akingump.com/en/insights/alerts/colorado-passes-new-watershed-ai-consumer-protection-bill (last visited May 29, 2024).
The Colorado AI Act: What you need to know, iapp, https://iapp.org/news/a/the-colorado-ai-act-what-you-need-to-know (last visited May 29, 2024).
有鑒於智慧聯網IoT環境下，許多智慧型手持裝置及行動通訊裝置，大量蒐集消費者資訊之隱私權暨資訊安全考量，美國國會於2013年5月10日提出「應用軟體隱私暨資訊安全保護法草案」（Application Privacy, Protection, and Security Act of 2013, APPS Act of 2013, H.R. 1913）進行審議。「應用軟體隱私暨資訊安全保護法草案」草案針對應用軟體（Application）在蒐集消費者資訊前，如何落實「同意」機制，乃強制行動通訊裝置應用軟體開發商（developer）應：（1）提供使用者個人資料蒐集、使用、儲存及公開之通知（notice），而該通知含括所蒐集個人資料之種類、使用目的、有償公開第三者之類別及資料儲存等；（2）取得使用者之同意（consent）；消費者依據該草案亦有權撤銷其「同意」（withdrawal of consent）。此外，草案乃強制要求該行動通訊裝置應用軟體開發商，就非法近取之個人資料及經去識別化應用軟體蒐集之個人資料，應採取合理及適當之防衛措施（security measures on personal data and de-identified data）。 並且，針對網路環境下隱私權保護議題，更早之前，美國國會於2013年2月28日提出「線上禁止追蹤法草案」（Do-Not-Track Online Act of 2013） 進行審議。「線上禁止追蹤法草案」草案乃要求聯邦貿易委員會（FTC），就透過個人線上活動追蹤，以蒐集、使用個人資料之行為態樣，進行管制。該管制模式謹據以要求如下：（1）被搜集資料個人應收到簡單、明確、並載明資料使用目的之通知（clear, conspicuous and accurate notice and use of such information），而個人就該通知應予明白之同意（affirmative consent）；（2）FTC未來在訂定標準規範時，應（shall）考量所被搜集之資料，是否在匿（隱）名基礎上處理之，遂該資料無法有效被聯結（指認）到特定個人或裝置上；此外，消費者當享有資料不被蒐集的權利（expressed preference by individual not to have personal information collected）。該草案並就違反之個人，設定最高15,000,000美元損害賠償規定。
搜尋引擎業者刪除特定檢索結果之判斷基準－日本最高法院平成28年(許)第45號(平成29年1月31日裁定) 歐盟網路暨資訊安全局發布「重要基礎設施資訊安全培訓需求盤點報告」加強重要部門資訊安全作業歐盟網路暨資訊安全局於2017年12月7日發布「重要基礎設施資訊安全培訓需求盤點報告」(Stocktaking of information security training needs in critical sectors)之文件，點出各重要基礎設施之「電腦安全事件反應小組」(Computer Security Incident Response Teams, CISRT)所必須接受之資安訓練種類。 歐盟之網路與資訊系統安全指令(The Directive on security of network and information systems, NIS Directive)規範各成員國之重要服務營運者(operator of essential service)必須確認出哪些服務於維繫社會與經濟活動上具備重要性。被認定具備重要性之部門如下:能源、運輸、銀行業、金融市場基礎設施、健康照護部門、飲用水供應與分配、數位基礎設施。 此份報告指出，該重要性部門之資安等級需求並不盡相同，因此導致各部門面對資安事件之準備無法相提並論。例如，能源產業會用到SCADA系統，而金融市場基礎設施則普遍沒有相關需求。而由於NIS指令將上述七種部門列為資訊安全維護最高層級，故此份報告目的係確認該部門當前的處境，並與現階段可取得之網路安全訓練對照，進一步具體檢視各重要部門是否有其他額外的網路安全訓練需求。 我國行政院於民國106年4月公布之資通安全管理法草案要求關鍵基礎設施提供者應訂定、修正、實施資通安全維護計畫，並向中央目的事業主管機關或直轄市、縣（市）政府提出該計畫之實施情形，在未來實際落實各重要性設施之資安維護以及資安小組訓練時，須意識到各重要性設施之資訊安全需求差異性，及相關人員必須針對不同單位而受不同之訓練。
為了確保網絡安全，歐盟頒佈新的網路安全計畫網絡活動無遠弗屆，其所帶來的影響也逐漸引起世界各國的關注。依據歐盟針對網絡安全現況所做的調查發現，首先，現行估計存有150,000隻電腦病毒在網路間流竄，並已造成148,000部電腦受到威脅；第二，世界經濟論壇（World Economic Forum）指出，在未來的十年內，主要重大資訊基礎設施估計將有10%遭到破壞，其將導致2500億美金的損失；第三，著名資安公司（Symantec與McAfee）估計，全世界因網路犯罪而受害者，每年將會損失2900億歐元。相反地，因網路犯罪而受益者，其獲利將可高達每年7500億歐元；第四，依據 Eurobarometer在2012年針對網絡安全的民調指出，38%歐盟網路使用者因網絡安全因素已改變他們的網路行為方式；74%使用者同意，成為網絡安全受害者的風險已經逐漸增加；12%使用者已經遭受線上詐欺且89%使用者已避免在網上揭露個人資料；第五，據網絡暨資訊安全（NIS）的公眾諮詢發現，56.8%受訪者指出，在過去一年已經歷NIS事件對其網絡活動所帶來的嚴重影響；第六，Eurostat figures指出，直到2012年一月，在歐盟境內的企業僅有26%已經制定出完整的ICT安全政策。 有鑑於網路安全風險所帶來的效應已漸受重視，歐盟執委會（European Commission）會同歐盟外交暨安全政策高級代表（High Representative of the Union for Foreign Affairs and Security Policy共同發佈網絡安全策略，並計畫延引出歐盟執委會在NIS面向上的新指令（directive）。新的歐盟網絡安全策略，名為「開放、安全與可靠網絡空間」，代表著歐盟在預防和反應網絡攻擊和侵擾問題上的全面性預見。在該策略中，包含五個重大優先處理事項： 一、達到網絡韌性（Achieving cyber resilience） 二、徹底減少網路犯罪（Drastically reducing cybercrime） 三、針對一般安全暨防禦政策，發展網絡防禦政策和能力（Developing cyber defence policy and capabilities relatedto the Common Security and Defence Policy (CSDP)） 四、對網絡安全發展出企業性和技術性資源（Developing the industrial and technological resources for cyber-security） 五、為歐盟建立一個完整的國際網絡空間政策與促進歐盟核心價值（Establishing a coherent international cyberspace policy for the European Union and promoting core EU values） 為了達成歐盟網絡安全策略所形塑的優先事項，歐盟執委會亦計畫針對NIS來頒佈新的指令以落實策略項目，其中包含，首先，要求歐盟會員國必須採納NIS策略且指定國家級機關（需具有足夠人力和財務資源）來預防、處理和回應NIS風險與事件；第二，透過安全基礎設施和組成一般性的同儕審議，在歐盟會員國與執委會間建立合作機制來分享NIS風險和事件的早期預警；第三，某些領域重大基礎設施的運作者（金融服務、交通、能源或健康）、資訊社會服務的推動者（app商店電子商務平台、線上支付、雲端運算、搜尋引擎、社群網絡）和公家行政部門必須在其核心服務上，採納風險管理作法和報告主要網絡安全事件。 從歐盟網絡安全策略和執委會計畫頒佈的NIS指令可以發現，歐盟對於新世代的網絡安全風險已經有完整的預見與具體的因應措施。針對新型態的網絡安全威脅，我國如何能及早適時預警並作出相應的防範機制，以確保產業經濟、公共交通、資訊工業和國防安全等不會受到外部威脅，將是我國政府必須先行正視的問題。