美國科羅拉多州通過《人工智慧消費者保護法》
2024年5月17日，科羅拉多州州長簽署了《人工智慧消費者保護法》（Consumer Protections for Artificial Intelligence Act，Colorado AI Act，下簡稱本法），其內容將增訂於《科羅拉多州修訂法規》（Colorado Revised Statutes，簡稱CRS）第6篇第17部分，是美國第一部廣泛對AI規範的法律，將於2026年2月1日生效。
本法旨在解決「高風險人工智慧系統」的演算法歧視（Algorithmic Discrimination）的問題 ，避免消費者權益因為演算法之偏見而受到歧視。是以，本法將高風險AI系統（High-risk Artificial Intelligence System）定義為「部署後作出關鍵決策（Consequential Decision）或在關鍵決策中起到重要作用的任何AI系統」。
而後，本法藉由要求AI系統開發者（Developers）與部署者（Deployers）遵守「透明度原則」與「禁止歧視原則」，來保護消費者免受演算法歧視。規定如下：
(一)系統透明度：
1.開發者應向部署者或其他開發者提供該系統訓練所使用的資料、系統限制、預期用途、測試演算法歧視之文件以及其他風險評估文件。
2.部署者應向消費者揭露高風險人工智慧系統的預期用途，也應在高風險人工智慧系統做出決策之前向消費者提供聲明，聲明內容應該包含部署者之聯絡方式、該系統的基本介紹、部署者如何管理該系統可預見之風險等資訊。
(二)禁止歧視：
1.開發者應實施降低演算法歧視之措施，並應協助部署者理解高風險人工智慧系統。此外，開發者也應該持續測試與分析高風險人工智慧系統可能產生之演算法歧視風險。若開發者有意修改該系統，應將更新後的系統資訊更新於開發者網站，並須同步提供給部署者。
2.部署者應該實施風險管理計畫，該風險管理計畫應包含部署者用於識別、紀錄降低演算法歧視風險之措施與負責人員，且風險管理計畫應定期更新。在制定風險管理計畫時，必須參考美國商務部國家標準暨技術研究院（National Institute of Standards and Technology, NIST）的《人工智慧風險管理框架》（AI Risk Management Framework, AI RMF 2.0）與ISO/IEC 42001等風險管理文件。
美國普遍認為科羅拉多州的《人工智慧消費者保護法》為目前針對人工智慧系統最全面之監管法規，可作為其他州有關人工智慧法規的立法參考，美國各州立法情況與作法值得持續關注。
陳郁潔
副法律研究員 編譯整理
6 C.R.S. § 1-17 (2024).
Consumer Protections for Artificial Intelligence, Colorado General Assembly, https://leg.colorado.gov/bills/sb24-205 (last visited May 29, 2024).
Colorado Passes Groundbreaking AI Bill, Lexology, https://www.lexology.com/library/detail.aspx?g=24eab89b-0b77-43e2-9ebf-396c766b6bb9 (last visited May 29, 2024).
Colorado Enacts Landmark AI Legislation, Wily, https://www.wiley.law/alert-Colorado-Enacts-Landmark-AI-Legislation (last visited May 29, 2024).
Colorado Legislature Sends Broad AI Bill Regulating Employment Decisions to Governor; Business Groups Urge Veto, Lexology, https://www.lexology.com/library/detail.aspx?g=f0528150-8d3b-4f08-b75d-bf96065c5e99 (last visited May 29, 2024).
Colorado Passes New Watershed AI Consumer Protection Bill, Akin, https://www.akingump.com/en/insights/alerts/colorado-passes-new-watershed-ai-consumer-protection-bill (last visited May 29, 2024).
The Colorado AI Act: What you need to know, iapp, https://iapp.org/news/a/the-colorado-ai-act-what-you-need-to-know (last visited May 29, 2024).
歐盟個資保護委員會（EDPB）今（2021）年9月27日，就與南韓個人資料保護法（Personal Information Protection Act, PIPA）之適足性認定草案發表意見，認為南韓的個資保護框架與歐盟大致相同。但EDPB 同時也指出，在歐盟執委會做出決定之前，某些部分仍需要釐清。釐清的部分包含： 今年6月歐盟執委會公布並通過的適足性認定草案中，該草案之可執行性與有效性不應僅拘束南韓個資保護機構，也應對司法機構具有效力。除此之外，EDPB 也針對南韓PIPA 免除多項匿名化資訊之義務提出質疑；又南韓相關法令對「同意」之撤銷（或撤回）事由有所限定，應確保其對資料主體「同意」之保障持續符合適足性認定的要求。 至於在資料進一步移轉（onward transfers）方面，EDPB 認為即便資料主體知悉並同意其個資傳輸，仍應告知其資料是否會移轉到第三國之相關風險；以及若個資主體的同意無法符合GDPR 對有效同意之定義時（例如雙方地位不對等時，該同意即非有效），該個資不會從南韓之資料控管者傳輸至第三國；在對此議題南韓未具體修訂相關法令時，與國安相關的個資若進一步移轉，是否會受到憲法框架（如比例原則）和PIPA 中個資保護原則的充分保障？ 而在行政部門存取傳輸到南韓的個資方面，許多議題也需要釐清並引起關注。如與國安方面相關的個資處理，係受PIPA 抑或其他更為限縮的法令限制？又電信業者自願向國安部門揭露使用者個資時，必須同時通知相關的個資主體；EDPB 並希望歐盟執委會釐清，若歐洲經濟區（EEA）內的個人向南韓個資保護機構或司法機構提出救濟時，相關的救濟程序是否實質有效（例如舉證責任的規定為何）？ 於新聞稿中，EDPB 主席 Andrea Jelinek 表示：「歐盟對此適足性認定相當重視，因其將涵蓋公部門與私部門資料的傳輸。而適足的個資保護對支持歐盟與南韓的長期關係與個人權利、自由方面至關重要。雖然EDPB 認為南韓的個資保護框架與歐盟大致相同，然仍建議歐盟執委會密切關注適足性認定的各方發展。」
加拿大隱私專員辦公室針對聯邦廣播與電信修法提出隱私權與個資保護建議加拿大隱私專員辦公室（Office of the Privacy Commissioner of Canada, OPC）於2019年1月11日就其聯邦廣播通訊法（Radiocommunication Act, RA）與電信法（Telecommunications Act, TA）提出隱私權與個資保護建議。現行加拿大聯邦廣播通訊法針對個資保護並無特別立法，而其電信法第七條雖有提及要注重個資隱私，卻無實質責任規範。惟廣播與電信公司蒐集、處理及利用個資時，如何確保當事人之個資隱私受到保護，就此加拿大隱私專員辦公室提出三點修法建議。 一、電信法及廣播通訊法應包含哪些隱私安全與資訊安全之概念？ 基於人民將大量敏感個資委託給電信業者，以獲得互聯網、電話及電視通信便利服務。惟個人資訊不但具有龐大商業價值，對於執法機關和情報安全機構也具有相當利益。基於以下因素，加拿大隱私專員辦公室建議制定電信業者更新之安全機制與公共安全義務。 保護措施 現行法規之保護措施應該適用於現代通訊工具，所有設備儲存與傳輸之敏感性個資都應受到保護，而非僅限於被使用之個人資訊。 門檻提升 數據蒐集之法律標準需加強，提升隱私保護。 保存期限要求 除法律特別規定之保存期限外，相關通訊數據保存應於最短時間內刪除，通盤完整保留數據為不必要之風險。 強制協助命令 強制監督 關於電信商既已存在之標準，監視與保留通訊之數據，依據政府要求提供者，政府須解釋其合理性。 透明度 除加拿大電信商提供年度報告，政府單位依據合法授權來請求加拿大客戶數據之情況下，應有相關報告以示公平。 二、政府管理政策與產業治理之有效性衡平 鑑於資訊技術與商業模式蒐集數據為不透明，普通消費者根本無從得知個人資訊是如何被取得及利用分享，當事人較難根據資訊來識別問題，亦難區別是否當事人是否為有效性之同意，故加拿大隱私專員辦公室認為其應該有權審核或檢查電信業者使用技術範圍內之事務，以確保現實情況與隱私法規範保護一致。故應使加拿大隱私專員辦公室能與其他聯邦監管機構（Canadian Radio-television and Telecommunications Commission, CRTC加拿大廣播電視和電信委員會與加拿大競爭局）共享資訊，並授予加拿大隱私專員辦公司發布命令與實施行政罰鍰之權力，且允許其進行積極之合規性審查。 三、立法設計中應包含消費者保護、權利行使及可及性 加拿大人民享受數位經濟帶來之好處，同時希望個人資訊之利用為無疑慮地，人民相信政府及立法機關會做好保護措施。惟目前加拿大之隱私立法仍為相當寬鬆，近期相關數據洩漏事件亦已證實電信公司無法善盡管理負責任，透明度與問責制度皆不足，相關消費者保護與權利行使皆須更完善，並需要更多資金進行改善。 加拿大個人資料保護和電子文件法（Personal Information Protection and Electronic Documents Act, PIPEDA）個資隱私法下，公司或組織於所提供服務相關時，可獲取、使用及共享資訊，但在提供服務之資訊外，尚有許多資訊共享於其他目的。電信公司蒐集日常生活資訊，針對敏感性個資，隱私法規範為明確的，但若個人數據非敏感性，則會帶來許多隱含空間，當事人是否為有意義之同意？加拿大隱私專員辦公室認為他們應該要有更多法律權力，透過執法確保電信數據生態系統之信任，並整合聯邦與省之法規。政府與業者創新使用數據皆能受到監管，於事件未發生時，則有前端監督其合規性，將使市場有明確性，且能向人民進一步保證其關注將獲得解決。
CODEX增訂低量摻雜重組DNA植物成分之食品安全評估準則經過兩年的研議溝通，由國際食品標準委員會（Codex Alimentarius Commission，CODEX）生技衍生食品小組（Task Force on Foods Derived from Biotechnology，TFFBT）所研擬的「重組DNA植物成分低量摻雜之重組DNA植物來源食品安全評估準則之附件草案」（Draft Annex to the Guideline for the Conduct of Food Safety Assessment of Foods Derived from Recombinant-DNA Plants on Low-Level Presence of Recombinant-DNA Plant Material，LLP草案），終於日前送交CODEX大會決議通過。 關於植物來源食品內基改物質低量呈現（Low-Level Presence）的問題之所以受到國際間高度關切，其背景因素，其實是來自於全球各地域對於基因改造食品之食品安全審查進度狀態不一之情況使然。以最明顯的美國和歐盟為例，因為，對於植物來源食品而言，其所使用的植物原料，例如穀物、豆類、油菜種子等，在種植、運送至成品途中，尤其是在採收過程中，無可避免地均有可能會混雜到某些鄰近的合法基改植物原料；而目前國際現況是，許多在美國已通過食品安全評估之基改食品植物原料，在歐盟卻遲未獲得許可，而那些意外混雜了在美國為合法基改植物原料的食品，出口至尚未核准那些經混雜基改原料食品之國家時，則會因此被拒絕進口，而形成貿易上阻礙。 針對此問題，自2006年起，TFFBT特別召集成立一個工作小組，由美國出任小組主席，並與德國及泰國擔任共同主席，負責研擬LLP草案，以提供一套較簡易評估程序，專門針對這些混雜了低量的在出口國家已經合法、但在進口國家尚未通過食品安全檢驗之重組DNA植物成分食品之情形，提俱一套安全評估方法供進口國家政府參考，藉此，一方面確保這些摻雜低量重組DNA食品之安全性，另方面也不致令進口者因其產品含有低度摻雜而銷耗掉太過的貿易利益。 LLP草案對於摻雜低量重組DNA成份之進口國家而言，其較重要具實質意義的部份，係在於資料庫之建立、共享資訊之快速使用（rapid access）等機制的導入。研議期間，工作小組即表示會與相關國際組織聯繫，搭配建立適當之資訊資料庫。而負責籌設該資料庫的國際糧農組織（FAO）則表示，其除將運用其已建立的「國際食品安全及動植物健康入口網」（International Portal on Food Safety, Animal and Plant Health，IPFSAPH）外，並計劃與經濟合作發展組織（OECD）進行合作，引用「OECD生物追蹤產品資料庫」（OECD BioTrack Database）內依CODEX「重組DNA植物來源食品安全評估準則」（Guideline for the Conduct of Foods Safety Assessment of Foods Derived from Recombinant-DNA Plants (CODEX Plant Guideline)，CODEX植物準則）所蒐羅之資訊，彙集各類相關資訊為一整合網站，並開放給公眾使用。
網路團結法：歐盟成員國針對加強因應網路安全能力達成共同倡議歐盟成員國就《網路團結法》（Cyber Solidarity Act）草案於2024年3月達成臨時協議，目的是為了加強歐盟的團結以及偵測、準備和因應網路安全威脅事件的能力。 歐盟執委會（European Commission）提案的主要目標如下： （1）提供重大或大規模網路安全威脅事件的偵測和認識。 （2）強化準備、保護重要建設和必要服務。例如醫院和公共設施。 （3）加強歐盟的團結以及成員國之間有一致的危機管理與應變能力。 （4）最後，致力確保公民和企業皆有安全可靠的數位環境。 為了能快速且有效地偵測重大網路威脅，該法規草案建立了「網路安全警報系統」（cyber security alert system），這是一個由歐盟地區的國家和跨國界的網絡樞紐組成的泛歐洲基礎設施，將使用先進的資料分析技術以及時分享資訊，並警告有關跨境網路威脅的相關事件。 該草案亦建立網路緊急機制（cybersecurity emergency mechanism），以增強歐盟對網路安全事件應變的能力，它將包含： （1）準備行動：包含根據常見的危機情境和方法，測試高度關鍵部門（highly critical sectors）（醫療保健、運輸、能源等）的潛在漏洞。 （2）歐盟網路預備隊：係由經過認證且事先簽約的私人供應商所組成，在歐盟成員國及機構的請求下，對於發生大規模的網路安全事件進行干預及回應。 （3）財政互助：一成員國可以向另一個成員國提供援助。 最後，因應委員會及各國家當局的要求，研議中的法規建立了網路安全事件審查機制，事後對已發生的大規模網路安全事件進行審查、評估、汲取經驗，並提出一份建議報告，從而改善歐盟網路的態勢，以加強歐盟對此些事件的應變能力。 歐盟成員國此次的協議將進一步提高歐洲網路韌性，期能強化歐盟及其成員國在面對大規模網路威脅和攻擊時，能以更有效率的方式進行事前準備、預防以及提升事後從中恢復的能力。 網路安全事件是各國都會遇到的課題，《網路團結法》的發展與相關推動措施值得我們持續追蹤，以作為我國資通安全管理及網路資安事件應變機制之參考方向。