美國科羅拉多州通過《人工智慧消費者保護法》
2024年5月17日，科羅拉多州州長簽署了《人工智慧消費者保護法》（Consumer Protections for Artificial Intelligence Act，Colorado AI Act，下簡稱本法），其內容將增訂於《科羅拉多州修訂法規》（Colorado Revised Statutes，簡稱CRS）第6篇第17部分，是美國第一部廣泛對AI規範的法律，將於2026年2月1日生效。
本法旨在解決「高風險人工智慧系統」的演算法歧視（Algorithmic Discrimination）的問題 ，避免消費者權益因為演算法之偏見而受到歧視。是以，本法將高風險AI系統（High-risk Artificial Intelligence System）定義為「部署後作出關鍵決策（Consequential Decision）或在關鍵決策中起到重要作用的任何AI系統」。
而後，本法藉由要求AI系統開發者（Developers）與部署者（Deployers）遵守「透明度原則」與「禁止歧視原則」，來保護消費者免受演算法歧視。規定如下：
(一)系統透明度：
1.開發者應向部署者或其他開發者提供該系統訓練所使用的資料、系統限制、預期用途、測試演算法歧視之文件以及其他風險評估文件。
2.部署者應向消費者揭露高風險人工智慧系統的預期用途，也應在高風險人工智慧系統做出決策之前向消費者提供聲明，聲明內容應該包含部署者之聯絡方式、該系統的基本介紹、部署者如何管理該系統可預見之風險等資訊。
(二)禁止歧視：
1.開發者應實施降低演算法歧視之措施，並應協助部署者理解高風險人工智慧系統。此外，開發者也應該持續測試與分析高風險人工智慧系統可能產生之演算法歧視風險。若開發者有意修改該系統，應將更新後的系統資訊更新於開發者網站，並須同步提供給部署者。
2.部署者應該實施風險管理計畫，該風險管理計畫應包含部署者用於識別、紀錄降低演算法歧視風險之措施與負責人員，且風險管理計畫應定期更新。在制定風險管理計畫時，必須參考美國商務部國家標準暨技術研究院（National Institute of Standards and Technology, NIST）的《人工智慧風險管理框架》（AI Risk Management Framework, AI RMF 2.0）與ISO/IEC 42001等風險管理文件。
美國普遍認為科羅拉多州的《人工智慧消費者保護法》為目前針對人工智慧系統最全面之監管法規，可作為其他州有關人工智慧法規的立法參考，美國各州立法情況與作法值得持續關注。
陳郁潔
副法律研究員 編譯整理
6 C.R.S. § 1-17 (2024).
Consumer Protections for Artificial Intelligence, Colorado General Assembly, https://leg.colorado.gov/bills/sb24-205 (last visited May 29, 2024).
Colorado Passes Groundbreaking AI Bill, Lexology, https://www.lexology.com/library/detail.aspx?g=24eab89b-0b77-43e2-9ebf-396c766b6bb9 (last visited May 29, 2024).
Colorado Enacts Landmark AI Legislation, Wily, https://www.wiley.law/alert-Colorado-Enacts-Landmark-AI-Legislation (last visited May 29, 2024).
Colorado Legislature Sends Broad AI Bill Regulating Employment Decisions to Governor; Business Groups Urge Veto, Lexology, https://www.lexology.com/library/detail.aspx?g=f0528150-8d3b-4f08-b75d-bf96065c5e99 (last visited May 29, 2024).
Colorado Passes New Watershed AI Consumer Protection Bill, Akin, https://www.akingump.com/en/insights/alerts/colorado-passes-new-watershed-ai-consumer-protection-bill (last visited May 29, 2024).
The Colorado AI Act: What you need to know, iapp, https://iapp.org/news/a/the-colorado-ai-act-what-you-need-to-know (last visited May 29, 2024).
日本內閣設置之「IT總合戰略總部」於2015年6月30日通過「世界最先進IT國家創造宣言（世界最先端IT国家創造宣言，下稱該宣言）」之修訂版，此次為2014後的第二次修正。該宣言於2013年6月14日首次公布，作為安倍政府第3支箭成長戰略之一環，為國家層級的IT政策目標，宣言中並揭示，欲促使日本五年內成為世界最高水準的IT技術國家。 本次之重要修正內容摘要如下： (一) 基本理念 1. 以日本之再生為基礎活用IT技術 以成長戰略為根據，將IT技術做為日本再生之動能；組織構成方面，則以政府作為資訊總監（Chief Information Officer, CIO）為中心，打破省廳之間之縱向關係，以「橫向串聯」的方式來推動IT政策。 2. 以全球為範圍建構日本的IT利用及解決範本 因應IT技術之進展、資料流通量之增大、IoT、AI時代之進展為背景，並在確保資訊安全為前提下活用IT技術，建構全球獨一無二「問題解決導向之IT利用範本」，實現人民有感之目標。 3. 活用IT技術以解決問題為導向建構四大支柱 以活用IT技術為特色，並以誘發各個領域之創新性為觀點，以四大支柱為中心，建立一個活用IT技術的社會，建構必要的政策措施。 (二) 四大支柱 1. 朝未來成長之社會：深化IT活用技術 整備IT技術之活用環境，未來擬立新法加促進及加速IT技術之活用；現行則持續的修正個人資料保護法，排除影響IT活用技術的法規障礙；並繼續推動向民間開放公共資料（open data）之工作。 2. 充滿活力之社會：充分利用IT技術之居民、工作及街道 整備資料共有之基礎設施，並分析及活用RESAS（地域経済分析システム，Regional Economy Society Analyzing System）、SNS等巨量資料。 3. 安心安全的活用IT技術，實現人民有感之社會 ■適當地提供區域醫療、健康照護等服務，實現健康長壽之社會，於全國展開醫療資訊之聯合網路、活用醫療、健康資訊等資料，以預防重症、增進健康，目標於2020年之前人均壽命成長一歲以上。 ■用IT技術促進日本農業，以及周邊產業之升級等，並推動AI農業、以IT化方式保護鳥獸等技術。 ■實現世界最安全且經濟之道路交通社會，預計於2020年代後期，開始於日本全面性的適用無人駕駛系統。 4. 活用IT技術，創建集合式之公共服務社會持續推動個人號碼制度，擴大及檢討其利用之範圍，實現一卡化社會。
德國聯邦法院裁判臉書之Find Friends功能違法德國消費者組織聯盟（Federation of German Consumer Organisations , 以下簡稱VZBV）針對臉書（Facebook）的”find friends”功能向該公司發出警告信。臉書的”Find friends”功能為使用者先在該社群網站上輸入自己的email後，再選擇其與朋友的聯繫管道，如yahoo信箱、skype等。臉書將儲存使用者所上傳的聯絡人資訊，並用以協助使用者尋找朋友，或者透過居住地、學校、工作場所等搜尋要件，協助使用者找尋好友。然而，在臉書未有任何修正的情況下，VZBV向柏林地方法院控告臉書並獲得勝訴，之後臉書向上訴法院提起上訴，但於2014年01月24日遭到駁回。2016年01月14日，德國聯邦法院維持下級審法院判決，裁判臉書的” Find friends”功能牴觸德國隱私權保護與消費者保護之法律。 （一）德國聯邦資料保護法（Bundesdatenschutzgesetz,BDSG） 法院認為該項功能違反德國聯邦資料保護法，蓋因臉書未能在收集或利用使用者以及非使用者的資料前，事先取得其同意。此外，臉書的契約條款中亦未提供使用者適當程度的通知，讓使用者知道他們的資料將會被如何使用。 （二）德國不正競爭防制法（Gesetz gegen den unlauteren Wettbewerb, UWG） 法院認為，臉書在利用使用者資料並且寄發廣告郵件給非臉書會員時誤導使用者，讓使用者以為這個功能是受到限制的，亦即使用者誤認僅有其臉書上的朋友才在搜尋範圍之內。然而，臉書實際上更寄發邀請廣告郵件給其他非臉書的使用者。由於德國不正競爭防制法第五條第一項規定，採取引人錯誤的交易行為，其行為構成不正當。此外，該法第七條亦規定，具訊息之廣告，其掩飾或隱匿委任傳送此訊息之發送人的身分， 即被視為不合理之煩擾。又以不合理之方式來煩擾市場參與者之交易行為，不得為之。因此，其被認定構成德國不正競爭防制法第五條”引人錯誤的交易行為”以及第七條＂不合理之煩擾＂。 本案從2010年開始直至聯邦法院裁判結果出爐前，”find friends”功能已有修正，然而VZBV認為這些修正並不足夠。在2016年的這份裁判出爐後，facebook將如何修正及調整商業模式，以符合德國法律之規定值得持續關注。此外，許多社群網站如LinkedIn亦有類似功能，該裁判結果對於這些網站的商業運作，將造成如何的影響亦應持續追蹤。
加拿大隱私專員辦公室針對聯邦廣播與電信修法提出隱私權與個資保護建議加拿大隱私專員辦公室（Office of the Privacy Commissioner of Canada, OPC）於2019年1月11日就其聯邦廣播通訊法（Radiocommunication Act, RA）與電信法（Telecommunications Act, TA）提出隱私權與個資保護建議。現行加拿大聯邦廣播通訊法針對個資保護並無特別立法，而其電信法第七條雖有提及要注重個資隱私，卻無實質責任規範。惟廣播與電信公司蒐集、處理及利用個資時，如何確保當事人之個資隱私受到保護，就此加拿大隱私專員辦公室提出三點修法建議。 一、電信法及廣播通訊法應包含哪些隱私安全與資訊安全之概念？ 基於人民將大量敏感個資委託給電信業者，以獲得互聯網、電話及電視通信便利服務。惟個人資訊不但具有龐大商業價值，對於執法機關和情報安全機構也具有相當利益。基於以下因素，加拿大隱私專員辦公室建議制定電信業者更新之安全機制與公共安全義務。 保護措施 現行法規之保護措施應該適用於現代通訊工具，所有設備儲存與傳輸之敏感性個資都應受到保護，而非僅限於被使用之個人資訊。 門檻提升 數據蒐集之法律標準需加強，提升隱私保護。 保存期限要求 除法律特別規定之保存期限外，相關通訊數據保存應於最短時間內刪除，通盤完整保留數據為不必要之風險。 強制協助命令 強制監督 關於電信商既已存在之標準，監視與保留通訊之數據，依據政府要求提供者，政府須解釋其合理性。 透明度 除加拿大電信商提供年度報告，政府單位依據合法授權來請求加拿大客戶數據之情況下，應有相關報告以示公平。 二、政府管理政策與產業治理之有效性衡平 鑑於資訊技術與商業模式蒐集數據為不透明，普通消費者根本無從得知個人資訊是如何被取得及利用分享，當事人較難根據資訊來識別問題，亦難區別是否當事人是否為有效性之同意，故加拿大隱私專員辦公室認為其應該有權審核或檢查電信業者使用技術範圍內之事務，以確保現實情況與隱私法規範保護一致。故應使加拿大隱私專員辦公室能與其他聯邦監管機構（Canadian Radio-television and Telecommunications Commission, CRTC加拿大廣播電視和電信委員會與加拿大競爭局）共享資訊，並授予加拿大隱私專員辦公司發布命令與實施行政罰鍰之權力，且允許其進行積極之合規性審查。 三、立法設計中應包含消費者保護、權利行使及可及性 加拿大人民享受數位經濟帶來之好處，同時希望個人資訊之利用為無疑慮地，人民相信政府及立法機關會做好保護措施。惟目前加拿大之隱私立法仍為相當寬鬆，近期相關數據洩漏事件亦已證實電信公司無法善盡管理負責任，透明度與問責制度皆不足，相關消費者保護與權利行使皆須更完善，並需要更多資金進行改善。 加拿大個人資料保護和電子文件法（Personal Information Protection and Electronic Documents Act, PIPEDA）個資隱私法下，公司或組織於所提供服務相關時，可獲取、使用及共享資訊，但在提供服務之資訊外，尚有許多資訊共享於其他目的。電信公司蒐集日常生活資訊，針對敏感性個資，隱私法規範為明確的，但若個人數據非敏感性，則會帶來許多隱含空間，當事人是否為有意義之同意？加拿大隱私專員辦公室認為他們應該要有更多法律權力，透過執法確保電信數據生態系統之信任，並整合聯邦與省之法規。政府與業者創新使用數據皆能受到監管，於事件未發生時，則有前端監督其合規性，將使市場有明確性，且能向人民進一步保證其關注將獲得解決。
拜登政府宣布採取促進負責任AI創新之新行動，以保護美國人民權利與安全拜登政府於2023年5月4日宣布將採取促進負責任AI創新之新行動，表示公司於部署或公開其產品前，應致力於降低AI風險，並強調風險管理與保障措施的重要性，以防止AI對個人與社會造成潛在危害。此外，拜登總統於2月簽署「透過聯邦政府進一步推動種族平等和支持弱勢群體」行政命令（Executive Order on Further Advancing Racial Equity and Support for Underserved Communities Through The Federal Government），指示聯邦政府機關在設計和使用AI等新技術時，應避免偏見，並保護公眾免受演算法歧視。促進負責任AI創新之新行動包括： 一、投資負責任AI的研發 美國國家科學基金會（National Science Foundation）宣布撥款1.4億美元以啟動7個新的國家AI研究所，未來全美將有25個國家級AI研究所。除有助於促進公私部門之間合作外，將強化AI研發基礎設施、支持多元化AI勞動力發展，及推動氣候、農業、能源、公共衛生、教育與資安等關鍵領域之突破。 二、公開評估現有的生成式AI系統（generative AI systems） Anthropic、Google、Hugging Face、微軟、NVIDIA、OpenAI和Stability AI等領先AI開發商將參與AI系統獨立公開評估，以評估其模型是否符合AI權利法案藍圖（Blueprint for an AI Bill of Rights），及AI風險管理框架（AI Risk Management Framework）所提出之原則與實踐，並使企業及開發人員能就所發現問題，進一步採取解決措施。 三、提出政策引導聯邦政府減輕AI風險及提升AI利用機會 美國行政管理預算局（Office of Management and Budget）宣布，將於2023年夏季發布有關聯邦政府機關各部門使用AI系統之政策指引草案，並徵詢公眾意見。