紐約州州長於2024年12月21日簽署《政府自動化決策監督法》(Legislative Oversight of Automated Decision-making in Government Act, LOADinG Act),用以規範紐約州政府使用人工智慧自動決策系統的方式以及相關義務,成為美國第一個通過這類法律的州。 該法所定義之「自動化決策系統」係指任何使用演算法、計算模型或人工智慧技術,或其組合的軟體,用於自動化、支援或取代人類決策;這類系統亦包括應用預定義規則或機器學習演算法進行資料分析,並在自動產生結論、建議、結果、假設、預測。 針對政府使用自動化決策系統之情形,《政府自動化決策監督法》有三大重點:人類監督、影響評估以及資訊揭露。 一、人類監督 州政府在提供社會福利資源或其他可能實質影響人民權益與法定權利的業務時,除非是在「有意義的人工審查」下進行操作,否則不得使用自動化決策系統。同時,此法也強調,州政府亦應確保其員工現有權利不會受到自動化決策系統的影響,例如不得因此受到解雇、調職或減薪等。 前述有意義的人工審查,係指對自動化決策流程進行審查、監督及控制的工作人員,必須是受過訓練、對該系統有一定之了解且擁有權力干預、變更系統最終決策的人。 二、影響評估 州政府如欲使用自動化決策系統,應進行影響評估且每兩年應至少重新評估一次;系統在進行重大更新前,也應重新進行影響評估。若評估發現系統產生歧視性或有偏見的結果,機關必須停止使用該系統及其生成的資訊。 影響評估的項目除了性能、演算法及訓練資料外,亦應進行準確性、公平性、偏差歧視、以及個人資料安全等相關測試。 三、資訊揭露 影響評估需在系統實施前至少30天提交給州長與州議會,並在相關機關的網站上公布;僅機關在特殊情況下(例如涉及公共安全考量),州政府可針對報告揭露之資訊進行必要的刪改,但必須說明做出此決定的原因。此外,州政府亦需於本法通過後向州議會提交報告,說明包括系統描述、供應商資訊、使用開始日期、用途、人類決策的支持或取代情況、已進行的影響評估摘要等。 本法強調對人工智慧技術的審慎應用,特別關注其對勞工權益的影響。該法明確規定,禁止在無人類監督的情況下,使用自動化系統進行失業救濟或育兒補助等福利的審核決策,並保障州政府員工不因人工智慧的實施而減少工作時間或職責。此類規定在現行立法中較為罕見,顯示出立法者對勞工權益的高度重視。該法的實施效果及影響,值得未來持續保持關注。
美國科羅拉多州通過《人工智慧消費者保護法》2024年5月17日,科羅拉多州州長簽署了《人工智慧消費者保護法》(Consumer Protections for Artificial Intelligence Act,Colorado AI Act,下簡稱本法),其內容將增訂於《科羅拉多州修訂法規》(Colorado Revised Statutes,簡稱CRS)第6篇第17部分,是美國第一部廣泛對AI規範的法律,將於2026年2月1日生效。 本法旨在解決「高風險人工智慧系統」的演算法歧視(Algorithmic Discrimination)的問題 ,避免消費者權益因為演算法之偏見而受到歧視。是以,本法將高風險AI系統(High-risk Artificial Intelligence System)定義為「部署後作出關鍵決策(Consequential Decision)或在關鍵決策中起到重要作用的任何AI系統」。 而後,本法藉由要求AI系統開發者(Developers)與部署者(Deployers)遵守「透明度原則」與「禁止歧視原則」,來保護消費者免受演算法歧視。規定如下: (一)系統透明度: 1.開發者應向部署者或其他開發者提供該系統訓練所使用的資料、系統限制、預期用途、測試演算法歧視之文件以及其他風險評估文件。 2.部署者應向消費者揭露高風險人工智慧系統的預期用途,也應在高風險人工智慧系統做出決策之前向消費者提供聲明,聲明內容應該包含部署者之聯絡方式、該系統的基本介紹、部署者如何管理該系統可預見之風險等資訊。 (二)禁止歧視: 1.開發者應實施降低演算法歧視之措施,並應協助部署者理解高風險人工智慧系統。此外,開發者也應該持續測試與分析高風險人工智慧系統可能產生之演算法歧視風險。若開發者有意修改該系統,應將更新後的系統資訊更新於開發者網站,並須同步提供給部署者。 2.部署者應該實施風險管理計畫,該風險管理計畫應包含部署者用於識別、紀錄降低演算法歧視風險之措施與負責人員,且風險管理計畫應定期更新。在制定風險管理計畫時,必須參考美國商務部國家標準暨技術研究院(National Institute of Standards and Technology, NIST)的《人工智慧風險管理框架》(AI Risk Management Framework, AI RMF 2.0)與ISO/IEC 42001等風險管理文件。 美國普遍認為科羅拉多州的《人工智慧消費者保護法》為目前針對人工智慧系統最全面之監管法規,可作為其他州有關人工智慧法規的立法參考,美國各州立法情況與作法值得持續關注。
中國大陸最高人民法院於2014年11月3日公布《最高人民法院關於北京、上海、廣州知識產權法院案件管轄的規定》根據中國大陸最高人民法院(以下簡稱高法)2014年11月3日公布之《最高人民法院關於北京、上海、廣州知識產權法院案件管轄的規定》,大陸地區將陸續於北京、上海、廣州成立知識產權法院(即我國的智慧財產法院)。另據高法6日新聞報導,北京知識產權法院已於同月6日掛牌成立,至於上海、廣州兩地法院也將於年內正式成立。 大陸地區成立知識產權法院係本年8月31日由其第12屆全國人民代表大會常務委員會第10次會議所決定的,初步將於北京、上海、廣州三地成立專責法院。根據前開規定第1條,知識產權法院管轄的第一審案件包括三類:一、專利、植物新品種、集成電路布圖設計(即我國之積體電路布局)、技術秘密、計算機軟件等技術類民事和行政案件;二、對國務院部門或者縣級以上地方人民政府涉及著作權、商標、不正當競爭等行政行為提起訴訟的行政案件;三、涉及馳名商標認定的民事案件。 北京、上海、廣州知識產權法院的管轄範圍分別為北京、上海兩直轄市,以及廣東省,前述提及三類相關案件由三地知識產權法院專屬管轄。如有上訴,相關案件均由法院所在地的高級人民法院知識產權審判庭審理,而不再透過該地中級人民法院。且相關法院之法官除依專業進行分類、配置外,亦將設有技術調查官等,以強化專業審判的能力。 隨著科技的日新月異,以及智慧財產相關糾紛或訴訟案件的高度專業化,有關大陸地區成立知識產權法院,或許是為因應趨勢所不得不為之措施,然其具體運作及成效,後續仍值持續關切。
新加坡開始採行商業政府電子密碼制度新加坡資通訊發展局(Infocomm Development Authority, IDA)宣布,自2016年9月15日起,商業政府電子密碼系統(Singapore Corporate Access,簡稱CorpPass)將正式開始運作,此一新的數位身分辨識功能將提供公司或其他法人向政府機關辦理線上業務時使用。企業目前所採用的是複合式的數位身分辨識機制,包括SingPass和E-Services Authorisation System等,而採行單一的辨識系統,除了可以帳密管理上的便利外,也可加強企業對員工應用政府數位服務的管理。 此外,由於像SingPass此類身分辨識機制,因為也可提供個人向政府辦理業務時使用,員工如果同時要利用其辦理公司業務時,就有可能會因為需要分享其個人帳密給同事,而增加了個人隱私上的風險。因此如果採用企業與個人事務分立的登入機制,也能更加保護企業與個人間的資訊安全。 此一制度將由2016年9月到2017年12月之期間內逐步推廣,第一階段推行期,包括新加坡智慧財產辦公室、貿易與工業部、國家環境局及新加坡海關等機關的服務都會採用此一系統,而在與企業參與伙伴與各試用者充分討論,取得相關反饋意見後,將陸續有更多的機關與服務加入此一制度。