美國聯邦地區法院宣告伊利諾州之電玩遊戲法案違憲
美國聯邦地區法院於 12月初對伊利諾州禁止商家販售或出租色情及暴力電玩遊戲予未成年人，如有違反將會處以美金1000罰金之規定做出判決，宣告該等法律規定違憲，並對其執行發出禁止令。
法官指出該等規定將對電玩遊戲的創作以及發行造成寒蟬效應，沒有證據可以證明暴力電玩遊戲會對未成年遊戲者造成持續性的負面影響，使其思想和行為具有侵略性，且其對色情的定義並不是很明確。由於此等規定已對於電玩遊戲業者之言論自由造成限制，但是並沒有實質重大的理由得以支持該等限制，故宣告該等規定違憲，並對其執行發出禁止令。
伊利諾州一案並不是美國法院第一遭禁止相關電玩遊戲規定之執行的判決，於今年 11月時，美國法院即曾禁止密西根州執行禁止商家販售暴力電玩遊戲之規定。
- http://news.com.com/Court+blocks+Illinois+video+game+laws/2100-1043_3-5983061.html?tag=nefd.top
- http://www.usatoday.com/tech/news/2005-12-03-video-law_x.htm?POE=TECISVA
- http://www.cnn.com/2005/TECH/fun.games/12/02/game.ban.ap/?eref=yahoo
- http://www.cbsnews.com/stories/2005/12/03/tech/main1095149.shtml?CMP=OTC-RSSFeed&source=RSS&attr=SciTech_1095149
2024年5月17日，科羅拉多州州長簽署了《人工智慧消費者保護法》（Consumer Protections for Artificial Intelligence Act，Colorado AI Act，下簡稱本法），其內容將增訂於《科羅拉多州修訂法規》（Colorado Revised Statutes，簡稱CRS）第6篇第17部分，是美國第一部廣泛對AI規範的法律，將於2026年2月1日生效。 本法旨在解決「高風險人工智慧系統」的演算法歧視（Algorithmic Discrimination）的問題 ，避免消費者權益因為演算法之偏見而受到歧視。是以，本法將高風險AI系統（High-risk Artificial Intelligence System）定義為「部署後作出關鍵決策（Consequential Decision）或在關鍵決策中起到重要作用的任何AI系統」。 而後，本法藉由要求AI系統開發者（Developers）與部署者（Deployers）遵守「透明度原則」與「禁止歧視原則」，來保護消費者免受演算法歧視。規定如下： (一)系統透明度： 1.開發者應向部署者或其他開發者提供該系統訓練所使用的資料、系統限制、預期用途、測試演算法歧視之文件以及其他風險評估文件。 2.部署者應向消費者揭露高風險人工智慧系統的預期用途，也應在高風險人工智慧系統做出決策之前向消費者提供聲明，聲明內容應該包含部署者之聯絡方式、該系統的基本介紹、部署者如何管理該系統可預見之風險等資訊。 (二)禁止歧視： 1.開發者應實施降低演算法歧視之措施，並應協助部署者理解高風險人工智慧系統。此外，開發者也應該持續測試與分析高風險人工智慧系統可能產生之演算法歧視風險。若開發者有意修改該系統，應將更新後的系統資訊更新於開發者網站，並須同步提供給部署者。 2.部署者應該實施風險管理計畫，該風險管理計畫應包含部署者用於識別、紀錄降低演算法歧視風險之措施與負責人員，且風險管理計畫應定期更新。在制定風險管理計畫時，必須參考美國商務部國家標準暨技術研究院（National Institute of Standards and Technology, NIST）的《人工智慧風險管理框架》（AI Risk Management Framework, AI RMF 2.0）與ISO/IEC 42001等風險管理文件。 美國普遍認為科羅拉多州的《人工智慧消費者保護法》為目前針對人工智慧系統最全面之監管法規，可作為其他州有關人工智慧法規的立法參考，美國各州立法情況與作法值得持續關注。
醫療器材審核制度仍有爭議 歐洲議會延後表決時程在歐盟發生了諸如法國隆乳植入物醜聞(PIP scandal)以來的諸多事件後，歐盟醫療器材審核制度的革新更顯得刻不容緩。然而，歐盟執委會提案修正過往歐盟對於醫療器材之相關規範，強化市場化前(pre-market)的審核機制，引起了各界不同的意見，因此本年七月初，歐洲議會決定延後新指令修正案的表決至9月，以爭取時間取得各成員國代表間的共識。 為強化對於患者健康的保障，歐盟執委會(European Commission)於2012年提出醫療器材規則修正案(Proposal for a Regulation of the European Parliament and of the Council on medical devices)，並包括對2001/83號指令等(Directive 2001/83/EC, Regulation (EC) No 178/2002 and Regulation (EC) No 1223/2009)的修正，已建立更完善的歐盟醫療器材管理機制。其中包括歐盟統一而集中的審核程序，此舉卻引起不同意見，認為過於科層化(bureaucratic)的市場化前審核制度設計，將阻礙研發且不見得對病患有利。有歐洲議會議員指出，現行制度雖有進化的必要，然集中化(centralisation)的審核工作，對於行政負擔的加重，或許不如先在各國家層級的管理機制進行強化。而歐盟醫療器材產業界也認為，集中統一化的審核機制，將會對於中小型研發企業造成衝擊，間接影響歐盟醫材類技術領域的科技研發，業界認為，新法案對於所謂對患者具有高風險第三類醫療器材(Class III devices)的審核，將使得患者延遲3至5年才能得到可以拯救其性命的產品，相對地卻沒有得到甚麼安全的提升。 七月初，歐洲議會公共健康與食品安全委員會(Public Health and Food Safety Committee, ENVI)決議將推遲法案表決至9月18日，屆時表決的結果，將主導未來歐盟醫療器材管理的主要方向。
英國資訊委員辦公室推出資料分析工具箱協助組織檢視資料保護情形英國資訊委員辦公室(Information Commissioner's Office, ICO)於今（2021）年2月17日推出資料分析工具箱（data analytics toolkit）供所有考慮對個人資料進行資料分析的組織使用，旨在幫助組織駕馭人工智慧（Artificial Intelligence, AI）系統對個人權利所可能帶來的挑戰。 ICO表示，越來越多的組織使用AI來完成特定任務，例如使用軟體自動發現資料集（data sets）的模式，並藉此進行預測（predictions）、分類（classifications）或風險評分（risk scores），組織在使用個人資料進行資料分析時，納入資料保護的概念是至關重要的，除符合法律要求外，也能增強民眾對技術的信任與信心。 使用ICO的資料分析工具箱時，首先會詢問組織所適用的法律，並引導至相對應的頁面，並透過合法性（lawfulness）、問責與治理（accountability and governance）、資料保護原則（data protection principles）以及資料主體權利（data subject rights）等一系列的問題瞭解組織的資料保護情形，在回答所有問題之後，工具箱將產生一份報告，提供組織關於資料保護的建議，提高組織資料保護的法令遵循程度。 ICO強調，組織應該要在個人資料處理的過程中考量報告中所提及的建議，並向組織的資料保護長（Data Protection Officer, DPO）徵詢其意見，在組織委託、設計與實施資料分析時落實個人權利與自由的保障。
英國教育部《保障兒童在教育領域之安全2026》納入AI深偽影像，強調AI過濾機制及校方審查義務英國教育部（Department for Education，以下簡稱DfE）於2026年7月7日更新《保障兒童在教育領域之安全2026》（Keeping children safe in education 2026，下稱KCSIE 2026），將「生成式AI」納入學校之兒少保護與網路安全體系，供英國幼稚園至大學等學校參考，以保障及促進18歲以下兒童及青少年之福祉。此文件性質為不具強制力之指引，自同年9月1日起生效。以下簡要介紹《KCSIE 2026》重點。 《KCSIE 2026》建議除有正當理由，否則校方應遵循以下： 1.政策面，學校應將網路安全管理方法列入校內既有兒少保護政策中，如當學生使用AI生成具傷害性之內容（AI深偽照片、影片等）時，校方應啟動關於影像濫用的兒少保護程序。 2.系統管理面，建議學校應建立適當的過濾與監控系統（filtering and monitoring systems），每年至少應審查一次過濾系統之功能是否正常運作。 由校內人員組成之高級管理團隊（Senior Leadership Team, SLT）成員主導審查，以及由校方指定的一名或多名安全保護主管（Designated Safeguarding Lead, DSL）與IT人員從旁協助。審查重點除應確保過濾功能正常，亦應確保工作人員理解相關規定並知道向上通報事件之方式，並應留存相關審查紀錄。 建議學校除此份文件外，亦應參考英國DfE發布之《生成式AI產品安全標準》（Generative AI: product safety standards），評估AI工具是否符合教育領域的過濾與監控需求。 3.人員面，建議教職員的入職培訓以及每年至少一次兒少保護新知培訓中，應考量網路安全與學校的兒少保護政策並加以整合。 關於前文提及英國DfE於2026年1月更新之《生成式AI產品安全標準》，此文件性質同為不具強制力之指引，其提出11項安全標準供教育科技開發商、學校及學院供應商規劃與評估其生成式AI產品，包含：智慧財產權、隱私與資料保護、認知發展、心理健康及過濾機制等項目。其中，「智慧財產權」，主要提到除取得著作權人同意，否則AI產品不應儲存「輸入的資料」，亦不應將「輸入的資料」用於任何商業用途，包含但不限於作為訓練資料、產品開發。「隱私與資料保護」包含如：AI生命週期中應進行資料保護影響評估，若未確認合法依據，不得蒐集、儲存、分享或使用個人資料於任何商業目的，包括用於訓練與微調模型。「過濾機制」係指學校應確保採購之AI產品具過濾功能，可有效防止使用者（學生）接觸不當的內容。 由前文可得知，學校導入AI工具，不宜只評估AI功能之便利性，也應確認是否二次利用輸入之資料、資料傳輸至何處、具資料存取權限的人員範圍，以及是否具備過濾機制，並採取因應措施，如教職員培訓等。 臺灣教育領域導入生成式AI時，可參考此思維，於採購及委外開發流程，要求供應商揭露資料流向、限制二次利用（如用於訓練與微調模型）並保留系統操作紀錄，再由校方建立權限設定、過濾機制及事件應變制度，使教育AI的創新應用奠基於可追溯、可管控的資料管理基礎。 本文為資策會科法所創智中心完成之著作，非經同意或授權，不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。 本文同步刊登於TIPS網站（https://keid.nat.gov.tw/tips/）