人權組織向法國最高行政法院提交申訴，要求政府停止使用歧視性演算法
國際特赦組織（Amnesty International）與法國數位隱私權倡議團體La Quadrature du Net（LQDN）等組織於2024年10月15日向法國最高行政法院提交申訴，要求停止法國國家家庭津貼基金機構（Caisse nationale des allocations familiales，CNAF）所使用的歧視性風險評分演算法系統。
CNAF自2010年起即慣於使用此系統識別可能進行福利金詐欺的對象，該系統演算法對獲取家庭與住房補助的對象進行0至1之間的風險評分，分數越接近1即越可能被列入清單並受調查，政府當局並宣稱此系統將有助於提升辨識詐欺與錯誤的效率。
LQDN取得該系統的原始碼，並揭露其帶有歧視性質。該等組織說明，CNAF所使用的評分演算法自始即對社會邊緣群體如身心障礙者、單親家長，與低收入、失業、居住於弱勢地區等貧困者表現出懷疑態度，且可能蒐集與系統原先目的不相稱的資訊量，這樣的方向直接違背了人權標準，侵犯平等、非歧視與隱私等權利。
依據歐盟《人工智慧法》（Artificial Intelligence Act，下稱AIA），有兩部分規定：
1. 用於公機關評估自然人是否有資格獲得基本社會福利或服務，以及是否授予、減少、撤銷或收回此類服務的人工智慧系統；以及用於評估自然人信用或建立信用評分的人工智慧系統，應被視為高風險系統。
2. 由公機關或私人對自然人進行社會評分之人工智慧系統可能導致歧視性結果並排除特定群體，從此類人工智慧總結的社會分數可能導致自然人或其群體遭受不當連結或程度不相稱的不利待遇。因此應禁止涉及此類不可接受的評分方式，並可能導致不當結果的人工智慧系統。
然而，AIA並未針對「社會評分系統」明確定義其內涵、組成，因此人權組織同時呼籲，歐盟立法者應針對相關禁令提供具體解釋，惟無論CNAF所使用的系統為何種類型，因其所具有的歧視性，公機關皆應立即停止使用並審視其具有偏見的實務做法。
- 零售業個資安全宣導暨安全維護計畫說明會（台中場）
- 【台北場1】通訊傳播事業個資法遵教育訓練
- 【台中場】通訊傳播事業個資法遵教育訓練
- 【新北場】通訊傳播事業個資法遵教育訓練
- 【高雄場】通訊傳播事業個資法遵教育訓練
- 【台北場2】通訊傳播事業個資法遵教育訓練
- 零售業個資法遵實務與資訊安全說明會
- 114年資訊服務業者個資安維辦法宣導說明會
- 【線上】資訊服務業個資安維計畫說明會
- 【實體】資訊服務業個資安維計畫說明會暨交流工作坊
- 零售業個資法遵實務與資訊安全說明會（台中場）
- 【台北場1】通訊傳播事業個資保護實務專題講座
- 【台北場2】通訊傳播事業個資保護實務專題講座
- 【台北場3】通訊傳播事業個資保護實務專題講座
- 金融相關資服業者線上個資安維宣導說明會
- 【上午場】探索科技法律最前線：資策會科法所「114年成果」分享會暨簡報票選
- 商業服務業個資管理與資訊安全實務宣導說明會（高雄場）
- 商業服務業個資管理與資訊安全實務宣導說明會（台南場）
- 商業服務業個資管理與資訊安全實務宣導說明會（台中場）
- 商業服務業個資管理與資訊安全實務宣導說明會（台北場）
- 【北部場1】國家通訊傳播委員會與通訊傳播產業個人資料保護與管理制度實務工作坊
- 【北部場2】國家通訊傳播委員會與通訊傳播產業個人資料保護與管理制度實務工作坊
- 【北部場3】國家通訊傳播委員會與通訊傳播產業個人資料保護與管理制度實務工作坊
- 【北部場4】國家通訊傳播委員會與通訊傳播產業個人資料保護與管理制度實務工作坊
- 【南部場】國家通訊傳播委員會與通訊傳播產業個人資料保護與管理制度實務工作坊
- 【中部場】國家通訊傳播委員會與通訊傳播產業個人資料保護與管理制度實務工作坊
- 製程工業AI應用與規範研討會
魏徹
副法律研究員 編譯整理
France: Discriminatory algorithm used by the social security agency must be stopped, Amnesty International, https://www.amnesty.org/en/latest/news/2024/10/france-discriminatory-algorithm-used-by-the-social-security-agency-must-be-stopped/ (last visited Nov. 1, 2024)
於2016年10月14日，中國大陸科技部為落實國務院於5月9日發布之《促進科技成果轉移轉化行動方案》中，有關大力推動地方科技成果轉移轉化，並開展區域性科技成果轉移轉化試點示範的要求，開始啟動在河北以及寧波，兩個科技成果轉移轉化示範區的建設計畫。 中國大陸推動國家科技成果轉移轉化示範區之目的在於推動科技成果轉移轉化工作，以期能有助於完善區域科技成果轉化政策環境，並且提升區域創新之能力；示範區的建設重點將在於完善科技成果轉化服務體系、建設科技成果產業化載體、開展政策先行先試等方面開展工作，進行地方的創新驅動發展。 為此，中國大陸科技部並印發了《科技部關於建設河北•京南國家科技成果轉移轉化示範區的函》、《科技部關於建設寧波國家科技成果轉移轉化示範區的函》兩份政策文件，其中河北•京南示範區的重點在於配合北京、天津，以及河北的區域協同發展，充分發揮跨區域輻射帶動作用，並且承接北京及天津的創新要素外溢轉移，以及與河北產業創新需求進行對接。而寧波示範區將則以科技成果轉化對產業和企業創新發展的對接為核心戰略，發展以企業為主體的科技成果轉移轉化示範區域。並以這兩個示範區的測試來探索模式、累積經驗。
歐洲議會批准提升線上平台商業行為公平性之新規則有鑑於線上市集（如Google Play）、訂房網站等線上平台提供了迅速進入國際消費市場之機會， 因此成為了數百萬企業提供服務的首選之地。然而，存在於「平台對商家」（platform–to-business, P2B）之間的某些結構性問題，卻導致了企業之間的不公平交易行為。是以，歐洲議會、歐盟理事會與歐盟執委會於2019年2月14日就「提升線上中介服務商業用戶的公平性與透明性規則」（Regulation on promoting fairness and transparency for business users of online intermediation services），達成政治協議，歐洲議會並已於2019年4月17日批准。 該規則為全世界第一個針對線上平台與商業用戶訂定之規則，係數位單一市場策略（Digital Single Market Strategy）的一部分，預計適用於整個線上平台經濟，亦即，目前在歐盟境內營運的7000個線上平台或市集都包含在內，無論是科技巨擘，抑或是規模雖小但對商業用戶具重要議價能力的新創公司（small start-ups）皆屬之。此外，新規則中涉及搜尋結果排序透明度之部分，亦將適用於搜尋引擎。 其中，由於數以百萬計的中小企業是構成歐盟經濟的重要支柱，是以此番訂定的新規則，係專門針對此些較無議價能力的中小企業而設計。中小企業可自新規則中獲益之項目主要有四： 1. 禁止特定不公平行為 (1) 不得突然且未附理由的暫停帳號使用權 線上平台不得在無明確理由或未提供申訴可能性之情況下，暫停或終止賣家帳戶。 (2) 條款與條件需簡明易懂且變更時須提前通知 條款與條件需易於取得且以簡明易懂之文字書寫，當條款與條件有所變更時，線上平台需在15天之前通知，使賣家得即時調整業務，並可視業務調整複雜度適時延長通知期間。 2. 提升線上平台透明度 (1) 排序透明化 市集與搜尋引擎需揭露其排序商品或服務的主要參數，以利賣家進行適度優化。 (2) 強制揭露線上平台的部分商業行為 由於部分線上平台除了提供市集促進交易進行，更在該市集中身兼賣家之角色，是以，為維護公平競爭的環境，新規則強制此些線上平台全面揭露任何可能給予自家產品的優勢。此外，該等線上平台還需揭露所蒐集之資料及使用方式，尤其是與其他商業夥伴共享之資料。當涉及個人資料時，則有一般資料保護規則（General Data Protection Regulation, GDPR）之適用。 3. 增設爭端解決機制 (1) 建立投訴處理系統 線上平台應建立內部投訴處理系統以對商業用戶提供適當協助。 (2) 設置調解程序 線上平台應提供調解之協助，以助賣家在法庭外解決爭議，有效節省時間與金錢。 4. 規則之實施 商業公會能對違反規則之線上平台提起告訴，以降低賣家對平台報復行為的恐懼，並降低個別賣家的訴訟成本。 在歐洲議會批准後，一旦歐盟理事會同意，新規則將在公布後12個月後正式施行，且為了確保新規則與時俱進，歐盟將在適用後的18個月內進行檢視，並設立專門的線上平台觀測站（Online Platform Observatory），以監控市場的變化，並確保新規則有效施行。
法國政府考慮強制業者公布使用奈米材料之相關資訊茲因回應2008年針對環境議題所召開之國家諮詢會議，並考量整體環境變遷快速，有待解決之相關問題與過往相較已有所不同，法國政府於2009年1月7日公布新修正之環保法令草案，力求與時俱進；其新環境法規草案著重以下主題：建築與都市計畫、交通、能源與氣候、生物多樣性、風險、健康與廢棄物處理。 其中值得注意者，係針對可能導致危害環境或人體健康的奈米粒子材料，於新法中加以規範。依該新環保法草案第73條，除非個案內容有損國家安全因而為特例之外，現行製造、輸入與使用奈米粒子材料於產品之業者，必須就該奈米材料之性質、數量與使用方式加以揭露，使公眾周知；此外，於主管機關的要求下，業者應評估並呈報該奈米材料之暴露程度與所潛藏之風險。 之所以將奈米粒子納入規範當中，係參考「化學物質登記、評估、授權和管制法」(Registration, Evaluation, Authorisation and Restriction of Chemical substances，REACH)，基於永續發展之目標，因而於產品製造及銷售的過程中，賦予製造商與進口商特定之責任與義務；亦即業者必須以負責任之態度製造、進口或使用化學物質，進而取得該化學物質之相關資訊，使之透明化，以確保人體健康和環境免於受到負面影響，促成風險管理措施之順利運行。 該等觀念彰顯了本次法國環境法規修改之特色，其六大主題之規範更需要諸多政府部門的通力合作；再者，法國於積極發展奈米科技的同時，以客觀之態度審視其優缺點，試圖掌握奈米粒子材料之特性，作為管理潛在風險之判斷基準。該法案於2009年2月10日送至議會待表決，後續發展仍值得注意。
美國紐約州通過《政府自動化決策監督法》規範州政府使用自動化決策系統紐約州州長於2024年12月21日簽署《政府自動化決策監督法》（Legislative Oversight of Automated Decision-making in Government Act, LOADinG Act），用以規範紐約州政府使用人工智慧自動決策系統的方式以及相關義務，成為美國第一個通過這類法律的州。 該法所定義之「自動化決策系統」係指任何使用演算法、計算模型或人工智慧技術，或其組合的軟體，用於自動化、支援或取代人類決策；這類系統亦包括應用預定義規則或機器學習演算法進行資料分析，並在自動產生結論、建議、結果、假設、預測。 針對政府使用自動化決策系統之情形，《政府自動化決策監督法》有三大重點：人類監督、影響評估以及資訊揭露。 一、人類監督 州政府在提供社會福利資源或其他可能實質影響人民權益與法定權利的業務時，除非是在「有意義的人工審查」下進行操作，否則不得使用自動化決策系統。同時，此法也強調，州政府亦應確保其員工現有權利不會受到自動化決策系統的影響，例如不得因此受到解雇、調職或減薪等。 前述有意義的人工審查，係指對自動化決策流程進行審查、監督及控制的工作人員，必須是受過訓練、對該系統有一定之了解且擁有權力干預、變更系統最終決策的人。 二、影響評估 州政府如欲使用自動化決策系統，應進行影響評估且每兩年應至少重新評估一次；系統在進行重大更新前，也應重新進行影響評估。若評估發現系統產生歧視性或有偏見的結果，機關必須停止使用該系統及其生成的資訊。 影響評估的項目除了性能、演算法及訓練資料外，亦應進行準確性、公平性、偏差歧視、以及個人資料安全等相關測試。 三、資訊揭露 影響評估需在系統實施前至少30天提交給州長與州議會，並在相關機關的網站上公布；僅機關在特殊情況下（例如涉及公共安全考量），州政府可針對報告揭露之資訊進行必要的刪改，但必須說明做出此決定的原因。此外，州政府亦需於本法通過後向州議會提交報告，說明包括系統描述、供應商資訊、使用開始日期、用途、人類決策的支持或取代情況、已進行的影響評估摘要等。 本法強調對人工智慧技術的審慎應用，特別關注其對勞工權益的影響。該法明確規定，禁止在無人類監督的情況下，使用自動化系統進行失業救濟或育兒補助等福利的審核決策，並保障州政府員工不因人工智慧的實施而減少工作時間或職責。此類規定在現行立法中較為罕見，顯示出立法者對勞工權益的高度重視。該法的實施效果及影響，值得未來持續保持關注。