人權組織向法國最高行政法院提交申訴,要求政府停止使用歧視性演算法

國際特赦組織(Amnesty International)與法國數位隱私權倡議團體La Quadrature du Net(LQDN)等組織於2024年10月15日向法國最高行政法院提交申訴,要求停止法國國家家庭津貼基金機構(Caisse nationale des allocations familiales,CNAF)所使用的歧視性風險評分演算法系統。

CNAF自2010年起即慣於使用此系統識別可能進行福利金詐欺的對象,該系統演算法對獲取家庭與住房補助的對象進行0至1之間的風險評分,分數越接近1即越可能被列入清單並受調查,政府當局並宣稱此系統將有助於提升辨識詐欺與錯誤的效率。

LQDN取得該系統的原始碼,並揭露其帶有歧視性質。該等組織說明,CNAF所使用的評分演算法自始即對社會邊緣群體如身心障礙者、單親家長,與低收入、失業、居住於弱勢地區等貧困者表現出懷疑態度,且可能蒐集與系統原先目的不相稱的資訊量,這樣的方向直接違背了人權標準,侵犯平等、非歧視與隱私等權利。

依據歐盟《人工智慧法》(Artificial Intelligence Act,下稱AIA),有兩部分規定:

1. 用於公機關評估自然人是否有資格獲得基本社會福利或服務,以及是否授予、減少、撤銷或收回此類服務的人工智慧系統;以及用於評估自然人信用或建立信用評分的人工智慧系統,應被視為高風險系統。

2. 由公機關或私人對自然人進行社會評分之人工智慧系統可能導致歧視性結果並排除特定群體,從此類人工智慧總結的社會分數可能導致自然人或其群體遭受不當連結或程度不相稱的不利待遇。因此應禁止涉及此類不可接受的評分方式,並可能導致不當結果的人工智慧系統。

然而,AIA並未針對「社會評分系統」明確定義其內涵、組成,因此人權組織同時呼籲,歐盟立法者應針對相關禁令提供具體解釋,惟無論CNAF所使用的系統為何種類型,因其所具有的歧視性,公機關皆應立即停止使用並審視其具有偏見的實務做法。

相關連結
你可能會想參加
※ 人權組織向法國最高行政法院提交申訴,要求政府停止使用歧視性演算法, 資訊工業策進會科技法律研究所, https://stli.iii.org.tw/article-detail.aspx?d=9291&no=64&tp=1 (最後瀏覽日:2026/11/22)
引註此篇文章
你可能還會想看
英國資訊專員辦公室對連鎖藥局違反GDPR存放敏感個資作成裁罰首例

  英國資訊專員辦公室(Information Commissioner's Office, ICO)於2019年12月20日發布首宗依據歐盟一般資料保護規則(General Data Protection Regulation, GDPR)之裁罰。   本案源於英國藥物及保健產品管理局(Medicines and Healthcare products Regulatory Agency, MHRA)接獲投訴前往倫敦當地一家名為Doorstep Dispensaree Ltd之連鎖藥局進行藥品違規調查,卻意外發現其後院存放大量敏感個資文件,約五十萬個文件檔案皆未做任何資料檔案保護措施,上面更記載名字、地址、出生日期、NHS號碼、醫療資料及處方籤等患者之個人資料,旋即通報英國資訊專員辦公室展開調查。最終英國資訊專員辦公室以該藥局違反歐盟一般資料保護規則(General Data Protection Regulation, GDPR)第5條1項第f款、第24條第1項及第32條,裁罰275,000英鎊。其裁罰理由如下: 一、隱私政策並不符合要求,如未述明蒐集個人資料之類別,未訂定個資保存期限,當事人告知聲明不完備,無當事人權利行使等。 二、無適當安全維護措施 三、涉及敏感性個資,違法情狀嚴重 四、未積極配合調查 五、影響層面甚深,導致該藥局配合之上百家療養院,近千名當事人個資受損害。   此為英國資訊專員辦公室首宗依據歐盟一般資料保護規則確定裁罰之案例且涉及敏感性個資,有其指標性。除此之外,英國航空與萬豪酒店之個資外洩案亦欲依GDPR進行裁罰,實值持續關注後續發展。

澳洲及紐西蘭公路監理機關聯合會發布輔助與自動車輛駕駛之教育與訓練研究報告

  澳洲及紐西蘭公路監理機關聯合會(Austroads)於2020年3月18日發布「輔助駕駛及自動駕駛車輛之駕駛人教育及訓練報告(Education and Training for Drivers of Assisted and Automated Vehicles)」,該報告目的在於研究有哪些技巧、知識與行為,為目前與未來人們使用具有輔助或自駕功能車輛所需具備的;並檢視註冊與發照之相關機關應擔任何種角色,以確保駕照申請人具有足夠能力以使用相關科技。報告中所關注之輔助與自駕車輛,為具有SAE自動駕駛層級第0至第3級之輕型或重型自駕車輛;目前澳洲道路規範並未禁止第3級之自駕車使用,但駕駛人仍應保持對車輛之控制且不得同時進行其他行為。   報告認為目前之駕駛執照發照架構尚不需改變,但註冊與發照機構仍可於輔助與自動駕駛車輛的學習與評估中扮演一些角色,包含: 鼓勵經銷商、製造商與相關利益團體進行有關如何安全運用相關系統,同時避免過度依賴之教育與訓練。 支持將自駕車技術相關之特定重要資訊整合進所有層級之教育與訓練中,但不使用強制性之評估程序進行能力評估。 應關注如何於澳洲設計規範(Australian Design Rules, ADRs)或澳洲新車評估計畫(Australasian New Car Assessment Program, ANCAP)中規範特定車輛之安全公眾教育、整合重要資訊於既有的知識與技術訓練,以及建立強制之學習計畫。   未來澳洲及紐西蘭公路監理機關聯合會將繼續發展相關計畫以實施本報告中之相關建議,以使教育訓練系統更加完善。

美國新墨西哥州法院認定Meta構成「公共妨害」,命其強化兒少保護措施

新墨西哥州政府於2023年對Meta提起訴訟,主張Meta明知其Facebook、Instagram等平台設計加劇該州青少年心理健康危機,卻未能有效防範兒少性剝削風險。2026年3月,陪審團依《不公平交易行為法》(Unfair Practices Act)認定Meta違規並處以3.75億美元民事金錢制裁(civil penalty);2026年8月6日,新墨西哥州第一司法區地方法院就本案作成最終判決,認定Meta旗下平台構成「公共妨害」(public nuisance),命其另支付5.67億美元設立減輕基金(Abatement Fund)。兩者合計,Meta於本案之金錢責任約達9.42億美元。 法院要求Meta於5年期間執行下列措施,並每半年向法院及州政府報告: 1.年齡保障:強化AI年齡辨識,疑似未滿13歲者須完成驗證,未於期限內驗證者將標記為刪除;經確認未滿13歲者,須刪除帳號及相關個人資料,並建立申訴機制。 2.未成年人安全預設:未成年人帳號預設私人設定,禁止未成年人帳號被推薦予不相關成年人,並禁止不相關成年人私訊未成年人帳號,若須降低保護程度須經家長同意。 3.防制性剝削與性勒索:強化偵測、通報與真人審查機制。 4.生成式AI安全:禁止並防止未成年人與Meta AI進行性化或浪漫互動,以及成年人利用AI模擬或討論與未成年人之性化或浪漫互動。 5.使用時間限制及資訊揭露:Meta應於夜間及上課時段禁止向未成年人推播訊息,並預設隱藏其按讚數,其使用Facebook與Instagram之時間合計每月上限為90小時;另應強化平台安全風險揭露及網路安全教育。 值得注意的是,法院並未命Meta停止或重新設計推薦演算法、無限捲動及自動播放等功能,認為此類產業普遍性功能之規範應留待立法或行政部門處理,其理由有二:其一,此類功能屬產業普遍設計,個案裁判逕行介入恐造成不對等競爭負擔;其二,此類功能涉及第三方內容之呈現方式,貿然介入可能牴觸憲法言論自由保障及《通訊端正法》(Communications Decency Act)第230條。 整體而言,本案顯示美國對數位平台兒少保護之監管,正由傳統內容管理延伸至年齡保障、產品安全預設、性剝削防制及生成式AI安全等面向,至於本案後續是否影響其他州之同類訴訟,值得持續關注。

解析生技製藥研發成果涉及智慧財產保護之新課題

TOP