人權組織向法國最高行政法院提交申訴,要求政府停止使用歧視性演算法

國際特赦組織(Amnesty International)與法國數位隱私權倡議團體La Quadrature du Net(LQDN)等組織於2024年10月15日向法國最高行政法院提交申訴,要求停止法國國家家庭津貼基金機構(Caisse nationale des allocations familiales,CNAF)所使用的歧視性風險評分演算法系統。

CNAF自2010年起即慣於使用此系統識別可能進行福利金詐欺的對象,該系統演算法對獲取家庭與住房補助的對象進行0至1之間的風險評分,分數越接近1即越可能被列入清單並受調查,政府當局並宣稱此系統將有助於提升辨識詐欺與錯誤的效率。

LQDN取得該系統的原始碼,並揭露其帶有歧視性質。該等組織說明,CNAF所使用的評分演算法自始即對社會邊緣群體如身心障礙者、單親家長,與低收入、失業、居住於弱勢地區等貧困者表現出懷疑態度,且可能蒐集與系統原先目的不相稱的資訊量,這樣的方向直接違背了人權標準,侵犯平等、非歧視與隱私等權利。

依據歐盟《人工智慧法》(Artificial Intelligence Act,下稱AIA),有兩部分規定:

1. 用於公機關評估自然人是否有資格獲得基本社會福利或服務,以及是否授予、減少、撤銷或收回此類服務的人工智慧系統;以及用於評估自然人信用或建立信用評分的人工智慧系統,應被視為高風險系統。

2. 由公機關或私人對自然人進行社會評分之人工智慧系統可能導致歧視性結果並排除特定群體,從此類人工智慧總結的社會分數可能導致自然人或其群體遭受不當連結或程度不相稱的不利待遇。因此應禁止涉及此類不可接受的評分方式,並可能導致不當結果的人工智慧系統。

然而,AIA並未針對「社會評分系統」明確定義其內涵、組成,因此人權組織同時呼籲,歐盟立法者應針對相關禁令提供具體解釋,惟無論CNAF所使用的系統為何種類型,因其所具有的歧視性,公機關皆應立即停止使用並審視其具有偏見的實務做法。

相關連結
你可能會想參加
※ 人權組織向法國最高行政法院提交申訴,要求政府停止使用歧視性演算法, 資訊工業策進會科技法律研究所, https://stli.iii.org.tw/article-detail.aspx?d=9291&no=64&tp=1 (最後瀏覽日:2026/11/18)
引註此篇文章
你可能還會想看
微軟向美國專利商標局(USPTO)提出可用以追蹤物體的擴增實境(AR)專利申請

  依據12月USPTO公開資訊,微軟(Microsoft)於2016年9月2號提出擴增實境(Augmented Reality,以下簡稱AR)系統之美國發明專利申請(申請號:20160373570)。目前AR系統不僅可投射虛擬訊息,還可偵測物理空間之物體位置,不過因為現實生活中,不管是有生命或無生命物體,都不太可能處於完全靜態不動的狀況;而微軟此技術之開發,除了不限於固定空間外,對移動中的物體更具有自動追蹤效果。   微軟專利指出該系統能辨識無生命物體,並可將該物體被選擇為追蹤對象的技術,這個AR系統可持續監測物體的狀態,不僅在同一空間中不同時間點,甚至是物體離開監控空間又被帶回的情況都可追蹤。從微軟專利可以看到這項技術運用在日常生活的價值,如:我們常常花很多時間在想汽車鑰匙和錢包放在哪裡,但透過這個系統的追蹤,可以節省我們找尋的時間;有時我們會忘記家裡的牛奶還剩多少,而花時間去逛超商,倘若我們運用此追蹤技術,能夠隨時知道牛奶剩餘的狀態,就可以避免這種情況的發生。   上開技術不僅包含AR技術,還有虛擬實境(Virtual Reality,簡稱VR)技術,這些技術能透過虛擬與真實世界合併,將真實世界、人類、空間和物體結合,並可進一步的智慧化追蹤,若這項專利被核准且可真實運用到現實生活,必能減少我們的生活中不必要的麻煩。 「本文同步刊登於TIPS網站(https://www.tips.org.tw )」

中國個資監管走向大小分流:大型個人信息處理者加嚴義務、小型個人信息處理者簡化鬆綁

中國國家互聯網信息辦公室(下稱「網信辦」)與公安部於2026年8月7日公布《大型個人信息處理者個人信息保護規定(徵求意見稿)》(下稱《大型處理者規定》),加重大型業者之個資保護義務;另於7月24日公布《小型個人信息處理者個人信息保護簡化措施規定》(下稱《小型處理者規定》),並自9月1日起施行,以適度降低小型業者之合規負擔。 《大型處理者規定》整合監督委員會及大型平台個資保護兩份草案,認定大型個資處理者時,須綜合考量其是否處理1,000萬人以上個資、是否提供涉及個資處理的重要網路服務或經營多種業務,以及是否對國家安全、經濟運行、社會穩定等具有重要影響。經認定者,應於境內儲存個資、由管理層成員擔任個人信息保護負責人、至少每2年辦理1次合規審計,並於6個月內成立監督委員會。 《小型處理者規定》則適用於在境內處理不滿10萬人個資之業者,得以張貼公告、彈窗等較簡便方式公開個資處理規則並履行告知義務;合規審計則得透過自查表方式,至少每5年辦理1次。另針對為履行契約、跨境人力資源管理,或因緊急情況保護生命健康等目的而出境之非敏感個資,免辦安全評估;如屬初次違法、情節輕微、危害後果不大且已完成改正者,得不予處罰。 整體而言,中國個資監管已逐步形成「大小分流」的差異化治理架構,呈現「規模越大、義務越重;規模越小、彈性越大」的監管邏輯。惟無論業者規模大小,均未因此免除個資保護義務,差別主要在於合規要求的密度與方式。業者宜依個資處理規模盤點自身定位,並據以檢視相關合規缺口。

為保護社交網站青少年安全,MySpace與美國執法當局共同簽署一份社交網站重要安全原則之聯合聲明

  為保護青少年使用網路安全,避免性侵害犯罪者透過社交網站誘拐進而性侵未成年人,亦為提升警方追捕及起訴性侵害犯罪者的效能,美國49州及哥倫比亞特區執法當局與美國最大的社交網站 MySpace,在歷經了2年時間的討論後,於今年1月對外共同宣佈一項「社交網站重要安全原則之聯合聲明(Joint Statement on Key Principles of Social Networking Sites Safety)」,並計劃將此一原則陸續推廣於其他類似社交網站。   於該聯合聲明中,MySpace首先同意組織一個網路安全技術的專門小組,承諾研發線上身份認證技術和其他線上安全工具,以創造一個安全的線上社交環境,而該網路安全小組成員包含網路公司代表、身份認證專家、非營利組織成員,以及其他科技公司代表等。MySpace並允諾設計並落實相關技術與功能,以防止14歲以下的兒童使用MySpace網站,及避免青少年從MySpace網站上接收到不適當的內容、或有機會與成人不適當的接觸。另MySpace社交網站亦將透過網站經驗分享、提供父母免費的監控軟體、兒童郵件註冊等方式,教育父母、教育家和兒童安全和負責的社交網站使用態度。MySpace社交網站的營運者更同意與執法人員共同努力,提升調查和追訴網路犯罪行為的效能,為此MySpace將建立一個24小時的免費諮詢電話,以回應執法人員辦案上的需求。

OECD 發布2015年科學、科技與產業計分板,建議各國政府應增加對於創新研發之投資

  於2015年10月19日,經濟合作與發展組織(OECD)發布最新2015年OECD科學、科技與產業計分板(OECD Science, Technology and Industry Scoreboard 2015),此份報告指出,各國政府應增加對於創新研發的投資,以發展工業、醫療、資通訊產業的新領域科技,也將為氣候變化等全球性挑戰提供急需的解決措施。該報告數據顯示,美國、日本和韓國在新一代突破性科技方面具領先地位,即智慧製造材料、健康、資通訊技術這些有潛力改變現有進程的領域,尤其是韓國,最近在這些領域獲得了重大進展。自2000年以來,韓國的公共研發支出增加二倍之多,2014年GDP佔比達1.2%。反觀,許多發達經濟體的公共研發支出卻停滯不前,2014年OECD經濟體公共研發GDP佔比平均水平低於0.7%。   於2010-12年間,在智慧製造材料、健康和新一代資通訊技術領域,在歐洲和美國申請專利家族(patent families)中,美國、日本和韓國共佔到65%以上,接著是德國、法國與中國。2005-07年,韓國在這三個領域的專利家族申請數表現出最為強勁。在資通訊技術領域,韓國正致力於推動智慧聯網技術,歐盟是量子計算,中國則是巨量資料。於2013年OECD國家總研發支出實際增長了2.7%,達1.1萬億美元,但其GDP佔比與2012年相同,為2.4%。這一增長主要來自企業研發投入,而政府研發投入受到了預算合併等措施的影響。創新不止依靠研發上的投入,也依靠互補性資產,如軟體、設計和人力資本,即知識資本(knowledge-based capital, KBC)。知識資本投入已證實可抵抗經濟危機的衝擊,且2013年的數據表明各個經濟行業都增加了對知識資本的投入。但自2010年以來,許多發達國家政府資助或實施的研發減少或停滯不前。OECD警示,研發支出的減少對許多發達經濟體科技研發系統的穩定產生了威脅。鑑於OECD國家70%的研發來自企業部門,也傾向於關注特定應用程序的開發,從而改進先前的OECD計分版本,此份報告強調政府有必要保持對更具開放性的“基礎研究”的投入,始能激發與一些潛在用戶相關的新發現與新發明。

TOP