紐約通過法案，將禁止企業使用未能通過偏見審計的自動化招募系統
紐約市議會於2021年11月10日通過紐約市行政法規的修正法案，未來將禁止雇主使用未通過偏見審計（bias audit）的「自動化聘僱決策工具（Automated Employment Decision Tools）」，避免因為自動化工具導致的偏見與歧視，不當反映於雇主的最終聘僱決策。
於該法所定義之「自動化聘僱決策工具」，係指透過機器學習、統計模型、數據分析或人工智慧之運算，以實質性協助或取代決策過程，影響最終聘僱決定。而聘僱決定包含篩選應徵者以及對員工作成是否晉升之結果。偏見審計由獨立審計員針對自動化聘僱決策工具進行測試，藉以評估該自動化聘僱決策工具對於雇主依法應申報資訊的影響，例如是否影響及如何影響員工性別、族裔、職位、職務等特徵分布情形。該法並規定雇主或職業介紹機構只有在滿足以下條件的前提下，始得使用自動化聘僱決策工具，包括：
一、通過審計義務：自動化聘僱決策工具須於1年之內通過偏見審計（bias audit）。在使用該工具前，應將該最新審計結果摘要及該工具發行日公告於雇主或職業介紹機構的網站上。除非另有規定，如未有公告，應徵者或員工得提出書面要求雇主於30日內提供自動化聘僱決策工具所收集的數據類型、來源及雇主或職業介紹機構之數據保留政策之相關資訊。
二、通知義務：如欲使用自動化聘僱決策工具對居住在紐約市的員工或應徵者進行評估時，雇主應於使用前的10個工作日內通知該員工或應徵者，且應通知用於評估時所使用之工作資格或特質等參數，並允許應徵者或員工申請以替代方式進行評估。
如雇主或職業介紹機構違反上開規定，第一次違反者將承擔500美元的民事懲罰（civil penalty），如連續違反者，對於之後的違反將承擔500至1500美元不等。目前該法案仍待市長簽署，該法案如經市長簽署通過，將於2023年1月1日生效。
楊明瑜
法律研究員 編譯整理
Automated Employment Decision Tools, The New York City Council, File: Int. No. 1894-2020 (2021). https://legistar.council.nyc.gov/LegislationDetail.aspx?ID=4344524&GUID=B051915D-A9AC-451E-81F8-6596032FA3F9 (last visited Dec. 9, 2021)
面對網路騷擾、私密影像濫用及假訊息快速擴散等現象持續上升，新加坡政府於10月15日正式提出《網路安全（救濟與問責）法案》（Online Safety (Relief and Accountability) Bill，簡稱 OSRA），旨在提供受害者更迅速、更具效力的救濟手段，並強化平台與加害者的法律責任。該法案在16日完成國會一讀，預計於2026年上半年正式設立「網路安全委員會」（Online Safety Commission, OSC）。 政府指出，隨著民眾日常高度依賴網路，各類線上侵害行為不斷增加。根據政府的數位化調查，有84%的受訪者曾接觸有害內容，另有三分之一在過去一年曾遭遇實質的網路不法行為。其類型包括性與暴力內容、網路霸凌、種族與宗教衝突言論等。非營利組織SG Her Empowerment的研究更指出，多數受害者因平台處理無效、加害者匿名、外界輕忽其傷害而感到無助，甚至減少自身在網路上的公共參與。 OSRA的核心是建立網路安全委員會（Online Safety Commission, OSC），作為受害者的專責申訴與救濟窗口。受害者在多數案件中須先向平台申訴；若平台未能妥善處理，即可向OSC報告。但針對私密影像濫用、兒童影像濫用與人肉搜索（doxxing）等急迫性高的侵害，可直接向OSC求助。OSC在確認侵害後，將可發布多類命令，包括要求加害者停止傳播內容、限制其帳號，或命令平台移除貼文、封鎖群組、降低特定內容觸及率等。若平台拒不配合，OSC 還可指示ISP阻擋特定網站，或要求App Store下架相關應用程式。 依據法案與附件內容，新加坡將線上侵害行為分為13類，並分階段實施，包含： 1. 網路騷擾（含性騷擾） 2. 人肉搜索 3. 網路跟蹤 4. 私密影像濫用 5. 兒少影像濫用 6. 網路冒名 7. 不實或合成素材濫用 8. 煽動傷害 9. 煽動暴力 最嚴重且高發生率的前5類，包括預計2026年上半年優先落地，前9類行為將隨後實施，構成法定侵權行為（statutory torts），受害者可據此向法院請求損害賠償或禁制令。 因應匿名性造成追查困難，法案也賦予OSC要求平台提供加害者身分資訊的權限，即OSC得要求平台提供其所持有之、涉嫌造成線上危害之終端使用者身分資訊。受害者在OSC認定遭受侵害後，也可申請揭露資訊以利提起侵權訴訟，但揭露資料若被濫用將構成刑事犯罪。政府表示，OSRA的制定歷經多場閉門會議與公開諮詢並獲得廣泛支持，將補強現行刑事與行政法規，為受害者提供更完整的救濟體系。法案預計在下次國會會期進行二讀審議。
英國金融科技未來政策展望英國為眾多國家中致力發展金融科技的佼佼者，其相關政府部門-英國金融行為監理總署（Financial Conduct Authority, FCA）早於2016年即推出世界首例金融監理沙盒（Financial Regulatory Sandbox）制度，同時也與英格蘭銀行致力發展開放銀行業務、金融創新項目以及監管措施改革等等。也因為英國為金融科技提供了良好的環境以及養分，使目前英國金融科技佔全球市場總額10%，並有71%的英國公民至少接受一間金融科技公司提供服務；2020年金融科技為英國吸引了41億美元的投資，遠超德國、瑞典、法國、瑞士和荷蘭的總和。 為使英國金融科技持續成長，英國財政大臣於2020年要求針對英國金融科技現況及未來發展進行獨立性研究，該研究並於2021年2月公布。根據研究報告指出，英國金融科技正面臨下述三大問題： 其他國家紛紛仿效英國之成功模式，致使英國金融科技不再具有獨占地位。 英國脫離歐盟導致監管措施的不確定性。 新冠肺炎的來襲，迫使各國均快速發展並靈活運用金融科技，導致英國金融科技優勢地位逐漸喪失。 為了解決上述三大問題，研究報告提出了五項建議計畫： 針對政策以及監管方式之持續進步 雖然英國目前仍處於金融科技政策以及監管的領先地位，但隨著業務、科技等發展，必須確保政策以及監管方式繼續保護金融消費者，同時創造鼓勵創新和競爭的環境。因此建議的方案包含：實施新型態監理沙盒（Scalebox）；建立一個數位經濟工作小組以確保政府各部門之一致性；確保金融科技成為貿易政策的一部分。 培養人才 英國需要確保金融科技擁有充足的國內和國際人才供應，以及因為預計在2030年，英國有90%勞動者需要學習新技能，因此也需要培訓和提升現有和未來勞動力技能的方案。因此建議的方案包含：辦理針對成年人進行再培訓和提高技能之短期課程；創建一個新的簽證類型，以提高獲得全球人才的機會；為學習金融科技的學生以及創業者建立媒合平台，設置金融科技人才管道。 建立友善的投資環境 英國雖然透過私募基金成功地為英國金融科技事業募資，但英國仍應該持續加強金融科技事業從初創到公開發行的一系列融資過程，尤其是融資的後期階段。因此建議的方案包含：擴大金融科技獎勵措施以及便利金融科技事業籌資（包含：擴大研發稅收抵免額度、企業投資計畫、風險投資信託）；英國應該另行增設一個約10億英鎊之基金供金融科技發展使用；放寬英國上市公司限制（例如：雙層股權結構）；創設一個全球金融科技指數以擴大金融科技事業知名度。 與國際合作 雖然英國目前取得金融科技的成功和未來數位貿易崛起的機會，但仍應採取更多的措施用以獲得更多國際支持，這將會成為英國在脫離歐盟後針對國際開放性作出的重大表態。因此建議的方案包含：針對金融科技提出國際行動方案；推動設立金融、創新和技術中心，並成立國際金融科技工作小組；推出國際金融科技認證組合。 英國國內整合 金融科技在國家的支持下，英國各地皆分布大量的金融科技人才。為了保持英國作為金融科技中心的地位，英國須注重規模和支持區域專業，尤其是大學正在創造的重要的智慧財產權。因此建議的方案包含：培育十大金融科技重鎮，而每個重鎮均應設置一個以強化金融科技、培養專家以及增加國家競爭力為目的的三年目標；通過金融、創新和技術中心協調國內金融科技發展策略；通過進一步的投資計畫加快金融科技重鎮的發展以及成長。
德國卡爾斯魯爾行政法院(VG Karlsruhe)公布第一個有關DSGVO的判決卡爾斯魯爾行政法院在今年6月7日公布第一個關於歐盟個人資料保護規則（Datenschutzgrundverordnung，DSGVO）的判決。在本案中，原告是一間負責處個人信用資料的民間公司，其依據現行BDSG（Bundesdatenschutzgesetz，聯邦個人資料保護法）的規定來蒐集、保存與傳輸個人資料給第三人。巴登符騰堡邦的主管機關在預見原告將來會違反DSGVO規定的情況下，向原告發出一份行政處分（Verfügung），要求原告必須依照DSGVO的相關規定調整作業流程以符合DSGVO的規範。但原告認為，其只需要在2018年5月24號之後，就相關作業流程符合DSGVO的規範即可。 本案的關鍵在於，主管機關是否已經可以用DSGVO的規定來規範民間企業？因為依據DSGVO第99條的規定，DSGVO現雖已生效，但必須到2018年5月25日才開始適用。 根據BDSG第38條第5項規定，監督機構可以採取必要措施，確保民間企業在收集、傳播和使用個人資料時遵守相關保護規定；且本案中，原告在2018年5月24號後可能會出現的違法情形也已顯而易見，但法院並不同意行政機關可以預先發布行政處分的看法。因為DSGVO雖已生效，但民間企業必須適用的期限仍未屆至。行政機關不得在未有法律授權的情況下，預先規範限制未來的可能違法行為。現行法律對於行政機關的授權範圍必須被嚴格遵守，在DSGVO未開始適用的情況下，目前行政機關仍只能依據BDSG及DSAnpUG（Datenschutzanpassungs- und Umsetzungsgesetz，個人資料保護調整和施行法）的規定，來處理相關的行政措施。
新加坡國家研究基金會推出AI.SG計畫，促進人工智慧技術發展新加坡國家研究基金會（National Research Foundation，以下簡稱NRF）於2017年5月3日宣布AI.SG倡議，並將啟動國家級AI計畫。NRF將於五年內投資新加坡幣1.5億元，整合NRF，智慧國家與數位政府辦公室（Smart Nation and Digital Government），經濟發展委會（Economic Development Board），資通訊媒體發展局（Infocomm Media Development Authority），新加坡創新機構（SGInnovate）及整合健康資訊系統（Integrated Health Information Systems）等數個政府部門，以及位於新加坡的研究機構、AI新創公司與發展AI產品的企業等共同投入。計畫三大目標如下： 利用人工智慧來解決影響社會和產業的重大挑戰 這些應用包括利用人工智慧解決交通尖峰時段壅塞問題，或應付人口老齡化帶來的醫療保健挑戰。IHiS執行長兼衛生部資訊長Mr.Bruce Liang表示：「醫療照護是需要高度知識及人性化的行業。多年來從新加坡在醫療照護數位化的發展中，可預見AI未來對於提升新加坡人民健康有很大幫助。例如在疾病預防、診斷、治療計畫、藥物治療、精準醫療、藥品開發等方面皆可發揮作用。醫護人員再加上AI工具，可以更完善解決未來對於醫療照護需求的增加。」 投入並深化技術能力，以掌握下一波科技創新 其中包括可展現更多人類學習能力的下一代「可解釋的人工智慧」 (Explainable Artificial Intelligence，XAI），以及相關技術，例如電腦系統架構（軟體、韌體、硬體整合）和認知科學(Cognitive Science）。NRF獎助金和研究計畫將會支持相關科學活動。當地人才也將透過參與AI深度功能的開發進行培訓。 擴大產業對於AI和機器學習的使用 AI.SG將與公司合作，利用AI來提高生產力，創造新產品，並輔導相關解決方案從實驗室進入市場。目標將支持100個AI研發項目和概念驗證，以利用戶能快速解決實際問題。並預計針對金融，醫療照護和城市管理解決方案領域具有特殊的潛力者先著手進行。 AI.SG計畫此項推動工作，未來不僅將可激發新加坡的研究人員和用戶利用AI解決社會重大問題，也將影響全世界渴望利用人工智慧技術帶來更便利的生活，值得我國相關機關推動政策之參考依據。