英國與美國為人工智慧安全共同開發簽署合作備忘錄
英國技術大臣（U.K. Secretary of State for Science）蜜雪兒·多尼蘭（Michelle Donelan）和美國商務部長（U.S. Secretary of Commerce）吉娜·雷蒙多（Gina Raimondo）於2024年4月1日在華盛頓特區簽署一份合作備忘錄（MOU），雙方將共同開發先進人工智慧（frontier AI）模型及測試，成為首批就測試和評估人工智慧模型風險等進行正式合作之國家。
此備忘錄之簽署，是為履行2023年11月在英國的布萊切利公園（Bletchley Park）所舉行的首屆人工智慧安全峰會（AI Safety Summit）上之承諾，諸如先進AI的急速進步及濫用風險、開發者應負責任地測試和評估應採取之適當措施、重視國際合作和資訊共享之必要性等等，以此為基礎羅列出兩國政府將如何在人工智慧安全方面匯集技術知識、資訊和人才，並開展以下幾項聯合活動：
1.制定模型評估的共用框架（model evaluations），包括基礎方法（underpinning methodologies）、基礎設施（infrastructures）和流程（processes）。
2.對可公開近用模型執行至少一次聯合測試演習（joint testing exercise）。
3.在人工智慧安全技術研究方面進行合作，以推進先進人工智慧模型之國際科學知識，並促進人工智慧安全和技術政策的一致性。
4.讓英、美兩國安全研究所（AI Safety Institute）間的人員互相交流利用其團體知識。
5.在其活動範圍內，依據國家法律、法規和契約規定來相互共享資訊。
換言之，兩國的機構將共同制定人工智慧安全測試之國際標準，以及適用於先進人工智慧模型設計、開發、部署、使用之其他標準。確立一套通用人工智慧安全測試方法，並向其他合作夥伴分享該能力，以確保能夠有效應對這些風險。就如英國技術大臣蜜雪兒·多尼蘭強調的，確保人工智慧的安全發展是全球性問題，只有通過共同努力，我們才能面對技術所帶來的風險，並利用這項技術幫助人類過上更好的生活。
- The Bletchley Declaration(2023, November 1), The Bletchley Declaration by Countries Attending the AI Safety Summit 1-2 November 2023, GOV.UK
- U.S. and UK Announce Partnership.(2024, April 1), U.S. and UK Announce Partnership on Science of AI Safety, U.S. Department of Commerce
- Michelle Donelan, UK-US Partnership on AI safety research, UK Parliament, April 16, 2024
林允中
法律研究員 編譯整理
The Bletchley Declaration(2023, November 1), The Bletchley Declaration by Countries Attending the AI Safety Summit 1-2 November 2023, GOV.UK, https://www.gov.uk/government/publications/ai-safety-summit-2023-the-bletchley-declaration/the-bletchley-declaration-by-countries-attending-the-ai-safety-summit-1-2-november-2023 (last visit June 30, 2024).
U.S. and UK Announce Partnership.(2024, April 1), U.S. and UK Announce Partnership on Science of AI Safety, U.S. Department of Commerce, https://www.commerce.gov/news/press-releases/2024/04/us-and-uk-announce-partnership-science-ai-safety (last visit June 30, 2024).
Michelle Donelan, UK-US Partnership on AI safety research, UK Parliament, April 16, 2024, https://questions-statements.parliament.uk/written-statements/detail/2024-04-16/hcws409 (last visit June 30, 2024).
日本政府於2016年6月2日經內閣議決「再興戰略2016」，為提升國民健康、提高平均壽命，以「世界最先進的健康國家」大篇幅宣布未來政策。其中，在「醫療、長照等領域徹底ICT化」方面之具體新措施如下： (1)醫療等領域中導入ID制度 日本厚生勞動省於2015年11月18日召開第10次「醫療等領域利用識別號碼制度之研究會」(医療等分野における番号制度の活用等に関する研究会)，並於次月公布相關研究報告書，其內容包含導入「醫療保險線上資格審查」以及「醫療ID制度」，上述制度預計自2018年開始階段性運用，並於2020年正式實施，因此，本年度工作目標設定為，著手勾勒具體之應用系統機制，並針對實務面相關議題進行討論，自明年開始落實系統開發，整體而言，日本現階段最重要的目標就是促使醫療領域徹底數位化及標準化。 (2)透過巨量資料之利用，增進相關領域之創新 「次世代醫療ICT基礎設施協議會」(次世代医療ICT基盤協議会策定)將延續2016年3月由其所策定之「醫療領域資料利用計畫」(「医療等分野データ利活用プログラム」，意即加強各資料庫(例如醫療資訊資料庫MID-NET)之交流並擴大相關應用。 此外，在現行法規範下，為達成促進醫療領域資訊利用、醫藥相關研發之目標，應成立「代理機關（暫稱）」，以便於擴大收集醫療、檢驗等數據資料，並妥善管理與去識別化，日本政府於「再興戰略2016」中將此機關之設置列為次世代醫療ICT基礎設施協議會之重要工作項目，期望透過協議會對相關制度之討論，能在明年訂定出具體的法律措施。 (3)個人醫療和健康資訊之綜合利用 日本政府期望透過不同終端設備收集關於醫療、健康等資料，並鼓勵民間依此開發新市場，但在此之前，政府必須先行建構一個能良性發展的環境。首先，為實現針對個人需求量身打造的「個別化健康服務」，保險業者、握有病歷的機構、健檢中心及可穿戴式終端設備等，得經當事人同意後收集、分析其日常健康資訊，該「個別化健康服務」之實證計畫將於本年度啟動，由地區中小企業開始。 為強化醫療保險業者去整合運用相關資源並應用於預防、健康醫學上，政府機關應訂定一些獎勵措施，鼓勵業者將ICT技術活用於預防、健康醫學領域上。 此外，今年度「次世代醫療ICT基礎設施協議會」還有一項重要的工作項目，即建立可記錄患者所有就醫過程資訊之系統(Peronal Health Recaord，簡稱PHR)，讓相關醫療資料得以流通運用。同時，日本政府希望能在2018年達成「地區性醫療情報聯結網路」，並普及到全國各地，這麼做的目的在於，過往因為醫療資訊不流通，以及重症照護上的斷層，使身心障礙者往往難以離開長期利用的醫療環境，新政策希望讓這些患者無論遷居何處，在全國各地皆能安心接受醫療服務，而不受限於地區限制。
演算法歧視將適用於《紐澤西州反歧視法》2025年1月9日美國紐澤西州檢查總長與民權部（Division of Civil Rights, DCR）聯合發布「演算法歧視指引」（Guidance on Algorithmic Discrimination and the New Jersey Law Against Discrimination），指出《紐澤西州反歧視法》（the New Jersey Law Against Discrimination, LAD）亦適用於基於演算法所衍生的歧視。 隨著AI技術日趨成熟，社會各領域已大量導入自動化決策工具，雖然它們能提高決策效率但也增加了歧視發生之風險。指引的目的在於闡述自動化決策工具在AI設計、訓練或部署階段可能潛藏的歧視風險，亦列舉出在各類商業實務情境中常見的自動化決策工具，並說明它們可能會如何產生演算法歧視。以下分別說明《紐澤西州反歧視法》適用範圍，以及與演算法歧視有關的行為樣態。 一、《紐澤西州反歧視法》之適用主體及適用客體 《紐澤西州反歧視法》禁止在就業、住房及公共場所等領域所發生的一切歧視行為，其適用主體相當廣泛，包含但不限於下列對象：雇主、勞工組織、就業仲介機構、房東、房地產經紀人、公共場所之經營或管理者、以及任何教唆或協助歧視行為之個人；而該法之適用客體亦有明確定義，為具有受保護特徵（如性別、族裔、身心障礙等）之自然人或法人。 此外指引特別說明，即便適用主體無意歧視、或其所使用之自動化決策工具係由第三方所開發，只要發生歧視行為依然違反《紐澤西州反歧視法》。這是因為《紐澤西州反歧視法》係針對歧視所帶來的影響進行規範，儘管無意歧視，其所帶來的影響並不一定比故意歧視還要輕微。 二、 歧視行為的三種樣態 1.差別待遇歧視 差別待遇歧視係指適用主體基於受保護特徵而對適用客體施予不同對待。舉例而言，若房東使用自動化決策工具來評估黑人潛在租戶，但不評估其他族裔的潛在租戶，則會因為其選擇性使用自動化決策工具而構成歧視。 2.差別影響歧視 差別影響歧視係指適用主體的政策或行為對適用客體造成不成比例的負面影響，且該政策或行為未能證明具有正當性、非歧視性、或不存在較少歧視性的替代方案，則該政策或行為構成歧視。例如，某商店利用臉部辨識技術來偵測過去曾有偷竊紀錄的顧客，但該系統對配戴宗教頭巾的顧客較容易產生誤判，此亦可能構成歧視。 3.未提供合理調整 合理調整係指身心障礙者、宗教信仰者、懷孕者以及哺乳者，在不會對適用主體造成過度負擔的前提下，得向其提出合理請求，以符合自身的特殊需求。以身心障礙員工為例，若雇主使用了自動化決策工具來評估員工的工作表現（例如監測員工的休息時間是否過長），在未考量合理調整的情況下，該工具可能會過度針對身心障礙員工進而構成歧視。 為減少演算法歧視發生頻率，「演算法歧視指引」特別闡述自動化決策工具可能會出現的歧視行為及歧視樣態。此份指引的另一個意義在於，縱使目前紐澤西州並沒有一部監管AI的專法，但仍可以利用現行的法律去處理AI帶來的種種問題，以利在既有的法律架構內擴充法律的解釋來回應新科技的挑戰，並達到實質管制AI的效果。
美國紐約州通過「防止非法侵入與加強電子資料安全法案」2019年7月25日，紐約州州長Andrew Cuomo簽署「防止非法侵入與加強電子資料安全法案」（S.5575B/A.5635/Stop Hacks and Improve Electronic Data Security Act, 又稱SHIELD Act），目的在讓處理消費者個人資料的企業承擔更嚴格的責任。其核心精神在於，一旦發生與資料外洩相關的安全漏洞時，能及時進行適當的通知。同時，修改紐約州現有的資料外洩通知法，擴大個資蒐集適用範圍、個資定義 (例生物特徵、電郵資訊等)及資料洩漏定義、更新企業或組織之通知程序、建立合於企業規模之資料安全要求。此外，如違反通知義務，將處以最高5千美元或每次（未履行通知義務）20美元 （上限25萬美元）的民事賠償。且美國司法部長（The Attorney General） 亦得以紐約人民名義，代為起訴未實施資料安全規畫的企業，並按紐約民事執行法與規則（The Civil Practice Law And Rules）第63條進行初步救濟，依法強制禁止侵害行為繼續發生。該法預計將於2020年3月1日生效。 當天州長亦簽署「身份盜用預防措施和緩解服務修正案」（A.2374/S.3582），新增資料外洩安全保護措施，要求消費者信用機構，提供受安全漏洞影響的消費者「身份盜用預防措施」（Identity Theft Prevention ）與「緩解服務」（Mitigation Services），為消費者制定長期最低度的保護手段。其要求信用機構，通知消費者將有關社會安全號碼的資料洩漏事件進行信用凍結，並提供消費者無償凍結其信用的權利。該法預計將於2019年10月23日生效，並且溯及既往適用該法案生效之日前三年內所發生之任何違反消費者信用安全的行為。
因應2020年社會實現自動駕駛，日本訂定自動駕駛制度整備大綱日本IT綜合戰略本部及官民資料活用推進本部於4月17日公佈「自動駕駛制度整備大綱」。大綱設定2020年至2025年間，日本社會實現自動駕駛下，所需檢討修正之關連法制度。 本大綱中，係以2020年實現自動駕駛至等級4為前提（限定場所、速度、時間等一定條件下為前提，系統獨自自動駕駛之情形），以在高速公路及部分地區之道路實現為條件設定。社會實現自動駕駛有以下課題需克服： 道路交通環境的整備：以自駕系統為行駛，一般道路因為環境複雜，常有無法預期狀況發生，導致自駕車的電腦系統無法對應。 確保整體的安全性：依據技術程度，設定一般車也能適用之行駛環境、設定車輛、自動駕駛之行駛環境條件以及人之互相配合，以達成與一般車相同之安全程度為方針下，由關係省廳間為合作，擬定客觀之指標。此一指標，並非全國一致，應就地方之特性，設定符合安全基準及自動駕駛行駛環境條件，建構整體確保安全之體制。 防止過度信賴自駕系統：訂定安全基準，使日本事件最先端自動車技術擴及於世界，訂定包含自駕系統安全性、網路安全等自動駕駛安全性要件指針。 事故發生時之法律責任：自動駕駛其相關人為駕駛人、系統製造商、道路管理者等多方面，其法律責任相對複雜化。現在係以被害人救濟觀點，至等級4為止之自動駕駛，適用自動車損害賠償責任險（強制責任險）方式，但是民法、刑法及行政法等法律全體之對應，仍為今後之課題，必須為早期快速處理。為了強化民事責任求償權行使、明確刑事責任之因果關係、並實現車輛安全性確保、避免所有人過度負擔等，車輛行駛紀錄器之裝置義務化、事故原因究明機制等，關係機關應合作為制度檢討。 本大綱最後並提出，在自動駕駛技術快速發展下，就其發展實際狀況應為持續半年1次召開會議檢討檢討。