以色列政府採購之創新實踐
本文為「經濟部產業技術司科技專案成果」
2009年05月06日歐盟議會對於大幅度改革之電信法審議並未通過，議會各會員對於創設一強而有力的電信管制體有共識，惟包裹立法中有一條款對「公民之接近網路權」干涉甚鉅，而引發疑慮。 歐盟電信法改革法案乃採取「包裹式立法」，該改革法案主要著重在科技的進步與高速網路接取的迅速成長。歐盟議會支持其他的改革，包括創設一歐盟電信管制體，賦予其權力以監督電信單一市場；分配電信頻譜予新興行動科技以及促進公民線上資訊保護的隱私權。 然而，針對人民接近使用網路權的限制範圍，卻無法達成協議，導致整個電信包裹立法仍在捷克的議會主席與議會代表之間繼續尋求妥協之道。 如果人民被發現正下載非法的著作物時，法國與英國代表則主張欲擁有較大的權限，以限制人民的接近網路使用權（此乃因其內國法已有針對下載盜版著作的處罰性規定）。其他會員國則採取較為寬容的態度，認為此涉及人民隱私範圍之保護、行為自由、表意自由與資訊接近權，應更審慎為之。 縱使該包裹立法並未被全部支持，一些觀察家認為大部分的改革條款應會通過。然而議會代表與電信委員會對此則未表達肯定之意。有意者認為：若此改革法案繼續維持包裹立法架構，恐將導致整個法案因此延宕，若能針對共識部份先行通過，似乎較能達成有效率的管制措施。
澳洲新南威爾斯州議會通過《2026年工作健康與安全（數位工作系統）法案》澳洲新南威爾斯州（New South Wales）議會於2026年2月12日通過《2026年工作健康與安全（數位工作系統）修正法案》（Work Health and Safety Amendment (Digital Work Systems) Bill 2026，以下簡稱本法案），並於同月18日獲御准（Royal Assent），以防範人工智慧在工作場所中對受雇者可能造成的職業安全危害。本次修正為澳洲州政府首次將數位工作系統納入《工作健康與安全法》規範框架之立法，明確要求雇主妥善管理人工智慧及其他數位工作系統對員工所帶來的安全風險；此次修法草案概述如下： 首先，就規範客體之界定而言，本次修法於第4條新增「數位工作系統」（digital work system）之定義，指演算法、人工智慧、自動化系統或線上平台。 其次，本次修法重點之一為主要注意義務之擴張。新南威爾斯州《工作健康與安全法》第19條第一項原即明定，事業單位對勞工之健康與安全，在合理可行的範圍內負有主要注意義務（primary duty of care）；同條第19條第3項第c款則進一步規定，事業單位應在合理可行的範圍內，為勞工提供並維持安全的作業系統（safe systems of work）。本次修法於前揭基礎上，於母法第19條第3項新增第c1款，要求事業單位在合理可行的範圍內，確保勞工之健康與安全不因該業務或事業單位「使用數位工作系統」而受到危害。再者，新增之第21A條亦明定，凡經營涉及數位工作系統之事業單位，均需在合理可行的範圍內，確保勞工之健康與安全不因該事業單位透過「數位工作系統」進行「工作分配」（the allocation of work）而面臨風險。此項擴張之核心意義，在於將數位系統所衍生之職場危害明文納入法規框架，將原本僅賴概括性規定涵攝之情形予以類型化，使雇主注意義務之射程更為清晰。傳統作業系統與新興「數位工作系統」（digital work systems）均明確落入規範範疇，部分原本遊走於灰色地帶之邊緣案例，亦得據此獲得更明確之法律保護。 進一步就前述之風險態樣類型化而言，修正後之第21A條第2項明定，營運業務或事業之人必須考量使用數位工作系統分配工作，是否會導致以下風險：(一)對業務或事業中的勞工（workers at work in the business or undertaking）造成過度或不合理的工作負荷；(二)採用過度或不合理的指標，對業務或事業中的勞工進行績效評估與追蹤；(三)對業務或事業中的勞工實施過度或不合理的監控或監視；(四)在業務或事業的經營過程中，做成違法的歧視性行為或決策。上開四項風險類型，實已涵蓋當前AI演算法管理（algorithmic management）所衍生之主要爭議。 最後，本次修法後，依第117條及118條規定，持有「工作健康與安全進入許可證」（work health and safety entry permit）之人員有權進入工作場所，就疑似違規情事檢查相關數位工作系統，而相關事業單位對此負有提供合理協助（reasonable assistance）之義務；主管機關則應就上開合理協助之行使訂定並於官方網站公告相關指引，以資遵循。 綜上，新南威爾斯州本次修法之特色，在於同時就「實體義務」、「執法配套」與「規範動態檢討」三個層次，完整建構數位工作系統之職業安全規範框架。新南威爾斯州之立法經驗，就規範客體之類型化、雇主注意義務之具體化，以及與國際規範接軌之機制設計，均可作為我國未來修法及主管機關訂定相關指引時之重要參酌。
英國發布《AI保證介紹》指引，藉由落實AI保證以降低AI系統使用風險英國發布《AI保證介紹》指引，藉由落實AI保證以降低AI系統使用風險 資訊工業策進會科技法律研究所 2024年03月11日 人工智慧（AI）被稱作是第四次工業革命的核心，對於人們的生活形式和產業發展影響甚鉅。各國近年將AI列為重點發展的項目，陸續推動相關發展政策與規範，如歐盟《人工智慧法》（Artificial Intelligence Act, AI Act）、美國拜登總統簽署的第14110號行政命令「安全可靠且值得信賴的人工智慧開發暨使用」（Executive Order on the Safe, Secure, and Trustworthy Development and Use of Artificial Intelligence）、英國「支持創新的人工智慧監管政策白皮書」（A Pro-innovation Approach to AI Regulation）（下稱AI政策白皮書）等，各國期望發展新興技術的同時，亦能確保AI使用的安全性與公平性。 壹、事件摘要 英國科學、創新與技術部（Department for Science, Innovation and Technology，DSIT）於2024年2月12日發布《AI保證介紹》（Introduction to AI assurance）指引（下稱AI保證指引），AI保證係用於評測AI系統風險與可信度的措施，於該指引說明實施AI保證之範圍、原則與步驟，目的係為讓主管機關藉由落實AI保證，以降低AI系統使用之風險，並期望提高公眾對AI的信任。 AI保證指引係基於英國政府2023年3月發布之AI政策白皮書提出的五項跨部會AI原則所制定，五項原則分別為：安全、資安與穩健性（Safety, Security and Robustness）、適當的透明性與可解釋性（Appropriate Transparency and Explainability）、公平性（Fairness）、問責與治理（Accountability and Governance）以及可挑戰性 與補救措施（Contestability and Redress）。 貳、重點說明 AI保證指引內容包含：AI保證之適用範圍、AI保證的三大原則、執行AI保證的六項措施、評測標準以及建構AI保證的五個步驟，以下將重點介紹上開所列之規範內容： 一、AI保證之適用範圍： （一）、訓練資料（Training data）：係指研發階段用於訓練AI的資料。 （二）、AI模型（AI models）：係指模型會透過輸入的資料來學習某些指令與功能，以幫助建構模模型分析、解釋、預測或制定決策的能力，例如GPT-4。，如GPT-4。 （三）、AI系統（AI systems）：係利用AI模型幫助、解決問題的產品、工具、應用程式或設備的系統，可包含單一模型或多個模型於一個系統中。例如ChatGPT為一個AI系統，其使用的AI模型為GPT-4。 （四）、廣泛的AI使用（Broader operational context）：係指AI系統於更為廣泛的領域或主管機關中部署、使用的情形。 二、AI保證的三大原則：鑒於AI系統的複雜性，須建立AI保證措施的原則與方法，以使其有效執行。 （一）、衡量（Measure）：收集AI系統運行的相關統計資料，包含AI系統於不同環境中的性能、功能及潛在風險影響的資訊；以及存取與AI系統設計、管理的相關文件，以確保AI保證的有效執行。 （二）、評測（Evaluate）：根據監管指引或國際標準，評測AI系統的風險與影響，找出AI系統的問題與漏洞。 （三）、溝通（Communicate）：建立溝通機制，以確保主管機關間之交流，包含調查報告、AI系統的相關資料，以及與公眾的意見徵集，並將上開資訊作為主管機關監理決策之參考依據。 三、AI保證的六項措施：主管機關可依循以下措施評測、衡量AI系統的性能與安全性，以及其是否符合法律規範。 （一）、風險評估（Risk assessment）：評測AI系統於研發與部署時的風險，包含偏見、資料保護和隱私風險、使用AI技術的風險，以及是否影響主管機關聲譽等問題。 （二）、演算法－影響評估（Algorithmic－impact assessment）：用於預測AI系統、產品對於環境、人權、資料保護或其他結果更廣泛的影響。 （三）、偏差審計（Bias audit）：用於評估演算法系統的輸入和輸出，以評估輸入的資料、決策系統、指令或產出結果是否具有不公平偏差。 （四）、合規性審計（Compliance audit）：用於審查政策、法律及相關規定之遵循情形。 （五）、合規性評估（Conformity assessment）：用於評估AI系統或產品上市前的性能、安全性與風險。 （六）、型式驗證（Formal verification）：係指使用數學方法驗證AI系統是否滿足技術標準。 四、評測標準：以國際標準為基礎，建立、制定AI保證的共識與評測標準，評測標準應包含以下事項： （一）、基本原則與術語（Foundational and terminological）：提供共享的詞彙、術語、描述與定義，以建立各界對AI之共識。 （二）、介面與架構（Interface and architecture）：定義系統之通用協調標準、格式，如互通性、基礎架構、資料管理之標準等。 （三）、衡量與測試方式（Measurement and test methods）：提供評測AI系統的方法與標準，如資安標準、安全性。 （四）、流程、管理與治理（Process, management, and governance）：制定明確之流程、規章與管理辦法等。 （五）、產品及性能要求（Product and performance requirements）：設定具體的技術標準，確保AI產品與服務係符合規範，並透過設立安全與性能標準，以達到保護消費者與使用者之目標。 五、建構AI保證的步驟（Steps to build AI assurance） （一）、考量現有的法律規範（Consider existing regulations）：英國目前雖尚未針對AI制定的法律，但於AI研發、部署時仍會涉及相關法律，如英國《2018年資料保護法》（Data Protection Act 2018）等，故執行AI保證時應遵循、考量現有之法律規範。 （二）、提升主管機關的知識技能（Upskill within your organisation）：主管機關應積極了解AI系統的相關知識，並預測該機關未來業務的需求。 （三）、檢視內部風險管理問題（Review internal governance and risk management）：須適時的檢視主管機關內部的管理制度，機關於執行AI保證應以內部管理制度為基礎。 （四）、尋求新的監管指引（Look out for new regulatory guidance）：未來主管機關將制定具體的行業指引，並規範各領域實踐AI的原則與監管措施。 （五）、考量並參與AI標準化（Consider involvement in AI standardisation）：私人企業或主管機關應一同參與AI標準化的制定與協議，尤其中小企業，可與國際標準機構合作，並參訪AI標準中心（AI Standards Hubs），以取得、實施AI標準化的相關資訊與支援。 參、事件評析 AI保證指引係基於英國於2023年發布AI政策白皮書的五項跨部會原則所制定，冀望於主管機關落實AI保證，以降低AI系統使用之風險。AI保證係透過蒐集AI系統運行的相關資料，並根據國際標準與監管指引所制定之標準，以評測AI系統的安全性與其使用之相關影響風險。 隨著AI的快速進步及應用範疇持續擴大，於各領域皆日益重要，未來各國的不同領域之主管機關亦會持續制定、推出負責領域之AI相關政策框架與指引，引導各領域AI的開發、使用與佈署者能安全的使用AI。此外，應持續關注國際間推出的政策、指引或指引等，研析國際組織與各國的標準規範，借鏡國際間之推動作法，逐步建立我國的AI相關制度與規範，帶動我國智慧科技產業的穩定發展外，同時孕育AI新興產應用的發展並打造可信賴、安全的AI使用環境。
西班牙AEPD增加關於健康和個人資料保護關注領域西班牙個資監管機關（Agencia Española de Protección de Datos, AEPD）於2022年5月3日增加健康和個人資料保護有關的關注領域。觀2021年，計有680件與健康資料相關之爭議案件，與2020年相比增長了75%，又因健康資料為特殊類型之個人資料，故更應嚴加保障。 該領域的內容適用於公民、資料控制者、資料保護專業人員、健康中心或製藥行業等，共分六小節： 一、第一小節概述了與健康資料有關的權利，解釋了歐盟一般個人資料保護規則（General Data Protection Regulation, GDPR）第9條及西班牙當地規範有關處理健康資料定義、如何行使醫療記錄近用權（Right to access），以及與醫學研究相關的問題，其中規定了患者在使用資料和臨床文件方面權利和義務、在近用權被拒絕情況下如何向AEPD申訴、臨床病史保留及刪除權利之限制等。 二、第二小節重點介紹AEPD公布的相關報告和指南，包括勞資關係中之個人資料保護指南，及有關臨床病史、臨床試驗等相關主題之報告。 三、第三小節則著重在AEPD於新型冠狀病毒肺炎（COVID-19）爆發後，製作大量與COVID-19相關之聲明文件及法律報告，故在此彙整相關資料，以協助落實個人資料之保障。 四、第四小節健康研究和臨床試驗，其中彙編了相關指南，以及規範臨床試驗和其他臨床研究以及藥物安全監視所涉個人資料保護行為準則。 五、第五小節講述與健康狀況有關之申訴、賠償紀錄部分，其中包括AEPD收到多項涉及已故患者直系親屬近用醫療記錄之權利或醫療專業人員非法獲取臨床病史和醫療記錄之投訴。 六、第六小節側重於醫療組織洩露個人資料議題，概述了資料控制者之義務以及為確保遵循GDPR而應採取之措施，另強調以特殊方式處理健康資料之活動，如電子健康紀錄、物聯網醫療所使用之行動裝置或雲端等存取設備，皆存在外洩之風險因子。