英國發布《AI保證介紹》指引，藉由落實AI保證以降低AI系統使用風險
英國發布《AI保證介紹》指引，藉由落實AI保證以降低AI系統使用風險
資訊工業策進會科技法律研究所
2024年03月11日
人工智慧（AI）被稱作是第四次工業革命的核心，對於人們的生活形式和產業發展影響甚鉅。各國近年將AI列為重點發展的項目，陸續推動相關發展政策與規範，如歐盟《人工智慧法》（Artificial Intelligence Act, AI Act）、美國拜登總統簽署的第14110號行政命令「安全可靠且值得信賴的人工智慧開發暨使用」（Executive Order on the Safe, Secure, and Trustworthy Development and Use of Artificial Intelligence）、英國「支持創新的人工智慧監管政策白皮書」（A Pro-innovation Approach to AI Regulation）（下稱AI政策白皮書）等，各國期望發展新興技術的同時，亦能確保AI使用的安全性與公平性。
壹、事件摘要
英國科學、創新與技術部（Department for Science, Innovation and Technology，DSIT）於2024年2月12日發布《AI保證介紹》（Introduction to AI assurance）指引（下稱AI保證指引），AI保證係用於評測AI系統風險與可信度的措施，於該指引說明實施AI保證之範圍、原則與步驟，目的係為讓主管機關藉由落實AI保證，以降低AI系統使用之風險，並期望提高公眾對AI的信任。
AI保證指引係基於英國政府2023年3月發布之AI政策白皮書提出的五項跨部會AI原則所制定，五項原則分別為：安全、資安與穩健性（Safety, Security and Robustness）、適當的透明性與可解釋性（Appropriate Transparency and Explainability）、公平性（Fairness）、問責與治理（Accountability and Governance）以及可挑戰性 與補救措施（Contestability and Redress）。
貳、重點說明
AI保證指引內容包含：AI保證之適用範圍、AI保證的三大原則、執行AI保證的六項措施、評測標準以及建構AI保證的五個步驟，以下將重點介紹上開所列之規範內容：
一、AI保證之適用範圍：
（一）、訓練資料（Training data）：係指研發階段用於訓練AI的資料。
（二）、AI模型（AI models）：係指模型會透過輸入的資料來學習某些指令與功能，以幫助建構模模型分析、解釋、預測或制定決策的能力，例如GPT-4。，如GPT-4。
（三）、AI系統（AI systems）：係利用AI模型幫助、解決問題的產品、工具、應用程式或設備的系統，可包含單一模型或多個模型於一個系統中。例如ChatGPT為一個AI系統，其使用的AI模型為GPT-4。
（四）、廣泛的AI使用（Broader operational context）：係指AI系統於更為廣泛的領域或主管機關中部署、使用的情形。
二、AI保證的三大原則：鑒於AI系統的複雜性，須建立AI保證措施的原則與方法，以使其有效執行。
（一）、衡量（Measure）：收集AI系統運行的相關統計資料，包含AI系統於不同環境中的性能、功能及潛在風險影響的資訊；以及存取與AI系統設計、管理的相關文件，以確保AI保證的有效執行。
（二）、評測（Evaluate）：根據監管指引或國際標準，評測AI系統的風險與影響，找出AI系統的問題與漏洞。
（三）、溝通（Communicate）：建立溝通機制，以確保主管機關間之交流，包含調查報告、AI系統的相關資料，以及與公眾的意見徵集，並將上開資訊作為主管機關監理決策之參考依據。
三、AI保證的六項措施：主管機關可依循以下措施評測、衡量AI系統的性能與安全性，以及其是否符合法律規範。
（一）、風險評估（Risk assessment）：評測AI系統於研發與部署時的風險，包含偏見、資料保護和隱私風險、使用AI技術的風險，以及是否影響主管機關聲譽等問題。
（二）、演算法－影響評估（Algorithmic－impact assessment）：用於預測AI系統、產品對於環境、人權、資料保護或其他結果更廣泛的影響。
（三）、偏差審計（Bias audit）：用於評估演算法系統的輸入和輸出，以評估輸入的資料、決策系統、指令或產出結果是否具有不公平偏差。
（四）、合規性審計（Compliance audit）：用於審查政策、法律及相關規定之遵循情形。
（五）、合規性評估（Conformity assessment）：用於評估AI系統或產品上市前的性能、安全性與風險。
（六）、型式驗證（Formal verification）：係指使用數學方法驗證AI系統是否滿足技術標準。
四、評測標準：以國際標準為基礎，建立、制定AI保證的共識與評測標準，評測標準應包含以下事項：
（一）、基本原則與術語（Foundational and terminological）：提供共享的詞彙、術語、描述與定義，以建立各界對AI之共識。
（二）、介面與架構（Interface and architecture）：定義系統之通用協調標準、格式，如互通性、基礎架構、資料管理之標準等。
（三）、衡量與測試方式（Measurement and test methods）：提供評測AI系統的方法與標準，如資安標準、安全性。
（四）、流程、管理與治理（Process, management, and governance）：制定明確之流程、規章與管理辦法等。
（五）、產品及性能要求（Product and performance requirements）：設定具體的技術標準，確保AI產品與服務係符合規範，並透過設立安全與性能標準，以達到保護消費者與使用者之目標。
五、建構AI保證的步驟（Steps to build AI assurance）
（一）、考量現有的法律規範（Consider existing regulations）：英國目前雖尚未針對AI制定的法律，但於AI研發、部署時仍會涉及相關法律，如英國《2018年資料保護法》（Data Protection Act 2018）等，故執行AI保證時應遵循、考量現有之法律規範。
（二）、提升主管機關的知識技能（Upskill within your organisation）：主管機關應積極了解AI系統的相關知識，並預測該機關未來業務的需求。
（三）、檢視內部風險管理問題（Review internal governance and risk management）：須適時的檢視主管機關內部的管理制度，機關於執行AI保證應以內部管理制度為基礎。
（四）、尋求新的監管指引（Look out for new regulatory guidance）：未來主管機關將制定具體的行業指引，並規範各領域實踐AI的原則與監管措施。
（五）、考量並參與AI標準化（Consider involvement in AI standardisation）：私人企業或主管機關應一同參與AI標準化的制定與協議，尤其中小企業，可與國際標準機構合作，並參訪AI標準中心（AI Standards Hubs），以取得、實施AI標準化的相關資訊與支援。
參、事件評析
AI保證指引係基於英國於2023年發布AI政策白皮書的五項跨部會原則所制定，冀望於主管機關落實AI保證，以降低AI系統使用之風險。AI保證係透過蒐集AI系統運行的相關資料，並根據國際標準與監管指引所制定之標準，以評測AI系統的安全性與其使用之相關影響風險。
隨著AI的快速進步及應用範疇持續擴大，於各領域皆日益重要，未來各國的不同領域之主管機關亦會持續制定、推出負責領域之AI相關政策框架與指引，引導各領域AI的開發、使用與佈署者能安全的使用AI。此外，應持續關注國際間推出的政策、指引或指引等，研析國際組織與各國的標準規範，借鏡國際間之推動作法，逐步建立我國的AI相關制度與規範，帶動我國智慧科技產業的穩定發展外，同時孕育AI新興產應用的發展並打造可信賴、安全的AI使用環境。
本文為「經濟部產業技術司科技專案成果」
歐盟執委會（European Commission, EC）於2019年12月18日發布《2019歐盟產業研發投資計分板》（The 2019 EU Industrial R&D Investment Scoreboard）。產業研發投資計分板是歐盟每年出具一次的報告，2019年計分板報告包含2500家在2018-2019年間投入最多研發資金的企業，分別位於全球44個國家／地區，每一企業的研發投資金額超過3000萬歐元，總計約為8234億歐元，為全球研發支出的90%。在這2500家企業中，551家來自歐盟公司，為投資總額的25％；769家來自美國，為投資總額的38％；318家來自日本，佔13％；507家中國公司，佔12％。 報告中指出，2018年企業研發投資總額較2017年增加8.9%，主要是中國在全球研發資金投入比例不斷增加。另外，研發投資高度集中於大型企業；在這2500家企業中，前10大、前50大企業分別佔研發總額的15%和40%。前50大企業中，最多者為美國企業22家和歐盟企業17家。再從研發投資領域觀察，前三大領域分別為資通訊產業（38.7%）、健康（20.7%）和汽車產業（17.2%），佔總量的76.6%。但每一個國家重視的領域不盡相同，例如歐盟投資20%在資通訊、21.6%在健康、31%汽車，而美國的資通訊研發投資佔了52.8%、26.7%在健康，僅有7.6%在汽車。 再從個別企業研發投資排名來看，前四大企業分別為Alphabet、Samsung、Microsoft和Volkswagen。另外，報告統計在過去的15年中，有8家企業在全球研發投資金額排名中上升了70名以上，分別為：Alphabet、華為、蘋果、Facebook、阿里巴巴、Celgene、Gilead Sciences和德國馬牌；也代表這15年間資通訊、生技與汽車產業發展的重要性。
Facebook併購WhatsApp，主動請求歐盟委員會審查社交網站Facebook於2014年2月宣佈將以高達190億美元的價格收購即時通訊軟體WhatsApp。這是近年來對新創公司規模最大的一宗收購案，輕鬆超越Facebook在2012年以超過10億美元買下的相片分享應用程式（app）Instagram，以及去年微軟公司（Microsoft Corp.）花85億美元收購的視訊通話公司Skype。雖然該交易在今年4月就已經獲得美國聯邦貿易委員會（U.S. Federal Trade Commission, FTC）的批准，在歐洲恐怕要面臨反壟斷審查，這是該交易遇到的新障礙。 由於Facebook與歐盟主要的反壟斷機構歐盟委員會（European Commission, EC）聯繫，要求審查這宗轟動的交易案。雖然Facebook這一舉動可能導致該交易在歐盟層面進行正式調查，但卻得以避免在歐盟多個會員國接受繁重的反壟斷調查。布魯塞爾（Brussels）的Cleary Gottlieb Steen & Hamilton律師事務所的反壟斷律師Thomas Graf表示：「比起接受數個國家監管機構審查，Facebook寧可接受歐盟調查，因各國監管機構會分別要求其提供相關資訊。」對此歐盟委員會發言人拒絕發表評論。 倘若要讓歐盟委員會審查該筆交易，公司必須證明其至少符合在三個歐盟會員國接受審查的標準。目前還不能立即清楚地知道其他國家的競爭監管機構是否積極地密切關注該交易。而Facebook提出的請求帶來歐洲多家電信公司強力施壓。他們曾經警告，WhatsApp可被視為一種圖文訊息的低價替代方案，這將使Facebook在歐洲即時通訊市場上取得主導地位。
淺談區塊鏈之著作權保護機制淺談區塊鏈之著作權保護機制 資策會科技法律研究所 法律研究員 翁竹霆 105年11月21日 FinTech，即金融科技，泛指利用科技使金融服務變得更有效率之創新技術。因比特幣（Bitcoin）而廣為人知之區塊鏈（Block chain）技術便是其中之一大代表，其對金融產業帶來破壞性之創新，顛覆金融產業長久以來之概念架構，未來勢必對人類社會帶來不小的影響。 著作權又稱版權，係指在作品上設定權利，並加以保護之制度，長久以來與科學技術相輔相成，共同促進人類社會進步[1]。然網路技術使作品複製與傳播之成本大幅降低，對著作權制度之震撼甚大，管見以為，以點對點（Peer-to-Peer）網路技術為基礎之區塊鏈，恰是著作權制度與網路技術此番挑戰之調和劑，引入區塊鏈技術應用於著作權保護，使新科技不僅是對法制帶來危機，亦可能是帶來轉機，此為本文撰寫之契機。 壹、技術背景 區塊鏈之概念最早可溯及2008年11月，中本聰發表之《比特幣：一種對等式的電子現金系統》[2]。簡言之，區塊鏈是一去中心化之分散式系統，在P2P網路上利用非對稱加密技術記錄每筆行為資訊，具有去中心化、透明性、開放性、自治性、訊息不可篡改、匿名性等六大特徵[3]。比方說在一塗鴉牆上，人人在牆上可畫可看牆上訊息，但僅有訊息之收發當事人能看懂訊息內容。 區塊鏈能防止訊息偽造，提升系統穩定，將傳統交易對人的信任更新為對技術的信任，降低信任成本，當前各國正積極投入區塊鏈之應用。然區塊鏈技術雖有諸多優點，亦不例外有其缺點。本質上，區塊鏈係以成本為代價，換取鏈內資訊之真實與完整，此缺陷反映於該技術之時間與空間成本。 貳、我國法制 區塊鏈發展至今，其應用領域已延伸至各種領域，如數位金融、食安履歷、智財保障等，本文將聚焦於區塊鏈技術對著作權存證之應用機制。 有權利即有救濟之法理，可見於我國大法官會議釋字第243號解釋，故著作權受有侵害時，著作權人應得提訴以維護其權利。然依我國民事訴訟法第277條與刑事訴訟法第232條、第319條之規定，民事原告和刑事告訴人負有證明自己為權利人或被害人之一舉證責任，就採行註冊或登記主義之專利權、商標權而言，權利人之舉證或非難事，惟於採創作主義之著作權而言，此舉證責任難度顯然高於專利權人及商標權人。就此我國著作權法雖有參酌各國立法例，規定如著作人之著作符合一定推定規則，在訴訟上即不負有舉證責任，此即「著作人推定」[4]。依著作權法第13條之著作權人推定之規定，必須在著作之原件或其以發行之重製物上，或將公開發表時，以通常方法表示著作人之本名或眾所周知之別名。反面解釋來說，若著作人一時疏忽或因該創作領域之習慣，未於著作表示著作人本名或別名，著作人將難受推定而享有著作權，創作心血將付之一炬。 我國最高法院92年度台上字第1664號判決之見解認為，著作權人為證明著作權，應保留其著作之創作過程、發行及其他與權利有關事項之資料作為證明自身權利之方法；該判決更指出著作權人至少需證明著作權人身分、著作完成時間、非抄襲之獨立創作；102年度台非字第24號判決重申著作權人未提出或交待研發過程之相關資料，尚不足認其主張之系爭標的係屬著作，亦不得僅憑該造友性證人之宣誓書及證言云云，即謂所述創作歷程可採；而智財法院97年刑智上易字第70號判決中則指出，該件鑑定小組藉由就權利人之營業處所及其創作過程進行實地勘查，推論得知告訴人係真正創作之著作權人。基此，權利人無法受有著作人推定時，需提出證據，跨越三道門檻，方可證明其確有權利，此為現行制度下，著作權人維權所面臨之現實難處。 如前所述，當前著作權人之維權存在著舉證難、週期長、成本高的問題，而區塊鏈在技術上可應用於著作權之存證，與實務見解之著作人身分、著作完成時間、非抄襲之獨立創作等待證事項完美匹配，原因分析如下： 一、著作權人身分 此部分意在證明著作確係主張權利人所創作，證明難度應不高，僅需著作人於登入系統時進行身分驗證，透過如帳號密碼、電子憑證等技術，便能推定系統之使用者確為著作人本人。目前多數網路平台均有採相似技術，於登入系統時確認使用者之身分、年齡等資訊，如結合區塊鏈不可篡改之特性，將更可保存身分資料，確認真實性。惟著作人本人是否具行為能力，甚至具備創作能力，尚非區塊鏈技術可以解決，仍需視個案事實認定之。 二、著作完成時間 區塊鏈在技術上，其區塊之排列係按照歷史時間順序，恰可將我國實務見解強調之創作過程，如日記般記載呈現，清楚確定著作係於何時生成而取得著作權，有助於釐清權利取得先後之爭議。 三、非抄襲之獨立創作 所謂創作過程乃著作人在創作時之相關紀錄，常見之紀錄包含筆記、草稿、設計圖、會議紀錄等。又因我國法律並無明定何謂抄襲之判定基準，法院常以創作過程做為認定系爭著作是否抄襲之依據。惟著作人於訴訟中證明自己確非抄襲存有困難，縱委請公證人進行著作認證，或將著作寄存於特定機構，亦僅能證明自己在特定時點完成著作，仍無法證明系爭著作係自己之獨立創作[5]。若運用區塊鏈具有去中心化、透明性、訊息不可篡改等特徵，即能確保創作過程係被忠實記錄於區塊鏈中，不受變更；過程訊息之完整性與真實性亦可通過科學之檢驗，便於著作人舉證證明系爭著作之創作過程。透過作品之創作緣由、經過細節，輔以庭審詰問質證，即可舉證之著作人確為實際創作者。 綜上，如導入區塊鏈對我國之著作權進行存證保護，作為此技術之新運用，應符合法院實務見解與創作市場需求，具有可行性。 叄、國際實例 台灣近期已有銀行業者將區塊鏈運用於金融業務[6]，如欲建立我國區塊鏈之著作權保護機制，或可借鑑國外成功實例，汲取他人操作經驗。目前國際上，將區塊鏈技術運用至著作權保護之實例以歐美為大宗，包括blockai[7]、Ascribe[8]、Verisart[9]等許多網路平台運用區塊鏈對著作權進行存證，本文分別簡介如下： 一、blockai 美國長久以來係由國會圖書館管理著作權事宜，惟實作程序上曠日費時且效率不彰。blockai便在此環境中誕生，作為一運用區塊鏈保護著作權之網站，其旨在提供更簡單有效的新選擇。blockai以區塊鏈建立公眾資料庫搭配圖像比對技術，以證明作品確由著作權人創作進而保障之。其開立之著作權證書雖並無法定證據效力[10]，但因區塊鏈信息不可篡改之技術特徵，仍可成為法庭上有相當證明力之證據[11]。 二、Ascribe 德國的Ascribe通過區塊鏈，使作者可以確定作品的權利屬性，安全的進行分享並追蹤作品傳播情況[12]，亦透過區塊鏈對作品創作真實性進行認證，在發行時可就發行數量進行限制，旨在使數位內容作品在網路環境中能如同實體作品般具備稀少性。與blockai作法類似，Ascribe也提供著作權證書[13]，該證書除作者名稱、作品名稱、完成時間外，更包括所有權人、交易時間，透過紀錄所有權移轉歷程體現數量限制、追蹤傳播情況的功能，有效避免一權多賣。 三、Verisart Verisart亦是透過區塊鏈從事著作權保障的網站，作法係提供一App予使用者，使其可以簡單、快速地驗證作品，使用者包括創作者、收藏家、交易者不等，與其他平台不同處在Verisart操作上通過手機、平板電腦等行動裝置，在作品訊息的資料上，更記載作者當前地點，突顯行動性，係區塊鏈技術與行動裝置的創新結合，以行動裝置使著作權的存證不受時間、地點的桎梏。 雖然區塊鏈目前只能提供每秒150次交易，但對著作權驗證已堪用。蓋著作權存證之目的在於呈現訴訟實務上所重視之創作過程，該過程係一歷史事實之呈現，著眼於訊息之正確與完整，而不要求訊息傳遞之即時性，是以區塊鏈技術上之時間成本，於此並不構成致命缺陷；至於空間成本，因硬碟儲存技術之發展，儲存空間已可以極低成本予以克服。 肆、結論 面對虛擬貨幣之新思潮，各國政府與民間爭相投入區塊鏈之應用研究，望能藉新技術降低產業成本，如中國人民銀行成立中國區塊鏈研究聯盟，美國有利用區塊鏈保障著作權之平台，台灣亦有金融業者加入全球區塊鏈聯盟與國際接軌。從我國著作權訴訟實務上著作人舉證責任視之，通過科學技術保障權利標的進行舉證，與一般證人之證言宣誓有別，證據之證明力更禁得起檢驗。在我國現行法未有著作權登記制度之際，引入區塊鏈於著作權保護之應用，可對現行法制上之舉證難題對症下藥，緩和權利人不易舉證之窘境，使權利人更能獲得其應有之權益保障，落實我國著作權法之立法目的。期待產業主管機關或著作權專責機關，推動運用區塊鏈技術解決創作舉證不易而產生的著作權歸屬糾紛，並進一步利用區塊鏈技術於授權交易，促進原創作品的流通，為我國數位經濟與文化創意發展構築更加完備的發展環境。 [1] 吳偉光，《數字技術環境下的版權法》，知識產權出版社，頁17（2008）。 [2] Satoshi Nakamoto, Bitcoin: A Peer-to-Peer Electronic Cash System, https://bitcoin.org/bitcoin.pdf (last visited Oct. 3, 2016). [3] 長鋏、韓鋒，《區塊鏈：從數字貨幣到信用社會》，中信出版社，頁54（2016）。 [4] 蕭雄淋，《著作權法論》，五南出版股份有限公司，第七版，頁71（2010）。 [5] 台灣內容市集網站，https://www.tcrm.org.tw/index.php（最後瀏覽日：2016/10/04）。 [6] 華銀區塊鏈應用大躍進，http://udn.com/news/tory/7239/2035353（最後瀏覽日：2016/10/20）。 [7] blockai網站, https://blockai.com/ (last visited Oct. 4, 2016). [8] Ascribe網站, https://www.ascribe.io/ (last visited Oct. 20, 2016). [9] Verisart網站, https://www.verisart.com/ (last visited Oct. 20, 2016). [10] 蔡茜堉，金融科技專利現況，http://www.tipo.gov.tw/public/Attachment/67259101946.pdf（最後瀏覽日：2016/10/04）。 [11] 區塊鏈豈止用於金融？外國新創利用技術保護知識產權，http://unwire.pro/2016/03/15/blockai-uses-blockchain-to-protect-intellectual-property/startups/（最後瀏覽日：2016/10/04）。 [12] 長鋏、韓鋒，《區塊鏈：從數字貨幣到信用社會》，中信出版社，頁229（2016）。 [13] Ascribe證書範例, https://d1qjsxua1o9x03.cloudfront.net/live%2Fcb70ab375662576bd1ac5aaf16b3fca4%2F23964ae7-3bfc-46b4-85d6-05c9f09ba300%2Fcoa%2Fcoa-2016-01-04t12-56-13.pdf (last visited Oct. 20, 2016).
美國平等就業機會委員會發布「評估就業篩選程序中使用軟體、演算法及AI之不利影響」技術輔助文件美國平等就業機會委員會（Equal Employment Opportunity Commission, EEOC）於2023年5月18日發布「根據 1964 年《民權法》第七章評估就業篩選程序中使用軟體、演算法和AI之不利影響」（Assessing Adverse Impact in Software, Algorithms, and Artificial Intelligence Used in Employment Selection Procedures Under Title VII of the Civil Rights Act of 1964）之技術輔助文件（下簡稱「技術輔助文件」），以防止雇主使用自動化系統（automated systems）對求職者及員工做出歧視決定。 該技術輔助文件為EEOC於2021年推動「AI與演算法公平倡議」（Artificial Intelligence and Algorithmic Fairness Initiative）計畫的成果之一，旨在確保招募或其他就業決策軟體符合民權法要求，並根據EEOC 1978年公布之「受僱人篩選程序統一指引」（Uniform Guidelines on Employee Selection Procedures, UGESP），說明雇主將自動化系統納入就業決策所應注意事項。 當雇主對求職者與員工做出是否僱用、晉升、終止僱傭，或採取類似行動之決定，是透過演算法決策工具（algorithmic decision-making tool），對特定種族、膚色、宗教、性別、國籍或特定特徵組合（如亞洲女性），做出篩選並產生不利影響時，除非雇主能證明該決策與職位工作內容有關並符合業務需求，且無其他替代方案，否則此決策將違反《民權法》第七章規定。 針對如何評估不利影響，雇主得依UGESP「五分之四法則」（four-fifths rule），初步判斷演算法決策工具是否對某些族群產生顯著較低的篩選率。惟EEOC提醒五分之四法則推導出之篩選率差異較高時，仍有可能導致不利影響，雇主應依個案考量，使用實務常見的「統計顯著性」（statistical significance）等方法進一步判斷。 其次，當演算法決策工具係由外部供應商所開發，或由雇主授權管理人管理時，雇主不得以信賴供應商或管理人陳述為由規避《民權法》第七章，其仍應為供應商開發與管理人管理演算法決策工具所產生之歧視結果負責。 最後，EEOC鼓勵雇主應對演算法決策工具進行持續性自我評估，若發現該工具將產生不利影響，雇主得採取措施以減少不利影響或選擇不同工具，以避免違反《民權法》第七章。