德國聯邦資訊技術，電信和新媒體協會針對AI及自動決策技術利用提出建議指南
德國聯邦資訊技術，電信和新媒體協會於2018年2月6日在更安全的網路研討會中針對利用人工智慧及自動決策技術利用提出建議指南，旨在提升企業數位化與社會責任，並提升消費者權益保護。
德國司法及消費者保護部次長Gerd Billen於會議中指出，無論技術細節和具體應用如何發展，法律和消費者保護政策應確保人工智慧安全性，且不因此受歧視，以及盡可能確保技術利用透明度。而隨著人工智慧的發展，應設法解決使用人工智慧產生的法律問題。
例如，如何在製造商，供應商和消費者之間公平分配責任歸屬問題？在家庭，物流和手術室等領域已有越來越多具備自我學習的機器人被應用，相關權利是否會有所不同？如果機器出現不明原因故障，會發生什麼情況及如何處置？當機器透過在製造時尚未完全預定的環境感官認知做出具體決定時，該自動行為所生效力為何？
本份指南則提出六項建議：
- 促進企業內部及外部訂定相關準則
- 提升產品及服務透明度
- 使用相關技術應為全體利益著想
- 決策系統的可靠性仍取決資料的準確性。
- 重視並解決解決機器偏差問題
- 在特別需要負責的決策過程，應設計成由責任主體保留最終的決策權力，直到AI的控制品質已達到或高於所有參與者水平。
本文為「經濟部產業技術司科技專案成果」
在2013年的國際資訊安全會議（RSA Conference）上，資安專家紛紛表示，將Big Data技術應用於資訊安全分析的項目上，確實可以幫助企業建立更佳的情勢判斷能力，但在實際執行過程中是一大挑戰。 資安廠商如RSA和賽門鐵克公司，在會議上表示目前的策略是透過新的數據匯集、比對和分析協助企業篩選、過濾結構化和未結構化資料的威脅指標，這是傳統的特徵偵測（signature-based）安全工具無法做到的。 不像傳統的安全手段著重於阻斷攻擊，新的技術強調偵測並立即回應違犯行為，也就是提前遏止任何違犯行為，協助企業作全面性的偵測而不擔心有所遺漏。 由於越來越多的美國政府機關和民間企業遭受到針對性和持續性的攻擊，巨量資料技術的應用需求激增。企業內部都累積著大量的數據和多元的數據種類，而需要動新技術來保護這些數據資料免於惡意人士或對手的竊取或其他侵害行為。企業應該要因應實際面臨的威脅和所獲悉的威脅情報來建立安全模型，取代部署特定產品和外圍系統的防禦。 美國無論是政府機關或民間企業都被捲入了不對稱戰爭-對手是武器精良、準備充分並有嚴密組織的網路敵人。 「駭客只需要攻擊成功一次，但我們必須每次都是成功的」賽門鐵克的總裁deSouza表示。「因此與其專注的在阻擋所有威脅，更好的辦法是使用巨量資料技術偵測侵入行為並消解之」。而在會議中資安專家都肯認至少從理論上來說，以巨量資料技術強化資訊安全是很好的想法。 不過另有其他的說法，金融服務企業LSQ的首席安全及法務主管皮爾遜認為，許多人的電腦紀錄檔和所有的電子裝置都早就被侵入滲透了，這才是問題所在。他表示，目前現存的SIEM（安全性資訊及事件管理）工具可以讓企業聚集來自許多個安全設備的巨量登錄數據整合在同一系統內，但真正的問題是，SIEM工具必須要有能力分析數據並找出關聯性，如此才能偵測到駭客入侵的前兆證據和真實的入侵行為，這和彙整數據是不同的兩件事。許多企業所面臨的問題不是缺乏數據資料，而是要如何為資訊安全的目的建立關聯規則和應用方式，以有效率的方式找出有用的巨量數據並進行分析，和留下可供進行訴訟使用的證據。
中國人行等十部委發布《關於促進互聯網金融健康發展的指導意見》為鼓勵金融創新，促進互聯網金融健康發展，明確監管責任，規範市場秩序，中國人民銀行、工業和信息化部、公安部、財政部、國家工商總局、國務院法制辦、中國銀行業監督管理委員會、中國證券監督管理委員會、中國保險監督管理委員會、國家互聯網信息辦公室，在經中國共產黨中央、國務院同意後，於7月18日聯合發布了《關於促進互聯網金融健康發展的指導意見》。(下稱《指導意見》) 該《指導意見》首次讓中國的互聯網金融正式從「野蠻生長」、「監管真空」，走向了「分類監管」和「有法可依」，按照《指導意見》，未來在監管職責劃分上，人民銀行將負責互聯網支付業務的監督管理；銀監會負責包括個體網路借貸和網路小額貸款在內的網路借貸以及互聯網信託和互聯網消費金融的監督管理；證監會負責股權式群眾募資和互聯網基金銷售的監督管理；保監會負責互聯網保險的監督管理。 同時，《指導意見》提出了一系列鼓勵創新、支援互聯網金融穩步發展的政策措施，積極鼓勵互聯網金融平臺、產品和服務創新，鼓勵從業機構相互合作，拓寬從業機構融資管道，堅持簡政放權和落實、完善財稅政策，推動信用基礎設施建設和配套服務體系建設。 值得注意的是，近年高速發展的借貸式群眾募資、股權式群眾募資以及網路支付等目前在中國互聯網金融領域主要的行業型態，在《指導意見》中形成框架性政策，上至監管原則，下至第三方存管等具體事項上，均有所涉及。由於《指導意見》是經由中共黨中央、國務院同意，再經中國人民銀行等十部委所發布，也說明了該意見的出臺是在中國共產黨中央和國務院的認可下制訂，是故若政策未出現重大轉向，該《指導意見》的規定待相關機關部門細化後，未來可預見將以法律、或行政法律等形式進一步頒布落實。
合成資料（synthetic data）「合成資料」（synthetic data）的出現，是為了保護原始資料所可能帶有的隱私資料或機敏資料，或是因法規或現實之限制而無法取得或利用研究所需資料的情況下，透過統計學方法、深度學習、或自然語言處理等方式，讓電腦以「模擬」方式生成研究所需之「合成資料」並進行後續研究跟利用，透過這個方法，資料科學家可以在無侵犯隱私的疑慮下，使合成資料所訓練出來的分類模型（classifiers）不會比原始資料所訓練出來的分類模型差。 在合成資料的生成技術當中，最熱門的研究為運用「生成對抗網路」（Generative Adversarial Network, GAN）形成合成資料（亦有其他生成合成資料之方法），生成對抗網路透過兩組類神經網路「生成網路」（generator）與辨識網路（discriminator）對於不同真偽目標值之反覆交錯訓練之結果，使其中一組類神經網路可生成與原始資料極度近似但又不完全一樣之資料，也就是具高度複雜性與擬真性而可供研究運用之「合成資料」。 英國國防科技實驗室（Defense Science and Technology Laboratory, DSTL）於2020年8月12日發布「合成資料」技術報告，此技術報告為DSTL委託英國航太系統公司（BAE Systems）的應用智慧實驗室（Applied Intelligence Labs, AI Labs）執行「後勤科技調查」（Logistics Technology Investigations, LTI）計畫下「資料科學與分析」主題的工作項目之一，探討在隱私考量下（privacy-preserving）「合成資料」當今技術發展情形，並提供評估技術之標準與方法。 技術報告中指出，資料的種類多元且面向廣泛，包含數字、分類資訊、文字與地理空間資訊等，針對不同資料種類所適用之生成技術均有所不同，也因此對於以監督式學習、非監督式學習或是統計學方法生成之「合成資料」需要採取不同的質化或量化方式進行技術評估；報告指出，目前尚未有一種可通用不同種類資料的合成資料生成技術或技術評估方法，建議應配合研究資料種類選取合適的生成技術與評估方法。
簡介「歐洲共同資料空間」簡介「歐洲共同資料空間」 資訊工業策進會科技法律研究所 2022年09月30日 壹、前言 歐盟為促進數位經濟的發展，於2015年5月發布「數位單一市場(Digital Single Market)」政策，並指出資料(data)對於發展數位經濟的重要性 [1]。經過了5年的規劃，歐盟於2020年2月發布了「歐洲資料戰略(European Data Strategy)」，勾勒出建立歐洲「單一資料市場(single data market)」的具體措施與進程。 歐盟執委會(European Commission)在「歐洲資料戰略」中指出，為確保歐洲數位經濟的競爭力，應採取相關措施創造一個有吸引力的市場環境，其目標就是建立「歐洲共同資料空間 (Common European data space)」[2] 。本文以下將介紹「歐洲共同資料空間」的發展背景與現況。 資料來源：作者自繪 圖一 「歐洲共同資料空間」的政策發展脈絡 貳、「歐洲共同資料空間」的發展背景 一、源起 歐盟期待能建立一個真正單獨且對全世界開放的資料市場，各類資料能安全地存放其中，企業可輕易地近用高品質的產業資料，以加速企業的成長並創造更高的經濟價值[3]。在此資料空間中，資料的使用需要符合歐盟的法規，且所有資料驅動(data-driven)之服務和產品應符合歐洲「數位單一市場」的規範。因此，歐盟陸續制定相關法律和標準，建設相關基礎設施，期望能促進更多的資料在歐盟境內儲存和處理[4] 。歐盟執委會初期以「歐洲開放科學雲(European Open Science Cloud, EOSC)」的經驗為基礎[5] ，聚焦9個重點產業領域發展資料空間，其介紹如下表： 表一：「歐洲共同資料空間」9個重點產業領域 產業/領域 發展資料空間的目標 1 工業/製造業資料空間 挖掘「非個人資料」的潛在價值，以強化歐盟工業的競爭力，預計在2027年可以創造1.5兆歐元的產值 2 綠色協議(Green Deal)資料空間 支持氣候變遷、循環經濟、零污染、生物多樣性等行動 3 交通移動(Mobility)資料空間 強化運輸和交通移動資料庫的近用、整合、共享，確保歐盟的智慧運輸系統在全球的領先地位。 4 健康資料空間[6] 提升疾病預防、檢測、治療的發展，促進實證醫學發展的加速 5 金融資料空間 提升金融領域的資料共享、創新、市場透明度、永續金融 6 能源資料空間 透過安全和可信任的方式進行跨部門的資料共享，提升資料的可利用性，促進低碳的落實 7 農業資料空間 透過對農業生產等資料的分析，提升農業部門的競爭力。 8 公行(Public administrations)資料空間 提高政府支出的透明性和問責，強化政府科技、法遵科技、法律科技的應用 9 技能(Skills) 資料空間 降低教育培訓體系和勞動市場需求的落差 資料來源：整理自歐盟執委會2022年2月發布的工作報告 二、設計原則 歐盟執委會原訂於2020年第4季提出「歐洲共同資料空間」的具體規劃，但進度有所延遲。2021年3月歐盟理事會（European Council）認為需要加速建立共同資料空間，並請歐盟執委會說明各產業領域資料空間的進展及未來需要採取的必要措施。[7] 根據歐盟執委會2022年2月出版的工作報告指出，所謂的資料空間可以定義為相互信任夥伴間的一種資料關係，參與夥伴在儲存和共享資料時必須適用相同的標準和規則[8]。此外，在資料空間中，資料並非中心化儲存，而是儲存在其來源處，只有在必要時才會透過語義互操作性（semantic interoperability）共享資料[9]。而「歐洲共同資料空間」將根據以下的原則進行設計[10]： 1.資料控制（Data control） 資料空間可以促進資料工具的開發，以彙集、近用、使用、共享各種類型的資料。資料持有者可使用這些資料工具，簡化資料上傳的流程、授予或撤銷其資料授權、更改資料近用權限等。 2.治理（Governance） 建立適當的治理結構，確保以公平、透明、符合比例、非歧視的方式，近用、共享、使用資料，此治理結構應遵守歐盟現有的相關規範，如《非個人資料自由流通框架（Framework for the Free Flow of Non-Personal Data in the European Union）》、《歐盟一般個人資料保護規則（GDPR）》、等。 3.尊重歐洲的規範和價值觀（Respect of EU rules and values） 資料空間應遵守相關的歐盟法律框架，如GDPR、網路安全、基本權利、環境保護、競爭法、歐盟關於提供資料服務相關的規則等；此外，應採取適當的技術和法律措施，防止未經授權的資料近用。 4.技術基礎設施（Technical data infrastructure） 鼓勵資料空間之參與者使用共通的技術基礎設施，並整合網路安全的設計原則，建構能確保資料彙集、近用、共享、處理、使用之安全和隱私保護的基礎設施。 5.互連接性及互操作性（Interconnection and interoperability） 為避免資料碎片化(fragmentation)、整合成本過高、產生資料孤島等問題，「歐洲共同資料空間」參考國際標準、歐洲空間資料基礎設施(INSPIRE[11]) 、FAIR原則[12]，強化資料空間的互操作性，並透過歐盟運算基礎設施[13]共享和近用資料，以達到相互連接和互相操作。 6.開放性（Openness） 只要願意遵守歐盟規範、尊重歐洲價值觀的使用者都可以利用「歐洲共同資料空間」。開放性將有助於創造不同產品和不同服務提供商間的競爭，避免因產品或服務製造商的特定協定(protocols)產生鎖定效應（lock-in）。 三、近期整體發展 首先，歐盟執委會強調，由於「歐洲共同資料空間」涉及各產業領域，每個產業領域都有其特性；即便是同一產業中，所涉及之利害關係人多元，其資料需求也會不同。因此，為避免對特定產業領域正在發展之資料共享解決方案產生影響，歐盟將著重於建立各產業共通的技術基礎設施和資料治理框架[14]。根據2022年5月歐盟正式發布的《資料治理法(Data Governance Act) 》，第六章中規定未來將成立「歐洲資料創新委員會(European Data Innovation Board, EDIB)」；依據該法第30條的規定，EDIB的任務之一是制定促進「歐洲共同資料空間」的指引，內容包含建立跨產業領域資料共享的標準、強化互操作性等[15]。 其次，根據歐盟執委會2022年8月出版的調查報告指出，截至2022年上半年為止，歐盟關於資料空間徵案的結果，主題不僅有最初規劃的9個產業領域[16]，還擴及智慧城市、文化資產、媒體、財政、語言、旅遊、公部門採購與安全執法等產業領域[17]。此外，與這些產業領域相關的公部門開放資料集部分已經編目並放在歐盟data.europa.eu[18]的網站上，譬如該網站上目前有48,000筆關於交通運輸的資料集，未來可能對於「交通移動」領域資料空間的建立有幫助[19]。 再者，歐盟執委會為了瞭解歐洲目前所有資料空間的發展現況，以國際資料空間協會（International Data Spaces Association, IDSA）的「國際資料空間雷達(International Data Space Radar)」、歐洲非營利組織所倡議的「歐洲雲和資料基礎架構專案(Gaia-X)」、「歐洲工業數位化開放平臺（Open DEI）」為調查對象。根據研究結果，這3個組織目前共有151個和資料空間有關的計畫或措施，但其中僅只有21個使用了開放資料，且僅19個計畫有公部門參與其中[20]。歐盟執委會認為開放資料社群和各國公部門長期以來，在推動開放資料與建立開放資料標準已經累積一定的經驗，未來可以對「歐洲共同資料空間」提供更多的建議[21]。 最後，歐盟執委會將「歐洲共同資料空間」的利害關係人區分為四大類別，包含核心參與者、中介者、軟體/服務提供商、治理機構，並選定相關人士進行訪談，以聚焦「歐洲共同資料空間」未來的推動方向。根據訪談結果，所有受訪者皆指出目前「歐洲共同資料空間」發展的一個重大問題，亦即缺乏完整的資料集目錄。因此，受訪者建議未來「歐洲共同資料空間」的重點可放在發展資料集目錄[22]。 參、結論 從上述的整理可以發現，歐盟相當有系統性地推動「歐洲共同資料空間」，期待透過不同產業領域資料空間的互相連接，強化資料近用和互操作性，在促進資料共享和使用的同時，亦充分保護個人與企業的資料權利[23]。雖然歐洲各產業領域的資料空間仍在持續發展，但歐盟對於發展資料經濟的政策規劃，不管在基礎設施的建設、標準化的制定、法制面的配套，都值得我國持續關注。 本文同步刊登於TIPS網站（https://www.tips.org.tw） [1] A Digital Single Market Strategy for Europe, at 14-15, COM (2015) 192 final (May. 6, 2015). [2] A European strategy for data, at 4, COM (2020) 66 final (Feb. 19, 2020). [3] id. at 4-5. [4] id.. [5] 關於「歐洲開放科學雲」的介紹可參考蔡立亭 ，〈論臺灣科研資料治理機制推行之模型－以歐洲開放科技雲為例〉，《科技法律透析》，第33卷第5期，頁21，（2021）。 [6] 關於「歐洲健康資料空間」近期的發展可參考施雅薰，〈歐盟執委會發布「歐洲健康資料空間」規則提案，旨在克服健康資料利用之障礙〉，資訊工業策進會科技法律研究所，https://stli.iii.org.tw/article-detail.aspx?no=67&tp=1&d=8858（最後瀏覽日：2022/09/27）。 [7] European Commission, Commission Staff Working Document on Common European Data Spaces 1（2022）。 [8] European Commission, data.europa.eu and the European Common Data Spaces 6（2022）。 [9] id. at 2. [10] European Commission, supra note7, at 3-4. [11] 關於「歐洲空間資料基礎設施」的介紹請參考INSPIRE KNOWLEDGE BASE，https://inspire.ec.europa.eu/(last visited Sep. 26, 2022). [12] Fair原則是可查找(Findable)、可近用(Accessible)、可相互操作(Interoperable)、可再使用(Re-usable) 的英文縮寫，相關介紹可參考GO FAIR，https://www.go-fair.org/fair-principles/(last visited Sep. 26, 2022). [13] 如歐洲雲服務或歐洲高效能運算(HPC)。 [14] European Commission, supra note7, at 4-5. [15] id. at 29-30. [16] 關於這9個產業領域2021-2023年間的規劃進度可參考European Commission, supra note 7, at 41-42. [17] European Commission, supra note 8, at 7. [18] 該網站設立於2021年4月，是整合European Data Portal及EU Open Data Portal兩個網站而成立。 [19] European Commission, supra note 8, at 8. [20] id. at 13. [21] id. at 5. [22] id. at 18. [23] European Commission, supra note 7,. at 2.