強制蒐集人體生物資料的人權標準－聯合國人權事務委員會的見解
落實完善數位資料管理機制， 有助於降低AI歧視及資料外洩風險 資訊工業策進會科技法律研究所 2023年07月07日 近年來，科技快速發展，AI(人工智慧)等技術日新月異，在公私部門的應用日益廣泛，而且根據美國資訊科技研究與顧問公司Gartner在2023年5月發布的調查指出，隨著由OpenAI開發的ChatGPT取得成功，更促使各領域對於AI應用的高度重視與投入[1]，與此同時，AI歧視及資料外洩等問題，亦成為社會各界的重大關切議題。 壹、事件摘要 目前AI科技發展已牽動全球經濟發展，根據麥肯錫公司近期發布的《生成式人工智慧的經濟潛力：下一個生產力前沿(The next productivity frontier)》研究報告指出，預測生成式AI(Generative AI)有望每年為全球經濟增加2.6兆至4.4兆的經濟價值[2]。同時在美國資訊科技研究與顧問公司Gartner對於超過2500名高階主管的調查中，45%受訪者認為ChatGPT問世，增加其對於AI的投資。而且68%受訪者認為AI的好處大於風險，僅有5%受訪者認為風險大於好處[3]。然而有社會輿論認為AI的判斷依賴訓練資料，將可能複製人類偏見，造成AI歧視問題，而且若程式碼有漏洞或帳戶被盜用時，亦會造成資料外洩問題。 貳、重點說明 首先，關於AI歧視問題，以金融領域為例，近期歐盟委員會副主席Margrethe Vestager強調若AI用於可能影響他人生計的關鍵決策時，如決定是否能取得貸款，應確保申請人不受性別或膚色等歧視[4]，同時亦有論者認為若用於訓練AI的歷史資料，本身存有偏見問題，則可能導致系統自動拒絕向邊緣化族群貸款，在無形之中加劇，甚至永久化對於特定種族或性別的歧視[5]。 其次，關於資料外洩問題，資安公司Group-IB指出因目前在預設情況下，ChatGPT將保存使用者查詢及AI回應的訊息紀錄，若帳戶被盜，則可能洩露機敏資訊。據統計在2022年6月至2023年5月間，在亞太地區有近41000個帳戶被盜，而在中東和非洲地區有近25000個帳戶被盜，甚至在歐洲地區也有近17000個帳戶被盜[6]。另外在2023年3月時，ChatGPT除了發生部分用戶能夠檢視他人聊天紀錄標題的問題外，甚至發生個人資料外洩問題，即用戶可能知悉他人的姓名、電子郵件，付款地址，信用卡到期日及號碼末四碼等資料[7]。 參、事件評析 對於AI歧視及資料外洩等問題，應透過落實完善數位資料治理與管理機制，以降低問題發生的風險。首先，在收集訓練資料時，為篩選適合作為模型或演算法基礎的資料，應建立資料評估或審查機制，減少或避免使用有潛在歧視問題的資料，以確保分析結果之精確性。 其次，不論對於訓練資料、分析所得資料或用戶個人資料等，均應落實嚴謹的資料保密措施，避免資料外洩，如必須對於資料進行標示或分類，並依照不同標示或分類，評估及採取適當程度的保密措施。同時應對於資料進行格式轉換，以無法直接開啟的檔案格式進行留存，縱使未來可能不慎發生資料外洩，任意第三人仍難以直接開啟或解析資料內容。甚至在傳送帳戶登入訊息時，亦應採取適當加密傳送機制，避免遭他人竊取，盜取帳戶或個人資料。 財團法人資訊工業策進會科技法律研究所長期致力於促進國家科技法制環境完善，於2021年7月發布「重要數位資料治理暨管理制度規範（Essential Data Governance and Management System，簡稱EDGS）」，完整涵蓋數位資料的生成、保護與維護，以及存證資訊的取得、維護與驗證的流程化管理機制，故對於不同公私部門的AI相關資料，均可參考EDGS，建立系統性數位資料管理機制或強化既有機制。 本文同步刊登於TIPS網站（https://www.tips.org.tw） [1]Gartner, Gartner Poll Finds 45% of Executives Say ChatGPT Has Prompted an Increase in AI Investment (May 3, 2023), https://www.gartner.com/en/newsroom/press-releases/2023-05-03-gartner-poll-finds-45-percent-of-executives-say-chatgpt-has-prompted-an-increase-in-ai-investment (last visited June 30, 2023). [2]McKinsey, The economic potential of generative AI: The next productivity frontier (June 14, 2023), https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/the-economic-potential-of-generative-AI-the-next-productivity-frontier#introduction (last visited June 30, 2023). [3]Gartner, supra note 1. [4]Zoe Kleinman, Philippa Wain & Ashleigh Swan, Using AI for loans and mortgages is big risk, warns EU boss (June 14, 2023), https://www.bbc.com/news/technology-65881389 (last visited June 30, 2023). [5]Ryan Browne & MacKenzie Sigalos, A.I. has a discrimination problem. In banking, the consequences can be severe (June 23, 2023), https://www.cnbc.com/2023/06/23/ai-has-a-discrimination-problem-in-banking-that-can-be-devastating.html (last visited June 30, 2023). [6]Group-IB, Group-IB Discovers 100K+ Compromised ChatGPT Accounts on Dark Web Marketplaces; Asia-Pacific region tops the list (June 20, 2023), https://www.group-ib.com/media-center/press-releases/stealers-chatgpt-credentials/ (last visited June 30, 2023). [7]OpenAI, March 20 ChatGPT outage: Here’s what happened (Mar. 24, 2023),https://openai.com/blog/march-20-chatgpt-outage (last visited June 30, 2023).
運作技術成熟度(Technology Readiness Level)進行技術評估運作技術成熟度(Technology Readiness Level)進行技術評估 資策會科技法律研究所 法律研究員 羅育如 104年10月22日 壹、前言 為提升我國科技競爭力，於1999年制定科學技術基本法(以下簡稱科技基本法)，透過科技基本法的規定，使原本歸屬國有財產之研發成果，得以下放歸屬執行單位所有，使大學對研發成果能有更完善應用之權利。 科技基本法實施之後，各研究單位開始學習國外經驗，積極進行產學合作，將內部之研發成果技術移轉與外部產業。但是，科技基本法實行已15年的今日，各界逐漸發現，政府經費之投入與研發成果產出之經濟效益有相當大的差距。例如科技部102年專題研究計畫補助經費為215億新台幣，但僅創造3.5億新台幣之衍生成果技術移轉權利金[1]。政府經費投入與產出不符預期的議題，牽涉多元層面問題，但是從新設立政府計畫案之目標與KPI，可以發現政府新創設之補助計畫開始以協助技術商業化作為主要目的，例如萌芽計畫、產學計畫等。 技術商業化操作模式會依據技術成熟度不同而有所差異，技術成熟度高的項目，廠商承接後所需要投入的研發成果可能較低，直接協助廠商改善生產流程或是成為產品商品化的機率較高；反之，廠商則需要投入較多的技術研發費用，需要花費較多的人力與資源，技術才有機會商品化。 由此可知，在技術商業化計畫推廣時，技術項目的技術成熟度是一個重要的評估關鍵。本文針對技術成熟度的評估指標詳細說明，以提供執行技術商業化計畫時，評估技術項目之參考。以下會分別說明何謂技術成熟度以及技術成熟度如何運用，最後會有結論與建議。 貳、技術成熟度說明 技術成熟度或稱為技術準備度(Technology Readiness Level；簡稱TRL)是美國太空總署(NASA)使用多年的技術評估方法，後來為美國國防部所用，再廣為國際各政府機構、學研單位、企業機構使用。 TRL是一個系統化的量尺/衡量指標，可以讓不同型態的技術有一致性的衡量標準，描述技術從萌芽狀態到成功應用於某項產品的完整流程[2]。而TRL涵蓋的技術研發流程則包括四個部分：(1)概念發展：新技術或是新概念的基礎研究，涵蓋TRL1~3；(2)原型驗證：特定技術針對一項或是多項潛在應用的技術開發，涵蓋TRL4與5；(3)系統開發：在某一應用尚未成為一整套系統之前的技術開發以及技術驗證，然後進行系統開發，涵蓋TRL6；(4)系統上市並運作[3]，涵蓋TRL7~9。以下分別說明TRL每個衡量尺度的定義[4]。 TRL 1 基礎科學研究成果轉譯為應用研究。 TRL 2 為某項特殊技術、某項材料的特性等，找出潛在創新應用；此階段仍然是猜測或推論，並無實驗證據支持。 TRL 3 在適當的應用情境或載具下，實驗分析以驗證該技術或材料相關物理、化學、生物等特性，並證明潛在創新應用的可行性(proof-of-concept)。 TRL 4 接續可行性研究之後，該技術元素應整合成具體元件，並以合適的驗證程序證明能達成原先設定的創新應用目標。 TRL 5 關鍵技術元件與其他支援元件整合為完整的系統/系系統/模組，在模擬或接近真實的場域驗證。需大幅提高技術元件驗證的可信度。 TRL 6 代表性的模型/雛形系統在真實的場域測試。展示可信度的主要階段。 TRL 7 實際系統的雛形品在真實的場域測試。驅使執行TRL7的目的已超越了技術研發，而是為了確認系統工程及研發管理的自信。 TRL 8 實際系統在真實的場域測試，結果符合設定之要求。代表所有技術皆已整合在此實際系統。 TRL 9 實際系統在真實場域達成目標。 參、技術成熟度應用 技術成熟度可以單純拿來衡量技術開發階段、可用來衡量技術開發風險、也可作為研發機構角色以及補助計畫定位的參考，以下說明。 一.技術成熟度用來衡量技術開發階段 這是技術成熟度最單純的應用方法，但因為每種技術領域都可其特殊的技術開發脈絡，所以可以根據NASA原有的技術成熟度，修改成貼近該技術領域需求的技術成熟度指標。目前有看過軟硬體TRL指標、綠能&能源TRL指標、ICT TRL指標、生醫(新藥、生物製劑、醫材)TRL指標等[5]。 二、技術成熟度用來管理技術研發風險 研究開發需投入大量的人力、物力，而研究成果的不確定性又很高，所以需要有良好的技術研發管理。技術成熟度對技術研發管理而言，是風險的概念，一般而言，TRL階段與技術風險是反向關係，也就是說TRL階段越高，技術風險越低[6]。 需要考慮的面向包括[7] ，(1)現在技術成熟度在哪一階段?以及我們投入研發後，希望達到的技術成熟度目標為何?(2)從現在的技術成熟度到專案需要的技術成熟度，要精進這項技術到底有多難?(3)這項特定技術如果開發成功，對於全面技術目標而言的重要性如何? 三、機構角色以及補助計畫定位 TRL指標可用來明確區分研發機構角色定位，例如工研院內部運用TRL指標做為技術判斷量化評估指標，並且工研院需將技術成熟度提升到TRL6或7，以克服技術面的問題，進行小型試量產，才能跨越死亡之谷讓業界接手商業化[8]。 TRL指標也可以用來區分補助計畫的標的範圍，例如美國國防部傾向投資TRL 4階段技術，美國國防部培養TRL4以及4以下的技術到TRL6階段，使得這些技術能更順利的進入技術市場，其原因在於TRL程度越低，成功商品化的不確定性以及風險就越高，而TRL4階段技術項目，是美國國防部可以承受的風險程度[9]。 肆、結論 TRL指標現在已被廣泛的運用在技術評估工作上，透過量化的指標，協助研發人員或是技術管理人員方便掌握每個技術開發案的現況，例如現在技術在TRL哪個階段，技術開發結束後，TRL預計會到達哪個階段。確定目標之後，就可以進一步評估這個計畫開發案的風險並評估組織需投入的資源。 TRL是一個簡易的技術評估指標，但如果要以此做出全面性的技術策略，似乎就還是有所不足，因此，可以再搭配其他技術評估變項，發展為全面性的技術風險管理評估指標，可能可以搭配技術開發困難度指標，用以評估TRL往上提升一級的困難度程度[10]，也可以搭配技術需求價值指標[11]，這項技術順利成功的話，對整個系統開發而言的價值高低，價值非常高的話，就值得花更多資源與人力去投資。 由此可知，應該可以積極運用TRL指標，用來評估政府技術補助計畫，協助大學技轉辦公室管理各研發團隊之技術開發進程，也可提供技術移轉潛在廠商清楚設定技術規格，減低技術供給方與技術需求方之間的認知差異，進而提升技術移轉成功率，也就可以拉近政府經費投入與研發成果產出的差距。 [1] 行政院國家科學委員會，行政院國家科學委員會102年年報，頁24、98(2013)，http://www.most.gov.tw/yearbook/102/bookfile/ch/index.html#98/z，最後瀏覽日2015/07/21。 [2] John C. Mankins, NASA, Technology Readiness Levels: A White Paper (1995). [3] id. [4] US DEPARTMENT OF DEFENSE (DoD), Technology Readiness Assessment (TRA) Guidance (2011), http://www.acq.osd.mil/chieftechnologist/publications/docs/TRA2011.pdf (last visited July 22, 2015). [5] Lewis Chen，＜Technology Readiness Level＞，工研院網站，http://www.sti.or.th/th/images/stories/files/(3)ITRI_TRL.pdf (最後瀏覽日：2015/07/22)。 [6] Ricardo Valerdi & Ron J. Kohl, An Approach to Technology Risk Management (2004), http://web.mit.edu/rvalerdi/www/TRL%20paper%20ESD%20Valerdi%20Kohl.pdf (last visited July 22, 2015). [7] John C. Mankins, Technology Readiness and Risk Assessments: A New Approach, ACTA ASTRONAUTICA, 65, 1213, 1208-1215 (2009). [8] 邱家瑜、蔡誠中、陳禹傑、高皓禎、洪翊恩，＜工研院董事長蔡清彥 以新創事業連結全球市場 開創屬於年輕人的大時代＞，台灣玉山科技協會，http://www.mjtaiwan.org.tw/pages/?Ipg=1007&showPg=1325 (最後瀏覽日：2015/07/22)。 [9] Ricardo Valerdi & Ron J. Kohl, Massachusetts Institute of Technology, An Approach to Technology Risk Management, http://web.mit.edu/rvalerdi/www/TRL%20paper%20ESD%20Valerdi%20Kohl.pdf (last visited July 21, 2015). [10] 同註7。 [11] 同註7。
歐盟於YouTube架設影音分享頻道EU Tube繼YouTube對美國總統大選的影響力逐漸受到各界矚目後，大西洋彼岸的歐盟執行委員會（European Commission），也漸體認到影音分享網站在商業應用外，對言論傳播乃至於政治活動之潛在影響。 有鑑於此，歐盟執行委員會甫於上月二十九日，於YouTube網站上增置一個名為 “EU Tube” 的視聽頻道，以做為歐盟（European Union）官方和歐洲公民間的溝通渠道。 關於此種利用線上影音分享網站作為政府資訊傳播和政策公開宣傳的創舉，有幾點值得國內注意。 首先，此一歐盟執行委員會與YouTube簽訂的頻道協議，乃是非專屬的協定。換言之，歐盟執行委員會仍可同時與其他網站或媒體簽訂類似之服務協議。其次，EU Tube之內容亦不僅限於硬性的政策或行動討論，而包含了從氣候變遷、能源議題到移民等各種公民相關事項，甚至有內容大膽的 ”Film Lovers Will Love This!” 的前衛影片。更有甚之，使用者對於不同影音檔點擊觀看次數（有數百萬人次與僅一千人次的差異）的資訊，也可作為日後進一步分析利用的原始資料。不過，雖然歐盟極力推動其內部之語言多樣性，目前既有的影片仍以英文為主。 歐盟發言人強調，納入YouTube等網站為對外溝通管道的作法，是為了盡可能擴大與歐盟公民的聯繫，但主要仍以易受YouTube吸引的年輕人為主。由此可見，網路網路對不同年齡層、世代的影響仍有差異，而公領域與影音分享網站日漸深化的關係，也考驗傳統媒體和政治互動的準則。
社群媒體發展網路不當言論管理機制之趨勢觀察