落實完善數位資料管理機制，有助於降低AI歧視及資料外洩風險
落實完善數位資料管理機制，
有助於降低AI歧視及資料外洩風險
資訊工業策進會科技法律研究所
2023年07月07日
近年來，科技快速發展，AI(人工智慧)等技術日新月異，在公私部門的應用日益廣泛，而且根據美國資訊科技研究與顧問公司Gartner在2023年5月發布的調查指出，隨著由OpenAI開發的ChatGPT取得成功，更促使各領域對於AI應用的高度重視與投入[1]，與此同時，AI歧視及資料外洩等問題，亦成為社會各界的重大關切議題。
壹、事件摘要
目前AI科技發展已牽動全球經濟發展，根據麥肯錫公司近期發布的《生成式人工智慧的經濟潛力：下一個生產力前沿(The next productivity frontier)》研究報告指出，預測生成式AI(Generative AI)有望每年為全球經濟增加2.6兆至4.4兆的經濟價值[2]。同時在美國資訊科技研究與顧問公司Gartner對於超過2500名高階主管的調查中，45%受訪者認為ChatGPT問世，增加其對於AI的投資。而且68%受訪者認為AI的好處大於風險，僅有5%受訪者認為風險大於好處[3]。然而有社會輿論認為AI的判斷依賴訓練資料，將可能複製人類偏見，造成AI歧視問題，而且若程式碼有漏洞或帳戶被盜用時，亦會造成資料外洩問題。
貳、重點說明
首先，關於AI歧視問題，以金融領域為例，近期歐盟委員會副主席Margrethe Vestager強調若AI用於可能影響他人生計的關鍵決策時，如決定是否能取得貸款，應確保申請人不受性別或膚色等歧視[4]，同時亦有論者認為若用於訓練AI的歷史資料，本身存有偏見問題，則可能導致系統自動拒絕向邊緣化族群貸款，在無形之中加劇，甚至永久化對於特定種族或性別的歧視[5]。
其次，關於資料外洩問題，資安公司Group-IB指出因目前在預設情況下，ChatGPT將保存使用者查詢及AI回應的訊息紀錄，若帳戶被盜，則可能洩露機敏資訊。據統計在2022年6月至2023年5月間，在亞太地區有近41000個帳戶被盜，而在中東和非洲地區有近25000個帳戶被盜，甚至在歐洲地區也有近17000個帳戶被盜[6]。另外在2023年3月時，ChatGPT除了發生部分用戶能夠檢視他人聊天紀錄標題的問題外，甚至發生個人資料外洩問題，即用戶可能知悉他人的姓名、電子郵件，付款地址，信用卡到期日及號碼末四碼等資料[7]。
參、事件評析
對於AI歧視及資料外洩等問題，應透過落實完善數位資料治理與管理機制，以降低問題發生的風險。首先，在收集訓練資料時，為篩選適合作為模型或演算法基礎的資料，應建立資料評估或審查機制，減少或避免使用有潛在歧視問題的資料，以確保分析結果之精確性。
其次，不論對於訓練資料、分析所得資料或用戶個人資料等，均應落實嚴謹的資料保密措施，避免資料外洩，如必須對於資料進行標示或分類，並依照不同標示或分類，評估及採取適當程度的保密措施。同時應對於資料進行格式轉換，以無法直接開啟的檔案格式進行留存，縱使未來可能不慎發生資料外洩，任意第三人仍難以直接開啟或解析資料內容。甚至在傳送帳戶登入訊息時，亦應採取適當加密傳送機制，避免遭他人竊取，盜取帳戶或個人資料。
財團法人資訊工業策進會科技法律研究所長期致力於促進國家科技法制環境完善，於2021年7月發布「重要數位資料治理暨管理制度規範（Essential Data Governance and Management System，簡稱EDGS）」，完整涵蓋數位資料的生成、保護與維護，以及存證資訊的取得、維護與驗證的流程化管理機制，故對於不同公私部門的AI相關資料，均可參考EDGS，建立系統性數位資料管理機制或強化既有機制。
本文同步刊登於TIPS網站（https://www.tips.org.tw）
[1]Gartner, Gartner Poll Finds 45% of Executives Say ChatGPT Has Prompted an Increase in AI Investment (May 3, 2023), https://www.gartner.com/en/newsroom/press-releases/2023-05-03-gartner-poll-finds-45-percent-of-executives-say-chatgpt-has-prompted-an-increase-in-ai-investment (last visited June 30, 2023).
[2]McKinsey, The economic potential of generative AI: The next productivity frontier (June 14, 2023), https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/the-economic-potential-of-generative-AI-the-next-productivity-frontier#introduction (last visited June 30, 2023).
[3]Gartner, supra note 1.
[4]Zoe Kleinman, Philippa Wain & Ashleigh Swan, Using AI for loans and mortgages is big risk, warns EU boss (June 14, 2023), https://www.bbc.com/news/technology-65881389 (last visited June 30, 2023).
[5]Ryan Browne & MacKenzie Sigalos, A.I. has a discrimination problem. In banking, the consequences can be severe (June 23, 2023), https://www.cnbc.com/2023/06/23/ai-has-a-discrimination-problem-in-banking-that-can-be-devastating.html (last visited June 30, 2023).
[6]Group-IB, Group-IB Discovers 100K+ Compromised ChatGPT Accounts on Dark Web Marketplaces; Asia-Pacific region tops the list (June 20, 2023), https://www.group-ib.com/media-center/press-releases/stealers-chatgpt-credentials/ (last visited June 30, 2023).
[7]OpenAI, March 20 ChatGPT outage: Here’s what happened (Mar. 24, 2023),https://openai.com/blog/march-20-chatgpt-outage (last visited June 30, 2023).
美國專利局日前核准美國Chromatin公司一項指標性專利，該專利係用在動植物細胞上，作為傳遞媒介的小染色體建構物（construction of mini-chromosomes as vectors for plant and animal cells），與使用基因工程小染色體創造轉基因植物的技術（techniques for creating transgenic plants using engineered mini-chromosomes）。這項專利的重要性並非針對特定的植物品種，而是使Chromatin公司在植物使用小染色體的技術上，取得的獨佔權利。 此項專利的技術最初由芝加哥大學的研究人員所開發，該校將技術專屬授權給Chromatin公司，並允許該公司為了商業目的進行轉授權（sublicense）。該公司在這方面的相關權利上，可謂積極進行佈局，並已經擁有超過40項，包括小染色體設計、傳遞與使用等方面的專利權、專利申請與發明。該項專利所描述的技術，可在植物中同時增添幾個基因（gene stacks），不但可節省研發時間，並可衍生具商業價值的新產品。此外，確認用作植物絲點（plant centromeres）的核酸序列，可使該公司在多種植物品種中，產生穩定的DNA構成物（stably inherited DNA）與小染色體。 Chromatin公司主要業務，為開發與銷售促使整個染色體經設計或經混合，而進入植物細胞之新穎技術。這些經過處理的染色體，在維持對基因表現作精確控制的狀況下，可同時將多功能的基因注入植物細胞中。Chromatin公司利用這些新基因工具來設計與銷售產品，這些產品可賦予植物更多的商業價值，包括改進養分與健康特性，在用途上則包括工業、農業與醫藥產品的開發。
挪威政府提案修改著作權法，將處罰把CD音樂複製成MP3檔案之行為為解決日益猖狂的網路侵權行為，挪威政府已提出著作權法修正草案，針對侵害著作權及網路盜版行為處以罰金及三年以下有期徒刑之刑責。其中最主要的就是要遏止破解DVD及CD之科技保護措施以及處罰提供軟硬體進行破解之行為。不過，在修正草案下，為個人使用之目的而複製CD或DVD之行為，即便在此過程中意味有破解科技保護措施之行為存在，仍不構成違法；但是，若破解科技保護措施而將CD歌曲轉換成MP3格式則構成侵權行為。 此一修正案的提出雖獲業界一致喝采，但是亦受到學者的抨擊，認為此修正案內容定義不清，完全無法執行。由於挪威國會預計於今年三、四月審查此案，若能順利過關，最快將於今年七月正式施行，不過未來如何發展，仍存在相當變數，值得追蹤觀察。
澳洲法院判決BRCA1基因專利部分無效澳洲高等法院(澳洲的最高司法機關)在10月7日時做出重要判決，認為單純從人類基因體分離出來的基因序列，不足以作為專利的申請標的。本案的原告是一名69歲曾罹患乳癌的女士，他向法院起訴請求法院宣告Myriad 基因公司所擁有的BRCA1基因專利中部分的專利範圍(claim)無效。BRCA1基因的突變(mutation)或特定的表型被認為與乳癌及卵巢癌的發生機率有關。在先前的審級，法院都判決被告勝訴，但高等法院推翻了先前的見解，以7票贊成0票反對的比數\判決原告的上訴有理由，Myriad基因公司的專利無效。本案由首席法官連同其餘三位法官提出多數意見，另外有兩份協同意見。 本案的主要爭點在於系爭專利是否符合澳洲1990年專利法(Patents Act 1990)中，對專利應屬於一種「生產方式」(manner of manufacture)的規定。多數意見認為系爭的專利範圍只是BRCA1基因的序列，這些資訊並非由人類所「製造」，而僅是由人類所辨別。因此這無法被視為是一種生產的方式，不符合專利法的相關要求。若要將其視為生產方式，則需要進一步擴張生產方式的概念範圍，不適合由法院進行判斷。同時法院認為這個專利可能造成寒蟬效應，使得與BRCA1相關的分離技術變得過於昂貴或形成事實上的壟斷狀態，也與專利法希望促進發明的初衷不符。最後，法院在確認澳洲對於是否應承認此類專利並無國際法上的義務後，宣告此專利無效。 澳洲的學界對此判決表示歡迎，認為此判決將使醫療人員執行職務時免於侵犯智慧財產權的恐懼。但澳洲的生技產業則認為這個判決可能會打擊相關的研究，造成負面影響。澳洲法院的判決與美國先前的判決見解相當類似，同時該判決也可能對於其他國家的類似案件發生影響。例如在加拿大的一個與罕見心臟疾病基因有關的官司，就很可能會受到本判決的影響也宣布該基因專利無效。
Ofcom於年度報告提出促進頻譜技術發展及創新建議英國通訊局（The Office of Communications, Ofcom）下設之頻譜諮詢委員會（Ofcom Spectrum Advisory Board, OSAB）於2024年10月10日發布「2023年度報告」（Annual Report 2023），為Ofcom提供頻譜管理重要議題及發展趨勢建議。 本報告具體討論內容如下： 1. 行動網路與Wi-Fi混合共享：OSAB支持探索混合共享選項，建議Ofcom於確認國內網路使用需求時，將資料傳輸巔峰時段及區域間使用差異列入考量，同時優先關注網路韌性，確保混合許可模式之可行性。 2. 頻譜管理永續性：使用高效能之無線基礎設施及技術，將有助英國達成淨零排放目標。以現有設施中使用之銅線技術為例，其運作過程耗能較高，若可改用光纖等更高效能設備，將有助降低能源消耗，故OSAB建議Ofcom制定獎勵措施，促進低效能設備汰換。 3. 6G標準制定：OSAB認為國際電信聯盟（International Telecommunication Union, ITU）6G發展願景與「第三代合作夥伴計畫」（3rd Generation Partnership Project, 3GPP）規劃之路線圖具一致性，故鼓勵Ofcom積極參與3GPP相關標準制定工作。 4. 共享近用執照（Shared Access Licences, SAL）框架發展：OSAB肯定SAL對創新監管之貢獻，並表示「擴增實境」（Augmented Reality, AR）和「虛擬實境」（Virtual reality, VR）等新技術之應用將增加SAL使用需求，建議Ofcom可推動SAL自動申請流程，提高工作效率。 綜上所述，OSAB建議Ofcom探索創新頻譜共享機制、加強國際影響力、提升國內使用者滿意度，以促進6G發展與產業創新。