落實完善數位資料管理機制, 有助於降低AI歧視及資料外洩風險 資訊工業策進會科技法律研究所 2023年07月07日 近年來,科技快速發展,AI(人工智慧)等技術日新月異,在公私部門的應用日益廣泛,而且根據美國資訊科技研究與顧問公司Gartner在2023年5月發布的調查指出,隨著由OpenAI開發的ChatGPT取得成功,更促使各領域對於AI應用的高度重視與投入[1],與此同時,AI歧視及資料外洩等問題,亦成為社會各界的重大關切議題。 壹、事件摘要 目前AI科技發展已牽動全球經濟發展,根據麥肯錫公司近期發布的《生成式人工智慧的經濟潛力:下一個生產力前沿(The next productivity frontier)》研究報告指出,預測生成式AI(Generative AI)有望每年為全球經濟增加2.6兆至4.4兆的經濟價值[2]。同時在美國資訊科技研究與顧問公司Gartner對於超過2500名高階主管的調查中,45%受訪者認為ChatGPT問世,增加其對於AI的投資。而且68%受訪者認為AI的好處大於風險,僅有5%受訪者認為風險大於好處[3]。然而有社會輿論認為AI的判斷依賴訓練資料,將可能複製人類偏見,造成AI歧視問題,而且若程式碼有漏洞或帳戶被盜用時,亦會造成資料外洩問題。 貳、重點說明 首先,關於AI歧視問題,以金融領域為例,近期歐盟委員會副主席Margrethe Vestager強調若AI用於可能影響他人生計的關鍵決策時,如決定是否能取得貸款,應確保申請人不受性別或膚色等歧視[4],同時亦有論者認為若用於訓練AI的歷史資料,本身存有偏見問題,則可能導致系統自動拒絕向邊緣化族群貸款,在無形之中加劇,甚至永久化對於特定種族或性別的歧視[5]。 其次,關於資料外洩問題,資安公司Group-IB指出因目前在預設情況下,ChatGPT將保存使用者查詢及AI回應的訊息紀錄,若帳戶被盜,則可能洩露機敏資訊。據統計在2022年6月至2023年5月間,在亞太地區有近41000個帳戶被盜,而在中東和非洲地區有近25000個帳戶被盜,甚至在歐洲地區也有近17000個帳戶被盜[6]。另外在2023年3月時,ChatGPT除了發生部分用戶能夠檢視他人聊天紀錄標題的問題外,甚至發生個人資料外洩問題,即用戶可能知悉他人的姓名、電子郵件,付款地址,信用卡到期日及號碼末四碼等資料[7]。 參、事件評析 對於AI歧視及資料外洩等問題,應透過落實完善數位資料治理與管理機制,以降低問題發生的風險。首先,在收集訓練資料時,為篩選適合作為模型或演算法基礎的資料,應建立資料評估或審查機制,減少或避免使用有潛在歧視問題的資料,以確保分析結果之精確性。 其次,不論對於訓練資料、分析所得資料或用戶個人資料等,均應落實嚴謹的資料保密措施,避免資料外洩,如必須對於資料進行標示或分類,並依照不同標示或分類,評估及採取適當程度的保密措施。同時應對於資料進行格式轉換,以無法直接開啟的檔案格式進行留存,縱使未來可能不慎發生資料外洩,任意第三人仍難以直接開啟或解析資料內容。甚至在傳送帳戶登入訊息時,亦應採取適當加密傳送機制,避免遭他人竊取,盜取帳戶或個人資料。 財團法人資訊工業策進會科技法律研究所長期致力於促進國家科技法制環境完善,於2021年7月發布「重要數位資料治理暨管理制度規範(Essential Data Governance and Management System,簡稱EDGS)」,完整涵蓋數位資料的生成、保護與維護,以及存證資訊的取得、維護與驗證的流程化管理機制,故對於不同公私部門的AI相關資料,均可參考EDGS,建立系統性數位資料管理機制或強化既有機制。 本文同步刊登於TIPS網站(https://www.tips.org.tw) [1]Gartner, Gartner Poll Finds 45% of Executives Say ChatGPT Has Prompted an Increase in AI Investment (May 3, 2023), https://www.gartner.com/en/newsroom/press-releases/2023-05-03-gartner-poll-finds-45-percent-of-executives-say-chatgpt-has-prompted-an-increase-in-ai-investment (last visited June 30, 2023). [2]McKinsey, The economic potential of generative AI: The next productivity frontier (June 14, 2023), https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/the-economic-potential-of-generative-AI-the-next-productivity-frontier#introduction (last visited June 30, 2023). [3]Gartner, supra note 1. [4]Zoe Kleinman, Philippa Wain & Ashleigh Swan, Using AI for loans and mortgages is big risk, warns EU boss (June 14, 2023), https://www.bbc.com/news/technology-65881389 (last visited June 30, 2023). [5]Ryan Browne & MacKenzie Sigalos, A.I. has a discrimination problem. In banking, the consequences can be severe (June 23, 2023), https://www.cnbc.com/2023/06/23/ai-has-a-discrimination-problem-in-banking-that-can-be-devastating.html (last visited June 30, 2023). [6]Group-IB, Group-IB Discovers 100K+ Compromised ChatGPT Accounts on Dark Web Marketplaces; Asia-Pacific region tops the list (June 20, 2023), https://www.group-ib.com/media-center/press-releases/stealers-chatgpt-credentials/ (last visited June 30, 2023). [7]OpenAI, March 20 ChatGPT outage: Here’s what happened (Mar. 24, 2023),https://openai.com/blog/march-20-chatgpt-outage (last visited June 30, 2023).
國際海事組織海事安全委員會決議於2025年前制定非強制性自駕船國際章程國際海事組織(International Maritime Organization,下稱IMO)於2022年4月20日至29日於線上召開為期9天的海事安全委員會(Maritime Safety Committee,下稱MSC)第105屆例會,會議重點係咸稱之自駕船——亦即海上自動化水面船舶(Maritime Autonomous Surface Ship,下稱MASS)之航行與操作規則。本屆會議總結並延續了MSC近年針對MASS的工作,包括2018年提出MASS實驗框架規範,以及2021年提出MASS法制框架評估等。本屆會議除了賡續規劃MASS的法制路線圖(Roadmap)外,鑒於船舶相關智慧科技快速發展,MSC決議於2025年之前,針對各級MASS制定非強制性(voluntary)之章程及規定後,蒐集各國的實務經驗與意見,再於2027年將其轉為強制性(mandatory)的規定,以於2028年生效並適用於IMO全體會員國。 部分會員國(例如日本)從造船技術出發,建議未來的MASS指南與規範內容應全面覆蓋船舶的設計、建造、系統、設備的功能要求。挪威則建議應按第103屆會議所盤點之法規,優先處理「人員」相關議題,包括船員、船長及遠端操作員的資格,以及當值與行為準則等。韓國則建議,即便是等級最高的全自駕船,亦不可能全面取代人為操作,因此MASS的法制應以「人機協同」為基礎,方能合乎SOLAS公約與IMO促進海上航行安全的目的及宗旨。最後,各國亦擬議將MASS規範優先適用於「貨船」,而非「客船」。本屆會議顯示IMO已加快MASS法制工作的進程並規劃具體之立法期程,我國除了在《無人載具科技創新實驗條例》建立的監理沙盒下已有兩件自駕船實驗案,未來勢必需要對接國際海事規範,航政機關實須提前因應及規劃。
溫室氣體減量法草案出爐 新廠成本支出大增京都議定書已於二月正式生效,本年底將開始討論新興國家的管制措施,環保署預期,台灣最快將在二 ○ 一二年後,與其他新興工業國家並列為下一波管制對象。為了因應京都議定書未來的要求,我國已完成溫室氣體減量法的立法草案。未來政府將啟動總量管制的強制措施,明定溫室氣體總量管制等多項強制規範;並賦予經濟部可依法禁止或限制高耗能產業設置,或限制高碳類燃料輸入。惟未來新設工廠排放量必須列為企業總量管制的應削減量,雖然允許企業可與其他部門或不同產業類別交易排放量,但因成本支出大增,企業界認為影響投資意願而反彈聲浪甚大。 根據這項法案,一定規模以上的溫室氣體排放源,應採用最佳防制設施,新增溫室氣體排放量須列為實施總量管制後的「應削減量」,並作為環境影響評估審查通過承諾事項。也就是說,石化、鋼鐵等高耗能產業新設廠房、生產線時,依法必須使用高效能技術或設備,因而產生的溫室氣體量,亦必須在企業總排放量內進行削減。 惟這項規定,產業界認為向市場或向能源服務公司購買排放權,對新設工廠將大幅增加成本支出,影響投資意願,在環保署內審議時反彈聲浪甚大。由於產業界反彈甚大,環保署不但延後送出法案審議,同時考慮明定以「基限年」作為新設工廠是否須先在企業總量管制內削減,而基限年則視國際對新興國家管制動作而定。 法案並規定當國際規範我國溫室氣體應削減量時,啟動總量管制措施,企業必須依法削減既存的排放量,企業可與其他住宅或運輸部門交易,也可在同一產業類別或跨產業類別進行抵換或交易。如果總量管制仍無法達到減量目標時,將進一步實施碳稅新制。
日本《小型無人機等飛行禁止法》修正案內閣官房副長官於2019年12月18日召集國土交通省、警察廳、經濟產業省、防衛省等相關主管機關,召開第9次「小型無人機相關府省廳聯絡會議」(小型無人機に関する関係府省庁連絡会議),並決議由內閣於2020年向國會提交《小型無人機於重要設施周邊地區上空飛行禁止法》(重要施設の周辺地域の上空における小型無人機等の飛行の禁止に関する法律,以下簡稱「小型無人機等飛行禁止法」)修正案,將重要國際機場及其周邊地區列為小型無人機的永久禁航區。 《小型無人機等飛行禁止法》之目的係禁止小型無人機於國家重要設施上空飛行,以防患於未然,並維護國政中樞機能和良好國際關係,以及確保公共安全。依該法第2條、第9條第1項之規定,小型無人機之禁航區域包含國會議事堂、內閣總理大臣官邸、其他國家重要設施等、外國領事館等、國防相關設施和核能電廠,以及設施周邊經指定之地區。 而在機場部分,為預防危險並確保大會能順利準備及營運,日本已透過《世界盃橄欖球賽特別措施法》(ラグビーW杯特措法)及《東京奧運暨帕運特別措施法》(東京五輪・パラリンピック特措法),將國土交通大臣指定之機場及其周圍300米地區增列為小型無人機禁航區,但僅為大會期間的暫時性措施。內閣考量小型無人機之飛行可能會影響機場功能運行,甚至對經濟帶來重大不良影響,欲透過《小型無人機等飛行禁止法》修正案,將該暫時性措施改為永久措施。