有別於金融科技(Fintech)著重於運用科技手段使金融服務變得更有效率,因而形成促進金融產業發展的一種經濟產業。在美國源於對2008年金融風暴的恐懼,更傾向在金融科技提升金融服務便利與效率的同時,倡議如何使行政機關在監理過程中更能夠兼顧公平、安全及消費者保護。消費者保障與洗錢防制是行政機關進行金融監理的兩大核心目標,而金融科技服務下的客戶身分核實、信用紀錄與償債能力查核等風險控管措施,在全球發展金融科技方興未艾之際,美國則積極發展監理科技「Regtech」。意指行政機關嘗試透過科技手段有效監理業者的營運動態,如區塊鏈技術(Block-Chain)改變銀行現行運作模式,不僅降低業者營運成本外,更透過科技監理的方式協助業者即時達成法令遵循的目標,縮短法令遵循改善的過渡期間,減輕風險產生的可能。同時,也讓行政機關得以即時預防,並因應任何類似2008年金融風暴之情事的發生。
本文為「經濟部產業技術司科技專案成果」
德國聯邦交通及數位基礎設施部(Bundesministerium für Verkehr und digitale Infrastruktur, BMVI)於2020年12月2日公布與道路安全資料工作組(Data Task Force for Road Safety)成員簽署多方協議,以促進交通資料於道路維運單位、聯網車、智慧基礎設施間傳輸交換,進而透過最新技術識別道路危險狀況,以提升交通安全。 道路安全資料工作組係由歐盟成員國、車輛製造商、相關應用服務提供商所組成的公私合營夥伴關係,其任務為透過政府與產業相關利益者之合作,促進道路安全性資料可跨品牌和跨國界共享,並於公平可靠的合作夥伴關係下,促進公平競爭。 而在多方協議中,歐盟成員國,道路交通管理單位,汽車製造商和供應商以及地圖服務提供商等成員,承諾進行長期資料交換,並於協議中定義如何在安全相關交通資訊(Safety Related Traffic Information, SRTI)生態系統內,以公平、可靠的方式近用相關資料,並規定合作夥伴於SRTI價值鏈中應扮演的角色與責任,和透過分享安全相關的的資料,進而提供安全性服務。而在簽署本協議前,已成功完成可行性研究,在2019年6月至2020年10月間,不斷地測試SRTI系統並交換共數百萬筆資料,包括危險事故現場、暫時性濕滑路面、視野受限、特殊天候狀況等資訊。而在初步測試報告指出,透過上述資料交換,可發出相關危險交通狀況警告,能迅速有效因應各狀況作出適當的決策。
落實完善數位資料管理機制,有助於降低AI歧視及資料外洩風險落實完善數位資料管理機制, 有助於降低AI歧視及資料外洩風險 資訊工業策進會科技法律研究所 2023年07月07日 近年來,科技快速發展,AI(人工智慧)等技術日新月異,在公私部門的應用日益廣泛,而且根據美國資訊科技研究與顧問公司Gartner在2023年5月發布的調查指出,隨著由OpenAI開發的ChatGPT取得成功,更促使各領域對於AI應用的高度重視與投入[1],與此同時,AI歧視及資料外洩等問題,亦成為社會各界的重大關切議題。 壹、事件摘要 目前AI科技發展已牽動全球經濟發展,根據麥肯錫公司近期發布的《生成式人工智慧的經濟潛力:下一個生產力前沿(The next productivity frontier)》研究報告指出,預測生成式AI(Generative AI)有望每年為全球經濟增加2.6兆至4.4兆的經濟價值[2]。同時在美國資訊科技研究與顧問公司Gartner對於超過2500名高階主管的調查中,45%受訪者認為ChatGPT問世,增加其對於AI的投資。而且68%受訪者認為AI的好處大於風險,僅有5%受訪者認為風險大於好處[3]。然而有社會輿論認為AI的判斷依賴訓練資料,將可能複製人類偏見,造成AI歧視問題,而且若程式碼有漏洞或帳戶被盜用時,亦會造成資料外洩問題。 貳、重點說明 首先,關於AI歧視問題,以金融領域為例,近期歐盟委員會副主席Margrethe Vestager強調若AI用於可能影響他人生計的關鍵決策時,如決定是否能取得貸款,應確保申請人不受性別或膚色等歧視[4],同時亦有論者認為若用於訓練AI的歷史資料,本身存有偏見問題,則可能導致系統自動拒絕向邊緣化族群貸款,在無形之中加劇,甚至永久化對於特定種族或性別的歧視[5]。 其次,關於資料外洩問題,資安公司Group-IB指出因目前在預設情況下,ChatGPT將保存使用者查詢及AI回應的訊息紀錄,若帳戶被盜,則可能洩露機敏資訊。據統計在2022年6月至2023年5月間,在亞太地區有近41000個帳戶被盜,而在中東和非洲地區有近25000個帳戶被盜,甚至在歐洲地區也有近17000個帳戶被盜[6]。另外在2023年3月時,ChatGPT除了發生部分用戶能夠檢視他人聊天紀錄標題的問題外,甚至發生個人資料外洩問題,即用戶可能知悉他人的姓名、電子郵件,付款地址,信用卡到期日及號碼末四碼等資料[7]。 參、事件評析 對於AI歧視及資料外洩等問題,應透過落實完善數位資料治理與管理機制,以降低問題發生的風險。首先,在收集訓練資料時,為篩選適合作為模型或演算法基礎的資料,應建立資料評估或審查機制,減少或避免使用有潛在歧視問題的資料,以確保分析結果之精確性。 其次,不論對於訓練資料、分析所得資料或用戶個人資料等,均應落實嚴謹的資料保密措施,避免資料外洩,如必須對於資料進行標示或分類,並依照不同標示或分類,評估及採取適當程度的保密措施。同時應對於資料進行格式轉換,以無法直接開啟的檔案格式進行留存,縱使未來可能不慎發生資料外洩,任意第三人仍難以直接開啟或解析資料內容。甚至在傳送帳戶登入訊息時,亦應採取適當加密傳送機制,避免遭他人竊取,盜取帳戶或個人資料。 財團法人資訊工業策進會科技法律研究所長期致力於促進國家科技法制環境完善,於2021年7月發布「重要數位資料治理暨管理制度規範(Essential Data Governance and Management System,簡稱EDGS)」,完整涵蓋數位資料的生成、保護與維護,以及存證資訊的取得、維護與驗證的流程化管理機制,故對於不同公私部門的AI相關資料,均可參考EDGS,建立系統性數位資料管理機制或強化既有機制。 本文同步刊登於TIPS網站(https://www.tips.org.tw) [1]Gartner, Gartner Poll Finds 45% of Executives Say ChatGPT Has Prompted an Increase in AI Investment (May 3, 2023), https://www.gartner.com/en/newsroom/press-releases/2023-05-03-gartner-poll-finds-45-percent-of-executives-say-chatgpt-has-prompted-an-increase-in-ai-investment (last visited June 30, 2023). [2]McKinsey, The economic potential of generative AI: The next productivity frontier (June 14, 2023), https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/the-economic-potential-of-generative-AI-the-next-productivity-frontier#introduction (last visited June 30, 2023). [3]Gartner, supra note 1. [4]Zoe Kleinman, Philippa Wain & Ashleigh Swan, Using AI for loans and mortgages is big risk, warns EU boss (June 14, 2023), https://www.bbc.com/news/technology-65881389 (last visited June 30, 2023). [5]Ryan Browne & MacKenzie Sigalos, A.I. has a discrimination problem. In banking, the consequences can be severe (June 23, 2023), https://www.cnbc.com/2023/06/23/ai-has-a-discrimination-problem-in-banking-that-can-be-devastating.html (last visited June 30, 2023). [6]Group-IB, Group-IB Discovers 100K+ Compromised ChatGPT Accounts on Dark Web Marketplaces; Asia-Pacific region tops the list (June 20, 2023), https://www.group-ib.com/media-center/press-releases/stealers-chatgpt-credentials/ (last visited June 30, 2023). [7]OpenAI, March 20 ChatGPT outage: Here’s what happened (Mar. 24, 2023),https://openai.com/blog/march-20-chatgpt-outage (last visited June 30, 2023).
美國國會將跟進加州與馬里蘭州 立法禁止商家禁止或限制消費者於評價網站上散佈負面評價看準消費者利用網路就其各別消費經驗進行評論的商機,不少業者紛紛提供專門作為消費評論的網路平台服務,例如美國最大評論網站yelp以及臺灣的「愛評網」等評論網站。然而,消費者若在網路上就其消費經驗對特定商家發表負面評論,難免對於商家的商譽或營業表現造成影響,因此部分商家試圖利用各種手段避免消費者於熱門評論網站中發表負面評論。最常見的手段為商家藉由其與消費者間的契約中加入「禁止負面評論約款」(Nondisparagement Clause),向發表負面評論的消費者或經營評價網站的業者主張其契約上的權利,但該作法也導致消費者與商家間的法律層出不窮。 較為人所知的爭議案例為,一間位於紐約市的酒店因至該酒店參加婚宴的顧客於Yelp等評論網站上留下諸多負面評價,該酒店即依據契約向使用場地舉辦婚宴的新婚夫妻, 以每一則負面評價500美元為計,收取一筆高額的賠償金。另有較特別的案例為,紐約市有一名牙醫師於其與診所病患間的契約中明訂授權約款,將任何病患可能於就診後作成的負面評價,以著作權授權的方式授予該名牙醫師,而該名牙醫師復以被授權人的身分,依據該契約向Yelp等消費評價網站主張刪除網站上針對其所營診所的相關負面評價。 因應愈來愈多的商家藉各種手段試圖限制消費者在熱門評價網站上發表負面的消費經驗或評論,加州議院於2014年9月正式表決通過並由該州州長簽署,於民法中增訂第1670.8條(California Civil Code §1670.8)之規定,使消費者發表消費評論之自由能夠受到更完整的保障。依據該法之規定,消費者有權對其所消費商品或服務的出賣人、出租人或其受僱人與代理人發表陳述(statement);若任何契約禁止或限制消費者發表與其消費經驗相關評論之權利,則該契約應屬無效。總檢察長(Attorney General)以下的檢察官或個案消費者可透過民事程序向違反該法律規定者起訴,法院最高可以將行為人處以初犯2500元美金以及累犯每次5000美元的罰款。 馬里蘭州議會亦於2016年2月表決通過於該州《商業法》(Commercial Law)中增訂14.1325條(MD. Comm. Law gcl. §14.1325),該州法規定與上述加州州法同樣保障消費者對其消費經驗加以評論之權利,且違反該法的行為人除了將負擔1000美元及累犯每次5000元美金的罰款之外,若構成輕罪(misdemeanor)則可能被處以一年以下的拘禁,且得併科1000美元罰金。 除了上述二州對保障消費者消費評論的法制加以強化之外,美國國會也正在進行相關的立法工作。聯邦參議院於2015年12月表決通過《2015年消費者評論自由法》(Consumer Review Act of 2015),該法案(H.R.2110, 114th Cong. (2015-2016))目前於聯邦眾議院的「工商業與貿易委員會」(Subcommittee on Commerce, Manufacturing, and Trade)中待審。該部聯邦法除了將使任何禁止或限制消費者以任何方法評論商品或服務的契約效力歸於無效之外,更禁止商家與消費者約定移轉任何關於消費經驗評論的智慧財產權。
FCC就電信轉接服務相關法規之適用發布命令1990 美國身障礙法要求 FCC 確保在合理的情況下,有聽覺或語言障礙人士都能夠接近使用 電信轉接服務 ( telecommunication relay services , TRS ) 。 TRS 的提供使有聽覺或語言障礙者得以能夠利用電信設施與其他人溝通,而這樣的溝通過程必須是在有受過訓練之通訊輔助人 (communication assistant , CA) 的協助方能夠完成。 CA 會負責交換使用各種不同輔助通訊裝置 ( 例如 TTY 或電腦 ) 者與使用語音電話者間的通訊。為了減少因為通訊轉換所造成的中斷以及為了使該通訊在功能上幾近等同於語音通訊, TRS 相關規定要求 CA 必須等待至少 10 分鐘後,方能將該筆通訊移轉給另一個 CA 。然而,此規則應用於影像轉接服務 (Video Relay Serices) 時,卻引發相關疑義,例如當發話端使用 ASL(American Sign Language ,美國手語 ) 時, VRS CA 可能會因為使用的手語系統的不同而不能夠正確地了解發話端的意思,因此最好的情況時,可以立即將該筆通訊移轉給另外一個 CA 處理。於此情況下, FCC 於 16 日所發布的命令 (Order) 中表示,考量通訊本身的效率性, CA 可以將通訊移轉給另一名 CA 處理,而不必等待至少 10 分鐘後才將該通訊轉出去。