> 媒體露出
返回列表
上一篇 新加坡智慧財產局研究顯示，智慧財產對於企業經營獲利的重要性 下一篇 美國環保署提出汽車廢氣排放新標準以加速電動汽車發展

落實完善數位資料管理機制，有助於降低AI歧視及資料外洩風險

落實完善數位資料管理機制，
有助於降低AI歧視及資料外洩風險

資訊工業策進會科技法律研究所
2023年07月07日

近年來，科技快速發展，AI(人工智慧)等技術日新月異，在公私部門的應用日益廣泛，而且根據美國資訊科技研究與顧問公司Gartner在2023年5月發布的調查指出，隨著由OpenAI開發的ChatGPT取得成功，更促使各領域對於AI應用的高度重視與投入[1]，與此同時，AI歧視及資料外洩等問題，亦成為社會各界的重大關切議題。

壹、事件摘要

目前AI科技發展已牽動全球經濟發展，根據麥肯錫公司近期發布的《生成式人工智慧的經濟潛力：下一個生產力前沿(The next productivity frontier)》研究報告指出，預測生成式AI(Generative AI)有望每年為全球經濟增加2.6兆至4.4兆的經濟價值[2]。同時在美國資訊科技研究與顧問公司Gartner對於超過2500名高階主管的調查中，45%受訪者認為ChatGPT問世，增加其對於AI的投資。而且68%受訪者認為AI的好處大於風險，僅有5%受訪者認為風險大於好處[3]。然而有社會輿論認為AI的判斷依賴訓練資料，將可能複製人類偏見，造成AI歧視問題，而且若程式碼有漏洞或帳戶被盜用時，亦會造成資料外洩問題。

貳、重點說明

首先，關於AI歧視問題，以金融領域為例，近期歐盟委員會副主席Margrethe Vestager強調若AI用於可能影響他人生計的關鍵決策時，如決定是否能取得貸款，應確保申請人不受性別或膚色等歧視[4]，同時亦有論者認為若用於訓練AI的歷史資料，本身存有偏見問題，則可能導致系統自動拒絕向邊緣化族群貸款，在無形之中加劇，甚至永久化對於特定種族或性別的歧視[5]。

其次，關於資料外洩問題，資安公司Group-IB指出因目前在預設情況下，ChatGPT將保存使用者查詢及AI回應的訊息紀錄，若帳戶被盜，則可能洩露機敏資訊。據統計在2022年6月至2023年5月間，在亞太地區有近41000個帳戶被盜，而在中東和非洲地區有近25000個帳戶被盜，甚至在歐洲地區也有近17000個帳戶被盜[6]。另外在2023年3月時，ChatGPT除了發生部分用戶能夠檢視他人聊天紀錄標題的問題外，甚至發生個人資料外洩問題，即用戶可能知悉他人的姓名、電子郵件，付款地址，信用卡到期日及號碼末四碼等資料[7]。

參、事件評析

對於AI歧視及資料外洩等問題，應透過落實完善數位資料治理與管理機制，以降低問題發生的風險。首先，在收集訓練資料時，為篩選適合作為模型或演算法基礎的資料，應建立資料評估或審查機制，減少或避免使用有潛在歧視問題的資料，以確保分析結果之精確性。

其次，不論對於訓練資料、分析所得資料或用戶個人資料等，均應落實嚴謹的資料保密措施，避免資料外洩，如必須對於資料進行標示或分類，並依照不同標示或分類，評估及採取適當程度的保密措施。同時應對於資料進行格式轉換，以無法直接開啟的檔案格式進行留存，縱使未來可能不慎發生資料外洩，任意第三人仍難以直接開啟或解析資料內容。甚至在傳送帳戶登入訊息時，亦應採取適當加密傳送機制，避免遭他人竊取，盜取帳戶或個人資料。

財團法人資訊工業策進會科技法律研究所長期致力於促進國家科技法制環境完善，於2021年7月發布「重要數位資料治理暨管理制度規範（Essential Data Governance and Management System，簡稱EDGS）」，完整涵蓋數位資料的生成、保護與維護，以及存證資訊的取得、維護與驗證的流程化管理機制，故對於不同公私部門的AI相關資料，均可參考EDGS，建立系統性數位資料管理機制或強化既有機制。

本文同步刊登於TIPS網站（https://www.tips.org.tw）

[1]Gartner, Gartner Poll Finds 45% of Executives Say ChatGPT Has Prompted an Increase in AI Investment (May 3, 2023), https://www.gartner.com/en/newsroom/press-releases/2023-05-03-gartner-poll-finds-45-percent-of-executives-say-chatgpt-has-prompted-an-increase-in-ai-investment (last visited June 30, 2023).

[2]McKinsey, The economic potential of generative AI: The next productivity frontier (June 14, 2023), https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/the-economic-potential-of-generative-AI-the-next-productivity-frontier#introduction (last visited June 30, 2023).

[3]Gartner, supra note 1.

[4]Zoe Kleinman, Philippa Wain & Ashleigh Swan, Using AI for loans and mortgages is big risk, warns EU boss (June 14, 2023), https://www.bbc.com/news/technology-65881389 (last visited June 30, 2023).

[5]Ryan Browne & MacKenzie Sigalos, A.I. has a discrimination problem. In banking, the consequences can be severe (June 23, 2023), https://www.cnbc.com/2023/06/23/ai-has-a-discrimination-problem-in-banking-that-can-be-devastating.html (last visited June 30, 2023).

[6]Group-IB, Group-IB Discovers 100K+ Compromised ChatGPT Accounts on Dark Web Marketplaces; Asia-Pacific region tops the list (June 20, 2023), https://www.group-ib.com/media-center/press-releases/stealers-chatgpt-credentials/ (last visited June 30, 2023).

[7]OpenAI, March 20 ChatGPT outage: Here’s what happened (Mar. 24, 2023),https://openai.com/blog/march-20-chatgpt-outage (last visited June 30, 2023).

你可能會想參加
※ 落實完善數位資料管理機制，有助於降低AI歧視及資料外洩風險， 資訊工業策進會科技法律研究所， https://stli.iii.org.tw/article-detail.aspx?d=9013&no=57&tp=1 （最後瀏覽日：2026/06/02）
引註此篇文章

梁景濠
副法律研究員  編譯整理

上稿時間：2023年07月
文章標籤
用手機閱讀及分享
推薦文章
你可能還會想看
加拿大提供App開發供應商指導方針解決因隱私保護所引發之問題。

　　App已成為多數人每日不可或缺之夥伴，其應用層面廣及食、衣、住、行、育、樂等生活領域；不過用戶可能多未意識到，在App程式的下載及安裝過程中，開發供應商會記錄或接觸使用者手機中如電話簿、照片、影音檔案、簡訊、密碼記錄等其他資訊之可能。根據華爾街日報報導，56%的應用程式在用戶不知情的情況下，手機ID會發送給廠商；47%的應用程式會透露用戶的所處位置，使得個人隱私蕩然無存。 　　加拿大當地的隱私法規要求企業在追求創新及企業精神時必須將隱私保護納入考量；而在行動裝置應用環境中，無論是開發商、服務供應商、應用平台或是廣告商，只要有接觸用戶個人資訊之可能，就有遵守法規之義務。但考量App這樣一個嶄新又快速發展的科技生態，在實踐隱私保護精神之初可能會面臨到新的衝擊與挑戰。因此，加拿大隱私權主管機關（Office of the Privacy Commissioner of Canada，簡稱OPC）乃會同加拿大境內的阿爾伯特及不列顛哥倫比亞兩省各自之地方主管機關（其分別為Office of the Information & Privacy Commissioner of Alberta及Office of the Information & Privacy Commissioner for British Columbia）撰寫指導文件，希望能提供當地App開發供應商建議方案。 　　該項建議方案促使行動軟體開發供應商在設計與開發App應用程式時必須顧及使用者隱私之保護，並提供協助方式與預防原則，提高使用者隱私受保護之程度；除必須使用清晰且易懂之方式告知用戶的個人資料將進行何種用途外，在使用者下載前亦應告知被蒐集之資料類別及原因、資料儲存位置或地點、資料分享之可能及其原因、資料保存之期限、及其他可能影響用戶隱私之事件；倘若廠商必須變更隱私政策與規定，則應使用明確易懂之方式事先通知所有使用者了解進行何項變更，以強化用戶隱私與個人資料保護意識。

 FCC將電力線寬頻上網（BPL, Broadband over Power Line）服務分類為資訊服務

　　FCC經過討論與投票，正式發佈命令將電力線寬頻上網服務分類為跨州資訊服務（interstate information service），而非電信服務，其他寬頻上網科技包括DSL、有線電纜線數據機寬頻上網亦被FCC分類為資訊服務。 　　過去幾年來，FCC一直大力支持電力線寬頻上網服務，期望電力線寬頻上網服務可以進入寬頻服務市場，與DSL和有線電視纜線數據機寬頻上網服務競爭，以增加寬頻服務市場之競爭，提高美國之寬頻普及率。而就此次所發佈之命令，FCC認為，將電力線寬頻上網分類為資訊服務將可使電力線寬頻上網服務受到較低的管制，有助於達成隨時隨地提供所有美國民眾寬頻接取之目標。其次，FCC在數位匯流時代之管制乃是期望能對於各種不同技術之寬頻接取平台給予一致的管制措施，並且對於相同之服務採取相同的管制方式。基於上述原因，FCC此次將電力線寬頻上網分類為資訊服務並不讓人感到意外。 　　FCC主席Kevin J. Martin進一步在其聲明中表示，雖然目前電力線寬頻上網人口並不多，然在2005年其成長率卻將近200％，顯見電力線寬頻上網服務之市場潛力不容忽視，將可幫助達成美國總統定下於2007年底前隨時隨地提供全國民眾寬頻網路接取之目標。

 南韓率先啟動5G頻譜競標

南韓率先啟動5G頻譜競標 資訊工業策進會科技法律研究所 法律研究員 陳芊儒 2018年11月25日 壹、事件摘要 　　2018年2月平昌冬奧期間，南韓為向全球展現5G超高速網路，南韓電信業者韓國電信（Korea Telecom, KT）透過英特爾（Intel）、Ericsson AB與三星電子之技術，聯合打造5G服務的應用場景[1]。在平昌冬奧的試驗以及多方經驗的累積下，南韓為進一步在起步中的5G產業享有話語權，其通訊主管機關「未來創造科學部」（Ministry of Science and ICT, MSIT）在5G的布局，與頻譜的釋照上更為積極，以令南韓成為全球第一個5G網路商用化國家[2]。 　　5G服務之使用與頻譜息息相關，為有利營運商打造5G應用，MSIT率先於2018年6月啟動3.5GHz與28GHz頻段之頻譜競標，並已於2018年6月18日順利結束[3]。由於我國通訊主管機關「國家通訊傳播委員會」（National Communications Commission, NCC）表示，台灣並非5G技術標準的制定者，而是「聰明的追隨者」[4]，是以，南韓此次5G頻譜釋照似可作為我國未來之借鏡。 貳、重點說明 一、5G頻段之特性 　　5G未來之主要使用情境有三：更大頻寬（Enhanced Mobile Broadband, eMBB）、海量連結（Massive Machine Type Communication, mMTC）、超低時延（Ultra Reliable & Low Latency Communication, URLLC）[5]。採用頻段上，為應付5G時代多樣化的使用情境，其推動需同時借助多個頻段，以同時達到超廣泛覆蓋與超高速率之目標。 　　考量6GHz以下之頻段（sub-6GHz）與24-100GHz的毫米波頻段（Millimeter Wave, mmWave）過往較未受到使用，可較輕易被分割用於5G網路上，因此頻譜之選用上亦以此為主。其中，除了24GHz以上之高頻段外，sub-6GHz可進一步分為sub-2GHz的低頻段頻譜，以及2-6GHz之中頻段頻譜[6]。 覆蓋層（Coverage Layer）：以sub-2GHz之低頻段為主（例如700MHz），以達到廣域與深度的室內網路覆蓋。 覆蓋與容量層（Coverage and Capacity Layer）：介於2-6GHz之中頻段，尤以3.5GHz頻段為代表，該頻段能在網路容量和覆蓋範圍之間取得最佳平衡，為全球首個5G商用的頻段。 超大容量層（Super Data Layer）：6GHz以上之高頻段（例如34.25-29.5GHz），用於滿足大容量、高速率的服務需求。 　　針對頻寬數額之分配，由於連續頻寬可降低載波聚合（Carrier Aggregation, CA）帶來的系統複雜性，還能提升能源效率，降低網路成本，因此營運商一般期望主管機關能釋出連續頻寬，以利5G網路之佈署。根據中國手機製造商華為2017年發布之「5G頻譜立場白皮書」（5G Spectrum: Public Policy Position），中頻段作為全球5G首商用的關鍵頻段，每個營運商應獲得至少100MHz的連續頻寬，毫米波方面，基於高頻度是為了進行大量的資料傳輸，對頻寬數額之要求更多，是以每個營運商應至少分配800MHz的連續頻段[7]。 二、南韓頻譜釋照政 （一）釋照政策之規劃 　　2018年3月，MSIT宣布於同年6月中進行首波5G頻譜拍賣，其後將日程訂於6月15日，標得之頻譜則會在拍賣後半年的12月1日正式生效，以順利於2019年3月推出5G商用[8]。在此背景下，南韓政府著手修訂基於《電波法》第45條所訂定的《電氣通信事業專用之無線設備技術基準》，由於上述無線設備基準僅規定4G，是以決議新設5G無線設備技術基準。藉由5G無線設備技術基準之規定，使得將來於南韓上市之5G無線設備，皆須符合南韓國家標準審議委員會（Korean Agency for Technology and Standards, KATS）訂定之國家標準統一標誌「KC認證」（Korea Certification Mark, KC Mark）[9]，從而確保5G基地台與終端設備間的接取狀況[10]。 　　釋出頻段方面，MSIT在2018年4月19日「2018年行動通訊頻率分配計畫討論會」中，確認於3.5GHz頻段（3.42-3.7GHz）釋出280MHz頻寬、28GHz頻段（26.5-28.9GHz）釋出2400MHz頻寬。其中，MSIT將3.5GHz頻段的280MHz頻寬分為28個區塊（block），每個區塊10MHz，執照使用期限為10年；28GHz頻段的2400MHz頻寬則分成24個區塊，每個區塊100MHz，執照使用期限為5年[11]。 　　中頻段與高頻段執照使用期限之所以不同，除了MSIT認為毫米波頻段之穩定度尚嫌不足外[12]，2019年的無線通訊大會（World Radiocommunication Conference 2019, WRC-19）預計將決定適合用於5G網路之毫米波頻段[13]，推論MSIT為快速因應WRC-19之決議，設定之高頻段執照使用期限因此較短。 　　針對拍賣之底標金額（opening price），MSIT設定為3.3兆韓元（約合31億美元）。3.5GHz頻段之底標價額則參考2016年4G頻譜的底標金額2.6兆韓元，設定為2.65兆韓元（約合24.6億美元），每MHz為94.8億韓元（約合878萬美元）。28GHz頻段之底標價額為6,216億韓元（約合5.7億美元），每MHz之價格則為2.59億韓元（約合24萬美元）[14]。 表 1 南韓5G頻譜釋照規劃 頻段 3.5GHz 280MHz頻寬) 28GHz 2400MHz頻寬) 使用期限 10年 5年 競標方式 一區塊10MHz 共28區塊 一區塊100MHz 共24區塊 競標底價 2.65兆韓元 (每MHz 94.8億韓元) 6,216億韓元 (每MHz 2.59億韓元) 資料來源：本研究整理 （二）頻譜分配總量限制 　　頻段配置上，由於3.5GHz頻段僅釋出280MHz，然南韓電信市場主要由SK Telecom（SKT）、KT與LG U+三家電信業者組成，是以引發了頻寬可能分配不均之疑慮。KT與LG U+期望能公平分配頻譜，以將電信業者之間的頻段差異極小化；SKT則渴望取得大量頻段，以保持其於南韓電信產業之領導地位[15]。 　　MSIT為避免發生特定業者獨占頻寬之情形，因此分別對3.5GHz與28GHz的頻寬分配設置了「總量限制」[16]。針對3.5GHz頻段之分配，MSIT原先提出100MHz、110MHz、120MHz等三個級距。然若將總量限制設定為120MHz，可能會造成二家業者取得120MHz，另一家業者卻僅獲得40MHz，而難以開展5G相關應用之情形。考量頻寬之平均分配，MSIT最終決議將100MHz作為電信業者可於3.5GHz頻段取得之資源上限，28GHz之總量限制則定為1000MHz[17]。 參、事件評析 一、南韓5G頻譜競標結果 　　2018年6月18日，在南韓啟動頻譜競標三天後順利結束，整體競標金額達到3.6183兆韓元（約合32.6億美元），高於3.3兆韓元的底標價額[18]。3.5GHz頻段分配上，SKT支付1.222兆韓元，取得介於3.6-3.7GHz的100MHz頻寬；KT支付9,680億韓元，取得介於3.5-3.6GHz的100MHz頻寬；LG U+由於規模較小，因此僅取得剩餘的80MHz，競標金額則為8,095億韓元。28GHz頻段分配，SKT、KT與LG U+皆在支付2,072至2,078億兆韓元間不等之競標價額後，取得800MHz頻寬[19]。 　　考量未來5G頻譜之規劃與釋出，為形成連續頻寬，電信業者莫不期望盡可能地取得3.5GHz以上，以及28GHz以下的頻譜資源。SKT與KT雖同樣在3.5GHz頻段取得100MHz頻寬，惟SKT為持續於5G產業占有領導地位，因此積極參與競標，並標得MSIT釋出頻段中最高者，成為此次頻譜競標的最大贏家，花費之競標價金是以大幅高於KT。LG U+則取得較不利於組成連續頻寬的3.42-3.5GHz頻段[20]。然以28GHz而言，三家電信業者皆取得高達800MHz之頻寬，將有利於電信業者開展服務，衝刺傳輸速率，也與華為所發布之「5G頻譜立場白皮書」相符。 　　必須注意的是，此次競標結果較底標金額高了3000億韓元，可見頻譜資源爭奪之激烈。惟以現階段而言，三大電信業者每年須繳交之4G頻譜使用費已相當高昂，屆時5G頻譜使用費更可能會超過2兆韓元。在頻率使用費、網路建設成本、設備維護費用居高不下的情況下，或將影響南韓5G生態體系的發展，造成未來商用化後的成本轉嫁至消費端，導致通訊費用抬升，消費者福利下降之結果[21]。 表 2 南韓電信業者標得之5G頻段 3.5GHz 28GHz Total SKT 100MHz(3.6-3.7GHz) 1.222兆韓元 800MHz(28.1-28.9GHz) 2,073億韓元 1.43兆韓元 KT 100MHz(3.5-3.6GHz) 9,680億韓元 800MHz(26.5-27.3GHz) 2,078億韓元 1.18兆韓元 LG U+ 80MHz(3.42-3.5GHz) 8,095億韓元 800MHz(27.3-28.1GHz) 2,072億韓元 1.02兆韓元 資料來源：本研究整理 二、我國5G頻譜釋照政策 （一）法規調適與整備 　　考量全球5G發展受到高度關注，且我國行動通訊數據傳輸量自2015年Q1至2018年Q1，已成長四倍。NCC密切關注國際5G頻譜、技術之標準演進與制定，並於2018年9月19日的第822次委員會議中，聽取「5G整備計畫辦理進度」，已加強辦理中長期階段的5G頻譜，進行基礎環境法規之調適與整備[22]。 　　在因應5G基礎環境法規調適之部分，NCC一方面會積極研議有助5G時代網路建設之相關監理法規措施，包括促進基地台普及建設、鬆綁基地台設置管制等。另一方面，《電信管理法》（草案）則給予未來電信事業之頻率得出租出借，以及基礎網路建設可選擇自建或租用之彈性空間，以達鼓勵新創事業參進電信市場之效[23]。 （二）研擬釋出頻段與釋照規劃 　　NCC綜合考量接軌國際、設備生態成熟度、市場秩序及提升頻譜使用效率等面向，業就高、中、低頻段，初步整備出首波擬供5G應用服務之頻段，分別為28GHz、3.5GHz、1-2.4GHz間頻段。NCC在完成3.5GHz中頻段的實際量測評估，並進行頻段既有服務之盤點與研議後，規劃釋出200MHz以上之頻寬。毫米波之頻段相對單純，初步規劃於28GHz釋出2GHz之頻寬[24]。 　　對於釋照時程，NCC表示除了會配合各階段頻譜資源整備到位，與現行頻譜屆期重整外，頻譜資源之分配及管理尚應本於公平、效率及維持市場競爭之原則辦理。目前NCC已辦理釋照前置研析工作，初步規劃在政策確定我國首波5G頻譜後，於2020年進行釋照[25]。 肆、結語 　　有鑑於第三代合作夥伴計畫（3rd Generation Partnership Project, 3GPP）已於2018年6月正式完成5G 通訊規範之制定，各國莫不積極投入5G商用化，南韓為保持其於通訊領域的領先地位，更成為全球首個同時釋出中頻段與高頻段之國家。是以，我國在研擬進行5G釋照時，似可借鑑南韓之案例，以使我國能在完備相關調適與準備之下，迎向行動寬頻新未來。 [1]Bloomberg, The PyeongChang Winter Olympics are Testing 5G: to Ward Off Wild Boars, Fortune (Feb. 13, 2018), http://fortune.com/2018/02/13/winter-olympics-2018-5g-networks/ (last visited Oct. 16, 2018). [2]鍾曉君，〈主要國家5G頻譜競拍態勢分析〉，資策會MIC，2018/04，https://mic.iii.org.tw/AISP/ReportS.aspx?id=CDOC20180430001（最後瀏覽日：2018/10/16）。 [3]Cho Mu-Hyun, South Korea Completes 5G Spectrum Auction, ZDNet (June 19, 2018, 3:31a.m.), https://www.zdnet.com/article/south-korea-completes-5g-spectrum-auction/ (last visited Oct. 16, 2018). [4]林厚勳，〈NCC「要做聰明的追隨者」 決定緩發5G頻譜執照，但這樣做真的聰明嗎？〉，TechOrange科技報橘，2018/09/18，https://buzzorange.com/techorange/2018/09/18/taiwan-5g-turn-around/（最後瀏覽日：2018/010/16）。 [5]Arnd Sibila, 5G Overview: Mobile Technologies and the Way to 5G, Rohde & Schwarz, at 13 (2017), https://cdn.rohde-schwarz.com/it/seminario/hi_technology_forum/Sibila_5G_Mobile_Technologies_and_the_way_to_5G.pdf (last visited Oct. 16, 2018). [6]Huawei, 5G Spectrum: Public Policy Position, at 2 (2017), https://www-file.huawei.com/-/media/CORPORATE/PDF/public-policy/public_policy_position_5g_spectrum.pdf?la=en (last visited Oct. 16, 2018). [7]Id. at 6. [8]Monica Alleven, South Korea Wraps 5G Auction for 3.5, 28GHz, Fierce Wireless (June 20, 2018, 6:05 p.m.), https://www.fiercewireless.com/wireless/south-korea-wraps-5g-auction-for-3-5-28-ghz (last visited Oct. 17, 2018). [9] e나라 표준인증，〈국가통합인증마크(KC)〉，https://standard.go.kr/KSCI/crtfcPotIntro/crtfcMarkIntro.do?menuId=541&topMenuId=536（最後瀏覽日：2018/10/19）。 [10]한국방송통신전파진흥원，〈전기통신사업용 무선설비 기술기준 일부 개정〉，2018/04/23，https://www.kca.kr/open_content/bbs.do?act=detail&msg_no=217&bcd=propagation（最後瀏覽日：2018/10/19）。 [11]Seo Ji-Eun, Science Ministry Plans 5G Frequency Auction, Korea Joongang Daily (Apr. 20, 2018), http://koreajoongangdaily.joins.com/news/article/article.aspx?aid=3047170 (last visited Oct. 17, 2018). [12]Id. [13]Attila Matas, WRC-19 Agenda Items and Challenges, ITU, at 13, https://www.itu.int/en/ITU-D/Regional-Presence/AsiaPacific/Documents/Events/2017/Aug-ISS2017/PAPER_S2_Workshop_Attila_Matas.pdf (last visited Oct. 17, 2018). [14]Joseph Waring, Korea Reveals Cost of 5G Spectrum, Mobile World Live (Apr. 20, 2018), https://www.mobileworldlive.com/asia/asia-news/korea-reveals-cost-of-5g-spectrum/ (last visited Oct. 17, 2018). [15]顏思涵，〈南韓即將進行5G頻譜競標 頻寬縮減引發分配爭議〉，Digitimes，2018/04/17，https://www.digitimes.com.tw/tech/dt/n/shwnws.asp?cnlid=1&cat=235&id=0000529269_0pp3ixi35b0973lbjuzk4&ct=1&wpidx=10（最後瀏覽日：2018/10/18）。 [16]Cho Mu-Hyun, South Korea’s 5G Spectrum Auction to Start at $3 Billion, ZDNet (Apr. 20, 2018, 4:02 a.m.), https://www.zdnet.com/article/south-koreas-5g-spectrum-auction-to-start-at-3-billion/ (last visited Oct. 17, 2018). [17]Cho Jin-Young, Korean Mobile Carriers Expected to Wage ‘War of Money’ in Frequency Auction, Business Korea (Apr. 4, 2018, 01:45 a.m.), http://www.businesskorea.co.kr/news/articleView.html?idxno=21453 (last visited Oct. 18, 2018). [18]Cho Mu-Hyun, supra note 3. [19]TeleGeography, MSIT Announces Results of 5G Spectrum Auction (June 19, 2018), https://www.telegeography.com/products/commsupdate/articles/2018/06/19/msit-announces-results-of-5g-spectrum-auction/ (last visited Oct. 18, 2018). [20]鍾曉君，前揭註2，頁3。 [21]同前註，頁4。 [22]國家通訊傳播委員會，〈國家通訊傳播委員會第822次委員會議 議程〉，2018/09/19，https://www.ncc.gov.tw/chinese/files/18091/66_40492_180918_1.pdf（最後瀏覽日：2018/10/19）。 [23]國家通訊傳播委員會，〈全球5G發展受到高度關注，國家通訊傳播委員會從國際觀察及國內議題不同面向，就頻譜整備、法規環境整備、垂直場域應用之整合、釋照規劃等進行研析討論並報告階段性進度，促使5G提升台灣數位經濟能量目標〉，2018/09/19，https://www.ncc.gov.tw/chinese/news_detail.aspx?site_content_sn=8&cate=0&keyword=&is_history=0&pages=1&sn_f=40500（最後瀏覽日：2018/10/19）。 [24]國家通訊傳播委員會，〈邁入行動寬頻新世紀，國家通訊傳播委員會以資源整備、法規調適、促進網路建設及鼓勵創新應用等面向與策略持續完被我國5G發展基礎環境。詹婷怡主委並利用出席2018年監理者論壇及第49屆年會的機會，與美國聯邦通信委員會主委Ajit Pai就5G發展策略進行意見討論，也說明行政院相當重視5G發展，將於十月底召開5G SRB會議凝聚共識〉，2018/10/12，https://www.ncc.gov.tw/chinese/news_detail.aspx?site_content_sn=8&cate=0&keyword=&is_history=0&pages=0&sn_f=40574（最後瀏覽日：2018/10/19）。 [25]同前註。

英國發布《AI保證介紹》指引，藉由落實AI保證以降低AI系統使用風險

英國發布《AI保證介紹》指引，藉由落實AI保證以降低AI系統使用風險 資訊工業策進會科技法律研究所 2024年03月11日 人工智慧（AI）被稱作是第四次工業革命的核心，對於人們的生活形式和產業發展影響甚鉅。各國近年將AI列為重點發展的項目，陸續推動相關發展政策與規範，如歐盟《人工智慧法》（Artificial Intelligence Act, AI Act）、美國拜登總統簽署的第14110號行政命令「安全可靠且值得信賴的人工智慧開發暨使用」（Executive Order on the Safe, Secure, and Trustworthy Development and Use of Artificial Intelligence）、英國「支持創新的人工智慧監管政策白皮書」（A Pro-innovation Approach to AI Regulation）（下稱AI政策白皮書）等，各國期望發展新興技術的同時，亦能確保AI使用的安全性與公平性。 壹、事件摘要 英國科學、創新與技術部（Department for Science, Innovation and Technology，DSIT）於2024年2月12日發布《AI保證介紹》（Introduction to AI assurance）指引（下稱AI保證指引），AI保證係用於評測AI系統風險與可信度的措施，於該指引說明實施AI保證之範圍、原則與步驟，目的係為讓主管機關藉由落實AI保證，以降低AI系統使用之風險，並期望提高公眾對AI的信任。 AI保證指引係基於英國政府2023年3月發布之AI政策白皮書提出的五項跨部會AI原則所制定，五項原則分別為：安全、資安與穩健性（Safety, Security and Robustness）、適當的透明性與可解釋性（Appropriate Transparency and Explainability）、公平性（Fairness）、問責與治理（Accountability and Governance）以及可挑戰性 與補救措施（Contestability and Redress）。 貳、重點說明 AI保證指引內容包含：AI保證之適用範圍、AI保證的三大原則、執行AI保證的六項措施、評測標準以及建構AI保證的五個步驟，以下將重點介紹上開所列之規範內容： 一、AI保證之適用範圍： （一）、訓練資料（Training data）：係指研發階段用於訓練AI的資料。 （二）、AI模型（AI models）：係指模型會透過輸入的資料來學習某些指令與功能，以幫助建構模模型分析、解釋、預測或制定決策的能力，例如GPT-4。，如GPT-4。 （三）、AI系統（AI systems）：係利用AI模型幫助、解決問題的產品、工具、應用程式或設備的系統，可包含單一模型或多個模型於一個系統中。例如ChatGPT為一個AI系統，其使用的AI模型為GPT-4。 （四）、廣泛的AI使用（Broader operational context）：係指AI系統於更為廣泛的領域或主管機關中部署、使用的情形。 二、AI保證的三大原則：鑒於AI系統的複雜性，須建立AI保證措施的原則與方法，以使其有效執行。 （一）、衡量（Measure）：收集AI系統運行的相關統計資料，包含AI系統於不同環境中的性能、功能及潛在風險影響的資訊；以及存取與AI系統設計、管理的相關文件，以確保AI保證的有效執行。 （二）、評測（Evaluate）：根據監管指引或國際標準，評測AI系統的風險與影響，找出AI系統的問題與漏洞。 （三）、溝通（Communicate）：建立溝通機制，以確保主管機關間之交流，包含調查報告、AI系統的相關資料，以及與公眾的意見徵集，並將上開資訊作為主管機關監理決策之參考依據。 三、AI保證的六項措施：主管機關可依循以下措施評測、衡量AI系統的性能與安全性，以及其是否符合法律規範。 （一）、風險評估（Risk assessment）：評測AI系統於研發與部署時的風險，包含偏見、資料保護和隱私風險、使用AI技術的風險，以及是否影響主管機關聲譽等問題。 （二）、演算法－影響評估（Algorithmic－impact assessment）：用於預測AI系統、產品對於環境、人權、資料保護或其他結果更廣泛的影響。 （三）、偏差審計（Bias audit）：用於評估演算法系統的輸入和輸出，以評估輸入的資料、決策系統、指令或產出結果是否具有不公平偏差。 （四）、合規性審計（Compliance audit）：用於審查政策、法律及相關規定之遵循情形。 （五）、合規性評估（Conformity assessment）：用於評估AI系統或產品上市前的性能、安全性與風險。 （六）、型式驗證（Formal verification）：係指使用數學方法驗證AI系統是否滿足技術標準。 四、評測標準：以國際標準為基礎，建立、制定AI保證的共識與評測標準，評測標準應包含以下事項： （一）、基本原則與術語（Foundational and terminological）：提供共享的詞彙、術語、描述與定義，以建立各界對AI之共識。 （二）、介面與架構（Interface and architecture）：定義系統之通用協調標準、格式，如互通性、基礎架構、資料管理之標準等。 （三）、衡量與測試方式（Measurement and test methods）：提供評測AI系統的方法與標準，如資安標準、安全性。 （四）、流程、管理與治理（Process, management, and governance）：制定明確之流程、規章與管理辦法等。 （五）、產品及性能要求（Product and performance requirements）：設定具體的技術標準，確保AI產品與服務係符合規範，並透過設立安全與性能標準，以達到保護消費者與使用者之目標。 五、建構AI保證的步驟（Steps to build AI assurance） （一）、考量現有的法律規範（Consider existing regulations）：英國目前雖尚未針對AI制定的法律，但於AI研發、部署時仍會涉及相關法律，如英國《2018年資料保護法》（Data Protection Act 2018）等，故執行AI保證時應遵循、考量現有之法律規範。 （二）、提升主管機關的知識技能（Upskill within your organisation）：主管機關應積極了解AI系統的相關知識，並預測該機關未來業務的需求。 （三）、檢視內部風險管理問題（Review internal governance and risk management）：須適時的檢視主管機關內部的管理制度，機關於執行AI保證應以內部管理制度為基礎。 （四）、尋求新的監管指引（Look out for new regulatory guidance）：未來主管機關將制定具體的行業指引，並規範各領域實踐AI的原則與監管措施。 （五）、考量並參與AI標準化（Consider involvement in AI standardisation）：私人企業或主管機關應一同參與AI標準化的制定與協議，尤其中小企業，可與國際標準機構合作，並參訪AI標準中心（AI Standards Hubs），以取得、實施AI標準化的相關資訊與支援。 參、事件評析 AI保證指引係基於英國於2023年發布AI政策白皮書的五項跨部會原則所制定，冀望於主管機關落實AI保證，以降低AI系統使用之風險。AI保證係透過蒐集AI系統運行的相關資料，並根據國際標準與監管指引所制定之標準，以評測AI系統的安全性與其使用之相關影響風險。 隨著AI的快速進步及應用範疇持續擴大，於各領域皆日益重要，未來各國的不同領域之主管機關亦會持續制定、推出負責領域之AI相關政策框架與指引，引導各領域AI的開發、使用與佈署者能安全的使用AI。此外，應持續關注國際間推出的政策、指引或指引等，研析國際組織與各國的標準規範，借鏡國際間之推動作法，逐步建立我國的AI相關制度與規範，帶動我國智慧科技產業的穩定發展外，同時孕育AI新興產應用的發展並打造可信賴、安全的AI使用環境。

最多人閱讀
Copyright © 2016 STLI,III. All Rights Reserved.
TOP
熱門主題
會員專區
熱門閱讀
稍後閱讀(0)