歐盟網路和資訊系統安全局（ENISA）
歐盟網路與資訊安全局（ENISA）成立於2004年，目的在於確保歐盟內部網路與資訊安全保持在最高水準，同時也為執行2016年8月生效之歐盟網路和資訊系統安全指令（NIS- Directive），提高歐洲的網路安全準備，以防止並抵禦網路安全事件措施。計有84名工作人員，共同運作位於希臘的兩個辦公室：Heraklion （2005年成立之總部）辦公室；與雅典辦公室（2013年成立），以提高該機構的運作效率。
ENISA在NIS指令的執行中扮演重要的角色，任務包括支援歐盟機構、會員國國與產業界，快速對網路威脅與資訊安全問題做出反應。它也被要求在執行任務中協助各國間成立的合作小組。此外，更透過指令要求ENISA協助成員國與執委會，提供他的專業意見和建議。
ENISA戰略有五個面向：
•提供關鍵網路設施和資訊安全問題之資訊和專業知識。
•制定和執行歐盟網路政策。
•建立歐盟間跨國支援能力。
•培育網路與資訊安全社群的網路演習、協調與支援。
•促進各國間的合作關係。
由於ENISA在建立之後網路發展情勢有顯著的演變，其任務和目標應該因應新發展做出調整，故歐盟執委會也在2017年1月開始重新審視其設立之法律依據以應對新情勢發展。
本文為「經濟部產業技術司科技專案成果」
- 零售業個資保護及資訊安全教育講習
- 零售業個資安全宣導暨安全維護計畫規劃說明會
- (已額滿)114年「企業營業秘密保護實務座談會」(北部場)–營業秘密因應數位環境之保護風險及管理對策
- 2025科技研發法制推廣活動— 科專個資及反詐騙實務講座(實體)
- 2025科技研發法制推廣活動— 科專個資及反詐騙實務講座(直播)
- 【台北場1】通訊傳播事業個資法遵教育訓練
- 【台中場】通訊傳播事業個資法遵教育訓練
- 【新北場】通訊傳播事業個資法遵教育訓練
- 【高雄場】通訊傳播事業個資法遵教育訓練
- 【台北場2】通訊傳播事業個資法遵教育訓練
- 114年「企業營業秘密保護實務座談會」（南部場）
- 114年「企業營業秘密保護實務座談會」（中部場）
- 114年資訊服務業者個資安維辦法宣導說明會
- 【線上】資訊服務業個資安維計畫說明會
- 【實體】資訊服務業個資安維計畫說明會暨交流工作坊
- 【台北場1】通訊傳播事業個資保護實務專題講座
- 【台北場2】通訊傳播事業個資保護實務專題講座
- 【台北場3】通訊傳播事業個資保護實務專題講座
- 金融相關資服業者線上個資安維宣導說明會
洪政緯
法律研究員 編譯整理
用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限 資訊工業策進會科技法律研究所 2023年09月08日 生成式AI是透過研究過去資料，以創造新內容和想法的AI技術，其應用領域包括文字、圖像及影音。以ChatGPT為例，OpenAI自2022年11月30日發布ChatGPT後，短短二個月內，全球月均用戶數即達到1億人，無疑成為民眾日常生活中最容易近用的AI科技。 惟，生成式AI大量使用後，其中的問題也逐漸浮現。例如，ChatGPT提供的回答僅是從所學習的資料中統整歸納，無法保證資料的正確性。Roberto Mata v. Avianca, Inc.案即是因律師利用ChatGPT撰寫訴狀，卻未重新審視其所提供判決之正確性，以致後續引發訴狀中所描述的判決不存在爭議。 壹、事件摘要 Roberto Mata v. Avianca, Inc.案[1]中，原告Roberto Mata於2019年8月搭乘哥倫比亞航空從薩爾瓦多飛往紐約，飛行過程中膝蓋遭空服員的推車撞傷，並於2022年2月向法院提起訴訟，要求哥倫比亞航空為空服員的疏失作出賠償；哥倫比亞航空則主張已超過《蒙特婁公約》（Montreal Convention）第35條所訂之航空器抵達日起兩年內向法院提出損害賠償之請求時效。 R然而，法院審理過程中發現原告訴狀內引用之六個判決無法從判決系統中查詢，進而質疑判決之真實性。原告律師Steven A. Schwartz因而坦承訴狀中引用的六個判決是ChatGPT所提供，並宣稱針對ChatGPT所提供的判決，曾多次向ChatGPT確認該判決之正確性[2]。 貳、生成式AI應用之潛在風險 雖然運用生成式AI技術並結合自身專業知識執行特定任務，可能有助於提升效率，惟，從前述Roberto Mata v. Avianca, Inc.案亦可看出，依目前生成式AI技術之發展，仍可能產生資訊正確性疑慮。以下彙整生成式AI應用之8大潛在風險[3]： 一、能源使用及對環境危害 相較於傳統機器學習，生成式AI模型訓練將耗費更多運算資源與能源。根據波士頓大學電腦科學系Kate Saenko副教授表示，OpenAI的GPT-3模型擁有1,750億個參數，約會消耗1,287兆瓦/時的電力，並排放552噸二氧化碳。亦即，每當向生成式AI下一個指令，其所消耗的能源量相較於一般搜尋引擎將可能高出4至5倍[4]。 二、能力超出預期（Capability Overhang） 運算系統的黑盒子可能發展出超乎開發人員或使用者想像的隱藏功能，此發展將會對人類帶來新的助力還是成為危險的阻力，則會隨著使用者之間的相互作用而定。 三、輸出結果有偏見 生成式AI通常是利用公開資料進行訓練，若輸入資料在訓練時未受監督，而帶有真實世界既存的刻板印象（如語言、種族、性別、性取向、能力、文化等），據此建立之AI模型輸出結果可能帶有偏見。 四、智慧財產權疑慮 生成式AI進行模型訓練時，需仰賴大量網路資料或從其他大型資料庫蒐集訓練資料。然而，若原始資料來源不明確，可能引發取得資料未經同意或違反授權條款之疑慮，導致生成的內容存在侵權風險。 五、缺乏驗證事實功能 生成式AI時常提供看似正確卻與實際情形不符的回覆，若使用者誤信該答案即可能帶來風險。另外，生成式AI屬於持續動態發展的資訊生態系統，當產出結果有偏誤時，若沒有大規模的人為干預恐難以有效解決此問題。 六、數位犯罪增加與資安攻擊 過去由人工產製的釣魚郵件或網站可能受限於技術限制而容易被識破，然而，生成式AI能夠快速建立具高度說服力的各種擬真資料，降低詐騙的進入門檻。又，駭客亦有可能在不熟悉技術的情況下，利用AI進一步找出資安弱點或攻擊方法，增加防禦難度。 七、敏感資料外洩 使用雲端服務提供商所建立的生成式AI時，由於輸入的資料存儲於外部伺服器，若要追蹤或刪除有一定難度，若遭有心人士利用而導致濫用、攻擊或竄改，將可能產生資料外洩的風險。 八、影子AI（Shadow AI） 影子AI係指開發者未知或無法控制之AI使用情境。隨著AI模型複雜性增加，若開發人員與使用者未進行充分溝通，或使用者在未經充分指導下使用 AI 工具，將可能產生無法預期之風險。 參、事件評析 在Roberto Mata v. Avianca, Inc.案中，法院關注的焦點在於律師的行為，而非對AI技術使用的批判。法院認為，隨著技術的進步，利用可信賴的AI工具作為協助用途並無不當，惟，律師應踐行其專業素養，確保所提交文件之正確性[5]。 當AI科技發展逐漸朝向自主與獨立的方向前進，仍需注意生成式AI使用上之侷限。當個人在使用生成式AI時，需具備獨立思考判斷的能力，並驗證產出結果之正確性，不宜全盤接受生成式AI提供之回答。針對企業或具高度專業領域人士使用生成式AI時，除確認結果正確性外，更需注意資料保護及治理議題，例如建立AI工具合理使用情境及加強員工使用相關工具之教育訓練。在成本能負擔的情況下，可選擇透過企業內部的基礎設施訓練AI模型，或是在訓練模型前確保敏感資料已經加密或匿名。並應注意自身行業領域相關法規之更新或頒布，以適時調整資料使用之方式。 雖目前生成式AI仍有其使用之侷限，仍應抱持開放的態度，在技術使用與風險預防之間取得平衡，以能夠在技術發展的同時，更好地學習新興科技工具之使用。 [1]Mata v. Avianca, Inc., 1:22-cv-01461, (S.D.N.Y.). [2]Benjamin Weiser, Here’s What Happens When Your Lawyer Uses ChatGPT, The New York Times, May 27, 2023, https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html (last visited Aug. 4, 2023). [3]Boston Consulting Group [BCG], The CEO’s Roadmap on Generative AI (Mar. 2023), https://media-publications.bcg.com/BCG-Executive-Perspectives-CEOs-Roadmap-on-Generative-AI.pdf (last visited Aug. 29, 2023). [4]Kate Saenko, Is generative AI bad for the environment? A computer scientist explains the carbon footprint of ChatGPT and its cousins, The Conversation (May 23, 2023.), https://theconversation.com/is-generative-ai-bad-for-the-environment-a-computer-scientist-explains-the-carbon-footprint-of-chatgpt-and-its-cousins-204096 (last visited Sep. 7, 2023). [5]Robert Lufrano, ChatGPT and the Limits of AI in Legal Research, National Law Review, Volume XIII, Number 195 (Mar. 2023), https://www.natlawreview.com/article/chatgpt-and-limits-ai-legal-research (last visited Aug. 29, 2023).
高通案發展趨勢－美國聯邦地院判決與我國公平會和解決定高通案發展趨勢－美國聯邦地院判決與我國公平會和解決定 財團法人資訊工業策進會科技法律研究所 許祐寧 法律研究員 2019年09月10日 壹、前情提要 美國高通公司擁有大量標準必要專利（Standard Essential Patent, SEP），並運用三大商業模式（拒絕授權競爭對手、沒授權沒晶片、排他性獨家交易），對於行動通訊市場產生強大影響力，進而引發獨占甚至壟斷市場之疑慮，包括中國大陸、韓國、美國、歐盟等國際競爭主管機關，相繼對高通商業模式展開調查，近期多數國家已做出初步決定。 我國部分，2017年10月11日，公平交易委員會（簡稱公平會）以高通濫用市場支配地位，裁罰234億台幣；2018年8月10日，公平會旋即以產業經濟發展為由，與高通達成和解。而近期美國聯邦地方法院，針對美國聯邦貿易委員會（Federal Trade Commission, FTC）控訴高通違反反托拉斯規則作出第一審判決，認定高通商業模式違法並要求改正。本文以下針對我國及美國高通案近來判決走向為分析，提供SEP與反托拉斯法制及產業經濟發展政策面向的相關思考。 貳、我國高通案近來走向 2018年8月10日，我國公平會與高通達成訴訟上和解，高通並承諾在臺進行5年產業投資方案。和解內容中，針對手持設備廠，高通應本於善意重新協商授權條款、遵守行動通訊SEP授權之無歧視性待遇，降低整隻授權計價，以維持我國產品的國際競爭力；然而晶片廠部分，高通雖承諾不再簽署獨家交易之折讓約定，但實際上，我國和解案並未改變高通授權模式，高通仍無須授權晶片予競爭對手，商業模式未被打破。[1] 對於我國公平會的和解決定，各界有不同意見。立法院於2018年9月的立法院報告指出：「公平會職司管制及維護市場競爭秩序，主要權限在公平法案件之調查、審議及處分等；如確要促進投資、提升產業及技術發展，似應由各該主管機關另循其他途徑」[2]。監察院更於2019年5月21日，對公平會提起糾正，理由為公平會於高通案「過度介入市場機制，且以投資換罰鍰違反不當聯結禁止原則，和解磋商僅4個月完成，歷程倉促，未公開透明」[3]。 針對各界意見公平會發表聲明，強調以訴訟和解方式解決爭議，兼顧競爭機制的正常運作及促進產業經濟利益，並提出四項說明：（1）公平會與高通和解，是依法行使行政訴訟法所賦予的權利。（2）公平會為合議制獨立機關，監察院應尊重公平會和解專業判斷。（3）本案和解決定兼顧競爭機制與產業經濟利益。（4）政府將持續監督高通對產業投資方案的執行情況，5年執行期間內持續進行追蹤管考，維護市場競爭機制及廠商權益。[4] 參、美國聯邦地方法院高通案見解 2019年5月21日美國加州北區聯邦地方法院對高通案做出判決，認定高通商業模式侵害晶片競爭對手、手持設備廠及終端消費者權益，違反反托拉斯規則，要求七年內完成改正措施：（1）高通必須與客戶重談授權協議，不得以威脅切斷供貨等手段從事不公平競爭。（2）應以公平合理價格向其他競爭晶片廠商授權專利。（3）禁止和蘋果等智慧手機廠商簽訂排他性獨家供貨協議。[5]對此，高通表示不服，認為法院判決將引發「嚴重法律問題」，且法院排除2018年3月截止後的證據（例如蘋果改用英特爾，顯示高通並未箝制市場等），該判決已嚴重影響高通業務之執行，必將積極上訴救濟。[6] 針對美國聯邦地方法院判決，亦有不同看法。2019年7月16日美國司法部反托拉斯署對聯邦地院高通案判決發表聲明，以高通仍有勝訴可能為由，請求高通案暫緩執行。首先，聯邦地院判決高通濫用市場地位一案實不利競爭、創新與國家安全，判決容有質疑空間：包括授權金過高與反托拉斯違反間無直接關聯性、FRAND並非強制授權義務、高通並無惡意破壞競爭之行為等。再者，聯邦地院未舉行聽證會，卻要求高通支付鉅額損害賠償金，程序上未有保障。最後，是公共利益考量，美國國防部與能源部亦對此擬具建議文件，共同強調高通在美國5G供應鏈與國家資通訊安全發展的重要性。[7] 肆、評析 美國聯邦地院對高通案判決，支持先前美國FTC對高通指控，認定高通商業模式違反反托拉斯法；但美國司法部及相關部會因5G產業發展、中美貿易戰及國家資通訊安全等理由主張應維護高通，高通是否會在美國敗訴進而改變商業模式，重塑全球資通訊產業市場布局，未來仍應被持續關注。 至於我國公平會與高通和解部分，最大爭議在於，公平會作為維護市場競爭的獨立機關，何以產業經濟發展為由，逕行與高通達成和解？對此，依據公平交易法第1條，公平交易相關法制的訂定，包含維護交易秩序與消費者利益、確保自由與公平競爭，促進經濟之安定與繁榮等面向；產業經濟發展未嘗不是公平競爭秩序的考量要素之一。 另有論者質疑，美國聯邦地院判決，會不會使我國公平會的訴訟和解結果顯得不合理？且各國高通訴訟案部份尚在進行，公平會是否有必要迅速與高通達成和解？反托拉斯案講求市場特性與個案判斷，必須依照各別市場產業模式判斷高通的商業模式是否會侵害市場競爭秩序、剝奪消費者選擇機會。故各國競爭主管機關應依據案件事實與市場競爭進行判斷，結果自有不同不可一概而論。公平會與高通既已達成訴訟上和解，僅代表我國競爭主管機關認定，高通商業模式依照和解條件改正後不致侵害市場公平競爭與消費者權益，並期待以投資產業換取5G研發布局合作機會。未來，依據我國公平會與高通的和解條件，應持續追蹤並督促高通確實履行對臺產業投資方案等相關計畫。[8] [1]〈本會與Qualcomm Incorporated於智慧財產法院合議庭試行和解下，達成訴訟上和解〉，公平交易委員會新聞資料，2018年8月10日，https://www.ftc.gov.tw/internet/main/doc/docDetail.aspx?uid=126&docid=15551（最後瀏覽日：2019/09/23）。 [2]〈公平會處分高通案成立訴訟和解內容所涉權限之研析〉，立法院議題研析，2018年9月4日，https://www.ly.gov.tw/Pages/Detail.aspx?nodeid=6590&pid=173380（最後瀏覽日: 2019/09/23）。 [3]〈監察委員新聞稿〉，監察院，108年5月21日，https://www.cy.gov.tw/sp.asp?xdURL=./di/Message/message_1t2.asp&ctNode=2394&mp=1&msg_id=7111（最後瀏覽日: 2019/09/23）。 [4] 〈高通案和解遭糾正，公平會：兼顧競爭與產業利益〉，中央社，2019年05月30 日，https://money.udn.com/money/story/5612/3842772（最後瀏覽日: 2019/09/23）。 [5] FEDERAL TRADE COMMISSION v. QUALCOMM INCORPORATED, Case No. 17-CV-00220-LHK(2019). [6] Qualcomm Strongly Disagrees with Ruling in FTC Case and Will Seek Immediate Stay and Appeal of Ruling, Qualcomm, May 22, 2019, https://www.qualcomm.com/news/releases/2019/05/22/qualcomm-strongly-disagrees-ruling-ftc-case-and-will-seek-immediate-stay (last visited Sep. 23, 2019). [7] UNITED STATES' STATEMENT OF INTEREST CONCERNING QUALCOMM'S MOTION FOR PARTIAL STAY OF INJUNCTION PENDING APPEAL, U.S. Department of Justice, July 16, 2019, https://www.justice.gov/atr/case-document/369345 (last visited Sep.23, 2019). [8]〈回應有關立法院國民黨團召開「公平會遭監察院糾正」記者會一事公平會說明〉，公平交易委員會新聞資料，108年5月23日，https://www.ftc.gov.tw/internet/main/doc/docDetail.aspx?uid=126&docid=15886（最後瀏覽日: 2019/09/23）。
歐盟電子通訊市場之事前管制與界定 美國國家標準暨技術研究院規劃建立「人工智慧風險管理框架」，並徵詢公眾對於該框架之意見美國國家標準暨技術研究院（National Institute of Standards and Technology, NIST）為管理人工智慧對於個人、組織以及社會所帶來之風險，於2021年7月29日提出將建立「人工智慧風險管理框架」（Artificial Intelligence Risk Management Framework, AI RMF）之規畫並徵詢公眾意見，截止日為9月15日，並預計於10月發布正式報告。 依照NIST說明，公眾所建議之人工智慧風險管理框架，可促進人工智慧之可信賴性，其中包含如何應對並解決人工智慧於設計、發展及使用過程中所遭遇之「精確度」（accuracy）、「可解釋性」（explainability）、「偏見」（bias）等議題。此外，上開管理框架預計為非強制性、供企業自願性使用於人工智慧設計、發展、使用、衡量及評估之人工智慧標準。 依現有公眾意見徵詢結果，其中DeepMind公司建議於人工智慧設計初期，必須預先構思整體系統之假設是否符合真正社會因果關係。舉例言之，當設計一套可預測民眾健保需求程度之系統時，如輸入參數僅考量民眾於醫療上的花費，將使僅有可負擔較高醫療費用之民眾被歸類為健保需求程度較高者，從而導致健保制度排擠經濟負擔程度較差之公民，故在設計系統時，應從預先設定之假設事實反面（counter-factual）思考並驗證是否會產生誤差或公平性之問題（例如預先思考並驗證「醫療費用支出較低之民眾是否即可被正確歸類為健保需求度低之民眾」）。惟進行上述驗證需要大量社會資料，因此DeepMind也建議NIST應建立相關機制，使這些社會資料可以被蒐集、使用。 此外，亦有民眾建議管理框架應有明確之衡量方法以及數值指標，以供工程界遵循。同時鑒於人工智慧發展極為快速，未來可能有不同於以往之人工智慧類型出現，故亦建議NIST應思考如何在「建構一套完整且詳細之人工智慧治理框架」與「保持人工智慧治理框架之彈性與靈活性」之間取得平衡。 最後，目前也有許多徵詢意見指出，許多人工智慧治理之目標會相互衝突。舉例言之，當NIST要求人工智慧系統應符合可解釋性，則人工智慧公司勢必需要經常抽取人工智慧系統中之「數據軌跡」（audit logs），惟數據軌跡可能被認為是使用者之個人資料，因此如何平衡或完善不同治理框架下之目標，為未來應持續關注之議題。