資通安全法律案例宣導彙編 第3輯
德國聯邦政府目標擬定於2020年實現高度自動化駕駛，為達成自動駕駛目標，車聯網（Connected driving）及智慧交通系統（Intelligent transport systems）技術成為必要發展工作項目。車聯網即透過無線通訊技術，使車輛間（Vehicle-to-Vehicle, V2V）或車輛對基礎設施 （Vehicle-to-Infrastructure, V2I）等彼此交換訊息，或是將行車資訊傳輸到伺服器，並透過資訊網路平臺將資料整合利用，並依不同功能需求進行有效監控管理和提供綜合服務。未來，可預見道路使用者的個別交通資訊的質與量將大幅提升，無論是部份自動駕駛或高度自動駕駛，將產生龐大資料量，故系統需要即時迅速的運算能力。例如，前方一旦發生車禍事故，必須通知後方自動模式駕駛車輛即時減緩速度，並適時轉由駕駛人員介入操控。 自動化及車聯網駕駛發展係為跨領域之問題，聯邦政府即針對五大領域問題：基礎設施、法規、創新研發、聯網化、資訊安全及資料保護，提出一連串作法及措施，確保德國汽車產業能保持領先地位。 我國資通訊及汽車零件產業具備技術相對優勢，然應就適合我國車聯網之實際需求發展，促進相關產業創新應用，並利用我國產業優勢與國際接軌，讓台灣在車聯網的發展中取得先機。
日本公平交易委員會就反托拉斯法下之智慧財產權之利用指南為部分修正於2016年1月21日，日本公平交易委員會(Japan Fair Trade Commission，下稱JFTC)公布了修正後的「反托拉斯法下之智慧財產權之利用指南(Guidelines for the Use of Intellectual Property under the Antimonopoly Act)」，就有關標準必要專利權利行使有無違反反托拉斯法之相關問題進一步為解釋，俾利往後企業為商業行為時之參考。以下為其修正概要：一、當標準必要專利權人同意依據FRAND原則授權時，其若再提出訴訟要求排除有意願取得授權者(willing licensee)為該標準必要專利權之利用或是拒絕授權與有意願取得授權者時，該行為會被認定違反反托拉斯法。二、基於一般商業行為所為並善意進行商業談判者，會被認定屬有意願取得授權者(willing licensee)，不論其之後是否就該專利有效性為爭執，或是對該專利是否屬實質必要專利為爭執。三、阻止他公司運用該專利進行研究、發展或販賣產品會被認定為不正商業行為，不論該行為是否在商品市場上產生限制競爭或獨占之結果。 JFTC為了釐清行使智慧財產權時所可能面臨是否違反反托拉斯法之相關問題，於西元(下同)2007年9月8日發布「反托拉斯法下之智慧財產權之利用指南(Guidelines for the Use of Intellectual Property under the Antimonopoly Act)」與「標準化與專利池協定指南(Guidelines on Standardization and Patent Pool Arrangements)」。標準必要專利(SEP)之相關爭議原則需依這些指南為判定，但這些指南對於一些表面上屬於權利行使(例如：標準必要專利之權利人所提起之侵權訴訟)的行為定性所提供的解釋卻十分有限。因此JFTC決定修改專利指南，並且公布草案予各方利害關係人表示意見，此乃JFTC於斟酌所得之各方意見後，所為之修正。
用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限 資訊工業策進會科技法律研究所 2023年09月08日 生成式AI是透過研究過去資料，以創造新內容和想法的AI技術，其應用領域包括文字、圖像及影音。以ChatGPT為例，OpenAI自2022年11月30日發布ChatGPT後，短短二個月內，全球月均用戶數即達到1億人，無疑成為民眾日常生活中最容易近用的AI科技。 惟，生成式AI大量使用後，其中的問題也逐漸浮現。例如，ChatGPT提供的回答僅是從所學習的資料中統整歸納，無法保證資料的正確性。Roberto Mata v. Avianca, Inc.案即是因律師利用ChatGPT撰寫訴狀，卻未重新審視其所提供判決之正確性，以致後續引發訴狀中所描述的判決不存在爭議。 壹、事件摘要 Roberto Mata v. Avianca, Inc.案[1]中，原告Roberto Mata於2019年8月搭乘哥倫比亞航空從薩爾瓦多飛往紐約，飛行過程中膝蓋遭空服員的推車撞傷，並於2022年2月向法院提起訴訟，要求哥倫比亞航空為空服員的疏失作出賠償；哥倫比亞航空則主張已超過《蒙特婁公約》（Montreal Convention）第35條所訂之航空器抵達日起兩年內向法院提出損害賠償之請求時效。 R然而，法院審理過程中發現原告訴狀內引用之六個判決無法從判決系統中查詢，進而質疑判決之真實性。原告律師Steven A. Schwartz因而坦承訴狀中引用的六個判決是ChatGPT所提供，並宣稱針對ChatGPT所提供的判決，曾多次向ChatGPT確認該判決之正確性[2]。 貳、生成式AI應用之潛在風險 雖然運用生成式AI技術並結合自身專業知識執行特定任務，可能有助於提升效率，惟，從前述Roberto Mata v. Avianca, Inc.案亦可看出，依目前生成式AI技術之發展，仍可能產生資訊正確性疑慮。以下彙整生成式AI應用之8大潛在風險[3]： 一、能源使用及對環境危害 相較於傳統機器學習，生成式AI模型訓練將耗費更多運算資源與能源。根據波士頓大學電腦科學系Kate Saenko副教授表示，OpenAI的GPT-3模型擁有1,750億個參數，約會消耗1,287兆瓦/時的電力，並排放552噸二氧化碳。亦即，每當向生成式AI下一個指令，其所消耗的能源量相較於一般搜尋引擎將可能高出4至5倍[4]。 二、能力超出預期（Capability Overhang） 運算系統的黑盒子可能發展出超乎開發人員或使用者想像的隱藏功能，此發展將會對人類帶來新的助力還是成為危險的阻力，則會隨著使用者之間的相互作用而定。 三、輸出結果有偏見 生成式AI通常是利用公開資料進行訓練，若輸入資料在訓練時未受監督，而帶有真實世界既存的刻板印象（如語言、種族、性別、性取向、能力、文化等），據此建立之AI模型輸出結果可能帶有偏見。 四、智慧財產權疑慮 生成式AI進行模型訓練時，需仰賴大量網路資料或從其他大型資料庫蒐集訓練資料。然而，若原始資料來源不明確，可能引發取得資料未經同意或違反授權條款之疑慮，導致生成的內容存在侵權風險。 五、缺乏驗證事實功能 生成式AI時常提供看似正確卻與實際情形不符的回覆，若使用者誤信該答案即可能帶來風險。另外，生成式AI屬於持續動態發展的資訊生態系統，當產出結果有偏誤時，若沒有大規模的人為干預恐難以有效解決此問題。 六、數位犯罪增加與資安攻擊 過去由人工產製的釣魚郵件或網站可能受限於技術限制而容易被識破，然而，生成式AI能夠快速建立具高度說服力的各種擬真資料，降低詐騙的進入門檻。又，駭客亦有可能在不熟悉技術的情況下，利用AI進一步找出資安弱點或攻擊方法，增加防禦難度。 七、敏感資料外洩 使用雲端服務提供商所建立的生成式AI時，由於輸入的資料存儲於外部伺服器，若要追蹤或刪除有一定難度，若遭有心人士利用而導致濫用、攻擊或竄改，將可能產生資料外洩的風險。 八、影子AI（Shadow AI） 影子AI係指開發者未知或無法控制之AI使用情境。隨著AI模型複雜性增加，若開發人員與使用者未進行充分溝通，或使用者在未經充分指導下使用 AI 工具，將可能產生無法預期之風險。 參、事件評析 在Roberto Mata v. Avianca, Inc.案中，法院關注的焦點在於律師的行為，而非對AI技術使用的批判。法院認為，隨著技術的進步，利用可信賴的AI工具作為協助用途並無不當，惟，律師應踐行其專業素養，確保所提交文件之正確性[5]。 當AI科技發展逐漸朝向自主與獨立的方向前進，仍需注意生成式AI使用上之侷限。當個人在使用生成式AI時，需具備獨立思考判斷的能力，並驗證產出結果之正確性，不宜全盤接受生成式AI提供之回答。針對企業或具高度專業領域人士使用生成式AI時，除確認結果正確性外，更需注意資料保護及治理議題，例如建立AI工具合理使用情境及加強員工使用相關工具之教育訓練。在成本能負擔的情況下，可選擇透過企業內部的基礎設施訓練AI模型，或是在訓練模型前確保敏感資料已經加密或匿名。並應注意自身行業領域相關法規之更新或頒布，以適時調整資料使用之方式。 雖目前生成式AI仍有其使用之侷限，仍應抱持開放的態度，在技術使用與風險預防之間取得平衡，以能夠在技術發展的同時，更好地學習新興科技工具之使用。 [1]Mata v. Avianca, Inc., 1:22-cv-01461, (S.D.N.Y.). [2]Benjamin Weiser, Here’s What Happens When Your Lawyer Uses ChatGPT, The New York Times, May 27, 2023, https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html (last visited Aug. 4, 2023). [3]Boston Consulting Group [BCG], The CEO’s Roadmap on Generative AI (Mar. 2023), https://media-publications.bcg.com/BCG-Executive-Perspectives-CEOs-Roadmap-on-Generative-AI.pdf (last visited Aug. 29, 2023). [4]Kate Saenko, Is generative AI bad for the environment? A computer scientist explains the carbon footprint of ChatGPT and its cousins, The Conversation (May 23, 2023.), https://theconversation.com/is-generative-ai-bad-for-the-environment-a-computer-scientist-explains-the-carbon-footprint-of-chatgpt-and-its-cousins-204096 (last visited Sep. 7, 2023). [5]Robert Lufrano, ChatGPT and the Limits of AI in Legal Research, National Law Review, Volume XIII, Number 195 (Mar. 2023), https://www.natlawreview.com/article/chatgpt-and-limits-ai-legal-research (last visited Aug. 29, 2023).
淺談中國網絡文化內容自審制於手機遊戲管理之影響淺談中國網絡文化內容自審制於手機遊戲管理之影響 科技法律研究所 2013年12月31日 壹、前言 中國大陸文化部日前依據互聯網文化管理暫行規定第19條規定，頒布施行「網絡文化經營單位內容自審管理辦法」(簡稱自審管理辦法)。要求以營利爲目的提供「網絡文化產品及服務」之單位（即所謂的「網絡文化經營單位」），應進行自我審核，以確保內容之合法性。所謂「網絡文化產品及服務」依據互聯網文化管理暫行規定，包括網絡音樂、動漫、遊戲等文化產品及以此所為之製作、複製、進口、發行、播放等活動。據中國大陸文化部表示，制定本辦法是為了落實其國務院轉變政府職能、簡政放權的政策方向，特別是網絡遊戲中的手機遊戲部分，期待能透過企業自律機制，達到市場的有效管理。 貳、自審管理辦法重點說明 在具體做法上，自審管理辦法規範「網絡文化經營單位」必須符合四項具體要求，包括：(1)內容管理制度與部門：企業須建立內容管理制度與審核部門，明定內容審核之工作劃分、標準、流程及責任追究辦法；(2)內容審核人員：企業內部設置之內容審核部門須配置至少3名以上領有「內容審核人員證書」之審核人員，並指定其中1名審核人員為內容管理負責人，負責簽核其餘審核人員之審查意見；(3)踐行備案程序：企業內部於建立上述之審核程序後，應向所在地省級文化行政部門申報備案；(4)持續參與審核訓練：針對內容審核人員，省級文化行政部門將負責相關培訓考核及檢查監督工作，其中對於經考核合格者發給證書者，每年至少應參加1次後續培訓，以持續掌握內容審核的政策法規和相關知識。 針對未依該辦法實施自審制度之「網絡文化經營單位」，依據自審管理辦法第14條規定，則得由縣級以上文化行政部門或者文化市場綜合執法機構依照「互聯網文化管理暫行規定」第29條規定責令改正，並可根據情節輕重處20000元以下罰款。此外，依據自審管理辦法第13條規定，倘若內容審核人員出現重大審核失誤時，發證部門得注銷其「內容審核人員證書」。 最後，依照自審管理辦法第15條規定，相關「網絡文化產品及服務」在自審管理辦法施行前，如應踐行備案或批准程序，在施行後仍須按相關規定辦理，不會因企業自審制度建立而得以免除。 參、規範簡評 依照自審管理辦法規定，自審制度適用範圍涵蓋了所有應依法取得「網絡文化經營許可證」的網絡文化經營單位。據中國大陸文化部新聞稿指出，此舉將有助於端正手機遊戲市場亂象。其具體理由，本文簡要歸納如下，並附帶說明此措施對於台灣手機遊戲業者進入中國大陸市場將帶來之影響。 過去中國大陸文化部管理「網絡遊戲」，主要是透過「網絡遊戲管理暫行辦法」(簡稱暫行辦法)。當中針對「國產網絡遊戲」採取備案制，要求於營運日起30日內向其文化行政部門進行備案(暫行辦法第13條參照)；「進口網絡遊戲」則採審查制，須事前獲得其文化行政部門審查批准，方可上線營運(暫行辦法第11條參照)。且解釋上所謂「網絡遊戲」並未排除「手機遊戲」，故外國業者在提供手機遊戲服務予中國大陸時，皆應授權當地具備「網絡文化經營許可證」之「網絡遊戲運營企業」進口並履行相關申報作業。 但現實上，基於手機遊戲開發成本低、週期短之特性，手機遊戲業者存在為數不少小規模企業，所開發遊戲數量自2011年以來呈現爆炸性成長。因而暫行辦法之相關管理要求，實際執行通常難以落實，便常見有手機遊戲規避上述申報作業，使得整體手機遊戲管理呈現真空狀態。 但此一管理困境，在施行自審管理辦法後，預期將有所改善。根據中國大陸文化部新聞稿指出，目前中國大陸手機遊戲市場主導權，已逐漸由遊戲開發商轉移至平台商。因此透過自審管理辦法下放內容審查權於大型平台上，再強化對大型平台的監管，可集中政府資源、擺脫過去針對個別遊戲業者的查緝困難。 同時，由於自審管理辦法要求企業應賦予內容審核人員獨立審核職權，官方新聞稿亦進一步指出內容管理負責人層級應提升至副總經理以上。一旦內容審核人員發生重大失職時，最重得注銷其審核權限。因而運作上將可間接影響企業人事權限分配，對於企業高層業務執行帶來一定程度箝制，進而達到有效管理之目的。 對於台灣業者而言，由於按照暫行辦法第12條規定，申報進口網絡遊戲內容審查者，必須為取得獨占授權之「網絡遊戲運營企業」。因此，台灣遊戲業者未來在授權遊戲於大陸業者營運時，應留意其合作之大陸「網絡文化經營單位」，是否有建立上述自審制度，以避免對其產品拓展產生不利影響。同時，應留意其是否有踐行相關進口網絡遊戲內容審查申報，以避免觸法。 資料來源： 《文化部關于實施〈網絡文化經營單位內容自審管理辦法〉的通知》（文市發〔2013〕39號），http://big5.gov.cn/gate/big5/www.gov.cn/zwgk/2013-08/22/content_2471896.htm （最後瀏覽日：2013/12/25）。 新华网，〈文化部放权网络文化企业内容自审 网游网络音乐先行试点〉，2013/08/20，http://news.xinhuanet.com/politics/2013-08/20/c_117021657.htm（最後瀏覽日：2013/12/25）。 中华人民共和国文化部文化市场司，〈庹祖海同志在贯彻落实《网络文化经营单位内容自审管理办法》视频会议上的讲话〉，2013/11/29，http://www.ccnt.gov.cn/sjzz/whscs_sjzz/whscs_zhxw/201312/t20131202_424345.htm（最後瀏覽日：2013/12/25）。