歐盟針對數位革命之法制障礙展開討論
歐盟布魯塞爾會議規劃組織（QED）在2016年12月針對第四次工業革命法制議題提出討論，呼應2016年4月歐盟執委會提出之歐洲產業數位化政策，加速標準建立，並且預計調整現行法律規制，著重於資料所有權、責任、安全、防護方面等支規定，討論重點如下：
1.目前面臨之法律空缺為何
2.歐洲產業數位化是否須建立一般性法律框架
3.標準化流程是否由由公部門或私部門負責
4.相容性問題應如何達改善途徑
5.資料所有權部分之問題如何因應
6.數位化之巨量資料應如何儲存與應用，雲端是否為最終解決方式
7.如何建立適當安全防護機制。
8.一般資料保護規則是否足以規範機器產生之數據
9.各會員國對於資料保護立法不同，其間如何調合朝向資料自由發展之方向進行
我國2016年7月由行政院通過「智慧機械產業推動方案」，期待未來朝向「智慧機械」產業化以及產業「智慧機械化」之目標進行，未來，相關法制配套規範，如個人資料保護、巨量資料應用、以及標準化等議題，皆有待進一步探討之必要。
本文為「經濟部產業技術司科技專案成果」
廖凱民
法律研究員 編譯整理
為鼓勵金融創新，促進互聯網金融健康發展，明確監管責任，規範市場秩序，中國人民銀行、工業和信息化部、公安部、財政部、國家工商總局、國務院法制辦、中國銀行業監督管理委員會、中國證券監督管理委員會、中國保險監督管理委員會、國家互聯網信息辦公室，在經中國共產黨中央、國務院同意後，於7月18日聯合發布了《關於促進互聯網金融健康發展的指導意見》。(下稱《指導意見》) 該《指導意見》首次讓中國的互聯網金融正式從「野蠻生長」、「監管真空」，走向了「分類監管」和「有法可依」，按照《指導意見》，未來在監管職責劃分上，人民銀行將負責互聯網支付業務的監督管理；銀監會負責包括個體網路借貸和網路小額貸款在內的網路借貸以及互聯網信託和互聯網消費金融的監督管理；證監會負責股權式群眾募資和互聯網基金銷售的監督管理；保監會負責互聯網保險的監督管理。 同時，《指導意見》提出了一系列鼓勵創新、支援互聯網金融穩步發展的政策措施，積極鼓勵互聯網金融平臺、產品和服務創新，鼓勵從業機構相互合作，拓寬從業機構融資管道，堅持簡政放權和落實、完善財稅政策，推動信用基礎設施建設和配套服務體系建設。 值得注意的是，近年高速發展的借貸式群眾募資、股權式群眾募資以及網路支付等目前在中國互聯網金融領域主要的行業型態，在《指導意見》中形成框架性政策，上至監管原則，下至第三方存管等具體事項上，均有所涉及。由於《指導意見》是經由中共黨中央、國務院同意，再經中國人民銀行等十部委所發布，也說明了該意見的出臺是在中國共產黨中央和國務院的認可下制訂，是故若政策未出現重大轉向，該《指導意見》的規定待相關機關部門細化後，未來可預見將以法律、或行政法律等形式進一步頒布落實。
用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限 資訊工業策進會科技法律研究所 2023年09月08日 生成式AI是透過研究過去資料，以創造新內容和想法的AI技術，其應用領域包括文字、圖像及影音。以ChatGPT為例，OpenAI自2022年11月30日發布ChatGPT後，短短二個月內，全球月均用戶數即達到1億人，無疑成為民眾日常生活中最容易近用的AI科技。 惟，生成式AI大量使用後，其中的問題也逐漸浮現。例如，ChatGPT提供的回答僅是從所學習的資料中統整歸納，無法保證資料的正確性。Roberto Mata v. Avianca, Inc.案即是因律師利用ChatGPT撰寫訴狀，卻未重新審視其所提供判決之正確性，以致後續引發訴狀中所描述的判決不存在爭議。 壹、事件摘要 Roberto Mata v. Avianca, Inc.案[1]中，原告Roberto Mata於2019年8月搭乘哥倫比亞航空從薩爾瓦多飛往紐約，飛行過程中膝蓋遭空服員的推車撞傷，並於2022年2月向法院提起訴訟，要求哥倫比亞航空為空服員的疏失作出賠償；哥倫比亞航空則主張已超過《蒙特婁公約》（Montreal Convention）第35條所訂之航空器抵達日起兩年內向法院提出損害賠償之請求時效。 R然而，法院審理過程中發現原告訴狀內引用之六個判決無法從判決系統中查詢，進而質疑判決之真實性。原告律師Steven A. Schwartz因而坦承訴狀中引用的六個判決是ChatGPT所提供，並宣稱針對ChatGPT所提供的判決，曾多次向ChatGPT確認該判決之正確性[2]。 貳、生成式AI應用之潛在風險 雖然運用生成式AI技術並結合自身專業知識執行特定任務，可能有助於提升效率，惟，從前述Roberto Mata v. Avianca, Inc.案亦可看出，依目前生成式AI技術之發展，仍可能產生資訊正確性疑慮。以下彙整生成式AI應用之8大潛在風險[3]： 一、能源使用及對環境危害 相較於傳統機器學習，生成式AI模型訓練將耗費更多運算資源與能源。根據波士頓大學電腦科學系Kate Saenko副教授表示，OpenAI的GPT-3模型擁有1,750億個參數，約會消耗1,287兆瓦/時的電力，並排放552噸二氧化碳。亦即，每當向生成式AI下一個指令，其所消耗的能源量相較於一般搜尋引擎將可能高出4至5倍[4]。 二、能力超出預期（Capability Overhang） 運算系統的黑盒子可能發展出超乎開發人員或使用者想像的隱藏功能，此發展將會對人類帶來新的助力還是成為危險的阻力，則會隨著使用者之間的相互作用而定。 三、輸出結果有偏見 生成式AI通常是利用公開資料進行訓練，若輸入資料在訓練時未受監督，而帶有真實世界既存的刻板印象（如語言、種族、性別、性取向、能力、文化等），據此建立之AI模型輸出結果可能帶有偏見。 四、智慧財產權疑慮 生成式AI進行模型訓練時，需仰賴大量網路資料或從其他大型資料庫蒐集訓練資料。然而，若原始資料來源不明確，可能引發取得資料未經同意或違反授權條款之疑慮，導致生成的內容存在侵權風險。 五、缺乏驗證事實功能 生成式AI時常提供看似正確卻與實際情形不符的回覆，若使用者誤信該答案即可能帶來風險。另外，生成式AI屬於持續動態發展的資訊生態系統，當產出結果有偏誤時，若沒有大規模的人為干預恐難以有效解決此問題。 六、數位犯罪增加與資安攻擊 過去由人工產製的釣魚郵件或網站可能受限於技術限制而容易被識破，然而，生成式AI能夠快速建立具高度說服力的各種擬真資料，降低詐騙的進入門檻。又，駭客亦有可能在不熟悉技術的情況下，利用AI進一步找出資安弱點或攻擊方法，增加防禦難度。 七、敏感資料外洩 使用雲端服務提供商所建立的生成式AI時，由於輸入的資料存儲於外部伺服器，若要追蹤或刪除有一定難度，若遭有心人士利用而導致濫用、攻擊或竄改，將可能產生資料外洩的風險。 八、影子AI（Shadow AI） 影子AI係指開發者未知或無法控制之AI使用情境。隨著AI模型複雜性增加，若開發人員與使用者未進行充分溝通，或使用者在未經充分指導下使用 AI 工具，將可能產生無法預期之風險。 參、事件評析 在Roberto Mata v. Avianca, Inc.案中，法院關注的焦點在於律師的行為，而非對AI技術使用的批判。法院認為，隨著技術的進步，利用可信賴的AI工具作為協助用途並無不當，惟，律師應踐行其專業素養，確保所提交文件之正確性[5]。 當AI科技發展逐漸朝向自主與獨立的方向前進，仍需注意生成式AI使用上之侷限。當個人在使用生成式AI時，需具備獨立思考判斷的能力，並驗證產出結果之正確性，不宜全盤接受生成式AI提供之回答。針對企業或具高度專業領域人士使用生成式AI時，除確認結果正確性外，更需注意資料保護及治理議題，例如建立AI工具合理使用情境及加強員工使用相關工具之教育訓練。在成本能負擔的情況下，可選擇透過企業內部的基礎設施訓練AI模型，或是在訓練模型前確保敏感資料已經加密或匿名。並應注意自身行業領域相關法規之更新或頒布，以適時調整資料使用之方式。 雖目前生成式AI仍有其使用之侷限，仍應抱持開放的態度，在技術使用與風險預防之間取得平衡，以能夠在技術發展的同時，更好地學習新興科技工具之使用。 [1]Mata v. Avianca, Inc., 1:22-cv-01461, (S.D.N.Y.). [2]Benjamin Weiser, Here’s What Happens When Your Lawyer Uses ChatGPT, The New York Times, May 27, 2023, https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html (last visited Aug. 4, 2023). [3]Boston Consulting Group [BCG], The CEO’s Roadmap on Generative AI (Mar. 2023), https://media-publications.bcg.com/BCG-Executive-Perspectives-CEOs-Roadmap-on-Generative-AI.pdf (last visited Aug. 29, 2023). [4]Kate Saenko, Is generative AI bad for the environment? A computer scientist explains the carbon footprint of ChatGPT and its cousins, The Conversation (May 23, 2023.), https://theconversation.com/is-generative-ai-bad-for-the-environment-a-computer-scientist-explains-the-carbon-footprint-of-chatgpt-and-its-cousins-204096 (last visited Sep. 7, 2023). [5]Robert Lufrano, ChatGPT and the Limits of AI in Legal Research, National Law Review, Volume XIII, Number 195 (Mar. 2023), https://www.natlawreview.com/article/chatgpt-and-limits-ai-legal-research (last visited Aug. 29, 2023).
低軌通訊衛星發展及應用之法制觀察低軌通訊衛星發展及應用之法制觀察 資訊工業策進會科技法律研究所 2022年04月25日 壹、事件摘要 隨著太空領域的技術突破，國際間主要國家已將焦點轉向太空場域，未來各類型太空商業活動及軍事性部署將大幅增加。低軌衛星（Low Earth Orbit Satellite）商業化發展趨勢最為明確[1]，其所涉及的法制規範受到高度關注，對於國家如何承擔作為太空活動主體的國家責任，尤其是太空物體發射活動之風險控管、損害賠償責任問題，以及善盡減少太空碎片之國際義務等；此外，較為成熟的低軌衛星通訊服務，國際業者如SpaceX、OneWeb正積極於全球部署，則通訊傳播監管規範宜如何調適，亦為觀察重點。 本文以低軌通訊衛星發展及應用為核心，爬梳相關法制，面向涵蓋從火箭發射階段至衛星營運階段，說明其間涉及的活動規範之法制發展重點，以及供應鏈安全管理的議題，以供我國法規調適之參考。 貳、重點說明 一、發射階段 在衛星發射階段，主要涉及之國際太空法[2]為《登記公約》及《責任公約》，締約國必須遵守公約規定並善盡監管責任，是以美國、英國及日本對太空活動皆有嚴謹的許可審查制度[3]。一般而言，發射階段的審查通常分為「發射載具」及「太空載具」兩種，前者著重技術安全性的審查，避免發射過程中對他人造成損害，因此火箭發射業者必須盡可能採取相關安全措施，讓風險降至最低，而國家的角色則是評估該發射活動落於可接受的風險後，始可同意其施行。後者對於太空載具的審查，除了人造衛星本身的安全性之外，尚須說明該衛星之用途及設計，如是否會供軍事使用、若有核能之使用是否安全、是否符合國際無線電頻率秩序，以避免於外太空中造成危害或干涉到其他的人造衛星等。 除了太空五大公約之外，隨著太空活動的增加，尚有其他參考準則之提出，如2007年聯合國大會決議通過「太空碎片減緩指引」（Space Debris Mitigation Guidelines），該指引為自律性參考文件，並不具有國際法的法律拘束力，其建議在任務規劃、設計、製造發射火箭之飛行任務，應將太空碎片減緩措施納入考量[4]。美國聯邦通訊委員會（Federal Communications Commission, FCC）亦有提出其「太空碎片緩解政策與法令遵循指導」，以避免大量的低軌通訊衛星在結束任務後成為太空垃圾[5]。 我國已於2021年5月31日立法通過《太空發展法》，該法參照國際太空法規範，建立國家行政管理之法制基礎，特別是《登記公約》之太空載具登錄及許可規範；以及《責任公約》之太空事故損害賠償責任及保險制度等。至於太空活動之侵權案件，國際太空法係以國家為主體，無論是作為求償國或是被求償國，我國如何參與國際爭端解決，將有待實務觀察。 二、營運階段 （一）國際頻率協調 通訊衛星使用的無線電及微波的頻段較寬，為了避免訊號干擾，係由國際電信聯盟（International Telecommunication Union, ITU）依據無線電規則（Radio Regulation），協助無線電頻率分配及跨國頻率協調。 我國非ITU會員國，過往實務係以折衷方式參與國際頻率協調，如中華電信之中新一號及中新二號，採取與新加坡電信合作模式，爭取衛星通訊之營運機會；而科研用途之衛星可循專為科學研究及實驗之特殊保留頻段，可透過ITU下非官方機構組成的太空頻率協調小組（Space Frequency Coordination Group, SFCG）協調國際間科研使用頻段；或是透過國際業餘無線電聯盟（International Amateur Radio Union, IARU），取得頻率協調證明文件。 惟對於商用通訊衛星，因其需要供商業使用之專用頻譜，並且排除他人之干擾，仍必須透過ITU與他國進行頻率協調交涉並完成使用登記，始可提供衛星通訊服務。 （二）衛星通訊服務涉及之法規調適 通訊傳播服務屬於高度監管的行業，業者必須遵循電信管理法規之要求，始可於境內提供服務。我國已新增10.7-12.7GHz、13.75-14.5GHz、17.7-20.2GHz及27.5-30.0GHz等頻段供衛星通訊使用[6]，惟申請人資格必須符合外資持股上限，即外國人直接持有股份總數不得超過49%，直接及間接持有股份總數不得超過60%[7]。法制政策上若欲放寬外資持股限制，則必須加以修法。另一途徑，國際衛星業者亦可透過具有衛星業務執照之國內業者代理申請，目前實務上中華電信已於2021年8月宣布與Starlink展開合作，可能協助代理Starlink的衛星通訊服務並在臺販售[8]。 之後衛星通訊服務的討論焦點可能會是「衛星間鏈路」（Inter Satellite Links, ISL）的應用，即允許資料在衛星之間傳輸及交換，無需再另外設置地面閘道站（gateway），而讓境內資料直接傳輸至外國。我國現行制度係外國業者在提交經營許可之申請時，自行承諾、遵守我國通訊監察之要求及義務。一旦衛星通訊服務盛行，是否會對國家主權之通傳監理產生挑戰，如通訊監察之資料調取協助義務、資料落地管理等，有待持續觀察[9]。 三、系統及零組件之資安管理 目前國際間僅有美國訂定衛星通訊之網路安全要求，惟其係針對軍事應用之衛星通訊，並非全面性之要求[10]。我國亦未對衛星的資通安全有相關的強制性規範，實務上衛星供應鏈業者主要是因應品牌商代工規格之要求，進行生產。是以，對於商用性低軌衛星通訊服務，現階段或許能參考5G行動通訊之共通適用原則，如供應鏈安全、資通安全維護計畫等。 參、事件評析 為了掌握太空產業商機，特別是現階段可預期的低軌通訊衛星的發展，我國相關的法制政策宜迎合產業需要，並促進各種太空活動的創新應用，以厚植人才與技術能量。 首先，在發射階段部分，我國《太空發展法》對於太空活動之監管與權利義務分配，已建立了法制基盤，本文認為後續細部的法制監管密度宜配合產業成熟程度加以定之。申言之，在初期發展過程，太空活動之監管似不宜課予過高的義務及責任，避免商業性太空活動之利害關係人望之卻步，建議以軟性方式，例如透過獎勵或輔導等途徑，促進業者符合太空碎片減量或其他環境保護之要求，待國內發射能量累積後，再採取拘束性規範並執行嚴格管理。 其次，在營運階段部分，國內產學界皆希望我國商業性太空活動能在國際間有所突破，惟受限於ITU國際頻率協調之困境，建議短期內宜推廣與外國合作的模式，政策上宜協助媒合國內設備元件業者與外國衛星所有者，以進入國際太空產業供應鏈。長期而言，商用衛星服務的經營仍需要透過ITU進行國際頻率協調，因此仍需動員外交力量，協助商用衛星拓展可行的頻率協調途徑。至於國際低軌衛星業者於我國落地提供服務部分，必須符合現行通傳法制規範，如取得公眾電信網路之使用核准、頻譜使用申請等，後續電信主管機關宜觀察ISL技術的使用情況、國際間對於衛星數據傳輸之要求，以及是否要求於境內設置閘道站等，以掌握對衛星網路之監管。 最後，在系統及零組件資安管理部分，由於國際間對於衛星網路技術標準仍在討論中，宜待國際間衛星資安標準形成，再據以制定相關規範。值得注意的是，衛星通訊網路為電信業之一環，屬於我國關鍵基礎設施領域並為《資通安全管理法》納管範圍，故其仍需遵守該法課予之高規格的安全標準，即衛星服務營運商應盡可能使用安全供應鏈及避免高風險設備，並從設計面納入資安考量。 [1] 低軌衛星係指佈署於低軌道之衛星，一般而言距離地球高度約160至2,000公里，相對於中軌道衛星、地球同步軌道衛星，低軌衛星離地球距離較近，因此傳輸延遲較短、功率耗損較少，進而可有效實現全球網路覆蓋。參考自楊可歆，〈低軌衛星於行動通訊業務之應用場景分析〉，MIC產業研究報告，2020/05/18， https://mic.iii.org.tw/aisp/Reports.aspx?id=CDOC20200507001 （最後瀏覽日：2022/03/31）。 [2] 目前國際太空法包括五大公約，分別為1967年《外太空條約》（Outer Space Treaty）、1967年《營救協定》（Rescue Agreement）、1971年《責任公約》（Liability Convention）、1974年《登記公約》（Registration Convention）及1979年《月球協定》（Moon Treaty）。 [3] 美國規範於《商業太空發射法》（Commercial Space Launch Act），可見於https://uscode.house.gov/view.xhtml?path=/prelim@title51/subtitle5/chapter509&edition=prelim （最後瀏覽日：2022/03/15）；英國規範於《外太空法》（Outer Space Act），可見於https://www.legislation.gov.uk/ukpga/1986/38/contents （最後瀏覽日：2022/03/15）；日本規範於《太空活動法》（宇宙活動法），可見於https://www8.cao.go.jp/space/english/activity/documents/space_activity_act.pdf （最後瀏覽日：2022/03/15）。 [4] UNOOSA, Space Debris Mitigation Guidelines of the Committee on the Peaceful Uses of Outer Space, 2010, https://www.unoosa.org/pdf/publications/st_space_49E.pdf (last visited Apr. 06, 2022). [5] FCC, Mitigation of Orbital Debris in the New Space Age, IB Docket No. 18-313, Apr. 02, 2020, https://docs.fcc.gov/public/attachments/DOC-363486A1.pdf (last visited Apr. 06, 2022). [6] 彭慧明，〈低軌衛星頻譜 6月開放申請〉，經濟日報，2022/03/24，https://udn.com/news/story/7240/6187130 （最後瀏覽日：2022/04/14）。 [7] 《電信管理法》第36條第4項及第5項 [8] 張瑞益，〈中華電、Starlink攜手合作 搶低軌道衛星商機〉，經濟日報，2021/08/30，https://udn.com/news/story/7240/5708752 （最後瀏覽日：2022/03/14）。 [9] Larry Press, Are Inter-Satellite Laser Links a Bug or a Feature of ISP Constellations?, CIRCLEID, Apr. 03, 2019, https://circleid.com/posts/20190403_inter_satellite_laser_links_bug_or_feature_of_isp_constellations/?fbclid=IwAR2iQEgPCm-ACC8kwvRaMDZPxCxLehHKvWvAn8tkr0njn8TubUTM_cLsIc4 (last visited Mar. 31, 2022). [10] 謝宜庭，〈美國白宮頒布有關於太空系統的網路安全原則《太空政策第5號指令》〉，資策會科技法律研究所，2021年4月，https://stli.iii.org.tw/article-detail.aspx?no=64&tp=1&d=8629 （最後瀏覽日：2022/03/14）。
英國Royal Free國家健康服務基金信託與Google DeepMind間的資料分享協議違反英國資料保護法英國資訊委員辦公室（Information Commissioner’s Office, ICO）於2017年7月公告Royal Free國家健康服務基金信託（Royal Free London NHS Foundation Trust）與Google人工智慧研究室DeepMind之間的資料分享協議，違反資料保護法（Data Protection Act）。 該協議之目的在使DeepMind利用Royal Free所提供的醫療資料，開發一款名為Streams的應用程式，透過人工智慧系統分析得知病患惡化之情況，並以手機警示方式通知臨床醫生。由於涉及病患的可識別個人資料且人數多達160萬人，協議的合法性，尤其在資料分享是否經病患同意方面，受到質疑。 Royal Free與DeepMind主張因應用程式是直接對病患進行醫療照護，具有病患默示同意（implied consent）之正當基礎，且資料經加密後才傳給DeepMind。惟經ICO調查結果如下： 就資料將被使用作為應用程式測試一事，病患未獲充分告知亦無合理期待； 雖執行隱私影響評估，惟僅於資料傳給DeepMind後才進行，無法發揮事前評估作用； 應用程式尚在測試階段，無法說明揭露160萬病患紀錄的必要性與手段合理性。 目前Royal Free已承諾改進以確保其行為合法性。ICO之認定突顯創新不應以「減損法律對基本隱私權保障」作為代價。