德國「新車輛及系統技術」補助計畫第二期
「新車輛及系統技術」（Neue Fahrzeug- und Systemtechnologien）補助計畫係德國為確保汽車產業能夠在未來保持其技術領先地位所規劃的研究補助方案，該計畫從2015年6月起為期4年，聚焦車輛本體設計及車聯網技術解決方案；2018年11月，有感數位化變革所帶來的壓力，以及聯網自動駕駛顛覆未來交通面貌的潛力，德國聯邦經濟及能源部（BMWi）決定將前述計畫延長4年至2022年12月31日，並追加補助金額至每年6000萬歐元，促進聯網自動化駕駛及創新車輛領域的相關研發，具體鎖定的項目包含：（1）創新感測技術與傳動系統（2）高精度定位技術（3）迅速、安全、可靠的通信協作技術（4）創新資料融合及資料處理程序（5）人車互動技術（6）配套的測試程序與認證（7）電動車搭載自動駕駛功能的具體解決方案（8）透過輕量化提升能源效率技術（9）空氣動力學優化技術（10）創新動力推進技術。聯邦政府希望藉由第二輪的「新車輛及系統技術」補助計畫，協助歷來引以為傲的汽車工業克服資通訊技術革新、氣候保護趨嚴及能源效率要求所帶來的挑戰，全力避免此一德國重要經濟命脈淪為數位化浪潮下的犧牲者。
本文為「經濟部產業技術司科技專案成果」
戴寶承
法律研究員 編譯整理
2. 當前日本車聯網面對之相關課題及策略目標https://stli.iii.org.tw/article-detail.aspx?no=57&tp=5&i=1&d=7809&lv2=1
用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限 資訊工業策進會科技法律研究所 2023年09月08日 生成式AI是透過研究過去資料，以創造新內容和想法的AI技術，其應用領域包括文字、圖像及影音。以ChatGPT為例，OpenAI自2022年11月30日發布ChatGPT後，短短二個月內，全球月均用戶數即達到1億人，無疑成為民眾日常生活中最容易近用的AI科技。 惟，生成式AI大量使用後，其中的問題也逐漸浮現。例如，ChatGPT提供的回答僅是從所學習的資料中統整歸納，無法保證資料的正確性。Roberto Mata v. Avianca, Inc.案即是因律師利用ChatGPT撰寫訴狀，卻未重新審視其所提供判決之正確性，以致後續引發訴狀中所描述的判決不存在爭議。 壹、事件摘要 Roberto Mata v. Avianca, Inc.案[1]中，原告Roberto Mata於2019年8月搭乘哥倫比亞航空從薩爾瓦多飛往紐約，飛行過程中膝蓋遭空服員的推車撞傷，並於2022年2月向法院提起訴訟，要求哥倫比亞航空為空服員的疏失作出賠償；哥倫比亞航空則主張已超過《蒙特婁公約》（Montreal Convention）第35條所訂之航空器抵達日起兩年內向法院提出損害賠償之請求時效。 R然而，法院審理過程中發現原告訴狀內引用之六個判決無法從判決系統中查詢，進而質疑判決之真實性。原告律師Steven A. Schwartz因而坦承訴狀中引用的六個判決是ChatGPT所提供，並宣稱針對ChatGPT所提供的判決，曾多次向ChatGPT確認該判決之正確性[2]。 貳、生成式AI應用之潛在風險 雖然運用生成式AI技術並結合自身專業知識執行特定任務，可能有助於提升效率，惟，從前述Roberto Mata v. Avianca, Inc.案亦可看出，依目前生成式AI技術之發展，仍可能產生資訊正確性疑慮。以下彙整生成式AI應用之8大潛在風險[3]： 一、能源使用及對環境危害 相較於傳統機器學習，生成式AI模型訓練將耗費更多運算資源與能源。根據波士頓大學電腦科學系Kate Saenko副教授表示，OpenAI的GPT-3模型擁有1,750億個參數，約會消耗1,287兆瓦/時的電力，並排放552噸二氧化碳。亦即，每當向生成式AI下一個指令，其所消耗的能源量相較於一般搜尋引擎將可能高出4至5倍[4]。 二、能力超出預期（Capability Overhang） 運算系統的黑盒子可能發展出超乎開發人員或使用者想像的隱藏功能，此發展將會對人類帶來新的助力還是成為危險的阻力，則會隨著使用者之間的相互作用而定。 三、輸出結果有偏見 生成式AI通常是利用公開資料進行訓練，若輸入資料在訓練時未受監督，而帶有真實世界既存的刻板印象（如語言、種族、性別、性取向、能力、文化等），據此建立之AI模型輸出結果可能帶有偏見。 四、智慧財產權疑慮 生成式AI進行模型訓練時，需仰賴大量網路資料或從其他大型資料庫蒐集訓練資料。然而，若原始資料來源不明確，可能引發取得資料未經同意或違反授權條款之疑慮，導致生成的內容存在侵權風險。 五、缺乏驗證事實功能 生成式AI時常提供看似正確卻與實際情形不符的回覆，若使用者誤信該答案即可能帶來風險。另外，生成式AI屬於持續動態發展的資訊生態系統，當產出結果有偏誤時，若沒有大規模的人為干預恐難以有效解決此問題。 六、數位犯罪增加與資安攻擊 過去由人工產製的釣魚郵件或網站可能受限於技術限制而容易被識破，然而，生成式AI能夠快速建立具高度說服力的各種擬真資料，降低詐騙的進入門檻。又，駭客亦有可能在不熟悉技術的情況下，利用AI進一步找出資安弱點或攻擊方法，增加防禦難度。 七、敏感資料外洩 使用雲端服務提供商所建立的生成式AI時，由於輸入的資料存儲於外部伺服器，若要追蹤或刪除有一定難度，若遭有心人士利用而導致濫用、攻擊或竄改，將可能產生資料外洩的風險。 八、影子AI（Shadow AI） 影子AI係指開發者未知或無法控制之AI使用情境。隨著AI模型複雜性增加，若開發人員與使用者未進行充分溝通，或使用者在未經充分指導下使用 AI 工具，將可能產生無法預期之風險。 參、事件評析 在Roberto Mata v. Avianca, Inc.案中，法院關注的焦點在於律師的行為，而非對AI技術使用的批判。法院認為，隨著技術的進步，利用可信賴的AI工具作為協助用途並無不當，惟，律師應踐行其專業素養，確保所提交文件之正確性[5]。 當AI科技發展逐漸朝向自主與獨立的方向前進，仍需注意生成式AI使用上之侷限。當個人在使用生成式AI時，需具備獨立思考判斷的能力，並驗證產出結果之正確性，不宜全盤接受生成式AI提供之回答。針對企業或具高度專業領域人士使用生成式AI時，除確認結果正確性外，更需注意資料保護及治理議題，例如建立AI工具合理使用情境及加強員工使用相關工具之教育訓練。在成本能負擔的情況下，可選擇透過企業內部的基礎設施訓練AI模型，或是在訓練模型前確保敏感資料已經加密或匿名。並應注意自身行業領域相關法規之更新或頒布，以適時調整資料使用之方式。 雖目前生成式AI仍有其使用之侷限，仍應抱持開放的態度，在技術使用與風險預防之間取得平衡，以能夠在技術發展的同時，更好地學習新興科技工具之使用。 [1]Mata v. Avianca, Inc., 1:22-cv-01461, (S.D.N.Y.). [2]Benjamin Weiser, Here’s What Happens When Your Lawyer Uses ChatGPT, The New York Times, May 27, 2023, https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html (last visited Aug. 4, 2023). [3]Boston Consulting Group [BCG], The CEO’s Roadmap on Generative AI (Mar. 2023), https://media-publications.bcg.com/BCG-Executive-Perspectives-CEOs-Roadmap-on-Generative-AI.pdf (last visited Aug. 29, 2023). [4]Kate Saenko, Is generative AI bad for the environment? A computer scientist explains the carbon footprint of ChatGPT and its cousins, The Conversation (May 23, 2023.), https://theconversation.com/is-generative-ai-bad-for-the-environment-a-computer-scientist-explains-the-carbon-footprint-of-chatgpt-and-its-cousins-204096 (last visited Sep. 7, 2023). [5]Robert Lufrano, ChatGPT and the Limits of AI in Legal Research, National Law Review, Volume XIII, Number 195 (Mar. 2023), https://www.natlawreview.com/article/chatgpt-and-limits-ai-legal-research (last visited Aug. 29, 2023).
FDA允許第一個可以直接對消費者進行個人基因遺傳的健康風險服務測試法-GHR「美國食品和藥物管理局（FDA）」於2017年4月6日准許「23and me個人基因遺傳健康風險服務測試（簡稱GHR）」進行行銷，FDA要求該測試方法可以一定準確度檢測出十種疾病及可能條件。GHR是第一個被美國食品藥物管理局授權允許直接對消費者進行測試並提供個人遺傳傾向及醫療疾病條件資訊給消費者的測試。 GHR試圖提供遺傳風險資訊給消費者，但這個測試無法確定人們發展成疾病或發病條件的總體風險，因為除了某些遺傳變體的存在，還有很多因素會影響健康條件的發展，包含環境以及生活方式的因素，因此該檢測可能可以幫助人們做選擇生活方式的決定或告知消費者專業的健康照護。 23and me的GHR測試是運作自隔離唾液樣品中的DNA，此檢測被測試超過500000個遺傳變體，其檢測關於發展成以下十種疾病或發病條件增加風險的存在與否，包括帕金森氏症（Parkinson’s disease）、阿茲海默症（Late-onset Alzheimer’s disease）、自體免疫問題（Celiac disease）、α-1抗胰蛋白酶缺乏症、早發性原發性肌張力障礙（early-onset primary dystomia）、因子XI缺乏症（factor XI deficiency）、高血病1型（gaucher disease type1）、葡萄糖6-磷酸脫氫酶缺乏症（glucose 6- phosphate dehydrogenase defiency）、遺傳性血色素沉著症（hereditary hemochromatosis）、遺傳性血栓形成（hereditary thrombophilia）。 此外，FDA更要求所有DTC測試在醫療用途目的上之使用必需要能跟消費者溝通，使消費者可以充分了解該測試法後選用。其中一個研究顯示，23andMe的GHR測試的相關資訊是容易被理解的，有90%的人能夠了解報告中所呈現的資訊。
美國產政研單位聯名向SEC請願，促請訂定企業應揭露其與氣候變遷有關的財務風險根據美國證券法規，上市公司、申請上市公司以及特定證券發行公司，應將其為符合美國聯邦、各州及地方環境法規所衍生，可能與公司之資本支出、營收與競爭地位有關之資料，向SEC提出並揭露予投資大眾；因為遵守相關環境法規而涉訟者，公司亦應揭露此等事實。除此之外，SEC規則亦要求，公司為符合環境法規所為之大規模資本支出，若可能對公司的清償能力產生重大影響，公司對於任何與之相關的已知發展趨勢、承諾的義務、事件或不確定性，亦應揭露之。 最近美國紐約州檢察長Andrew Cuomo向該州內五家能源公司發出傳票（subpoenas），要求這五家公司應各自分析其公司經營的氣候變遷風險，並將相關資訊揭露予投資大眾。此外，全美多個投資團體、十個州的財政官員以及環保團體亦聯名向美國證券交易委員會（Securities Exchange Commission, SEC）請願，促請SEC要求企業應該評估並揭露與氣候變遷有關的財務風險。請願者認為，氣候變遷相關資訊影響投資意願，亦為重要的公司資訊，故SEC應釐清，根據既有法規（即1934制定年的證券交易法）中的公司資訊揭露規定，公司亦應有揭露氣候變遷資訊之義務。 以上兩件事例的發展，隱含一個重要的跡象值得觀察，亦即未來美國SEC對於公司資訊揭露的管理，極可能涵蓋氣候變遷的風險資訊。雖然SEC目前尚未對請願事宜做出具體的表示，但有鑑於決策者已有越來越大的壓力必須正視全球氣候變遷問題，故SEC未來對於請願團體的回應及可能採取的措施，將代表公司應如何揭露氣候變遷風險資訊，始為適當。 此外，面對全球變遷所帶來的挑戰，美國許多州均積極提出或通過因應氣候變遷的法案，可預期企業經營者為遵循新一代的環境法規，未來將會有一波波的資金投入於法規遵循，目前企業經營者多將重心放在如何化挑戰為機會，然而公司在其中所為的投入，意味一定的財務風險，根據當前的發展，SEC極可能要求公司必須清楚地揭露此等氣候變遷相關資訊，值得企業經營者與投資人注意。雖然能源產業是氣候變遷風險最主要的揭露者，但氣候變遷風險實關乎所有的產業，目前已有許多保險公司也開始揭露其因為氣候變遷涉及的財務風險（如因颶風、水災、乾旱、火災或其他險惡的氣候現象所導致的財務損失）。