美國國防部「人工智慧國防運用倫理準則」
美國國防部（Department of Defense）於2020年2月採納由美國國防創新委員會（Defense Innovation Board, DIB）所提出之「人工智慧國防運用倫理準則（AI Principles: Recommendations on the Ethical Use of Artificial Intelligence by the Department of Defense）」，以衡平倫理與人工智慧於國防帶來之增益。
美國國防創新委員會為美國聯邦政府下之獨立委員會，設置目的在於依美國新創科技，提供意見予美國國防部，與美國國防部並無隸屬關係。有鑑於人工智慧之運用範疇日益增廣，美國國防創新委員會遂提出旨揭「人工智慧國防運用倫理準則」，以因應人工智慧於國防之應用所產生之問題。
倫理準則適用於「戰爭或非戰爭用途之人工智慧之設計以及應用」，對於「人工智慧」之定義，倫理準認為人工智慧並無精確之範疇，只要「對於資訊有所處理並旨在達到所賦予任務之資訊系統」，皆為本準則下之人工智慧。倫理準則指出，「人工智慧」與美國國防部3000.09指令下之「自動化武器系統（Autonomous Weapon System）」之定義不同，但有可能重疊，而所謂「自動化武器系統」為「一經人類選擇啟動，即可在無人類監督之情形下，自動針對目標進行鎖定或進行攻擊之自動化武器系統」。
美國國防創新委員會表示，該準則旨在切合美國既有憲法、法律、國際公約之傳統標準下，融入現代化對於人工智慧之要求，如國際公約中之戰爭法（Law of War）即為本準則之傳統標準之一，舉例而言，如人工智慧被裝置於武器中，其設計及應用應符合最小傷亡原則、避免傷及無辜原則等。
除此之外，準則亦包含以下現代化對於人工智慧之要求：（1）人類對於人工智慧系統之設計、應用以及使用應善盡判斷以及注意義務，且人類應該對於人工智慧系統因瑕疵所帶來之傷害負擔最終責任；（2）對於目標之選擇或分類，應維持公平性，且不得有歧視性；（3）對於人工智慧之設計、應用以及使用，應有明確之工程標準以及資料保存程序，此一工程標準以及資料保存程序應為一般具有專業知識之工程人員可據以理解、分析、追蹤問題所在並加以改善；（4）「戰爭或非戰爭用途之人工智慧」應有明確之應用領域，且完善之檢測、維修，應適用於該人工智慧之全部生命週期。
本文為「經濟部產業技術司科技專案成果」
王柏霳
法律研究員 編譯整理
用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限 資訊工業策進會科技法律研究所 2023年09月08日 生成式AI是透過研究過去資料，以創造新內容和想法的AI技術，其應用領域包括文字、圖像及影音。以ChatGPT為例，OpenAI自2022年11月30日發布ChatGPT後，短短二個月內，全球月均用戶數即達到1億人，無疑成為民眾日常生活中最容易近用的AI科技。 惟，生成式AI大量使用後，其中的問題也逐漸浮現。例如，ChatGPT提供的回答僅是從所學習的資料中統整歸納，無法保證資料的正確性。Roberto Mata v. Avianca, Inc.案即是因律師利用ChatGPT撰寫訴狀，卻未重新審視其所提供判決之正確性，以致後續引發訴狀中所描述的判決不存在爭議。 壹、事件摘要 Roberto Mata v. Avianca, Inc.案[1]中，原告Roberto Mata於2019年8月搭乘哥倫比亞航空從薩爾瓦多飛往紐約，飛行過程中膝蓋遭空服員的推車撞傷，並於2022年2月向法院提起訴訟，要求哥倫比亞航空為空服員的疏失作出賠償；哥倫比亞航空則主張已超過《蒙特婁公約》（Montreal Convention）第35條所訂之航空器抵達日起兩年內向法院提出損害賠償之請求時效。 R然而，法院審理過程中發現原告訴狀內引用之六個判決無法從判決系統中查詢，進而質疑判決之真實性。原告律師Steven A. Schwartz因而坦承訴狀中引用的六個判決是ChatGPT所提供，並宣稱針對ChatGPT所提供的判決，曾多次向ChatGPT確認該判決之正確性[2]。 貳、生成式AI應用之潛在風險 雖然運用生成式AI技術並結合自身專業知識執行特定任務，可能有助於提升效率，惟，從前述Roberto Mata v. Avianca, Inc.案亦可看出，依目前生成式AI技術之發展，仍可能產生資訊正確性疑慮。以下彙整生成式AI應用之8大潛在風險[3]： 一、能源使用及對環境危害 相較於傳統機器學習，生成式AI模型訓練將耗費更多運算資源與能源。根據波士頓大學電腦科學系Kate Saenko副教授表示，OpenAI的GPT-3模型擁有1,750億個參數，約會消耗1,287兆瓦/時的電力，並排放552噸二氧化碳。亦即，每當向生成式AI下一個指令，其所消耗的能源量相較於一般搜尋引擎將可能高出4至5倍[4]。 二、能力超出預期（Capability Overhang） 運算系統的黑盒子可能發展出超乎開發人員或使用者想像的隱藏功能，此發展將會對人類帶來新的助力還是成為危險的阻力，則會隨著使用者之間的相互作用而定。 三、輸出結果有偏見 生成式AI通常是利用公開資料進行訓練，若輸入資料在訓練時未受監督，而帶有真實世界既存的刻板印象（如語言、種族、性別、性取向、能力、文化等），據此建立之AI模型輸出結果可能帶有偏見。 四、智慧財產權疑慮 生成式AI進行模型訓練時，需仰賴大量網路資料或從其他大型資料庫蒐集訓練資料。然而，若原始資料來源不明確，可能引發取得資料未經同意或違反授權條款之疑慮，導致生成的內容存在侵權風險。 五、缺乏驗證事實功能 生成式AI時常提供看似正確卻與實際情形不符的回覆，若使用者誤信該答案即可能帶來風險。另外，生成式AI屬於持續動態發展的資訊生態系統，當產出結果有偏誤時，若沒有大規模的人為干預恐難以有效解決此問題。 六、數位犯罪增加與資安攻擊 過去由人工產製的釣魚郵件或網站可能受限於技術限制而容易被識破，然而，生成式AI能夠快速建立具高度說服力的各種擬真資料，降低詐騙的進入門檻。又，駭客亦有可能在不熟悉技術的情況下，利用AI進一步找出資安弱點或攻擊方法，增加防禦難度。 七、敏感資料外洩 使用雲端服務提供商所建立的生成式AI時，由於輸入的資料存儲於外部伺服器，若要追蹤或刪除有一定難度，若遭有心人士利用而導致濫用、攻擊或竄改，將可能產生資料外洩的風險。 八、影子AI（Shadow AI） 影子AI係指開發者未知或無法控制之AI使用情境。隨著AI模型複雜性增加，若開發人員與使用者未進行充分溝通，或使用者在未經充分指導下使用 AI 工具，將可能產生無法預期之風險。 參、事件評析 在Roberto Mata v. Avianca, Inc.案中，法院關注的焦點在於律師的行為，而非對AI技術使用的批判。法院認為，隨著技術的進步，利用可信賴的AI工具作為協助用途並無不當，惟，律師應踐行其專業素養，確保所提交文件之正確性[5]。 當AI科技發展逐漸朝向自主與獨立的方向前進，仍需注意生成式AI使用上之侷限。當個人在使用生成式AI時，需具備獨立思考判斷的能力，並驗證產出結果之正確性，不宜全盤接受生成式AI提供之回答。針對企業或具高度專業領域人士使用生成式AI時，除確認結果正確性外，更需注意資料保護及治理議題，例如建立AI工具合理使用情境及加強員工使用相關工具之教育訓練。在成本能負擔的情況下，可選擇透過企業內部的基礎設施訓練AI模型，或是在訓練模型前確保敏感資料已經加密或匿名。並應注意自身行業領域相關法規之更新或頒布，以適時調整資料使用之方式。 雖目前生成式AI仍有其使用之侷限，仍應抱持開放的態度，在技術使用與風險預防之間取得平衡，以能夠在技術發展的同時，更好地學習新興科技工具之使用。 [1]Mata v. Avianca, Inc., 1:22-cv-01461, (S.D.N.Y.). [2]Benjamin Weiser, Here’s What Happens When Your Lawyer Uses ChatGPT, The New York Times, May 27, 2023, https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html (last visited Aug. 4, 2023). [3]Boston Consulting Group [BCG], The CEO’s Roadmap on Generative AI (Mar. 2023), https://media-publications.bcg.com/BCG-Executive-Perspectives-CEOs-Roadmap-on-Generative-AI.pdf (last visited Aug. 29, 2023). [4]Kate Saenko, Is generative AI bad for the environment? A computer scientist explains the carbon footprint of ChatGPT and its cousins, The Conversation (May 23, 2023.), https://theconversation.com/is-generative-ai-bad-for-the-environment-a-computer-scientist-explains-the-carbon-footprint-of-chatgpt-and-its-cousins-204096 (last visited Sep. 7, 2023). [5]Robert Lufrano, ChatGPT and the Limits of AI in Legal Research, National Law Review, Volume XIII, Number 195 (Mar. 2023), https://www.natlawreview.com/article/chatgpt-and-limits-ai-legal-research (last visited Aug. 29, 2023).
WIPO公布《2021年世界智慧財產權指標報告》全球商標註冊申請在疫情影響下仍大幅上升2021年11月8日，世界智慧財產權組織（World Intellectual Property Organization，簡稱WIPO）發布2021年《世界智慧財產權指標報告》（World Intellectual Property Indicators Report，簡稱WIPI）。報告指出全球的商標申請在2020年成長了13.7%、專利成長1.6%、外觀設計成長2%。WIPO執行長表示：「WIPO世界智慧財產權指標報告證實，儘管世界經濟出現數十年來最嚴重的緊縮，但智財權申請——一個強而有力的創新指標——在疫情期間展現出非凡的復原力」。本報告以2020年度，蒐集自世界各地150個官方智財組織、以及WIPO的申請、註冊和延展的統計數據為依據，分析全球智慧財產權活動，範圍涵蓋專利、新型、商標、工業外觀設計、微生物、植物品種保護和地理標誌。 WIPO每年皆會收集和分析官方智財統計數據，發布年度WIPI報告，為政策制定者、商業領袖、投資人、學者和其他欲了解、分析智財生態宏觀趨勢的人提供全球智財資訊。
國內藥廠發起外銷策略聯盟經濟部工業局將協助國內製藥業成立「藥廠外銷策略聯盟」，集合藥界力量共同打開外銷市場，希望至少推動十幾個學名藥外銷，而明年外銷產值可達 20 億元，每年成長 20 ％，五年後外銷產值可到 100 億元；主要鎖定美、日、歐為主的 PIC/S （國際藥品稽查協合會）市場，由熟悉市場的專家來協助製藥界一起拓展海外市場，目前已有近十家業者有意加入此聯盟。 由於過去國內藥廠都主攻健保市場，不過未來成長有限，國內藥廠必須積極拓展海外市場，才可以保持競爭力。今年 4 月，日本實施新藥事法後，採取產銷分離，國內製藥業者有機會爭取到代工的機會，工業局將協助國內業者爭取日本代工注射劑、口服液等機會，以及在台採購原料藥和其他藥劑。以歐盟為主的 PIC/S 市場，近年會員增多，美國 FDA 也有意加入，國內藥廠如能爭取成為會員，可以降低藥廠重複檢驗的成本，有利拓銷海外市場。 國內藥廠拓銷海外市場已漸有成績，如優良藥廠和永光化學合作避孕藥 GyMiso ，與歐洲 HRA 藥廠合作進軍歐盟市場，並順利通過 PIC/S 查核，取得產品製造許可。生達製藥和永信製藥都在美國設廠，努力耕耘美國市場十年後，已開始賺錢，不過仍希望和國內業者合作。南光則已有和日本代工非 PVC 材質注射劑的經驗。
歐美擴大永續報告書的揭露範圍，企業可透過歷程管理增進資料透明度根據美國瑞生國際律師事務所（Latham & Watkins）於2024年1月發布的ESG年度報告指出，隨漂綠議題延燒，ESG報告不受信任為一課題，因此國際逐步擴大ESG監管，多國透過立法強制企業應揭露永續報告書或供應鏈資訊，比如：歐盟於2023年1月生效之《企業永續報告指令》（Corporate Sustainability Reporting Directive, CSRD），要求企業揭露的永續資訊需增加供應鏈資訊的透明度；美國證券交易委員會（SEC）於2024年3月6日通過規則，要求上市公司及公開發行公司揭露碳排放報告等氣候風險相關資訊。 為因應ESG帶來的挑戰，報告建議企業應採取流程化管理方式，了解產品進出口涉及的其他國家對ESG揭露資訊的要求，加以規劃並建置資料控管規範、進行人員教育訓練以及確認ESG相關資料的所有權歸屬。 由於碳排放量的計算沒有一致標準，且難以確保供應鏈上下游所提供的碳排資訊真實、未經竄改等問題，外界不容易信任企業永續發展書提倡的供應鏈減碳策略。國內企業可參考資策會科法所創意智財中心發布的《重要數位資料治理暨管理制度規範（EDGS）》，透過流程化管理，從制度規劃及留存供應鏈二氧化碳排放量或二氧化碳減量等產品相關資料歷程來增進ESG資料透明度。 本文同步刊登於TIPS網（https://www.tips.org.tw）