奈米技術之瞻性規劃－以美國推行綠色奈米為中心
本文為「經濟部產業技術司科技專案成果」
世界經濟論壇（World Economic Forum, WEF）於2022年6月29日發布《人工智慧公平性和包容性藍圖》白皮書（A Blueprint for Equity and Inclusion in Artificial Intelligence），說明在AI開發生命週期和治理生態系統中，應該如何改善公平性和強化包容性。根據全球未來人類AI理事會（Global Future Council on Artificial Intelligence for Humanity）指出，目前AI生命週期應分為兩個部分，一是管理AI使用，二是設計、開發、部署AI以滿足利益相關者需求。 包容性AI不僅是考量技術發展中之公平性與包容性，而是需整體考量並建立包容的AI生態系統，包括（1）包容性AI基礎設施（例如運算能力、資料儲存、網路），鼓勵更多技術或非技術的人員有能力參與到AI相關工作中；（2）建立AI素養、教育及意識，例如從小開始開啟AI相關課程，讓孩子從小即可以從父母的工作、家庭、學校，甚至玩具中學習AI系統對資料和隱私的影響並進行思考，盡可能讓使其互動的人都了解AI之基礎知識，並能夠認識其可能帶來的風險與機會；（3）公平的工作環境，未來各行各業需要越來越多多元化人才，企業需拓寬與AI相關之職位，例如讓非傳統背景人員接受交叉培訓、公私協力建立夥伴關係、提高員工職場歸屬感。 在設計包容性方面，必須考慮不同利益相關者之需求，並從設計者、開發者、監督機關等不同角度觀察。本報告將包容性AI開發及治理整個生命週期分為6個不同階段，期望在生命週期中的每個階段皆考量公平性與包容性： 1.了解問題並確定AI解決方案：釐清為何需要部署AI，並設定希望改善的目標變量（target variable），並透過制定包容性社會參與框架或行為準則，盡可能實現包容性社會參與（特別是代表性不足或受保護的族群）。 2.包容性模型設計：設計時需考慮社會和受影響的利益相關者，並多方考量各種設計決策及運用在不同情況時之公平性、健全性、全面性、可解釋性、準確性及透明度等。 3.包容性資料蒐集：透過設計健全的治理及隱私，確定更具包容性的資料蒐集路徑，以確保所建立之模型能適用到整體社會。 4.公平和包容的模型開發及測試：除多元化開發團隊及資料代表性，組織也應引進不同利益相關者進行迭代開發與測試，並招募測試組進行測試與部署，以確保測試人群能夠代表整體人類。且模型可能隨著時間發展而有變化，需以多元化指標評估與調整。 5.公平地部署受信任的AI系統，並監控社會影響：部署AI系統後仍應持續監控，並持續評估可能出現新的利益相關者或使用者，以降低因環境變化而可能產生的危害。 6.不斷循環發展的生命週期：不應以傳統重複循環過程看待AI生命週期，而是以流動、展開及演變的態度，隨時評估及調整，以因應新的挑戰及需求，透過定期紀錄及審查，隨時重塑包容性AI生態系統。 綜上，本報告以包容性AI生態系統及生命週期概念，期望透過基礎設施、教育與培訓、公平的工作環境等，以因應未來無所不在的AI社會與生活，建立公司、政府、教育機構可以遵循的方向。
Angie's List起訴Amazon Local侵害營業秘密消費者評論服務Angie's List於本月在印第安納州提起一項聯邦訴訟，對象是Amazon Local。Angie's List作為當地交易網站，提供高達75％的本地服務，包括產品和使用經驗。但Amazon Local員工卻通過註冊成為Angie's List的會員，以獲得其他會員名單和下載網站所提供的文件，也包括其他會員的評論和相關資訊。因此20餘名Amazon Local員工被列為共同被告。 該訴訟聲明中指控相關資訊被Amazon Local所使用，用以在西雅圖建立一個競爭性的服務。Angie's List在訴訟中指稱，他在會員協議“明確禁止使用Angie's List的帳戶和資料用於商業目的”，但Amazon Local員工卻違反了契約。“Amazon Local沒有投入必要的時間，資源和合法手段發展自己的研究與Angie's List競爭，相反的，Angie's List和它的員工都選擇了秘密訪問和挪用Angie's List專有信息的快捷方式。 Angie's List指控Amazon Local違反商業機密，竊盜，侵入電腦，民事侵權，電腦欺詐與濫用盜用行為和違反契約。Angie's List請求法院判決Amazon Local賠償其損失，並禁止Amazon Local再使用Angie's List，包括已經得到的資訊。Angie's List也請求未規定的損害賠償，“不當得利”和懲罰性的和其他損害。
歐盟發布「人工智慧白皮書」以因應人工智慧未來可能的機遇與挑戰人工智慧目前正快速發展，不論是在醫療、農業耕作、製造生產或是氣候變遷等領域上，均帶來了許多改變，然而在人工智慧應用之同時，其也存在許多潛在風險如決策不透明、歧視或其他倫理與人權議題。 歐盟為求在全球競爭激烈的背景下，維護其於人工智慧相關領域的領先地位，並確保人工智慧技術於改善歐洲人民生活的同時，亦能尊重(respecting)人民權利，乃於今年(2020年)2月發布「人工智慧白皮書」(White Paper on Artificial Intelligence)，將採投資及監管併用之方式，促進人工智慧應用與解決其相關風險，其對於未來促進人工智慧的應用(promoting the uptake of AI)與相關風險解決，計畫朝向建立卓越生態系統(An Ecosystem of Excellence)及信任生態系統(An Ecosystem of Trust)兩方面進行。 在建立信任生態系統中，歐盟提到因為人工智慧具有變革性的潛力，所以就信任的建立乃至關重要，未來歐洲人工智慧的監管框架除了須確保遵守歐盟法規外(包括基本權利保護與消費者權益維護之規範)，對於高風險性之人工智慧應用，其將強制要求需於銷售前進行合格評定(mandatory pre-marketing conformity assessment requirement)。而有關高風險性之定義，歐盟於該白皮書指出須符合以下兩個要件： 考量人工智慧應用之一般活動特徵，其預計會有重大風險的發生，例如在醫療保健、運輸、能源和可能屬於高風險的公共領域；以及 在預期用途或應用上都可能對個人(individual)或企業(company)帶來重大的風險，特別是在安全性(safety)、消費者權益(consumer rights)與基本權利(fundamental rights)上。 歐盟委員會目前針對於以上白皮書之內容與附隨報告，將向公眾徵詢意見至今年5月19日。
用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限 資訊工業策進會科技法律研究所 2023年09月08日 生成式AI是透過研究過去資料，以創造新內容和想法的AI技術，其應用領域包括文字、圖像及影音。以ChatGPT為例，OpenAI自2022年11月30日發布ChatGPT後，短短二個月內，全球月均用戶數即達到1億人，無疑成為民眾日常生活中最容易近用的AI科技。 惟，生成式AI大量使用後，其中的問題也逐漸浮現。例如，ChatGPT提供的回答僅是從所學習的資料中統整歸納，無法保證資料的正確性。Roberto Mata v. Avianca, Inc.案即是因律師利用ChatGPT撰寫訴狀，卻未重新審視其所提供判決之正確性，以致後續引發訴狀中所描述的判決不存在爭議。 壹、事件摘要 Roberto Mata v. Avianca, Inc.案[1]中，原告Roberto Mata於2019年8月搭乘哥倫比亞航空從薩爾瓦多飛往紐約，飛行過程中膝蓋遭空服員的推車撞傷，並於2022年2月向法院提起訴訟，要求哥倫比亞航空為空服員的疏失作出賠償；哥倫比亞航空則主張已超過《蒙特婁公約》（Montreal Convention）第35條所訂之航空器抵達日起兩年內向法院提出損害賠償之請求時效。 R然而，法院審理過程中發現原告訴狀內引用之六個判決無法從判決系統中查詢，進而質疑判決之真實性。原告律師Steven A. Schwartz因而坦承訴狀中引用的六個判決是ChatGPT所提供，並宣稱針對ChatGPT所提供的判決，曾多次向ChatGPT確認該判決之正確性[2]。 貳、生成式AI應用之潛在風險 雖然運用生成式AI技術並結合自身專業知識執行特定任務，可能有助於提升效率，惟，從前述Roberto Mata v. Avianca, Inc.案亦可看出，依目前生成式AI技術之發展，仍可能產生資訊正確性疑慮。以下彙整生成式AI應用之8大潛在風險[3]： 一、能源使用及對環境危害 相較於傳統機器學習，生成式AI模型訓練將耗費更多運算資源與能源。根據波士頓大學電腦科學系Kate Saenko副教授表示，OpenAI的GPT-3模型擁有1,750億個參數，約會消耗1,287兆瓦/時的電力，並排放552噸二氧化碳。亦即，每當向生成式AI下一個指令，其所消耗的能源量相較於一般搜尋引擎將可能高出4至5倍[4]。 二、能力超出預期（Capability Overhang） 運算系統的黑盒子可能發展出超乎開發人員或使用者想像的隱藏功能，此發展將會對人類帶來新的助力還是成為危險的阻力，則會隨著使用者之間的相互作用而定。 三、輸出結果有偏見 生成式AI通常是利用公開資料進行訓練，若輸入資料在訓練時未受監督，而帶有真實世界既存的刻板印象（如語言、種族、性別、性取向、能力、文化等），據此建立之AI模型輸出結果可能帶有偏見。 四、智慧財產權疑慮 生成式AI進行模型訓練時，需仰賴大量網路資料或從其他大型資料庫蒐集訓練資料。然而，若原始資料來源不明確，可能引發取得資料未經同意或違反授權條款之疑慮，導致生成的內容存在侵權風險。 五、缺乏驗證事實功能 生成式AI時常提供看似正確卻與實際情形不符的回覆，若使用者誤信該答案即可能帶來風險。另外，生成式AI屬於持續動態發展的資訊生態系統，當產出結果有偏誤時，若沒有大規模的人為干預恐難以有效解決此問題。 六、數位犯罪增加與資安攻擊 過去由人工產製的釣魚郵件或網站可能受限於技術限制而容易被識破，然而，生成式AI能夠快速建立具高度說服力的各種擬真資料，降低詐騙的進入門檻。又，駭客亦有可能在不熟悉技術的情況下，利用AI進一步找出資安弱點或攻擊方法，增加防禦難度。 七、敏感資料外洩 使用雲端服務提供商所建立的生成式AI時，由於輸入的資料存儲於外部伺服器，若要追蹤或刪除有一定難度，若遭有心人士利用而導致濫用、攻擊或竄改，將可能產生資料外洩的風險。 八、影子AI（Shadow AI） 影子AI係指開發者未知或無法控制之AI使用情境。隨著AI模型複雜性增加，若開發人員與使用者未進行充分溝通，或使用者在未經充分指導下使用 AI 工具，將可能產生無法預期之風險。 參、事件評析 在Roberto Mata v. Avianca, Inc.案中，法院關注的焦點在於律師的行為，而非對AI技術使用的批判。法院認為，隨著技術的進步，利用可信賴的AI工具作為協助用途並無不當，惟，律師應踐行其專業素養，確保所提交文件之正確性[5]。 當AI科技發展逐漸朝向自主與獨立的方向前進，仍需注意生成式AI使用上之侷限。當個人在使用生成式AI時，需具備獨立思考判斷的能力，並驗證產出結果之正確性，不宜全盤接受生成式AI提供之回答。針對企業或具高度專業領域人士使用生成式AI時，除確認結果正確性外，更需注意資料保護及治理議題，例如建立AI工具合理使用情境及加強員工使用相關工具之教育訓練。在成本能負擔的情況下，可選擇透過企業內部的基礎設施訓練AI模型，或是在訓練模型前確保敏感資料已經加密或匿名。並應注意自身行業領域相關法規之更新或頒布，以適時調整資料使用之方式。 雖目前生成式AI仍有其使用之侷限，仍應抱持開放的態度，在技術使用與風險預防之間取得平衡，以能夠在技術發展的同時，更好地學習新興科技工具之使用。 [1]Mata v. Avianca, Inc., 1:22-cv-01461, (S.D.N.Y.). [2]Benjamin Weiser, Here’s What Happens When Your Lawyer Uses ChatGPT, The New York Times, May 27, 2023, https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html (last visited Aug. 4, 2023). [3]Boston Consulting Group [BCG], The CEO’s Roadmap on Generative AI (Mar. 2023), https://media-publications.bcg.com/BCG-Executive-Perspectives-CEOs-Roadmap-on-Generative-AI.pdf (last visited Aug. 29, 2023). [4]Kate Saenko, Is generative AI bad for the environment? A computer scientist explains the carbon footprint of ChatGPT and its cousins, The Conversation (May 23, 2023.), https://theconversation.com/is-generative-ai-bad-for-the-environment-a-computer-scientist-explains-the-carbon-footprint-of-chatgpt-and-its-cousins-204096 (last visited Sep. 7, 2023). [5]Robert Lufrano, ChatGPT and the Limits of AI in Legal Research, National Law Review, Volume XIII, Number 195 (Mar. 2023), https://www.natlawreview.com/article/chatgpt-and-limits-ai-legal-research (last visited Aug. 29, 2023).