美國「刑事鑑識演算法草案」
美國眾議院議員Mark Takano於2019年10月2日提出「刑事鑑識演算法草案」 （Justice in Forensic Algorithms Act），以建立美國鑑識演算法標準。依據該法第2條，美國國家標準與技術研究所（National Institute of Standard）必須建立電算鑑識軟體之發展與使用標準，且該標準應包含以下內容：
一、以種族、社會經濟地位、兩性與其他人口特徵為基礎之評估標準，以因應使用或發展電算鑑識軟體，所造成區別待遇產生之潛在衝擊。
二、該標準應解決:（1）電算鑑識軟體所依據之科學原則與應用之方法論，且於具備特定方法之案例上，是否有足夠之研究基礎支持該方法之有效性，以及團隊進行哪些研究以驗證該方法；（2）要求對軟體之測試，包含軟體之測試環境、測試方法、測試資料與測試統計結果，例如正確性、精確性、可重複性、敏感性與健全性。
三、電算鑑識軟體開發者對於該軟體之對外公開說明文件，內容包含軟體功能、研發過程、訓練資料來源、內部測試方法與結果。
四、要求使用電算鑑識軟體之實驗室或其他機構應對其進行驗證，包含具體顯示於哪個實驗室與哪種狀況下進行驗證。此外，亦應要求列於公開報告內之相關資訊，且於軟體更新後亦應持續進行驗證。
五、要求執法機關於起訴書或相關起訴文件上應詳列使用電算鑑識軟體之相關結果。
本文為「經濟部產業技術司科技專案成果」
余和謙
法律研究員 編譯整理
余和謙，歐盟執委會提出「具可信度之人工智慧倫理指引」，資策會科技法律研究所，https://stli.iii.org.tw/article-detail.aspx?no=67&tp=5&d=8236（最後瀏覽日：2020/02/15）
張腕純，英國資訊委員辦公室提出人工智慧（AI）稽核框架，資策會科技法律研究所，https://stli.iii.org.tw/article-detail.aspx?tp=1&i=72&d=8249&no=64 （最後瀏覽日：2020/02/15）
用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限 資訊工業策進會科技法律研究所 2023年09月08日 生成式AI是透過研究過去資料，以創造新內容和想法的AI技術，其應用領域包括文字、圖像及影音。以ChatGPT為例，OpenAI自2022年11月30日發布ChatGPT後，短短二個月內，全球月均用戶數即達到1億人，無疑成為民眾日常生活中最容易近用的AI科技。 惟，生成式AI大量使用後，其中的問題也逐漸浮現。例如，ChatGPT提供的回答僅是從所學習的資料中統整歸納，無法保證資料的正確性。Roberto Mata v. Avianca, Inc.案即是因律師利用ChatGPT撰寫訴狀，卻未重新審視其所提供判決之正確性，以致後續引發訴狀中所描述的判決不存在爭議。 壹、事件摘要 Roberto Mata v. Avianca, Inc.案[1]中，原告Roberto Mata於2019年8月搭乘哥倫比亞航空從薩爾瓦多飛往紐約，飛行過程中膝蓋遭空服員的推車撞傷，並於2022年2月向法院提起訴訟，要求哥倫比亞航空為空服員的疏失作出賠償；哥倫比亞航空則主張已超過《蒙特婁公約》（Montreal Convention）第35條所訂之航空器抵達日起兩年內向法院提出損害賠償之請求時效。 R然而，法院審理過程中發現原告訴狀內引用之六個判決無法從判決系統中查詢，進而質疑判決之真實性。原告律師Steven A. Schwartz因而坦承訴狀中引用的六個判決是ChatGPT所提供，並宣稱針對ChatGPT所提供的判決，曾多次向ChatGPT確認該判決之正確性[2]。 貳、生成式AI應用之潛在風險 雖然運用生成式AI技術並結合自身專業知識執行特定任務，可能有助於提升效率，惟，從前述Roberto Mata v. Avianca, Inc.案亦可看出，依目前生成式AI技術之發展，仍可能產生資訊正確性疑慮。以下彙整生成式AI應用之8大潛在風險[3]： 一、能源使用及對環境危害 相較於傳統機器學習，生成式AI模型訓練將耗費更多運算資源與能源。根據波士頓大學電腦科學系Kate Saenko副教授表示，OpenAI的GPT-3模型擁有1,750億個參數，約會消耗1,287兆瓦/時的電力，並排放552噸二氧化碳。亦即，每當向生成式AI下一個指令，其所消耗的能源量相較於一般搜尋引擎將可能高出4至5倍[4]。 二、能力超出預期（Capability Overhang） 運算系統的黑盒子可能發展出超乎開發人員或使用者想像的隱藏功能，此發展將會對人類帶來新的助力還是成為危險的阻力，則會隨著使用者之間的相互作用而定。 三、輸出結果有偏見 生成式AI通常是利用公開資料進行訓練，若輸入資料在訓練時未受監督，而帶有真實世界既存的刻板印象（如語言、種族、性別、性取向、能力、文化等），據此建立之AI模型輸出結果可能帶有偏見。 四、智慧財產權疑慮 生成式AI進行模型訓練時，需仰賴大量網路資料或從其他大型資料庫蒐集訓練資料。然而，若原始資料來源不明確，可能引發取得資料未經同意或違反授權條款之疑慮，導致生成的內容存在侵權風險。 五、缺乏驗證事實功能 生成式AI時常提供看似正確卻與實際情形不符的回覆，若使用者誤信該答案即可能帶來風險。另外，生成式AI屬於持續動態發展的資訊生態系統，當產出結果有偏誤時，若沒有大規模的人為干預恐難以有效解決此問題。 六、數位犯罪增加與資安攻擊 過去由人工產製的釣魚郵件或網站可能受限於技術限制而容易被識破，然而，生成式AI能夠快速建立具高度說服力的各種擬真資料，降低詐騙的進入門檻。又，駭客亦有可能在不熟悉技術的情況下，利用AI進一步找出資安弱點或攻擊方法，增加防禦難度。 七、敏感資料外洩 使用雲端服務提供商所建立的生成式AI時，由於輸入的資料存儲於外部伺服器，若要追蹤或刪除有一定難度，若遭有心人士利用而導致濫用、攻擊或竄改，將可能產生資料外洩的風險。 八、影子AI（Shadow AI） 影子AI係指開發者未知或無法控制之AI使用情境。隨著AI模型複雜性增加，若開發人員與使用者未進行充分溝通，或使用者在未經充分指導下使用 AI 工具，將可能產生無法預期之風險。 參、事件評析 在Roberto Mata v. Avianca, Inc.案中，法院關注的焦點在於律師的行為，而非對AI技術使用的批判。法院認為，隨著技術的進步，利用可信賴的AI工具作為協助用途並無不當，惟，律師應踐行其專業素養，確保所提交文件之正確性[5]。 當AI科技發展逐漸朝向自主與獨立的方向前進，仍需注意生成式AI使用上之侷限。當個人在使用生成式AI時，需具備獨立思考判斷的能力，並驗證產出結果之正確性，不宜全盤接受生成式AI提供之回答。針對企業或具高度專業領域人士使用生成式AI時，除確認結果正確性外，更需注意資料保護及治理議題，例如建立AI工具合理使用情境及加強員工使用相關工具之教育訓練。在成本能負擔的情況下，可選擇透過企業內部的基礎設施訓練AI模型，或是在訓練模型前確保敏感資料已經加密或匿名。並應注意自身行業領域相關法規之更新或頒布，以適時調整資料使用之方式。 雖目前生成式AI仍有其使用之侷限，仍應抱持開放的態度，在技術使用與風險預防之間取得平衡，以能夠在技術發展的同時，更好地學習新興科技工具之使用。 [1]Mata v. Avianca, Inc., 1:22-cv-01461, (S.D.N.Y.). [2]Benjamin Weiser, Here’s What Happens When Your Lawyer Uses ChatGPT, The New York Times, May 27, 2023, https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html (last visited Aug. 4, 2023). [3]Boston Consulting Group [BCG], The CEO’s Roadmap on Generative AI (Mar. 2023), https://media-publications.bcg.com/BCG-Executive-Perspectives-CEOs-Roadmap-on-Generative-AI.pdf (last visited Aug. 29, 2023). [4]Kate Saenko, Is generative AI bad for the environment? A computer scientist explains the carbon footprint of ChatGPT and its cousins, The Conversation (May 23, 2023.), https://theconversation.com/is-generative-ai-bad-for-the-environment-a-computer-scientist-explains-the-carbon-footprint-of-chatgpt-and-its-cousins-204096 (last visited Sep. 7, 2023). [5]Robert Lufrano, ChatGPT and the Limits of AI in Legal Research, National Law Review, Volume XIII, Number 195 (Mar. 2023), https://www.natlawreview.com/article/chatgpt-and-limits-ai-legal-research (last visited Aug. 29, 2023).
日本P2P軟體Winny開發者再遭起訴，並具體求刑一年日本東京地檢署以助長著作權侵害為由，於 7 月 3 日 向東京地方法院對日本知名檔案交換軟體（ P2P ） Winny 的開發者金子 勇提起訴訟，並具體求處有期徒刑一年。這是繼 2004 年 5 月京都地檢署起訴金子 勇後，對同一 P2P 軟體開發者另為起訴的案件。 2002 年，東京大學資訊理工學系研究助理金子 勇開發出可供他人使用的分散式 P2P 軟體 Winny ，旋即受到廣大網友的歡迎。使用者透過 Winny ，不僅交換著未經授權的音樂、影片檔案，甚至包括了部份的警方或自衛隊官方文件。而日本各大企業，如日本雅虎、富士通及 NEC 等，也陸續傳出因公司職員使用 Winny 而導致員工及客戶個人資料外洩的事件。 針對 Winny 開發者起訴案件，目前京都地方法院尚未作出判決，而日本東京地方法院已預定於 9 月 4 日 進行公開審判。此外，因應 Winny 所肇致的資安問題，各相關企業也順勢推出可過濾 Winny 的軟硬體設備，如日本京瓷公司（ KCCS ）即於 7 月 10 推出企業網路管理軟體，除可偵測內部電腦是否安裝 Winny 外，亦可阻絕已安裝 Winny 的電腦連接至企業網路。
全球四大晶片業者共同研發奈米蝕刻技術世界四大電腦晶片業者決定與紐約州合作，在今後五年內出資 5.8億美元，研究發展下一代電腦微晶片製造技術。紐約州預定出資1.8億美元，美國IBM、超微半導體(AMD)、美光科技(Micron)與德國英飛凌預定各出五千萬美元的現金與設備，另2億美元由多家提供物料與設備的廠商提供。惟世界最大晶片廠商英特爾(Intel)並未參與此計畫，英特爾目前在x86微處理器市場中，占有銷售量的80%、銷售額的90%。 此國際奈米蝕刻事業（ International Venture for Nanolithography, INVENT）計畫的基地，預定設在奧伯尼紐約州立大學奈米科學與工程學院，預期共有500多位研究人員、工程師與其他人員，投入此計畫。 奈米科技是研究分子與原子級的科學，此一計畫研究重心是利用光線，蝕刻大約頭髮直徑十萬分之一大小的電路，讓參與公司及早取得與學習應用研究出來的蝕刻工具。由於近年半導體速度與複雜性快速提高，晶片業者製造更小、更快晶片的難度增加，研究發展成本飛躍上升，業界體認到必須合作，才能負擔。一具蝕刻工具成本可能高達 2500萬美元，蝕刻工具進步攸關晶片廠商繼續縮小晶片規模，使每個晶片具有更多運算與儲存能力。目前生產的最先進晶片運用90奈米科技，晶片廠商希望從2006或2007年起，生產65奈米晶片。
歐盟倡議「邁向資料經濟時代」政策，規劃巨量資料Big Data發展策略2014年7月歐盟執委會針對巨量資料規劃新的政策，提出「邁向資料經濟時代」（Towards a thriving data-driven economy）政策，對研究發展帶來激勵，創造更多的商業機會。先前在2010年至2015年巨量資料科技與服務市場觀察報告中，指出預期巨量資料科技複合成長率為40%。從這些國際趨勢觀察，智慧聯網與巨量資料涉及的領域包括健康、食品安全、氣候與能源資源、智慧運輸系統以及智慧城市等，而這些都是當前歐洲無法忽略的問題。因此，此政策中指出應支持重點資料來促進公共服務與市民生活的競爭力與品質，廣泛分享使用並發展公開資料資料以及研究資料、確認相關的法律架構與政策屬有利發展、利用政府採購將資料科技帶入市場等項重點，以促成資料驅動經濟的全球化發展。 歐盟指委會並指出，推動巨量資料政策的施行尚仰賴於其他的行動計畫以及各個會員國之間的合作 。而在資料蒐集與利用逐漸擴張的情形下，歐盟執委會更於2014年7月2日發出聲明，要求各國政府應重視巨量資料帶來的問題，並且指出在巨量資料的公共諮詢中，有主要四個問題: (1)缺乏跨境的合作(2)未具有充分設施以及資金資助機會(3)缺乏資料專家以及相關技術(4)法規範過於零散且複雜。因此，歐盟執委會提出以下幾點，有助於問題的解決: 1. 透過公私營合作制度資助巨量資料發展，特別是在個人醫療領域上的應用。 2. 在Horizon 2020架構下，設立巨量資料中心，將以資料為基礎，將之與雲端使用構成供給鏈，藉此幫助中小企業。 3. 當透過智慧聯網，及機器與機器間通訊取得資料時，應針對資料所有權以及責任規範建立新的準則。 4. 建構資料標準，找出潛在的缺漏。 5. 建立一系列超級運算中心，增加歐洲資料專家。 6. 在不同會員國建立資料處理設施之聯結網絡 。 歐盟執委會希望能於上述各項政策推動下，共同建立有助資料經濟發展基礎架構及環境，並鼓勵產業界共同投入巨量資料的應用發展。