柏克萊市開啟奈米科技管理規範的先河
美國柏克萊﹙Berkley﹚市議會日前無異議通過既有有害物質法令修正之決議，企圖涵蓋奈米物質之情形，此其為奈米科技地方性立法之首例。此項行動迫使研究人員及製造人必須於研究或生產過程中，申報所使用的奈米材料，以及提出有效管理奈米物質的證明。
在商業世界當中，奈米科技的目標是在原子或分子層次，藉由改變或創造新的成份，以發展出新的產品及材料。不過，這些材料是否會產生環境及健康方面的問題，目前尚不得而知。
此項修正已蘊釀兩年。市府官員表示，此項法規修正主要在於監管奈米新創事業﹙startups﹚或小型企業﹙small business﹚，而非國家型實驗室﹙the national lab﹚所造成的影響，因為後者目前係由美國能源部﹙Department of Energy﹚所管理，地方法規對其並無管理權限。一開始，國家實驗室相當反對柏克萊市的這項計畫；不過，經過溝通其表示未來將繼續支持該市市府的行動。
負責柏克萊市有害物質管理事務的Nabil Al-Hadithy表示，他期許這項新法成為其他城市有效管理奈米物質的榜樣，並希望其他城市能夠將這樣類型的規範，有效運用在全加州的健康及安全法規上。
本文為「經濟部產業技術司科技專案成果」
用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限 資訊工業策進會科技法律研究所 2023年09月08日 生成式AI是透過研究過去資料，以創造新內容和想法的AI技術，其應用領域包括文字、圖像及影音。以ChatGPT為例，OpenAI自2022年11月30日發布ChatGPT後，短短二個月內，全球月均用戶數即達到1億人，無疑成為民眾日常生活中最容易近用的AI科技。 惟，生成式AI大量使用後，其中的問題也逐漸浮現。例如，ChatGPT提供的回答僅是從所學習的資料中統整歸納，無法保證資料的正確性。Roberto Mata v. Avianca, Inc.案即是因律師利用ChatGPT撰寫訴狀，卻未重新審視其所提供判決之正確性，以致後續引發訴狀中所描述的判決不存在爭議。 壹、事件摘要 Roberto Mata v. Avianca, Inc.案[1]中，原告Roberto Mata於2019年8月搭乘哥倫比亞航空從薩爾瓦多飛往紐約，飛行過程中膝蓋遭空服員的推車撞傷，並於2022年2月向法院提起訴訟，要求哥倫比亞航空為空服員的疏失作出賠償；哥倫比亞航空則主張已超過《蒙特婁公約》（Montreal Convention）第35條所訂之航空器抵達日起兩年內向法院提出損害賠償之請求時效。 R然而，法院審理過程中發現原告訴狀內引用之六個判決無法從判決系統中查詢，進而質疑判決之真實性。原告律師Steven A. Schwartz因而坦承訴狀中引用的六個判決是ChatGPT所提供，並宣稱針對ChatGPT所提供的判決，曾多次向ChatGPT確認該判決之正確性[2]。 貳、生成式AI應用之潛在風險 雖然運用生成式AI技術並結合自身專業知識執行特定任務，可能有助於提升效率，惟，從前述Roberto Mata v. Avianca, Inc.案亦可看出，依目前生成式AI技術之發展，仍可能產生資訊正確性疑慮。以下彙整生成式AI應用之8大潛在風險[3]： 一、能源使用及對環境危害 相較於傳統機器學習，生成式AI模型訓練將耗費更多運算資源與能源。根據波士頓大學電腦科學系Kate Saenko副教授表示，OpenAI的GPT-3模型擁有1,750億個參數，約會消耗1,287兆瓦/時的電力，並排放552噸二氧化碳。亦即，每當向生成式AI下一個指令，其所消耗的能源量相較於一般搜尋引擎將可能高出4至5倍[4]。 二、能力超出預期（Capability Overhang） 運算系統的黑盒子可能發展出超乎開發人員或使用者想像的隱藏功能，此發展將會對人類帶來新的助力還是成為危險的阻力，則會隨著使用者之間的相互作用而定。 三、輸出結果有偏見 生成式AI通常是利用公開資料進行訓練，若輸入資料在訓練時未受監督，而帶有真實世界既存的刻板印象（如語言、種族、性別、性取向、能力、文化等），據此建立之AI模型輸出結果可能帶有偏見。 四、智慧財產權疑慮 生成式AI進行模型訓練時，需仰賴大量網路資料或從其他大型資料庫蒐集訓練資料。然而，若原始資料來源不明確，可能引發取得資料未經同意或違反授權條款之疑慮，導致生成的內容存在侵權風險。 五、缺乏驗證事實功能 生成式AI時常提供看似正確卻與實際情形不符的回覆，若使用者誤信該答案即可能帶來風險。另外，生成式AI屬於持續動態發展的資訊生態系統，當產出結果有偏誤時，若沒有大規模的人為干預恐難以有效解決此問題。 六、數位犯罪增加與資安攻擊 過去由人工產製的釣魚郵件或網站可能受限於技術限制而容易被識破，然而，生成式AI能夠快速建立具高度說服力的各種擬真資料，降低詐騙的進入門檻。又，駭客亦有可能在不熟悉技術的情況下，利用AI進一步找出資安弱點或攻擊方法，增加防禦難度。 七、敏感資料外洩 使用雲端服務提供商所建立的生成式AI時，由於輸入的資料存儲於外部伺服器，若要追蹤或刪除有一定難度，若遭有心人士利用而導致濫用、攻擊或竄改，將可能產生資料外洩的風險。 八、影子AI（Shadow AI） 影子AI係指開發者未知或無法控制之AI使用情境。隨著AI模型複雜性增加，若開發人員與使用者未進行充分溝通，或使用者在未經充分指導下使用 AI 工具，將可能產生無法預期之風險。 參、事件評析 在Roberto Mata v. Avianca, Inc.案中，法院關注的焦點在於律師的行為，而非對AI技術使用的批判。法院認為，隨著技術的進步，利用可信賴的AI工具作為協助用途並無不當，惟，律師應踐行其專業素養，確保所提交文件之正確性[5]。 當AI科技發展逐漸朝向自主與獨立的方向前進，仍需注意生成式AI使用上之侷限。當個人在使用生成式AI時，需具備獨立思考判斷的能力，並驗證產出結果之正確性，不宜全盤接受生成式AI提供之回答。針對企業或具高度專業領域人士使用生成式AI時，除確認結果正確性外，更需注意資料保護及治理議題，例如建立AI工具合理使用情境及加強員工使用相關工具之教育訓練。在成本能負擔的情況下，可選擇透過企業內部的基礎設施訓練AI模型，或是在訓練模型前確保敏感資料已經加密或匿名。並應注意自身行業領域相關法規之更新或頒布，以適時調整資料使用之方式。 雖目前生成式AI仍有其使用之侷限，仍應抱持開放的態度，在技術使用與風險預防之間取得平衡，以能夠在技術發展的同時，更好地學習新興科技工具之使用。 [1]Mata v. Avianca, Inc., 1:22-cv-01461, (S.D.N.Y.). [2]Benjamin Weiser, Here’s What Happens When Your Lawyer Uses ChatGPT, The New York Times, May 27, 2023, https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html (last visited Aug. 4, 2023). [3]Boston Consulting Group [BCG], The CEO’s Roadmap on Generative AI (Mar. 2023), https://media-publications.bcg.com/BCG-Executive-Perspectives-CEOs-Roadmap-on-Generative-AI.pdf (last visited Aug. 29, 2023). [4]Kate Saenko, Is generative AI bad for the environment? A computer scientist explains the carbon footprint of ChatGPT and its cousins, The Conversation (May 23, 2023.), https://theconversation.com/is-generative-ai-bad-for-the-environment-a-computer-scientist-explains-the-carbon-footprint-of-chatgpt-and-its-cousins-204096 (last visited Sep. 7, 2023). [5]Robert Lufrano, ChatGPT and the Limits of AI in Legal Research, National Law Review, Volume XIII, Number 195 (Mar. 2023), https://www.natlawreview.com/article/chatgpt-and-limits-ai-legal-research (last visited Aug. 29, 2023).
日本修訂醫藥品強化綜合戰略日本內閣於2017年6月閣議決定「經濟財政營運與改革基本方針2017」，設定醫藥品項倍增目標，並計畫檢討在2020年9月前達成學名藥使用率80%以上之推動政策。基於上開方針，為實現「安定供應國民優良品質醫藥品」、「醫療費效率化」、「產業競爭力強化」等目的，厚生勞動省於2017年12月22日修訂「醫藥品產業強化綜合戰略～著眼全球展開之新藥研發」，希望日本醫藥品產業能從依賴「長期收載品」之商業模式，轉向具備更高新藥開發能力之結構。 「醫藥品產業強化綜合戰略」主要修訂內容如下︰（1）改善日本技術、相關知識等研究開發環境︰如推動癌症基因醫療、資料庫整備、利用AI進行醫藥品研究開發等；（2）透過藥事規制改革減低醫療成本和提高效率︰如善用附條件認可制度，以及先驅審查制度之制度化等；（3）醫藥品生產、製造等基礎設施之整備︰如制定相應之新技術品質管理等規範；（4）適當評價之環境、平台整備︰如各種臨床指引之整備；（5）向海外推廣日本製造之醫藥品︰如制定國際法規調適戰略等；（6）促進新藥開發業界之新陳代謝和全球化創新企業︰支援新創企業之人才育成、金融市場之整備等；（7）改善醫療用醫藥品之流通︰如制定流通改善指引等。
東京都公布「新創全球創新政策」東京都政府在2022年底發布了「新創全球創新政策」，希望能透過新創全球化的發展帶動產業年輕化，挽救東京在全球新創圈的頹勢。2022年新創生態城市排名東京名列第12名，在其之前的亞洲城市包含第5名的北京、第8名的上海及第10名的首爾，說明了東京在亞洲城市的新創生態排名不如其城市發展一樣的領先群雄。其手段包含在2023年2月以Sustainable High City Tech Tokyo（永續科技城市東京，簡稱為SusHi Tech Tokyo，取壽司的日文諧音）為題，展開一連串將東京打造成新創城市的策略。 關於「新創全球創新政策」中法制方面的政策規劃如下： 1.重新設計法規以培養國內企業家-掌握新創公司的需求，舉行說明會或交流會，來具體後續修法內容。除此之外建立伴走支援制度蒐集新創事業之需求，整合需求對接各主管機關，並協助制度修改之後續追蹤。 2.重新設計全球企業家進入日本的法規-為了增加東京本土的創業公司數量，並加速東京創業公司的全球擴張，制定從海外吸引高級人才的規定，將提出一系列放寬高技能人才簽證簽發條件的特區提案。 3.協助日本新創企業留住外國人才-鬆綁留日簽證規定，使在日一流大學畢業的高階外國人才得於畢業後進入日本新創企業就業或自行成立新創企業。 其他包含結合相關單位包含大學、財團法人與政府部門一同為新創提供支持、培育年輕人創業精神及全球化技能、辦理全球性活動City-Tech.Tokyo並以全國一個品牌的方式向國際推廣日本新創，透過這個「新創全球創新政策」讓日本新創生態發展奪回亞洲冠軍拚向世界前段班。 綜觀來看，東京的「新創全球創新政策」以城市做主體，展現了東京轉變的決心，不只要走在日本最前端更是要走在世界城市的前端。
日本也有EUA了！新修《藥機法》通過藥物緊急許可制度日本也有EUA了！新修《藥機法》通過藥物緊急許可制度 資訊工業策進會科技法律研究所 2022年06月13日 去（2021）年12年底日本厚生勞動省發布「緊急時藥物許可制度總結[1]」（緊急時の薬事承認の在り方等に関するとりまとめ）文件，就日本藥物緊急許可制度（緊急承認）進行提案，並建議修法。接著，以該制度為中心之《藥物及醫療器材品質、有效性及安全性確保法》（医薬品、医療機器等の品質、有効性及び安全性の確保等に関する法律）（下稱藥機法）修正案，在今（2022）年3月經眾議院通過，4月經參議院通過成立，5月20日公布並即日開始發生效力[2]。主要條文規範在新法第14條之2之2及第23條之2之6之2。 壹、立法背景說明 修法之前，日本藥物上市審查有四種管道：一般許可（通常承認）、先驅審查指定制度（先駆け審査指定制度）、附條件許可（条件付き承認）、特例許可（特例承認）。「一般許可」係無特殊情形下之通常上市管道；「先驅審查指定制度」是針對治療嚴重疾病的劃時代創新藥物所創設之優先審查制度[3]；「附條件許可」則是針對有效治療方法少、患者數量少的嚴重疾病的藥物審查制度[4]；若遇緊急事件需使用藥物則是走「特例許可」管道使藥品能提早上市[5]。 根據去年日本厚生勞動省之調查[6]，在傳染病大流行等類似緊急情況之下，日本當時對於藥品核准的對應方式存有兩大問題。 首先是對應的速度不夠快。在緊急狀況下，對於疫苗及藥物等的優先核准制度，即使是日本當時最快的「特例許可」管道，相較於歐美也較為耗時。以對抗新型冠狀病毒的莫德納疫苗為例，該疫苗在美國取得緊急使用授權（Emergency Use Authorization，下稱EUA）之後，約過了5個月才在日本獲得承認；而新型冠狀病毒的治療藥物Sotrovimab於日本國內的核准也晚於美國4個月[7]。 其二是特別許可的適用對象較窄，「特例許可」管道是為已在國外流通之藥品而設計，因此若是日本藥廠自行研發的疫苗、藥物或是療法，均無法依此管道上市。如日本藥廠塩野義所開發的新型冠狀病毒口服藥，即需要透過附條件許可之制度，或新的緊急許可制度加快上市速度。 鑒於前述原因，日本厚生勞動省參考美國EUA，提出了藥物的「緊急許可制度」。此二制度最大共通特點在於其均非藥品的正式上市制度，通過審查之後僅能在一定期間內上市流通，到期之後原則上應下架[8]。 貳、重點說明 緊急許可制度有四大重點[9]，說明如下： 一、發動要件：為防止重大影響國民生命和健康之疾病蔓延，及防止其他健康損害狀況的擴大，有緊急使用之必要，且無使用該藥物以外替代手段時，得申請緊急許可。此處所稱之藥物包括了疫苗、治療藥物、普通藥品、醫療器械等產品。且緊急情況並不限於大規模流行性疾病，核事故、放射性污染、生化攻擊等情況亦適用緊急許可制度。 二、運用標準：在臨床試驗確認安全性的前提下，可以不需要完成有效性的完整試驗，得僅就現有的數據及資訊進行有效性之推定。舉例而言，若在海外進行的大規模驗證臨床研究中獲得了顯著的結果，則以日本受試者為主的臨床研究結果為非必要。 三、核准條件及期限：由於在有效性的階段給予核准，為了確保正確使用核准的藥物，應附上條件以及二年內之期限（有再延長一年之可能）。獲得許可後一定期限內若無法確認有效性，且判斷該醫藥品或器材不適合維持許可狀態時，將撤銷許可。 四、加速特別措施：對GMP檢驗、國家認證、容器包裝等採取特殊措施以加快核准速度。如在申請緊急許可當下，GMP檢驗有實施上困難，可以先暫緩，待核准後再補上檢驗程序。 參、與現存制度差異評析 特例許可是在緊急許可推出之前，在緊急情況下能在短期間內讓藥品上市之方式。特例許可是藥品正式上市流程，而緊急許可是在符合條件後暫時性准許上市，故兩者在範圍、運用基準以及期限等規定上存有明顯差異。 首先在範圍方面，特例許可係為了已在國外流通的醫療用品引進國內而設置，因此日本國內企業自行研發的新疫苗或是新治療藥等，無法透過特例許可上市[10]，原則上需要透過一般藥物上市管道，因此新制度對於日本藥廠來說，形同多開闢了一條產品上市的道路。其次，在運用基準方面，特例許可應完整確認安全性及有效性，無法如新制般能僅由現存數據及資料推定該藥物之有效性[11]，因此新制可以縮短臨床試驗所花費的時間。最後，由於特例許可為正式之上市許可，僅在簡化一般藥物之審查流程至2-3個月，故其無有效期間之規定[12]，而依新制度上市之藥品在有效期間內仍須完成剩下的臨床試驗，否則期限屆至時原則上應下市。 肆、未來展望 由於緊急許可制度剛修法通過，日本國內目前尚未有以此管道核准上市之藥物或疫苗，因此核准程序所花費之時程，能否成功縮短至如美國EUA的三週內尚未可知。目前最有可能以此管道核准上市之藥物為日本藥廠塩野義的新型冠狀病毒口服藥，審查結果預計於7月發表[13]，其發展究竟如何，值得我們拭目以待。 [1] 〈緊急時の薬事承認の在り方等に関するとりまとめ〉，厚生勞動省，https://www.mhlw.go.jp/content/11121000/000873996.pdf（最後瀏覽日：2022/06/12）。 [2] 日本參議院網站，https://www.sangiin.go.jp/japanese/joho1/kousei/gian/208/meisai/m208080208042.htm（最後瀏覽日：2022/06/12）。 [3] 〈先駆的医薬品等指定制度（先駆け審査指定制度）〉，獨立行政法人醫藥品醫療機器總合機構，https://www.pmda.go.jp/review-services/drug-reviews/0002.html （最後瀏覽日：2022/06/27）。 [4] 〈医薬品条件付早期承認制度への対応〉，獨立行政法人醫藥品醫療機器總合機構https://www.pmda.go.jp/review-services/drug-reviews/0045.html （最後瀏覽日：2022/06/27）。 [5] 同前註1。 [6] 同前註1。 [7] 〈緊急時の薬事承認の在り方について〉，厚生勞動省，https://www.mhlw.go.jp/content/11121000/000856077.pdf（最後瀏覽日：2022/06/12）。 [8] 同前註。 [9] 〈令和４年の医薬品、医療機器等の品質、有効性及び安全性の確保等に関する法律（薬機法）等の一部改正について〉，日本厚生勞動省網站，https://www.mhlw.go.jp/stf/seisakunitsuite/bunya/0000179749_00006.html（最後瀏覽日：2022/06/12）。 [10] 医薬品、医療機器等の品質、有効性及び安全性の確保等に関する法律（昭和三十五年法律第百四十五号）第14條之3第2項。 [11] 同前註4。 [12] 周晨蕙、施雅薰，《科技法律透析》，〈COVID-19疫情下我國藥事法專案核准制度議題-以國際藥物緊急核准上市機制為借鏡〉，第33卷第10期，頁58（2021）。 [13] NHK，〈コロナ飲み薬 塩野義製薬「ゾコーバ」有効性や副作用 承認の可否は〉，2022/06/23，https://www.nhk.or.jp/shutoken/newsup/20220623a.html （最後瀏覽日：2022/06/27）。