IBM Watson Health與FDA合作研究區塊鏈技術之醫療運用
根據專利資料庫公司IFI CLAIMS公佈2016年美國專利統計報告，IBM以8,088件專利再度蟬聯冠軍，其中多著重在人工智慧（artificial intelligence）、認知運算（cognitive computing）、及雲端（cloud）等技術領域，也有健康醫療相關專利。
近期IBM Health與美國食品藥品管理局（U.S. Food and Drug Administration）展開兩年期之合作研究，透過區塊鏈技術（blockchain）以安全且去中心化的方式進行數據共享，如：交換電子病歷、臨床試驗、基因數據、甚至過去難以取得的病患行動與穿戴裝置數據及物聯網（Internet of Things）數據等。
傳統上病患的病歷資訊存放於各診療單位或醫療機構，造成資訊管理效率及互通性較低，在區塊鏈技術的架構下，有效率的將大量且多樣的醫療數據進行彙整，並藉審查追蹤紀錄以防止竄改，提升病歷數據傳輸管理的可靠性及安全性。在如此多元化的醫療數據共享環境下，有助於醫療診斷、更將能促進產業發展。
此外，過去病患穿戴裝置所測得的日常生理數據，不管在數據取得、或將該些數據應用至臨床診斷上皆存有許多問題，如今區塊鏈技術將能提高物聯網數據資訊之整合性。依調查顯示，預計有80%新創組織採用區塊鏈技術於物聯網數據管理與應用上。
其他應用商機更包括居家監控、慢性疾病管理、藥物整合（medication reconciliation）及供應鏈管理等。IBM預估，至2017年底將會有16%的健康醫療機構採用以區塊鏈技術為架構的管理工具，並預測十年內採用比例將達72%。
本文同步刊登於TIPS網站（https://www.tips.org.tw）」
- Jing Cao & Susan Decker, IBM Breaks Record in U.S. Patents With Cloud, AI and Health Bets, BLOOMBERG, Jan. 9, 2107
- Jessica Emond, IBM Watson Health Announces Collaboration to Study the Use of Blockchain Technology for Secure Exchange of Healthcare Data, PRNEWSWIRE, Jan. 11, 2017
- Jennifer Bresnick, IBM Watson Health, FDA Partner for EHR, IoT Blockchain Project, HEALTHIT ANALYTICS, Jan. 11, 2107
龔芳儀
專案經理 編譯整理
Jing Cao & Susan Decker, IBM Breaks Record in U.S. Patents With Cloud, AI and Health Bets, BLOOMBERG, Jan. 9, 2107, https://www.bloomberg.com/news/articles/2017-01-09/ibm-breaks-record-in-u-s-patents-with-cloud-ai-and-health-bets (last visited Jan. 17, 2017)
Jessica Emond, IBM Watson Health Announces Collaboration to Study the Use of Blockchain Technology for Secure Exchange of Healthcare Data, PRNEWSWIRE, Jan. 11, 2017, http://www.prnewswire.com/news-releases/ibm-watson-health-announces-collaboration-to-study-the-use-of-blockchain-technology-for-secure-exchange-of-healthcare-data-300389160.html (last visited Jan. 17, 2017)
Jennifer Bresnick, IBM Watson Health, FDA Partner for EHR, IoT Blockchain Project, HEALTHIT ANALYTICS, Jan. 11, 2107, http://healthitanalytics.com/news/ibm-watson-health-fda-partner-for-ehr-iot-blockchain-project (last visited Jan. 20, 2017)
美國國會於2018年8月13日通過之《出口管制改革法》（Export Control Reform Act of 2018, ECRA）第1758條，以國家安全為由，授權商務部建立對美國新興與基礎技術出口、再出口或移轉之認定與管制程序。有鑑於此，商務部下轄之工業安全局（Bureau of Industry and Security, BIS）於同年11月19日發布了法規制定預告（advance notice of proposed rulemaking），對外徵求關於認定「新興技術」之意見。 BIS指出，美國政府多年來依循《出口管制條例》（Export Administration Regulations, EAR）限制特定敏感技術或產品出口，以避免關鍵技術落入他國手中。惟既有之審查範圍已不足以涵蓋近年許多重大創新技術，故BIS先行臚列了14項擬在未來實施出口管制的新興科技，向公眾徵求其是否確屬「涉及國家安全之特定新興技術」相關意見。該14項科技包含：(1)生物技術；(2)人工智慧與機器學習技術；(3) 定位、導航和定時技術；(4)微處理器技術；(5)先進計算技術；(6)數據分析技術；(7)量子信息和傳感技術；(8)物流技術；(9)積層製造技術；(10)機器人；(11)腦機介面；(12)高超聲速；(13)先進材料；(14)先進監控技術。 除此之外，民眾亦得對如何認定「新興技術」提出一般性之意見，俾將來政策實施更加周全。意見徵求期間從2018年11月19日起，至2019年1月10日截止。
用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限 資訊工業策進會科技法律研究所 2023年09月08日 生成式AI是透過研究過去資料，以創造新內容和想法的AI技術，其應用領域包括文字、圖像及影音。以ChatGPT為例，OpenAI自2022年11月30日發布ChatGPT後，短短二個月內，全球月均用戶數即達到1億人，無疑成為民眾日常生活中最容易近用的AI科技。 惟，生成式AI大量使用後，其中的問題也逐漸浮現。例如，ChatGPT提供的回答僅是從所學習的資料中統整歸納，無法保證資料的正確性。Roberto Mata v. Avianca, Inc.案即是因律師利用ChatGPT撰寫訴狀，卻未重新審視其所提供判決之正確性，以致後續引發訴狀中所描述的判決不存在爭議。 壹、事件摘要 Roberto Mata v. Avianca, Inc.案[1]中，原告Roberto Mata於2019年8月搭乘哥倫比亞航空從薩爾瓦多飛往紐約，飛行過程中膝蓋遭空服員的推車撞傷，並於2022年2月向法院提起訴訟，要求哥倫比亞航空為空服員的疏失作出賠償；哥倫比亞航空則主張已超過《蒙特婁公約》（Montreal Convention）第35條所訂之航空器抵達日起兩年內向法院提出損害賠償之請求時效。 R然而，法院審理過程中發現原告訴狀內引用之六個判決無法從判決系統中查詢，進而質疑判決之真實性。原告律師Steven A. Schwartz因而坦承訴狀中引用的六個判決是ChatGPT所提供，並宣稱針對ChatGPT所提供的判決，曾多次向ChatGPT確認該判決之正確性[2]。 貳、生成式AI應用之潛在風險 雖然運用生成式AI技術並結合自身專業知識執行特定任務，可能有助於提升效率，惟，從前述Roberto Mata v. Avianca, Inc.案亦可看出，依目前生成式AI技術之發展，仍可能產生資訊正確性疑慮。以下彙整生成式AI應用之8大潛在風險[3]： 一、能源使用及對環境危害 相較於傳統機器學習，生成式AI模型訓練將耗費更多運算資源與能源。根據波士頓大學電腦科學系Kate Saenko副教授表示，OpenAI的GPT-3模型擁有1,750億個參數，約會消耗1,287兆瓦/時的電力，並排放552噸二氧化碳。亦即，每當向生成式AI下一個指令，其所消耗的能源量相較於一般搜尋引擎將可能高出4至5倍[4]。 二、能力超出預期（Capability Overhang） 運算系統的黑盒子可能發展出超乎開發人員或使用者想像的隱藏功能，此發展將會對人類帶來新的助力還是成為危險的阻力，則會隨著使用者之間的相互作用而定。 三、輸出結果有偏見 生成式AI通常是利用公開資料進行訓練，若輸入資料在訓練時未受監督，而帶有真實世界既存的刻板印象（如語言、種族、性別、性取向、能力、文化等），據此建立之AI模型輸出結果可能帶有偏見。 四、智慧財產權疑慮 生成式AI進行模型訓練時，需仰賴大量網路資料或從其他大型資料庫蒐集訓練資料。然而，若原始資料來源不明確，可能引發取得資料未經同意或違反授權條款之疑慮，導致生成的內容存在侵權風險。 五、缺乏驗證事實功能 生成式AI時常提供看似正確卻與實際情形不符的回覆，若使用者誤信該答案即可能帶來風險。另外，生成式AI屬於持續動態發展的資訊生態系統，當產出結果有偏誤時，若沒有大規模的人為干預恐難以有效解決此問題。 六、數位犯罪增加與資安攻擊 過去由人工產製的釣魚郵件或網站可能受限於技術限制而容易被識破，然而，生成式AI能夠快速建立具高度說服力的各種擬真資料，降低詐騙的進入門檻。又，駭客亦有可能在不熟悉技術的情況下，利用AI進一步找出資安弱點或攻擊方法，增加防禦難度。 七、敏感資料外洩 使用雲端服務提供商所建立的生成式AI時，由於輸入的資料存儲於外部伺服器，若要追蹤或刪除有一定難度，若遭有心人士利用而導致濫用、攻擊或竄改，將可能產生資料外洩的風險。 八、影子AI（Shadow AI） 影子AI係指開發者未知或無法控制之AI使用情境。隨著AI模型複雜性增加，若開發人員與使用者未進行充分溝通，或使用者在未經充分指導下使用 AI 工具，將可能產生無法預期之風險。 參、事件評析 在Roberto Mata v. Avianca, Inc.案中，法院關注的焦點在於律師的行為，而非對AI技術使用的批判。法院認為，隨著技術的進步，利用可信賴的AI工具作為協助用途並無不當，惟，律師應踐行其專業素養，確保所提交文件之正確性[5]。 當AI科技發展逐漸朝向自主與獨立的方向前進，仍需注意生成式AI使用上之侷限。當個人在使用生成式AI時，需具備獨立思考判斷的能力，並驗證產出結果之正確性，不宜全盤接受生成式AI提供之回答。針對企業或具高度專業領域人士使用生成式AI時，除確認結果正確性外，更需注意資料保護及治理議題，例如建立AI工具合理使用情境及加強員工使用相關工具之教育訓練。在成本能負擔的情況下，可選擇透過企業內部的基礎設施訓練AI模型，或是在訓練模型前確保敏感資料已經加密或匿名。並應注意自身行業領域相關法規之更新或頒布，以適時調整資料使用之方式。 雖目前生成式AI仍有其使用之侷限，仍應抱持開放的態度，在技術使用與風險預防之間取得平衡，以能夠在技術發展的同時，更好地學習新興科技工具之使用。 [1]Mata v. Avianca, Inc., 1:22-cv-01461, (S.D.N.Y.). [2]Benjamin Weiser, Here’s What Happens When Your Lawyer Uses ChatGPT, The New York Times, May 27, 2023, https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html (last visited Aug. 4, 2023). [3]Boston Consulting Group [BCG], The CEO’s Roadmap on Generative AI (Mar. 2023), https://media-publications.bcg.com/BCG-Executive-Perspectives-CEOs-Roadmap-on-Generative-AI.pdf (last visited Aug. 29, 2023). [4]Kate Saenko, Is generative AI bad for the environment? A computer scientist explains the carbon footprint of ChatGPT and its cousins, The Conversation (May 23, 2023.), https://theconversation.com/is-generative-ai-bad-for-the-environment-a-computer-scientist-explains-the-carbon-footprint-of-chatgpt-and-its-cousins-204096 (last visited Sep. 7, 2023). [5]Robert Lufrano, ChatGPT and the Limits of AI in Legal Research, National Law Review, Volume XIII, Number 195 (Mar. 2023), https://www.natlawreview.com/article/chatgpt-and-limits-ai-legal-research (last visited Aug. 29, 2023).
日本經產省發布《促進資安攻擊受害資訊共享檢討會最終報告書》，以加速資安情資共享日本經濟產業省（下稱經產省）於2023年11月22日發布《促進資安攻擊受害資訊共享檢討會最終報告書》（サイバー攻撃による被害に関する情報共有の促進に向けた検討会の最終報告書），主張共享資安攻擊受害資訊，掌握資安攻擊全貌，防止損害範圍擴大。經產省提出具體建議如下： 1.促進各專門組織間之資訊共享：藉由專門組織間的資訊共享，及早採取適當因應措施，避免損害持續擴大，並降低受害成本。所謂專門組織包含資安廠商、資安監控中心(Security Operation Center, SOC)營運商、防毒廠商，與依法令成立從事資安事件諮詢與分析之非營利組織，例如：一般社團法人日本電腦網路危機處理暨協調中心（一般社団法人JPCERTコーディネーションセンター），以及一般財團法人日本網路犯罪對策中心（一般財団法人日本サイバー犯罪対策センター）等。 2.共享無從識別受害組織之資訊：為加快資訊共享，經產省建議將資料去識別化至無從識別受害組織之程度，即可不經受害組織同意而共享資訊。 3.提出《攻擊技術資訊處理與活用指引草案》（攻撃技術情報の取扱い・活用手引き（案））：為提升專門組織共享資訊成效，經產省於指引中彙整受害組織資料去識別化作法，以及各專門組織間共享攻擊技術資訊之具體策略。 4.於保密協議中加入免責條款：經產省建議於受害組織與專門組織簽訂之保密協議中，加入專門組織免責條款，使專門組織具有利用或揭露攻擊技術資訊裁量權，對於利用或揭露資訊，致生受害組織被識別等損害時，非因故意或重大過失不須負擔法律責任，以利推動資訊共享。