美國國家標準暨技術研究院發布「人工智慧風險管理框架:生成式AI概況」

  美國國家標準暨技術研究院(National Institute of Standard and Technology, NIST)2024年7月26日發布「人工智慧風險管理框架:生成式AI概況」(Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile),補充2023年1月發布的AI風險管理框架,協助組織識別生成式AI(Generative AI, GAI)可能引發的風險,並提出風險管理行動。GAI特有或加劇的12項主要風險包括:

1.化學、生物、放射性物質或核武器(chemical, biological, radiological and nuclear materials and agents, CBRN)之資訊或能力:GAI可能使惡意行為者更容易取得CBRN相關資訊、知識、材料或技術,以設計、開發、生產、使用CBRN。

2.虛假內容:GAI在回應輸入內容時,常自信地呈現錯誤或虛假內容,包括在同一情境下產出自相矛盾的內容。

3.危險、暴力或仇恨內容:GAI比其他技術能更輕易產生大規模煽動性、激進或威脅性內容,或美化暴力內容。

4.資料隱私:GAI訓練時需要大量資料,包括個人資料,可能產生透明度、個人資料自主權、資料違法目的外利用等風險。

5.環境影響:訓練、維護和運行GAI系統需使用大量能源而影響碳排放。

6.偏見或同質化(homogenization):GAI可能加劇對個人、群體或社會的偏見或刻板印象,例如要求生成醫生、律師或CEO圖像時,產出女性、少數族群或身障人士的比例較低。

7.人機互動:可能涉及系統與人類互動不良的風險,包括過度依賴GAI系統,或誤認GAI內容品質比其他來源內容品質更佳。

8.資訊完整性:GAI可能無意間擴大傳播虛假、不準確或誤導性內容,從而破壞資訊完整性,降低公眾對真實或有效資訊的信任。

9.資訊安全:可能降低攻擊門檻、更輕易實現自動化攻擊,或幫助發現新的資安風險,擴大可攻擊範圍。

10.智慧財產權:若GAI訓練資料中含有受著作權保護的資料,可能導致侵權,或在未經授權的情況下使用或假冒個人身分、肖像或聲音。

11.淫穢、貶低或虐待性內容:可能導致非法或非自願性的成人私密影像或兒童性虐待素材增加,進而造成隱私、心理、情感,甚至身體上傷害。

12.價值鏈和組件整合(component integration):購買資料集、訓練模型和軟體庫等第三方零組件時,若零組件未從適當途徑取得或未經妥善審查,可能導致下游使用者資訊不透明或難以問責。

  為解決前述12項風險,本報告亦從「治理、映射、量測、管理」四大面向提出約200項行動建議,期能有助組織緩解並降低GAI的潛在危害。

相關連結
※ 美國國家標準暨技術研究院發布「人工智慧風險管理框架:生成式AI概況」, 資訊工業策進會科技法律研究所, https://stli.iii.org.tw/article-detail.aspx?d=9263&no=55&tp=1 (最後瀏覽日:2026/05/26)
引註此篇文章
你可能還會想看
韓國通過最新個人資料保護法修正案

  近年韓國國內發生多起重大資訊安全疏失,例如:2014年韓國三大信用卡公司客戶資料外洩,成為韓國史上最嚴重的個人資料洩漏事件。為加強控管,韓國政府於2015年7月通過最新個人資料保護法修正案(Personal Information Protection Act, PIPA)。修正案新增懲罰性損害賠償及法定損害賠償規定。未來該國違反個人資料保護法的機關,將會面臨鉅額罰金及損害賠償。韓國政府期望藉此來促使企業加強資料安全管理。   根據最新修正案條文,若某機關因故意或重大過失,造成個人資料被遺失、竊取、洩漏、偽造、竄改或損毀,經法院判決後,最高將會被處以實質損害金額三倍的懲罰性損害賠償。此外,除非該機關能舉證當事人的損害與機關之行為沒有因果關係,否則當事人可請求最高3百萬韓元(約台幣8萬元)的法定損害賠償。   此次,韓國個人資料保護法修正案另一個重點在擴大韓國個人資料保護委員會(The Personal Information Protection Committee)的職權。該委員會將成為資訊安全爭議的最終裁決機關,且擁有相關資訊安全管理相關政策制定及修正的提議權。   由於此修正案將於2016年7月正式實行。韓國政府建議各大機關應儘快依照新修正案內容檢討並更新其隱私權政策及資料安全防護機制,避免在新法上路後遭罰。

Thomson Reuter宣佈全球前百大創新機構

  Thomson Reuters於11月14日當週,宣佈全球前100家最具創新機構,美國持續領先,而亞洲及歐洲分別屬第二及第三。然而,中國由於智慧財產保護及全球產品商品化實行因素,未能排入百大企業中。其名單結果來自於Thomson Reuters 2011全球百大創新專案,透過專屬方法分析專利資料及相關指標,來確認這些企業和機構於創新活動領先於全球之地位。   Thomson Reuters智慧財產解決方案事業部總裁David Brown表示:「創新使企業和國家成長繁榮,主要是為了追求克服經濟的衰退並達到競爭優勢」。   2011全球百大最具創新企業的市場資料,與2009年比較顯示,2010年百大企業增加了超過400,000工作機會,較前年提高3%,增加的比率高於同一期間的標準普爾(S&P)500企業的幅度。Brown表示:「全球百大創新組織創造的工作機會代表了創新為經濟成長具意義影響的指標」。除此之外,2011百大創新組織的市場價值加權平均收益較前一年度增加12.9%,而標準普爾500企業市場價值加權平均收益僅增加7.2%。   排名企業依地域分佈,其中40%來自為美國,31%為亞洲,29%為歐洲,亞洲主要為日本和南韓,前者占27%,後者占4%。歐洲主要區分為法國(11%),德國(4%),荷蘭(4%),列支敦斯登侯國(1%),瑞典(6%)及瑞士(3%)。法國為歐洲創新領導國。儘管大陸於專利申請數量佔領優先,但缺乏全球影響力及專利獲證比率之重要因素,故未進入前百大名單。   Thomson Reuters排名的方法,主要是以四大衡量基準:專利獲證比率(patent approval success rate),專利組合對於全球的影響(global reach of patent portfolio),對文獻引用的專利影響(patent influence in literature citation)及專利總數量(overall patent volume),選出前百大名單,如:Apple,Microsoft,Intel,LG和Motorola,全文內容可參考http://www.top100innovators.com/。

基因專利新發展

  隨著基因工程的逐漸成熟,關於現代生物技術可否取得專利,引起激烈的公開辯論。為了澄清這些問題,歐盟和美國曾採取重要的立法和行政措施,如歐洲議會和理事會關於生物技術發明的98 / 44 / EC指令 ,及美國專利商標局2001年1月5日所修改的確認基因有關發明實用性指南(Guidelines For Determining Utility Of Gene-Related Inventions of 5 January 2001)。   然而,美國最高法院於2013年《Association for Molecular Pathology v. Myriad Genetics, Inc.》一案中認為,自然發生的DNA片段是自然界的產物,不因為其經分離而具有可專利適格性,但認為cDNA(complementary DNA,簡稱cDNA)具有可專利適格性,因為其並非自然發生。該判決強調Myriad Genetics, Inc.並未創造或改變任何BRCA1和BRCA2基因編碼的遺傳信息,即法院承Myriad Genetics, Inc.發現了一項重要且有用的基因,但該等基因從其週邊遺傳物質分離並非一種發明行為。不過,法院也認為“與經分離的DNA片段屬於天然發生者不同,cDNA則具有可專利性。”因此,“cDNA非自然的產物,且根據美國專利法第101條具有可專利性。”   其次,美國於2012年3月《Mayo Collaborative Services v. Prometheus Laboratories》案認為,檢測方法僅為揭露一項自然法則,即人體代謝特定藥物後、特定代謝產物在血液中濃度與投與藥物劑量發揮藥效或產生副作用的可能性間的關聯性。即使需要人類行為(投以藥物)來促使該關聯性在特定人體中展現,但該關聯性本身是獨立於任何人類行為之外而存在,是藥物被人體代謝的結果,因此,全部應為自然過程。而不具有可專利性。

微軟控告台灣廠商侵害該公司電腦滑鼠的專利權

  微軟公司(Microsoft)於上月30日向美國國際貿易委員會(ITC)控訴台灣致伸科技公司(Primax Electronics)侵害微軟公司的專利權,其中包含七項與電腦滑鼠有關的硬體專利權。     根據微軟公司所公開的資訊內容,該公司在與致伸公司協商授權協議未果後,已經向ITC提出控訴,要求ITC下令禁止致伸公司涉及侵權的產品進口到美國。此外微軟公司高層Horacio Gutierrez表示,在該公司提告之前曾多次與致伸公司協商相關授權條件,但致伸公司卻無授權的意願,因此才向ITC提出控訴。     微軟公司向ITC控告致伸公司侵犯該公司七項的專利權,這些專利權的內容主要是與電腦滑鼠的技術有關。其中一項為U2技術,該技術可以讓電腦滑鼠連結USB與PS/2二種不同規格的連接埠,並自動偵測目前在使用中的是哪一種連接埠。另外還有一項技術為TiltWheel,該技術使滾輪可以左右方向的滾動,並藉由傾斜方式讓滑鼠增添更多移動的功能。     一般來說,ITC收到專利相關案件的控訴後,會視案件的複雜程度,在12-18個月內完成審理及判決,因此本案後續判決結果尚有待觀察。

TOP