美國國家標準暨技術研究院發布「人工智慧風險管理框架:生成式AI概況」

  美國國家標準暨技術研究院(National Institute of Standard and Technology, NIST)2024年7月26日發布「人工智慧風險管理框架:生成式AI概況」(Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile),補充2023年1月發布的AI風險管理框架,協助組織識別生成式AI(Generative AI, GAI)可能引發的風險,並提出風險管理行動。GAI特有或加劇的12項主要風險包括:

1.化學、生物、放射性物質或核武器(chemical, biological, radiological and nuclear materials and agents, CBRN)之資訊或能力:GAI可能使惡意行為者更容易取得CBRN相關資訊、知識、材料或技術,以設計、開發、生產、使用CBRN。

2.虛假內容:GAI在回應輸入內容時,常自信地呈現錯誤或虛假內容,包括在同一情境下產出自相矛盾的內容。

3.危險、暴力或仇恨內容:GAI比其他技術能更輕易產生大規模煽動性、激進或威脅性內容,或美化暴力內容。

4.資料隱私:GAI訓練時需要大量資料,包括個人資料,可能產生透明度、個人資料自主權、資料違法目的外利用等風險。

5.環境影響:訓練、維護和運行GAI系統需使用大量能源而影響碳排放。

6.偏見或同質化(homogenization):GAI可能加劇對個人、群體或社會的偏見或刻板印象,例如要求生成醫生、律師或CEO圖像時,產出女性、少數族群或身障人士的比例較低。

7.人機互動:可能涉及系統與人類互動不良的風險,包括過度依賴GAI系統,或誤認GAI內容品質比其他來源內容品質更佳。

8.資訊完整性:GAI可能無意間擴大傳播虛假、不準確或誤導性內容,從而破壞資訊完整性,降低公眾對真實或有效資訊的信任。

9.資訊安全:可能降低攻擊門檻、更輕易實現自動化攻擊,或幫助發現新的資安風險,擴大可攻擊範圍。

10.智慧財產權:若GAI訓練資料中含有受著作權保護的資料,可能導致侵權,或在未經授權的情況下使用或假冒個人身分、肖像或聲音。

11.淫穢、貶低或虐待性內容:可能導致非法或非自願性的成人私密影像或兒童性虐待素材增加,進而造成隱私、心理、情感,甚至身體上傷害。

12.價值鏈和組件整合(component integration):購買資料集、訓練模型和軟體庫等第三方零組件時,若零組件未從適當途徑取得或未經妥善審查,可能導致下游使用者資訊不透明或難以問責。

  為解決前述12項風險,本報告亦從「治理、映射、量測、管理」四大面向提出約200項行動建議,期能有助組織緩解並降低GAI的潛在危害。

相關連結
※ 美國國家標準暨技術研究院發布「人工智慧風險管理框架:生成式AI概況」, 資訊工業策進會科技法律研究所, https://stli.iii.org.tw/article-detail.aspx?d=9263&no=55&tp=1 (最後瀏覽日:2026/01/25)
引註此篇文章
你可能還會想看
英國通過「隱私及電子通訊規範」

  英國於今年5月26日通過「隱私及電子通訊規範」(The Privacy and Electronic Communications Regulations),實現隱私監督之責,以管控cookies或是侵害個人資料之行為。     新法納入歐盟於2009年e隱私指令中所決定之改變,旨在讓網路使用者自行決定資訊服務業或其他事業能儲存多少使用者之紀錄。但業者對此項新要求表示困惑,因此英國之隱私權主管監督機關資訊專員公署(Information Commissioner's Office,ICO)最近出版一份指引,指導網站如何遵守新法使用cookies功能之規定及履行告知義務之要求。然而指引中並未強制規定告知內容與方式,因此業者仍可自行決定如何最有效地履行告知義務。     ICO本週表示新法尚有一年之緩衝期間,讓業者調整使用cookies功能之方式。政府表示目前仍在與瀏覽企業者討論,如何透過瀏覽器頁面之設置取得當事人之同意,而此部分尚未規定在新法中。     「政府的指引太晚公布了,並且缺乏明確性,又無法確定新法是否能允許以瀏覽器技術作為解決之方法,這樣會讓業界無所適從」,任職於Pinsent Masons法律事務所的科技法律專家Clarie McCracken說,「此種非決定性之指引會使業者無法找到標準作法以避免觸犯新法。」。     ICO認為企業在新法正式施行前,最好趕快表明其如何使用cookies功能並制定相關規定以遵守新法。     新法同時要求特定企業當其所蒐集之個人資料遭受駭客攻擊或外洩時,其必須要告知消費者。根據新法,個人資料遭受侵害之定義為:某種安全狀態遭受攻擊,導致與公共電子通訊服務有關之個人資料被故意或不法毀損、滅失、竄改、越權揭露或存取、傳遞、儲存或其他相關利用。當上述情事發生時,公司必須通報ICO,說明大致情況及可能產生之結果,並提出公司將採取之因應措施,同時告知受害之消費者。

研析經濟部智慧財產局因應TPP協定所提著作權法修法草案

研析經濟部智慧財產局因應TPP協定 所提著作權法修法草案 資策會科技法律研究所 法律研究員 陶思妤 105年06月17日 壹、前言   全球化經濟發展蓬勃,為降低貿易障礙與深化產業供應鏈,世界各國皆積極參與自由貿易區協定(Free Trade Area,簡稱FTA)的洽簽。跨太平洋夥伴協定(Trans-Pacific Partnership Agreement,以下簡稱TPP協定)第一輪談判後12個成員國占全球GDP的36%,而我國與TPP成員國在2014年的貿易總額亦高達34.82%。TPP協定的簽訂,勢必對於我國經貿產生重大影響。   TPP協定以美國為主導國,標榜「高品質、高標準、涵蓋範圍廣泛」。其中的智慧財產章節,相較於與貿易有關的智慧財產權協定(Agreement on Trade-Related Aspects of Intellectual Property Rights,以下簡稱TRIPS)標準更高,提供智慧財產權利人更強的保護。為爭取於第二輪申請加入,我國因應TPP協定擬修正12項法規。   其中,針對智財相關法規,經濟部智慧財產局已於105年5月10日因應TPP協定將著作權法(以下簡稱本法)修正草案送交行政院。主要的修正重點包括:1. 延長著作財產權保護期限至70年;2.新增規避科技保護措施之刑事責任(原僅規範準備行為),並將規避行為、準備行為的刑事責任限定於商業目的;3. 擴大「意圖銷售或出租而重製」、「以營利為目的散布侵害著作財產權重製物」行為的非告訴乃論範圍,以及將「侵害公開傳輸權」之刑事責任調整為非告訴乃論;4.增訂載有節目之鎖碼衛星及有線訊號保護的相關規定。   本文將分析我國現行著作權法與TPP協定著作權相關規定之落差、修法重點方向,並提出修法可能對我國產業造成之影響及後續因應。 貳、修正要點與研析 一、延長著作財產權保護期間至70年   現行條文主要依據1982年伯恩公約,以著作人直系子孫三代之平均生存期間為標準,給予著作人終身加計50年之保護期間。然現今人類平均壽命因醫療科技進步,著作人終身加計50年已無法達到伯恩公約之保護標準。歐盟國家、美國、韓國、澳洲、新加坡皆加強對著作之保護,將著作權延長至著作人終身70年。因此本次修正草案因應TPP協定,修正本法第三十條至第三十四條(包含一般著作;共同著作;別名著作或不具名著作;法人著作;攝影、視聽、錄音及表演著作),將保護期間由原有著作人終身加計或著作公開發表後之50年延長至70年。   因應保護期間之修正,關於現存著作財產權的保護期間如何計算,以及已失效著作財產權是否能回溯,依修法條文,現行著作財產權仍存續者,適用新法70年保護期間的規定;著作財產權修正施行前已失效者,則不適用新法規定。而針對外國人著作,為避免修法後造成外國人著作於我國享有之保護期間高於其源流國,外國人著作在其源流國保護期間少於70年者,依其源流國所定存續期間計算。 二、新增規避防盜拷措施之刑事責任,並將規避行為、準備行為的刑事責任限定於商業目的   科技保護措施(Technological Protection Measures),係著作權人為了避免他人擅自接觸或利用其著作,而採取的有效防護措施。TPP協定規定,對於故意、且為商業利益或財務利得而破解科技保護措施之行為,屬於損害權利人權利之重大行為,應科以刑責。   本法對於科技保護措施之規避行為,例如安裝非法軟體並輸入序號後使用,僅課以民事責任,對於準備行為(例如業者提供遊戲機改機服務)方同時課以民事責任及刑事責任。配合TPP協定修正本法第九十六條之一,將規避行為亦列入刑事責任的範圍。   另外,考量就規避行為或準備行為科以刑責,主要希望聚焦打擊以商業目的違反科技保護措施者,避免公權力過度介入及司法資源浪費,故本次修法新增以「意圖營利或作為營業之使用」者為限,處以刑事責任。 三、擴大「意圖銷售或出租而重製」、「以營利為目的散布侵害著作財產權重製物」之行為的非告訴乃論範圍,以及將「侵害公開傳輸權」之刑事責任調整為非告訴乃論   為因應數位科技發展造成網路盜版之情形,並考量TPP協定對於著作權盜版行為的相關規定,本法修正針對數位環境下對著作權人造成重大損害的侵權行為應納入非告訴乃論。修正的重點主要有修改第九十一條、第九十一條之一條將非告訴乃論之標的由「光碟」修正為「數位格式」,並增訂第九十二條公開傳輸行為屬非告訴乃論之罪,並限定非告訴乃論之罪需「重大損害」始得成立。   (一)修正「意圖銷售或出租而重製」、「以營利為目的散布侵害著作財產權重製物」之非告訴乃論罪,放寬重製物型態由「光碟」改為「數位格式」   由於科技發展造成的網路盜版,數位格式較過去光碟容易重製且散布快速,因此將過去「重製於光碟之方法」之文字刪除,改以「數位格式」做為規定之適用客體。智慧財產局於修法理由表示,除過去所規定之光碟如DVD、CD,影音檔案等亦在「數位格式」的範圍之內,使權利人在現今數位環境下能有更周全的保護。   (二)改列侵害著作權之公開傳輸行為為非告訴乃論罪   本次的修訂將本法第九十二條侵害著作權之公開傳輸行為亦列為非告訴乃論刑事責任的範圍。所謂「公開傳輸」,係指以有線電、無線電、網路等其它通訊方法,藉聲音或影像向公眾提供或傳達著作內容。由於通訊科技的興起,著作得以藉由網路等通訊管道快速傳播,因此為嚇阻數位環境下著作權侵害的發生,本次修法參考日本立法例,將侵害著作權之公開傳輸行為亦列為非告訴乃論。   (三) 非告訴乃論罪限定為「重大損害」之侵權行為   另需注意的是,本次所修正的第九十一條、第九十一條之一、第九十二條,需「重大損害」始構成非告訴乃論之要件。針對「重大損害」,現有兩種修正方案:甲案以金額為門檻,限定為一百萬元以上之損害,乙案不以金額為門檻,提供三項「重大損害」之考量事項:重製之數量或點擊率、侵權網站註冊數或廣告收益、對著作市場價值之影響及其他著作財產人預期利益。TPP協定係以「商業規模」、「對權利人市場利益產生實質不利影響的重大行為」做為非告訴乃論的要件。權利人所受之損害是否與侵權人之商業規模或權利人市場利益相等,似非可完全畫上等號。惟根據智慧財產局針對修法之說明,本條係參考TPP首輪談判國日本之修法草案,應無逸脫TPP協定規定之疑慮。 四、增訂載有節目之鎖碼衛星及有線訊號保護之相關規定   近年來美國、新加坡、澳洲等國均已立法強化保護載有節目之衛星及有線訊號之合法權益。TPP協定亦規定,未經合法授權,應禁止衛星及有線節目解碼器材的流通、禁止訊號的接收及散布,並應提供對於訊號享有利益之人(不限於著作權權利人)的救濟。   目前我國法規在衛星訊號部分,衛星廣播電視法或其他法令均無規範,有線訊號部分僅有有線廣播電視法第74條有類似規定,然該規定僅要求未經系統經營者同意者需補繳基本費用,對於有線廣播電視業者及合法消費者之權益保護仍有不足。因此本次修法依TPP協定之要求,增訂第七章之一共四項條文。   (一) 衛星訊號   本次修法所增訂之第一百零四條之一,規定明知未經合法授權解碼,使用者不得擅自接收衛星訊號或提供予公眾。又因衛星訊號無形之特性,參考TPP協定,在準備行為的限制態樣上較有線訊號多元,除製造外,亦規定不得輸入、輸出、銷售、出租或其他方式提供衛星訊號解碼設備。且依智慧財產局之修法說明,此類設備不論無形或有形,只要目的或主要功能係於提供衛星訊號之解碼者,均在範圍內。   (二) 有線訊號   本次修法所增訂之第一百零四條之二,由於有線訊號需實體纜線輸送,因此參考TPP協定之要求,規定使用者不得未經授權擅自接收有線訊號,並規定不得製造或提供有線訊號解碼設備。   (三) 救濟   對於違反衛星訊號及有線訊號之保護而使他人受損害者,本次修法增訂一百零四條之三,讓受損害人得以利用民事救濟,包含民事損害賠償、侵害的防止或排除請求權,以及侵害物之銷毀等必要處置。由於衛星訊號除可提供收視戶直接視聽外,亦是有線節目訊號之節目來源,對鎖碼衛星訊號應有更周延的保護,因此特於一百零四條之四增訂違反衛星訊號保護之刑事責任。 參、結語:修法所涉及之影響 一、延長著作權保護期間可能造成出版業、文創產業協商授權成本增加   新修法將著作權保護期間由50年延長至70年,可能使很多原創著作延緩進入公共領域。我國目前屬著作權輸入國,保護期間的延長可能造成我國業者於著作權授權協商時授權金、權利金等授權成本的增加。因此,著作權保護期間的延長對於國內利用外國著作之出版業、文創產業等將可能造成一定衝擊,我國文創業者可從授權合作的洽談、商業模式的調整同步思考因應。 二、調整非告訴乃論範圍,納入數位及網路著作權侵權型態   考量數位科技發展造成網路盜版猖獗,目前著作權修正草案因應TPP協定之規定,將過去以非告訴乃論罪處罰的加重重製光碟罪刪除,放寬重製物的型態由「光碟」至「數位格式」。除了傳統認知上的盜版光碟,本次修法將數位重製、散布及網路侵權之行為也納入非告訴乃論之適用範圍。未來若網路上有出現非法連結或盜版影片,權利人可藉助公權力蒐證及取締,加強遏阻不肖數位盜版行為。而將非告訴乃論限定為「重大損害」始得成立的限制,應可降低以刑擾民的可能。 三、TPP協定中「商業規模」是否等同修法草案中「重大損害」仍待商榷   本次修法將「意圖銷售或出租而重製」、「以營利為目的散布侵害著作財產權重製物」之行為改列為非告訴乃論罪。為考量避免非重大侵權行為亦遭受國家公權力相繩之疑慮,本次修法限制需為「重大損害」的行為,始得以非告訴乃論罪論處。   然而,「重大損害」是否當然等同於「商業規模」,仍有進一步釐清的空間。根據TPP協定,具有商業規模之行為,包括:(一) 為商業利益或財務利得而為之行為;(二) 雖非為商業利益或財務利得,但對著作權人之市場利益產生實質的不利影響的重大行為。由此可推斷TPP協定希望能同時遏止利用他人著作權做為商業牟利的行為並保護權利人的市場利益。   目前修法草案的甲案以「一百萬元以上」的金額作為重大損害的標準。然而單純以金額為門檻作為標準,不就行為本身是否為商業牟利行為或是否影響權利人市場利益而為認定,是否合於TPP協定的旨意,仍有思考的空間。   而目前修法草案的乙案則是以三項考量因素判斷:重製數量及點擊率、註冊會員或廣告收益、權利人預期利益,亦存有疑義。例如,若一位網路素人於youtube上載一段影片批評某電影,影片含有該電影的片段。該視頻廣受大眾喜愛,因而使該網路素人點擊率高、廣告受益增加。然而,由於該網路素人的批評,造成電影公司的收益不如預期。這樣的情況可能符合本次修法乙案的三項考量因素,但取締此類影片是否為TPP協定之本意,仍有待商榷。 本文同步刊登於TIPS網站(http://www.tips.org.tw)

歐盟通過《歐盟綠色債券規則》,建立綠色債券監管框架

歐盟於2023年10月11日發布《歐洲綠色債券監管及環境永續債券市場與永續連結債券自願性揭露規則》(Regulation on European Green Bonds and optional disclosures for bonds marketed as environmentally sustainable and for sustainability-linked bonds,下稱《歐洲綠色債券規則》),預計於2023年12月20日生效,針對在歐盟境內發行之綠色債券建立一套監管框架,課予欲使用「歐洲綠色債券」(European Green Bond)或「EuGB」等名稱發行環境永續債券的發行人一定義務,促進綠色債券的一致性和可比性,以保障投資人。綠色債券是發展綠色技術、能源效率和提升資源運用以及其他永續相關基礎設施投融資的主要工具之一,本規則之通過也被視為落實歐盟永續成長融資策略以及向碳中和、循環經濟轉型的一大進展。 《歐洲綠色債券規則》規範重點如下: 1.資金用途限制:《綠色債券規則》所有透過歐盟綠色債券募得的資金,原則上均必須投資於符合《歐盟永續分類標準》(EU Taxonomy)技術篩選標準的永續經濟活動,只有在所欲投資的經濟活動類別尚未被納入該標準時得為例外,且以總額之15%為限; 2.資訊揭露:綠色債券之發行人有義務揭露該債券之概況介紹(Factsheet)、資本支出計畫、資金使用分配報告、衝擊報告,並於債券公開說明書敘明資金用途,並得選擇進一步說明該債券之資金如何與自身企業整體環境永續目標相結合; 3.外部審查:前述資訊均須由已向歐洲證券與市場管理局(European Securities and Markets Authority)註冊之外部機構進行審查,以確保其準確性及可靠性。

Thomson Reuter宣佈全球前百大創新機構

  Thomson Reuters於11月14日當週,宣佈全球前100家最具創新機構,美國持續領先,而亞洲及歐洲分別屬第二及第三。然而,中國由於智慧財產保護及全球產品商品化實行因素,未能排入百大企業中。其名單結果來自於Thomson Reuters 2011全球百大創新專案,透過專屬方法分析專利資料及相關指標,來確認這些企業和機構於創新活動領先於全球之地位。   Thomson Reuters智慧財產解決方案事業部總裁David Brown表示:「創新使企業和國家成長繁榮,主要是為了追求克服經濟的衰退並達到競爭優勢」。   2011全球百大最具創新企業的市場資料,與2009年比較顯示,2010年百大企業增加了超過400,000工作機會,較前年提高3%,增加的比率高於同一期間的標準普爾(S&P)500企業的幅度。Brown表示:「全球百大創新組織創造的工作機會代表了創新為經濟成長具意義影響的指標」。除此之外,2011百大創新組織的市場價值加權平均收益較前一年度增加12.9%,而標準普爾500企業市場價值加權平均收益僅增加7.2%。   排名企業依地域分佈,其中40%來自為美國,31%為亞洲,29%為歐洲,亞洲主要為日本和南韓,前者占27%,後者占4%。歐洲主要區分為法國(11%),德國(4%),荷蘭(4%),列支敦斯登侯國(1%),瑞典(6%)及瑞士(3%)。法國為歐洲創新領導國。儘管大陸於專利申請數量佔領優先,但缺乏全球影響力及專利獲證比率之重要因素,故未進入前百大名單。   Thomson Reuters排名的方法,主要是以四大衡量基準:專利獲證比率(patent approval success rate),專利組合對於全球的影響(global reach of patent portfolio),對文獻引用的專利影響(patent influence in literature citation)及專利總數量(overall patent volume),選出前百大名單,如:Apple,Microsoft,Intel,LG和Motorola,全文內容可參考http://www.top100innovators.com/。

TOP