美國國家標準暨技術研究院發布「人工智慧風險管理框架:生成式AI概況」

  美國國家標準暨技術研究院(National Institute of Standard and Technology, NIST)2024年7月26日發布「人工智慧風險管理框架:生成式AI概況」(Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile),補充2023年1月發布的AI風險管理框架,協助組織識別生成式AI(Generative AI, GAI)可能引發的風險,並提出風險管理行動。GAI特有或加劇的12項主要風險包括:

1.化學、生物、放射性物質或核武器(chemical, biological, radiological and nuclear materials and agents, CBRN)之資訊或能力:GAI可能使惡意行為者更容易取得CBRN相關資訊、知識、材料或技術,以設計、開發、生產、使用CBRN。

2.虛假內容:GAI在回應輸入內容時,常自信地呈現錯誤或虛假內容,包括在同一情境下產出自相矛盾的內容。

3.危險、暴力或仇恨內容:GAI比其他技術能更輕易產生大規模煽動性、激進或威脅性內容,或美化暴力內容。

4.資料隱私:GAI訓練時需要大量資料,包括個人資料,可能產生透明度、個人資料自主權、資料違法目的外利用等風險。

5.環境影響:訓練、維護和運行GAI系統需使用大量能源而影響碳排放。

6.偏見或同質化(homogenization):GAI可能加劇對個人、群體或社會的偏見或刻板印象,例如要求生成醫生、律師或CEO圖像時,產出女性、少數族群或身障人士的比例較低。

7.人機互動:可能涉及系統與人類互動不良的風險,包括過度依賴GAI系統,或誤認GAI內容品質比其他來源內容品質更佳。

8.資訊完整性:GAI可能無意間擴大傳播虛假、不準確或誤導性內容,從而破壞資訊完整性,降低公眾對真實或有效資訊的信任。

9.資訊安全:可能降低攻擊門檻、更輕易實現自動化攻擊,或幫助發現新的資安風險,擴大可攻擊範圍。

10.智慧財產權:若GAI訓練資料中含有受著作權保護的資料,可能導致侵權,或在未經授權的情況下使用或假冒個人身分、肖像或聲音。

11.淫穢、貶低或虐待性內容:可能導致非法或非自願性的成人私密影像或兒童性虐待素材增加,進而造成隱私、心理、情感,甚至身體上傷害。

12.價值鏈和組件整合(component integration):購買資料集、訓練模型和軟體庫等第三方零組件時,若零組件未從適當途徑取得或未經妥善審查,可能導致下游使用者資訊不透明或難以問責。

  為解決前述12項風險,本報告亦從「治理、映射、量測、管理」四大面向提出約200項行動建議,期能有助組織緩解並降低GAI的潛在危害。

相關連結
你可能會想參加
※ 美國國家標準暨技術研究院發布「人工智慧風險管理框架:生成式AI概況」, 資訊工業策進會科技法律研究所, https://stli.iii.org.tw/article-detail.aspx?d=9263&no=0&tp=1 (最後瀏覽日:2024/11/01)
引註此篇文章
你可能還會想看
中國大陸文化創意產業相關管制規範

中國大陸文化創意產業相關管制規範 科技法律研究所 法律研究員 尤騰毅 101年06月08日   中國大陸針對內、外資企業(含台資企業)的市場開放資格、條件,有不同程度的管制規範。臺灣業者在中國大陸外資管制規範下,亦被定位為外資,故若能透過類似ECFA等貿易協定的談判,爭取較為有利的市場開放措施,將可協助我國相關文創事業進入中國大陸市場。以下就中國大陸針對影視、出版、演出等行業的管制規範,予以整理,以供後續與中國大陸官方協商議題之參酌。 一、中國大陸電影產業相關法令限制 (一)主體經營資格 1.外商僅能透過合作攝製(無法獨資)進行電影拍攝 (1) 電影未開放獨資(境外組織)拍攝,僅能與中國大陸方合作拍攝(電影管理條例第18條) (2) 合作攝製分為三種聯合攝製、協作攝製、委託攝製(中外合作攝製電影片管理規定第5條)。聯合攝製聘用的境外主創人員需要經過廣電總局批准,且外方主要演員比例不得超過主要演員總數的三分之二(中外合作攝製電影片管理規定第13條)。而協作攝製、委託攝製的影片因為不在中國大陸上映,所以無此問題。 2.電影製片單位限於中外合營(合作、合資) (1) 外商無法獨資成立電影製片單位,僅能透過合作、合資的方式進行,並由中方廣電總局提出申請,成立後享有與其國有電影製片單位相同權利與義務。此外,外資投資合作、合資之電影製片單位資本額不得少於500萬元人民幣,且比例不得超過49%。(電影企業經營資格准入暫行規定第6條) 3.電影技術公司,改造電影製片、放映基礎設施和技術設備等相關產業限於中外合營(合作、合資) (1) 電影技術公司,改造電影製片、放映基礎設施和技術設備等相關產業,外商也僅能採取合作、合資的方式投資,且限定資本額不得少於500萬元人民幣,且比例不得超過49%。(電影企業經營資格准入暫行規定第9條) 4.外商不得獨資成立電影院,僅限中外合營(合作、合資) (1) 臺灣業者在大陸投資電影放映業務視同外資。(外商投資電影院暫行規定第10條) (2) 外資不得獨資成立電影院,僅限於合作、合資(外商投資電影院暫行規定第2條)。資本額不得少於600萬元人民幣,且中方投資比例不得低於51%,但針對試點城市中方比例不得低於25%。(外商投資電影院暫行規定第4條) 5.外商無法從事電影發行、放映業務 (1) 關於電影的發行、放映業務僅限其國內企業可以經營,外資無法投資(電影企業經營資格准入暫行規定)。 二、中國大陸電視產業相關法令限制 (一)主體經營資格 1.電視劇無法獨資進行拍攝活動,僅能與中國大陸方合作攝製 (1) 禁止外資設立廣播電視節目製作經營公司(外商投資產業指導目錄),僅能與中方企業合作攝製動畫片。(外商投資產業指導目錄) (2) 與台灣地區的法人與自然人,合作製作電視劇,也是適用中外合拍劇的規定。(中外合作製作電視劇管理規定第21條) (3) 中國大陸對中外合作製作電視劇(含電視動畫)節目實行許可制度,也就是說,未經廣電總局批准同意者,不得與境外方合作製作電視動畫片。(中外合作製作電視劇管理規定第4條) (二)內容製作與題材審查 1.合拍劇的題材規劃,須提出立項審查 (1) 合拍劇的題材規劃,須經審查批准。(中外合作製作電視劇管理規定第3條) (2) 有關中外合作製作的電視動畫片,須提出題材規劃立項申請。(中外合作製作電視劇管理規定第6條) (3) 自2008年2月14日起,與臺灣地區及境外的法人、自然人合作製作電視劇立項的分集梗概,每集不少於1500字;與臺灣地區及境外的法人、自然人合作製作電視劇的其他規定,仍參照「中外合作製作電視劇管理規定」執行。(廣電總局關於調整大陸與臺灣合拍電視劇及有境外演職員參與制作的國產電視劇審查管理辦法的通知) (4) 大陸國產合拍劇(含動畫片)只須申請備案。(電視劇內容管理定第8條) (三)播映時段與比例 1.大陸與臺灣合拍電視劇,可視為國產電視劇播出和發行 (1) 自2008年1月1日起,大陸與臺灣合拍電視劇的完成片經廣電總局審查同意後,可視為國產電視劇播出和發行。(廣電總局關於調整大陸與臺灣合拍電視劇及有境外演職員參與制作的國產電視劇審查管理辦法的通知) (四)進口限制 1.進口電視動畫片播放限制 (1) 目前大陸規定動畫頻道、少兒頻道、青少頻道、兒童頻道和其它以未成年人為主要對象的頻道,要嚴格執行每天國產動畫片與引進動畫片播出比例不得低於7:3的規定。(大陸廣電總局「關於加強電視動畫片播出管理的通知」) (2) 自2008年5月1日起,各動畫頻道在每天的黃金時段(17:00-21:00)必須播出國產動畫片。中外合拍動畫片若希望在黃金時段播出的話,須先報國家廣電總局批准同意。(廣電總局關於加強電視動畫片播出管理的通知) (3) 各少兒頻道、青少頻道、兒童頻道和其他以未成年人為主要對象的頻道,在黃金時段必須播出國產動畫片或自製的少兒節目,不得播出境內外影視劇。(廣電總局關於加強電視動畫片播出管理的通知) (五)限娛令、限廣令 1.管制電視頻道娛樂性節目數量(限娛令) 中國大陸廣電總局針對娛樂性節目(婚戀交友類、才藝競秀類、情感故事類、遊戲競技類、綜藝娛樂類、訪談脫口秀、真人秀)進行管制,每天19:30-22:00的全國播出該類節目總數控制在9檔,每個綜合頻道每周播出上述類型節目總數不超過2檔,播出時間不得超過90分鐘。(廣電總局下發加強電視上星綜合頻道節目管理意見) 2.電視劇廣告限制(限廣令) 目前中國大陸播出電視劇,不得於在每集(以45分鐘計)中間插播任何形式的廣告。(〈廣播電視廣告播出管理辦法〉的補充規定) 三、中國大陸出版產業相關法令限制 (一)出版業之出版行為禁止外商投資   圖書、報紙、期刊的出版業務,以及音像製品和電子出版物的出版、製作業務等,係禁止外商投資之標的。(外商投資產業指導目錄) (二)出版物、包裝裝潢印刷品、其他印刷品之印刷經營活動   出版物印刷經營活動,根據外商投資產業指導目錄(2011年修訂)之規定,屬於投資限制類的產業,必須由中方控股(外商投資產業指導目錄)。而出版物的印刷經營活動,依印刷物的不同,區分不同的市場開放條件:(設立外商投資印刷企業暫行規定) 1.出版物印刷: (1) 所稱出版物,包括報紙、期刊、書籍、地圖、年畫、圖片、掛曆、畫冊及音像製品、電子出版物的裝幀封面等。(印刷業管理條例) (2) 允許設立中外合營(包括合資、合作)印刷企業,且必須由中方投資者擔任控股或主導地位,而董事長須由中方擔任,董事會也必須中方多於外商。(設立外商投資印刷企業暫行規定) (3) 外商投資印刷企業註冊資本不得低於1000萬元人民幣。(設立外商投資印刷企業暫行規定) 2.其他印刷品印刷: (1) 所稱其他印刷品,包括文件、資料、圖表、票證、證件、名片等。(印刷業管理條例) (2) 允許設立中外合營(包括合資、合作)印刷企業,且必須由中方投資者擔任控股或主導地位,而董事長須由中方擔任,董事會也必須中方多於外商 。(設立外商投資印刷企業暫行規定) (3) 外商投資印刷企業註冊資本不得低於500萬元人民幣。(設立外商投資印刷企業暫行規定) 3.包裝裝潢印刷品印刷: (1) 所謂包裝裝潢印刷品係指「商標標識、廣告宣傳品及作為產品包裝裝潢的紙、金屬、塑料等的印刷品」。(印刷業管理條例) (2) 允許設立中外合營(包括合資、合作)印刷企業、外資(獨資)印刷企業。(設立外商投資印刷企業暫行規定) (3) 外商投資印刷企業註冊資本不得低於1000萬元人民幣。(設立外商投資印刷企業暫行規定) (三)圖書、報紙、期刊、電子出版物發行 1.外商得以合資、合作、獨資的方式,於中國大陸從事圖書、報紙、期刊、電子出版物的發行活動 (1) 外商得以中外合資經營企業、中外合作經營企業或外資企業的型態,在中國大陸從事有關圖書、報紙、期刊、電子出版物的發行業務。(出版物市場管理規定) (2) 惟從事圖書、報紙、期刊連鎖經營業務,若連鎖門店超過30家者,禁止外資控股,外國投資者不得以變相參股方式違反上述有關30家連鎖門店的限制。(出版物市場管理規定) (四)音像製品之發行 1.外資得設立中外合作經營企業,從事與音像製品有關的發行業務 (1) 外資得與中方企業以合作經營的方式,從事音像製品的出版、制作、複製、進口、批發、零售、出租之業務。(出版物市場管理規定) (2) 所稱音像製品係指「錄有內容的錄音帶、錄像帶、唱片、激光唱盤和激光視盤等」。(音像製品管理條例) (五)國有書報刊音像製品發行企業股份制改造 1.外資可以合資、合作方式,參與國有書辦刊音像製品發行企業股份制改造 (1) 關於文化領域引進外資的意見規定,外資可以參與國有書辦刊音像製品發行企業股份制改造,但中方仍必須控股51%以上,或是佔有主導地位。(關於文化領域引進外資的若干意見) (2) 此種方式與一般合資、合作之投資模式有些許不同。國有企業係屬於特殊之經濟組織,而透過外資參與的股份制改造,即將國有企業改制成股份有限公司,並上市發行股票。 (六)光碟複製與生產 1.外商可以獨資、合資、合作方式投資可錄類光碟(即空白光碟)生產 (1) 根據關於文化領域引進外資的若干意見,外商可以獨資、合資、合作方式投資可錄類光碟(即空白光碟)生產。(關於文化領域引進外資的若干意見,以及複製管理辦法) 2.禁止設立外商獨資唯讀類光碟和磁帶磁片複製單位;惟允許合資、合作為之 (1) 唯讀類光碟(我國稱唯讀光碟,即不可複寫且具有內容光碟,例如一些影音光碟)和磁帶磁片複製單位,禁止外商獨資,但允許中外合資、合作的方式為之,惟中方必須控股或占主導地位。(關於文化領域引進外資的若干意見,以及複製管理辦法) 四、中國大陸演出產業相關法令限制 (一)演出經紀機構、演出場所經營單位 1.投資比例及經營權受到限制 (1) 台資僅得以合資、合作經營方式設立演出經紀機構或演出場所經營單位。(營業性演出管理條例) (2) 大陸地區合營者須保有經營主導權及51%投資比例。(營業性演出管理條例) 2.設立審查程序較為繁瑣與嚴格 (1) 台資投資設立演出經紀機構、演出場所經營單位時,適用外資設立之規定。(營業性演出管理條例) (2) 設立須透過省級文化主管部門向國務院文化主管部門提出申請,國務院文化主管部門依據省級主管部門出具之審查意見,決定是否頒發營業性演出許可證;申請人取得許可證後,再依照外商投資相關規定辦理。(營業性演出管理條例) 3.舉辦演出或從事經紀業務須由演出經紀人執行 (1) 演出經紀機構從事演出經紀活動時,須由取得資格證的專職演出經紀人負責執行業務。(演出經紀人資格認定實施辦法) (2) 演出經紀機構設立時,須登記專職演出經紀人身份。(營業性演出管理條例實施細則) (二)演出經紀人 (1) 臺灣地區人民在大陸設立合資、合作經營的演出經紀機構而申請從事演出經紀活動的港澳臺地區人員,須依中國演出家協會「演出經紀人資格認定實施辦法」進行培訓、考試,取得演出經紀人資格證。(演出經紀人資格認定實施辦法) (2) 未取得資格證者不得從事經紀活動。(演出經紀人資格認定實施辦法) (三)個體演員、文藝表演團體 1.演出管道仍受限 (1) 台資不得在中國大陸設立文藝表演團體。(營業性演出管理條例實施細則) (2) 台灣個體演員、文藝表演團體僅得透過中國大陸本地演出經紀機構舉辦演出;或參加中國大陸本地文藝表演團體之自辦演出。(營業性演出管理條例) (3) 大陸演出團體要承接台灣個體演員、文藝表演團體,具嚴格條件限制。(營業性演出管理條例) 2.演出之內容審查較為嚴格 (1) 台灣個體演員及文藝表演團體所參加之營業性演出,須經國務院文化主管部門會同國務院有關部門事前審查,審查內容較一般中國大陸人民嚴格。(營業性演出管理條例) (2) 台灣個體演員及文藝表演團體參與之演出,在表演中須受到實地檢查。(營業性演出管理條例)

中國大陸首例遊戲玩家集體請求網路遊戲公司回復遊戲中的團隊

  中國大陸首例因在網絡遊戲中花重金組建的團隊遭遇離奇解散,導致來自多個省市的遊戲玩家聯手於河南省對網絡遊戲運營商提起訴訟。     代表玩家提出訴訟的原告在《魔域》中投入許多時間與金錢,建立「情誼無痕」軍團,最高時軍團人數達2000餘人。由於軍團的升級和日常維護開支需要眾玩家共同出力出錢,「情誼無痕」被無故被解散所影響的玩家人數眾多。     被告網龍公司主張遊戲帳號註冊時所輸入的身份證並非原告本人、服務器電腦記錄顯示有人登錄「落花有意」帳號並將「情誼無痕」軍團解散,由此可推斷該帳號曾有兩人以上使用,故不能排除該帳號曾借與朋友使用或被他人盜號使用而將軍團解散。     每法官與原被告雙方進行調解,因雙方意見分歧,最終未達成調解協議。玩家表示如果網龍公司不能給予合理的答覆,他們將聯合分佈在全國各地的其他玩家陸續不斷地起訴網龍公司。

香港公告金融科技監管沙盒2.0版、保險科技沙盒以及證監會監管沙盒

  在香港金融管理局(Hong Kong Monetary Authority, HKMA)於2016年9月推出金融科技監管沙盒(Fintech Supervisory Sandbox, FSS)滿一年後,於今年9月29日再公布2.0升級版。而香港保險業監管局(Insurance Authority, IA)同時發布保險科技沙盒(Insurtech Sandbox),證券及期貨事務監察委員會(Securities and Futures Commission, SFC)亦公告證監會監管沙盒(SFC Regulatory Sandbox),初步完備香港金融領域沙盒制度之建立。   於金融科技監管沙盒2.0版中,香港金融管理局為加強金融科技公司與HKMA連繫機制,將成立金融科技監管聊天室(Fintech Supervisory Chatroom),改變最初金融科技公司僅能透過銀行窗口與HKMA進行試驗商品相關聯繫,造成程序不便、資訊不流通等問題,2.0版後金融科技公司可透過HKMA隸屬之金融科技監管聊天室進行意見回饋。並且由於香港針對金融科技、保險、證券及期貨領域推出三種沙盒機制,故推出「一點通」之一站式便民服務,提供企業選擇沙盒並得以和各機關進行相互協調,此次改革將於年底作業完成。   而IA為促進保險科技發展,推出保險科技沙盒,對於保險公司計畫在香港推出的創新技術不確定是否符合香港法規,給予受授權保險公司在沙盒機制內進行沙盒試驗,在沙盒試驗中,主管機關得隨時對保險公司之風險控管做查核,並且消費者有隨時退出試驗並給予補償機制,IA亦可針對不符合之試驗計劃宣告中止。   另外,SFC開放合資格之企業提供沙盒試驗,所謂「合資格之企業」是指經由香港《證券及期貨條例》規範而設立之持照企業或新創公司,同時該公司必須使用創新科技並為投資者帶來更多優質產品服務,並受惠於香港金融服務業者。並且為保護投資者權益,除申請公司應有給予投資者退出機制與提供賠償方式外,並應揭露潛在風險。若最後申請公司證明其試驗客體可靠且符合目的,可向SFC申請走出沙盒機制,並對外營運。

歐盟執委會同意德國全面開放寬頻市場

  在歐盟公布電子通訊網路的規範架構後,德國電信主管機關聯邦網路局Bundesnetzagentur(BNetzA)於2005 年10月11日提出寬頻接取批發市場的規劃草案,提案內容包含顯著市場力量(SMP)及寬頻網路市場的定義,不過卻將超高速網路接取(very high-speed internet access)排除在寬頻接取市場的定義之外,由於此將涉及德國在流量接取(bitstream)及寬頻接取市場的有效競爭,以及有可能影響具有顯著市場力量的德國電信公司(Deutsche Telekom)與後進電信業者建置VDSL基礎設施或提供寬頻多媒體服務的意願。因此此項草案在送交資訊社會媒體執委會後,引發了諸多爭論。多數委員認為如未將VDSL列入寬頻接取批發市場的定義中,將會導致其他業者無法以同一立足點與德國電信競爭。在BnetzA將VDSL列入市場定義,並允以流量作為批售基礎而重提規劃案後,歐盟執委會於2005年12月23日通過決議,同意德國的電信主管機關聯邦網路局Bundesnetzagentur(BNetzA)全面開放含VDSL在內的高速寬頻網路市場。

TOP