美國國家標準暨技術研究院發布「人工智慧風險管理框架:生成式AI概況」

  美國國家標準暨技術研究院(National Institute of Standard and Technology, NIST)2024年7月26日發布「人工智慧風險管理框架:生成式AI概況」(Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile),補充2023年1月發布的AI風險管理框架,協助組織識別生成式AI(Generative AI, GAI)可能引發的風險,並提出風險管理行動。GAI特有或加劇的12項主要風險包括:

1.化學、生物、放射性物質或核武器(chemical, biological, radiological and nuclear materials and agents, CBRN)之資訊或能力:GAI可能使惡意行為者更容易取得CBRN相關資訊、知識、材料或技術,以設計、開發、生產、使用CBRN。

2.虛假內容:GAI在回應輸入內容時,常自信地呈現錯誤或虛假內容,包括在同一情境下產出自相矛盾的內容。

3.危險、暴力或仇恨內容:GAI比其他技術能更輕易產生大規模煽動性、激進或威脅性內容,或美化暴力內容。

4.資料隱私:GAI訓練時需要大量資料,包括個人資料,可能產生透明度、個人資料自主權、資料違法目的外利用等風險。

5.環境影響:訓練、維護和運行GAI系統需使用大量能源而影響碳排放。

6.偏見或同質化(homogenization):GAI可能加劇對個人、群體或社會的偏見或刻板印象,例如要求生成醫生、律師或CEO圖像時,產出女性、少數族群或身障人士的比例較低。

7.人機互動:可能涉及系統與人類互動不良的風險,包括過度依賴GAI系統,或誤認GAI內容品質比其他來源內容品質更佳。

8.資訊完整性:GAI可能無意間擴大傳播虛假、不準確或誤導性內容,從而破壞資訊完整性,降低公眾對真實或有效資訊的信任。

9.資訊安全:可能降低攻擊門檻、更輕易實現自動化攻擊,或幫助發現新的資安風險,擴大可攻擊範圍。

10.智慧財產權:若GAI訓練資料中含有受著作權保護的資料,可能導致侵權,或在未經授權的情況下使用或假冒個人身分、肖像或聲音。

11.淫穢、貶低或虐待性內容:可能導致非法或非自願性的成人私密影像或兒童性虐待素材增加,進而造成隱私、心理、情感,甚至身體上傷害。

12.價值鏈和組件整合(component integration):購買資料集、訓練模型和軟體庫等第三方零組件時,若零組件未從適當途徑取得或未經妥善審查,可能導致下游使用者資訊不透明或難以問責。

  為解決前述12項風險,本報告亦從「治理、映射、量測、管理」四大面向提出約200項行動建議,期能有助組織緩解並降低GAI的潛在危害。

相關連結
你可能會想參加
※ 美國國家標準暨技術研究院發布「人工智慧風險管理框架:生成式AI概況」, 資訊工業策進會科技法律研究所, https://stli.iii.org.tw/article-detail.aspx?d=9263&no=0&tp=1 (最後瀏覽日:2026/07/07)
引註此篇文章
你可能還會想看
加拿大政府公開徵求利用衛星擴充行動通訊覆蓋範圍之意見,期能彌平通訊落差現況

加拿大創新科學暨經濟發展部(Innovation, Science and Economic Development Canada, ISED)於2024年6月24日啟動「以衛星擴充行動通訊覆蓋範圍之政策、授權與技術框架」(Policy, Licensing and Technical Framework for Supplemental Mobile Coverage by Satellite (SMCS))公眾意見徵詢,指出偏遠地區通訊服務不足之現況將帶來嚴重公共安全風險,並抑制經濟成長與社會融合,因此提出擬透過公眾意見徵詢達成之四項政策目標如下: (1)為服務缺乏、不足之區域提供行動通訊服務; (2)促進無線服務提供之競爭性,提供消費者更多選擇; (3)提升電信服務的可靠性與韌性; (4)開發創新應用促進無線網路的投資與發展。 以此政策目標為基礎,ISED就以下內容徵詢公眾意見: (1)頻譜政策框架: 於考量區域/國際協調、利害關係人利益、最小化干擾等因素後,提出多個適用頻段選項。 (2)SMCS授權框架: 探討以行動衛星服務(Mobile satellite services, MSS)框架為基礎,對衛星與地球基地臺(如手機)分別進行授權,並針對個別許可證授予條件(如不允許排他性條款等)提出建議。 (3)技術考量因素: 討論行動通訊消費者設備與SMCS太空基地臺技術要求、同頻段共存與預防干擾等議題。 新的SMCS框架預計於2025年4月1日生效,而在新框架生效前,考量到試驗或早期布建能帶來之利益,ISED將依據文件內之資格要求,針對個案核發SMCS暫時許可。

歐盟RELIEF計畫於今(2016)年11月展開前商業化採購之市場公開徵詢

  有鑑於許多歐盟國家為日漸高漲的健康照護成本所困,歐盟於Horizon 2020政策下陸續推動會員國合作以更有效益的創新採購方式進行健康照護計畫的推展,以降低健康照護預算的壓力,RELIEF計畫即屬其一。歐盟於2016年2月啟動RELIEF計畫,聯合義大利、西班牙、瑞典三國,目的在發展創新ICT解決方案以協助慢性病患透過自我管理方式舒緩慢性疼痛、能夠持續獨立生活。欲採購的ICT創新服務為目前尚不存在於市場上、仍需經研發之解決方案,實為針對慢性疼痛自我管理解決方案的「研發服務」,該計畫係採「前商業化採購(Pre-Commercial Procurement, PCP)」方式進行跨國公告招標。目前RELIEF計畫正在進行PCP準備階段之公開市場徵詢,除了透過2個月(今年11、12月)的公開線上問卷調查業者意見,另將以workshop形式舉辦三場公開市場徵詢會議。   RELIEF計畫另一重要目標就是透過此計畫以建立完整PCP流程,讓未來參與相關計畫的公部門能夠熟悉並妥善運用PCP流程及工具 。「前商業化採購」為歐盟廣泛創新戰略中所指出能協助公部門採購「研發服務」的特殊採購程序,以滿足尚未存在市場上、仍需經研發的技術性創新需求,此程序不包含對研發成果的商業化採購,亦不受政府採購法之規範,能夠從需求面刺激廠商創新研發,讓研發從一開始即以機關需求為核心。   RELIEF計畫劃分為PCP之準備階段以及執行階段。於準備階段會進行PCP招標文件準備、採購團隊的需求及現有技術分析、公開市場徵詢(Open Market Consultation, OMC);由於採購機關對其需求尚無具體的規格描述,必須經廣泛的市場意見徵詢與溝通以進一步定義,正在進行中的OMC將聚集採購團隊、潛在投標者(例如對健康照護、數位照護、病患賦權與互動性有鑽研之ICT業者)、終端使用者等,以廣蒐相關利害關係團體意見並進行充分互動溝通,作為執行階段的重要參考基礎。   PCP正式公告後的執行階段即區分為階段A「解決方案設計(Solution design)」(計半年)、階段B「原型開發(Prototype development)」(計半年)、階段C「商業化前開發:場域測試(Pre-commercial development: field test)」(計一年)。各階段將設定參與廠商應達成目標,以篩選出較符合需求者始得進入下一階段,以維持廠商間良性競爭,於階段C最後決標予研發成果最符合計畫需求之廠商(可能1家以上)。   歐盟目前的創新推動策略上PCP屬尚未被充分運用的工具,從該計畫的規劃可見準備階段對後續PCP執行階段的重要性,透過其示範可供政策規劃者為借鏡,運用創新採購驅動產業創新發展以更有效益解決社會與政府需求。

從智慧財產法院104年度民暫抗字第7 號民事裁定看營業秘密案件聲請定暫時狀態處分

從智慧財產法院104年度民暫抗字第7號民事裁定看營業秘密案件聲請定暫時狀態處分 資策會科技法律研究所 法律研究員 蔡怡萱 105年04月29日 壹、案件摘要   智慧財產法院於去(104)年10月2日針對新世紀光電對於103 年度民暫字第21號第一審裁定提起抗告,做出裁准暫時狀態處分之 104 年度民暫抗字第 7 號民事裁定,以下概述智慧財產法院於本案中所採取的法律判斷依據。   本案事實為李允立(下稱相對人)於102年離職後自行成立公司(下稱相對人公司),隨即新世紀光電(下稱抗告人)之關鍵研發團隊重要成員及各部門重要員工多名先後離職,部分至相對人公司任職。相對人公司現有經營方式為無廠半導體公司,專門研發及販售發光二極體磊晶圓及晶粒技術與產品規劃,透過租賃機台之方式製造相關產品,與抗告人業務相同。相對人為公司負責人,抗告人主張相對人不可避免的會使用抗告人公司的機密資訊及營業秘密,而造成抗告人重大損失,而抗告人為避免發生重大難以回復之損害,依營業秘密法第11條第1 項[1]、兩造間的服務契約書、民事訴訟法第538 條第1 項[2]、智慧財產案件審理法第22條第2 項[3]規定,聲請撤回原審裁定並定暫時狀態處分。   本案法院於此次裁定將原裁定廢棄,在兩造間侵害營業秘密爭議之本案訴訟判決確定前:(1)禁止相對人利用、發表或洩漏任職抗告人公司期間所知悉抗告人公司有關於LED 產品及製程相關之營業秘密及機密資訊,包括:非一般涉及該類資訊所知之一切製程、程式、專門技術、技術資料、經營資料、材料、設計、參數及配方、客戶明細、銷售資料等;(2)相對人不得為自己或第三人之利益,唆使或利誘抗告人員工離職。 貳、重點說明 一、營業秘密具體認定爭執及以定暫時狀態之處分為手段   綜合以上兩造爭執點在於,(1)在相對人離職後所持有於抗告人公司任職時所知悉的營業秘密及機密資訊的具體內容該如何認定,相對人爭執於離職時原公司並未明確界定,抗告人卻反駁確有保護營業秘密及機密資訊之說明。(2)透過兩造簽署之服務契約書,是否可以透過定暫時狀態處分為手段,達到確認或重申請求裁定禁止相對人唆使或利誘抗告人之員工離職。 二、定暫時狀態之處分需符合的要件   聲請定暫時狀態之處分需符合下列要件:(1)兩造有爭執之法律關係,且以本案訴訟能確定該爭執之法律關係者為限;以及(2)為防止聲請人發生重大損害或避免急迫危險或有其他相類之必要性情形。因此在符合法定要件的前提下,可以請求法院針對侵權爭議的本案訴訟判決確定前,禁止侵害人為特定行為 [4]。   另依本案法院的釋明,所謂爭執的法律關係,應不以法律關係已經訴訟繫屬為限,凡金錢請求以外,有繼續性且適於為民事訴訟之標的者,於事人間發生爭執或被侵害等情形,均屬之。更尤,所爭執之法律關係雖尚未有訴訟之繫屬,只要債權人因避免重大之損害或因其他情事,而有定暫時狀態之必要者,即得依聲請定暫時狀態之處分,故法院據以得心證的理由為下列幾項判斷依據。 三、法院判斷依據及裁定結果 (一)兩造有爭執之法律關係   以兩造間爭執的法律關係來說,抗告人因發現相對人離職後,有多位員工相繼離職到相對人所成立之公司任職,因此依與相對人任職時所簽署服務契約書中約定離職後的保密義務,向法院聲請禁止相對人不得利用或洩漏先前任職期間所取得公司的營業秘密,法院認為是抗告人就相對人離職後涉及有無違反上述服務契約書約定之保密義務與誘使抗告人員工離職爭議,為雙方所爭執之法律關係。 (二)營業秘密保全的必要性   抗告人就可能被相對人利用或洩漏之「營業秘密」所主張,雖然相對人堅稱該內容為業界習知技術,但抗告人提出細部結構設計及製程方式等資訊,經法院認定該等資訊有助於提升產品效率,而且可以減少不必要的錯誤實驗,抗告人也另外提出專利佈局及業務與生產資訊之相關報告及資料,因此法院認為該相關事證使法院大致心證認為其主張該等資訊為其所欲保護之營業秘密事實之存在,而認為為正當之心證。另外就兩造所簽訂的服務契約書中所稱「營業秘密是指具有財產利益或經濟價值的任何口頭及書面機密資訊(料),包括但不限於圖樣、規格、原型、製程..專門技術、客戶明細、晶片、及其他銷售資料..」,也足以證明相對人於原公司任職時已清楚知悉何謂營業秘密,也負有保守其營業秘密的義務。   另外相對人所設立之公司其股東及董事皆為抗告人的競爭對手,因此法院認為相對人於原任職期間所知悉上述的營業秘密,推認有可能揭露予他人,而此為抗告人所欲防止的危險,而有保全的必要性。 (四)相對人應遵守禁止挖角義務   針對相對人挖角抗告人員工使其離職,而抗告人依兩造的服務契約書中禁止挖角義務條款,請求禁止相對人為挖角行為,法院亦肯定相對人應遵守禁止挖角義務。抗告人公司其他員工於短期內相繼離職,法院雖認為離職為個人選擇,但皆於相對人離職後才相繼離職,且半年即有多人加入相對人所設立公司,故可推認多名離職員工與相對人有關,且為了避免再有員工從抗告人公司繼續離職加入相對人設立之公司,法院相信抗告人的主張大致可採,故就此部分亦准許抗告人請求禁止挖角行為。 (五)相對人應遵守不作為義務   定暫時狀態之處分,雖非以保全執行為主要目的,惟仍屬保全權利之方法,原係法院為防止發生重大損害或避免急迫危險或有其他相類之情形認有必要時,為平衡兩造間之權利義務或利益而為之裁定 [5];又聲請為定暫時狀態之處分,不論係單純不作為處分,或容忍不作為處分,法院為裁定時,對於當事人雙方因准否處分所受利益及可能發生之損害,應依利益權衡原則予以審酌而為准駁 [6]。最後法院衡量抗告人與相對人的權益,營業秘密的洩漏將對抗告人產生損害,但禁止相對人洩漏營業秘密及不得挖角,僅是請求相對人遵守不作為義務而不致有損害,故不對抗告人命供擔保。 參、案件評析 一、由上述案件內容可知,透過具體管理機制所產出之事證可為法院判斷是否為營業秘密遭受侵害的正當之心證,如下述: (一)公司於離職員工任職時所簽訂的服務契約之詳盡程度,包括:於契約文件中定義營業秘密的具體範圍;於契約規範在任職中不得交付或洩漏於任何第三人;於契約規範離職後仍負有保密義務等。 (二)各紀錄文件應完整留存以作為日後法院裁判的事證依據,包括研發紀錄簿中實驗參數文之成敗紀錄或研發例行月會報告,或技術發展計畫等相關資料;專利佈局的規劃,業務與生產資訊(包括可知之銷貨成本、銷貨毛利、人事資料以及研發專案等資訊,他人即可從該等資訊得知銷售狀況)。 (三)制定相關管理辦法並予以區分文件機密等級及管控,如本案中抗告人提出「文件與資料管制辦法」及「門禁管理辦法」,供法院參考以證明抗告人對其生產、營運訊有採取保密措施。   由上述提出之事證就可以使法院大致相信所主張之資訊為其所欲保護的營業秘密,並得到大致為正當之心證。 二、如何判斷是否有挖角行為,法院除了以經驗法則及一般人可推知來判斷,雖然於何處任職是個人權利,但不尋常的大量員工於同時間或先後離職,甚至離職後都到同一家公司任職,很難不推認和挖角行為的直接關連;而法院也認為相對人縱使離職後也應該要遵守當時兩造的服務契約中禁止唆使或利誘他人離職。於現今一直苦於受到人才大量流失,甚至競爭對手惡性挖角的國內企業來說,於員工的任職契約約定禁止唆使或利誘挖角原公司員工,也不失為遏止的方法。 三、為了因應智慧財產權相較其他財產權市場上跟策略上的急迫性和時效性,在相較於其他智慧財產假處分案件而言,法院在此案中呈現出考量營業秘密保護相關案件具有緊急性及難以進一步舉證之特性,對於權利人應為釋明之程度較為放寬[7],是否會形成通案慣例,值得追蹤觀察。 本文同步刊登於TIPS網站(http://www.tips.org.tw) [1]營業秘密受侵害時,被害人得請求排除之,有侵害之虞者,得請求防止之。 [2]於爭執之法律關係,為防止發生重大之損害或避免急迫之危險或有其他相類之情形而有必要時,得聲請為定暫時狀態之處分。 [3]聲請定暫時狀態之處分時,聲請人就其爭執之法律關係,為防止發生重大之損害或避免急迫之危險或有其他相類之情形而有必要之事實,應釋明之;其釋明有不足者,法院應駁回聲請。 [4]洪陸麟,以專利案件為中心論智慧財產案件審理法,國立政治大學法律學系碩士班論文,99-100頁,2009年。 [5]最高法院94年度台抗字第743 號民事裁定。 [6]最高法院94年度台抗字第380 號民事裁定。 [7]莊郁沁,智慧財產法院就營業秘密保護案件裁准定暫時狀態處分聲請之案例介紹,理律法律雙月刊,9-10頁,105年1月號。

美國與歐盟宣布跨大西洋資料保護框架

  美國和歐盟執委會於2022年3月25日宣布將建立新的跨大西洋資料保護框架(Trans-Atlantic Data Privacy Framework),該框架將促進美國與歐洲之間的資料流通,並解決歐盟法院在2020年宣布隱私盾協議(EU-U.S. Privacy Shield framework)無效時所提出的疑慮與問題。   該框架是重新建立美國與歐盟兩地個人資料傳輸的一個重要法律機制。美國承諾將實施新措施,以確保訊號情報活動(signals intelligence activities)是在必要且合法的國家安全目標下進行,並且不得不成比例地影響對個人隱私和公民自由的保護。基此,美國承諾的新措施包含強化美國訊號情報活動的隱私及公民自由保障機制、建立獨立且具約束力的救濟措施,以及強化美國情報機構對現有訊號情報活動的程序且分層監督。對於歐盟公民而言,將有全新且高標準的規範來保護個人資料;而對於美歐間的民眾和企業而言,該框架將可促進資料持續流動,足以鞏固歐美兩地每年高達一兆美元的跨境貿易,並使各種規模的企業能夠在彼此的市場中競爭。   資料流通對於美歐雙方的經濟關係以及所有企業而言都至關重要。事實上,美國和歐洲之間的資料流通所創造的經濟價值高達7.1兆美元,高居世界首位。在此背景下,新的跨大西洋資料隱私框架將強化美國與歐盟雙方對隱私、資料保護、法治和整體國家安全的共同承諾,未來美國與歐盟雙方將依此框架持續推進雙方各自相關的法律規範。

TOP