美國情報體系發布「情報體系運用人工智慧倫理架構」

  美國國家情報體系(United States Intelligence Community)係於1981年依據行政命令第12333號(Executive Order 12333)所建立,其任務為蒐集、分析與提供外國情報與反情報資訊美國國家領導人,服務對象包含美國總統、執法單位以及軍事單位。其於2020年6月提出「情報體系人工智慧倫理架構」(Artificial Intelligence Ethics Framework for the Intelligence Community),為人工智慧系統與訓練資料、測試資料之採購、設計、研發、使用、保護、消費與管理提出指引,並指出人工智慧之利用須遵從以下事項:

一、於經過潛在風險評估後,以適當且符合目的之方法利用;

二、人工智慧之使用應尊重個人權利與自由,且資料取得應合法且符合相關政策與法規之要求;

三、應於利用程序內結合人類判斷與建立問責機制,以因應AI產品之風險並確保其決策之適當性。

四、於不破壞其功能與實用性之前提下,盡可能確認、統計以及降低潛在之歧視問題。

五、AI進行測試時應同時考量其未來利用上可預見之風險。

六、持續維持AI模型之迭代(Iteration)、版本與改動之審查。

七、AI之建立目的、限制與設計之輸出項目,應文件化。

八、盡可能使用可解釋與可理解之方式,讓使用者、審查者與公眾理解為何AI會產出相關決策。

九、持續不定期檢測AI,以確保其符合當初建置之目的。

十、確認AI於產品循環中各階段之負責人,包含其維護相關紀錄之責任。

本文為「經濟部產業技術司科技專案成果」

相關連結
你可能會想參加
※ 美國情報體系發布「情報體系運用人工智慧倫理架構」, 資訊工業策進會科技法律研究所, https://stli.iii.org.tw/article-detail.aspx?d=8520&no=57&tp=1 (最後瀏覽日:2026/09/20)
引註此篇文章
你可能還會想看
雲端運算所涉法律議題

  雲端運算(Cloud Computing),是一種基於網際網路的運算方式,用以共享軟硬體資源、依需求提供資訊給電腦和其他裝置。本質上其實就是分散式運算 Distributed Computing,其主要應用是讓不同的電腦同時協助你處理運算,故只要具備兩台以上電腦,讓他們之間互相溝通,協助您處理工作,就是基本的分散式運算。   雲端運算是繼1980年代大型電腦到用戶端-伺服器的大轉變之後的又一種巨變。使用者不再需要了解「雲端」中基礎設施的細節,不必具有相應的專業知識,也無需直接進行控制。雲端運算概念下描繪了一種基於網際網路而新增加的新興IT服務、使用和交付模式,藉由網際網路來提供各種不同的資源、服務功能而且經常是虛擬化的。 「雲端運算」供應模式以及實用定義如下: ‧ 軟體服務化 (SaaS):透過網際網路存取雲端的應用程式 (例如:Salesforce.com、趨勢科技 HouseCall)。 ‧ 平台服務化 (PaaS):將客戶開發的應用程式部署到雲端的服務 (例如:Google AppEngine 與 Microsoft Azure)。 ‧ 基礎架構服務化 (IaaS):有時亦稱「公用運算」(Utility Computing),意指處理器、儲存、網路以及其他資源的租用服務 (例如:Amazon 的 EC2、Rackspace 以及 GoGrid)。   雲端運算服務所涉及的法律議題相當廣泛,包含隱私權、個人資料保護、資料管轄權、契約責任、智慧財產權保護與營業秘密等。在隱私權問題方面,使用者的隱私或機密風險,乃至權利義務狀態會因為雲端供應商所提供之服務與隱私權政策(privacy policy)而有顯著不同,也可能因為資訊型態或雲端運送使用者類型不同而有差異。在雲端運算服務契約方面,發生資訊安全事件導致資料失竊或毀損時,供應商責任或注意義務如何於契約中合理分配風險,亦是契約方面重要議題。

中國大陸法院認定AI創作可受著作權法保護

中國大陸法院認定AI創作可受著作權法保護 資訊工業策進會科技法律研究所 2023年12月05日 近期生成式AI的工具運用,無論是生成文字的ChatGPT、生成圖像的Midjourney及生成影片的Pictory,技術一日千里,蓬勃發展;其應用已逐漸進入一般人的生活領域網,而且產生AI產出的侵權爭議,滋生運用AI創作的生成內容是否可主張著作權之疑義。我國經濟部智慧財產局於今(112)年6月以經授智字第11252800520號令 函指出--「AI利用人如係單純下指令,並未投入精神創作,由生成式AI模型獨立自主運算而生成全新內容,該AI生成內容不受著作權法保護。」採取否定見解 。不過其前提係「單純下指令,並未投入精神創作」,適於日前中國大陸北京互聯網法院於11月27日以(2023)京0491號民初11279號民事判決 認為如可認定屬「非機械性智力成果」,運用AI生成的圖片仍可受著作權保護。 壹、事件摘要 本案起因於原告將其使用開放原始碼的Stable Diffusion以輸入提示詞的方式,生成「春風送來了溫柔」之少女人像圖,並發布於網路平台。原告於事後發現,被告將該圖原有的原告署名浮水印(平台所發予的用戶編號)截除,並使用於其在網路上發布的文章中使用該圖做為插圖。原告因此提起姓名表示權與網路傳輸權的侵權訴訟。 被告主張系爭圖片具體來源為網路取得,已無法識別來源與浮水印,並不能確定原告是否享有圖片之權利;而且其所發布的主要內容為原創詩文,並非系爭圖片,亦未做為商業用途,並無侵權故意。 原告於本案中提出生成過程的影片佐證資料,北京互聯網法院認定呈現下列具體生成(取捨、選擇、安排與設計)步驟: 一、選擇前述軟體程式提供的模型,初步決定畫面最終生成的可用素材,決定作品的整體風格、類型。 二、為展現一幅在黃昏的光線條件下具有攝影風格的美女特寫所需,輸入有關類型、主體、環境、構圖、風格的提示詞,包括:「超逼真照片」與「彩色照片」類型;「日本偶像」主體並詳細描繪臉部皮膚、眼睛、辮子等細節;「外景」、「黃金時間」與「動態燈光」之環境提示;「機前瀏覽(眼看鏡頭)」、「酷姿勢」為構圖提示;「底片紋理、膠卷仿真」等風格提示。另並進行輸入反向指令提示,包括:繪畫、卡通、動漫等要求,以避免此類風格出現於生成內容。 三、進行相關參數設定,以及多次試驗的調整,包括採樣方法、清晰度、圖形比例等不同參數設置。 貳、重點說明 北京互聯網法院根據原被告的陳述與提供的證據資料,認定原告的AI生成圖構成作品(受著作權保護),且原告享有該作品之著作權: 一、法院首先提出四個認定是否構成作品的判斷要件:1.是否屬文學、藝術、科學領域;2.是否具有獨創性(原創性);3.是否具有一定的表現形式;4.是否屬於智力成果。同時認為本案須審酌的重點在於獨創性與是否屬於智力成果。 二、關於「是否屬於智力成果」,法院認為從原告構思圖片到最終圖片選定為止,原告進行了一定的智力投入,例如設計人物的呈現方式、選擇提示詞、安排提示詞的順序、設置相關的參數、選擇符合預期的生成內容,已具備本要件。 三、至於「是否具有獨創性」,法院認為非有智力投入的都具有獨創性,如「按照一定的順序、公式或結構完成的作品,不同的人會得到相同的結果」,則屬「機械性的智力成果」,並不具有獨創性。但運用AI生成過程若能「提出的需求與他人越具有差異性,對畫面元素、布局構圖描述越明確具體」就越能呈現人作者的個性化表達。因此,法院認定原告雖然AI創作沒有使用畫筆,也與過去使用繪圖軟體不同,但原告對於人物及其呈現方式透過提供進行設計,並透過反覆的修改參數、調整修正,這過程呈現原告的審美觀,而亦可見不同人使用該AI工具可以自行生成不同的內容,故該作品「係由原告獨立完成、體現了原告的個性化表達」。 四、針對原告是否享有該圖作品的著作權,法院採肯定看法認為: 1.雖原告使用AI工具的行為類如委託他人設計,於委託時該是受託人為創作人,但委託與AI工具區別在於委託人具有自主意志,AI工具本身並沒有,不是自然人或法人等民事主體,依法(中國大陸著作權法)該AI工具本身無法成為作者而享有著作權。 2.事實上仍是人以工具進行創作,而工具的設計者亦已於GitHub論壇的授權條款中揭示該工具的授權人並不對使用者所生成的內容主張權利。 3. AI工具的設計者本身並沒有創作該圖的意願,亦無預先設定後續生成內容,未參與創作的生成過程,其訓練雖然是投入相當大的心力,但投入的是在工具的創建而非特定內容的生成。 參、事件評析 本案最終由原告獲得勝訴,法院認定被告侵害其姓名權與公開傳輸權,雖然法院認為使用AI工具的行為類如委託他人設計,於委託時該是受託人為創作人,但也認為AI工具本身並沒有自主意志,不是可享有著作權利的主體,依法(中國大陸著作權法)該AI工具的使用本質仍是人以工具進行創作,而工具的設計者並沒有生成內容的意思與投入,故應由多次修改呈現其個人表達念的使用者取得著作權。本文認為可以從此判決中獲得下述啟示: 一、對初次生成結果進行修改指令是取得原始性的重點:現今AI工具的使用,如要求程度不高,其實只須簡單的指令,例如生成一個xx的圖片,即可產生一張可用的圖片,但此時AI生成的內容僅是「按照一定的順序、公式或結構完成的作品,不同的人會得到相同的結果」,屬「機械性的智力成果」,將不具有獨創性。 二、反覆修改、調整參數呈差異化,即便是AI生成亦獲保護:運用AI生成過程應力求與他人的使用具有差異性,對畫面元素、布局構圖描述越明確具體,越能呈現人個性化表達,始能取得著作權保護。而反覆的修改參數,例如視線角度、光影呈現方式、表情姿勢要求等圖片的細節呈現,強化呈現個人化的思想、表達、創作投入,即可獲得著作權保護。 三、AI生成世代的著作保護更須重視創作歷程的存證:本案原告取得勝訴的重要關鍵,在其於本案中提出生成過程的影片佐證資料,證明其使用過程的需求(在黃昏的光線條件下具有攝影風格的美女特寫)、取捨(輸入反向指令提示,包括:繪畫、卡通、動漫等)、選擇(「日本偶像」主體並詳細描繪臉部皮膚、眼睛、辮子等細節)、安排與設計(「機前瀏覽(眼看鏡頭)」、「酷姿勢」等構圖)步驟呈現其多次試驗的調整的事實證明,若無此佐證影片,單依生成結果難以證明其創作投入,訴訟結果可能會變成敗訴。 四、AI生成工具的使用須注意生成結果的權利歸屬約定:即便本案針對原告使用AI生成工具的生成結果可受著作權保護,但原告是否享有該圖作品的著作權,法院再次確認工具的設計者的授權條款並沒有對使用者所生成的內容主張權利,若該條款約定使用者不依法可享有的內容權利,使用者的權益將受影響,是必須特別要注意的事情。 如同北京互聯網法院在判決中提及的,在照相機出現之前,人們需要高度的繪畫技術才能再現物體形象,但即便出現智慧型手機亦不影響我們運用它產生有獨創性的作品而構成攝影著作。可預見的未來AI技術會越發達,人的投入會越少,但這並不影響著作權制度鼓勵作品創作的立法意旨,只要有創作性的投入,即便只是反復的指令下達,也仍是受著作權法保護的獨特的個人作品。 [1]詳見臺灣智慧財產局頒布函釋說明生成式AI之著作權爭議,理慈國際科技法律事務所,https://www.leetsai.com/%E8%91%97%E4%BD%9C%E6%AC%8A/interpretation-released-by-taiwans-ipo-to-clarify-copyright-disputes-regarding-generative-ai?lang=zh-hant,最後瀏覽日期2023/12/04。該文提及的智慧財產局令函,本文未能於於該局之著作權函釋系統中檢索到。 [2]該局111-10-31以電子郵件1111031號令函提及有關人工智慧(AI)的創作,如是「以人工智慧為工具的創作」,也就是人類有實際的創意投入,只是把人工智慧(例如:繪圖軟體)當作輔助工具來使用,在這種情形依輔助工具投入創作者的創意而完成的創作成果仍可以受著作權保護,著作權則由該投入創意的自然人享有,除非有著作權法第11條及第12條之情形。 [3]判決全文詳見https://mp.weixin.qq.com/s/Wu3-GuFvMJvJKJobqqq7vQ,最後瀏覽日期2023/12/04。

何謂「中國製造2025」?

  中國大陸國務院李克強總理於2015年國務院常務會議研提「中國製造2025」政策,希望提升中國大陸製造業的發展。該政策為因應智慧聯網(Internet of Thing, IoT)的發展趨勢,以資訊化與工業化整合為主,重新發展新一代資訊技術、數控機床和機器人、航空航天裝備、海洋工程裝備及高技術船舶、先進軌道交通設備、節能與新能源汽車、電力裝備、新材料、生物醫藥及高性能醫療器材、農業機械裝備等10大領域,以強化工業基礎能力,提升技術水平和產品品質,進而推動智慧製造、綠色製造。而有別於德國所提出的工業4.0計畫,中國大陸所提出的是理念,係以開源開放、共創共享的智慧聯網推動創新思維。

美國政府提出新法加強管理軍民兩用技術

  美國布希政府最近向國會正式提出一個以打擊恐怖主義及大規模毀滅性武器為目的的法案—出口執行法(The Export Enforcement Act of 2007),以期為執法者—美國商務部產業安全局(Bureau of Industry and Security, BIS)提供更有效的工具,防止最具有敏感性的技術或產品落入危險份子手中。   長久以來,美國用以管理敏感性技術與產品的法源是1979年制定的出口管理法(Export Administration Act),該法對軍民兩用的技術與產品,施以出口管制。出口法在2001年失效,同年發生911攻擊事件,因此,布希政府除希望獲得國會重新就出口管理法予以授權外,也希望可以有更強而有力的出口管理權限。不過行政部門迄今未得到國會就出口管理法予以重新授權。   自2001年以來,BIS係依國際緊急情形經濟權力法(International Emergency Economic Powers Act, IEEPA)行使出口管理權限,不過根據IEEPA,美國總統必須每年發布行政令(Executive Order)始能動用出口管理權限,而IEEPA對於違反出口管制規定的處罰也不若出口管理法重,因此,IEEPA除了對執法者造成出口管理的不便的困擾外,寬鬆的處罰也使得美國過去幾年非法技術外移的事件頻傳。   本次布希政府再次提出2007年出口執行法,其內容除了請求國會同意在未來五年再度授權行政部門行使1979年的出口管理法之權限外,其他重要內容尚有:(1)修正1979年的出口管理法之執行與違法規定:除增列構成犯罪之違法出口行為態樣外,並對違法者大幅加重其民刑事處罰。根據修正草案,企業之出口行為若被認定為違法,最高可科處500萬美元或違法出口技術或產品價值之十倍罰金;(2)強化了執法者打擊軍民兩用技術與產品非法出口的職權,明訂商務部特派員擁有海外調查以及秘密調查的權限;(3)對企業所提出之秘密資訊負有保護義務。   整體而言,本法案除了重新授權美國商務部管理軍民兩用技術與產品實施出口管制體系外,同時也代表美國政府於二十一世紀為維護國家安全與處理所面臨之經濟挑戰的長期與根本性改革。目前法案仍須國會討論通過後,始能生效適用。

TOP