美國國防部「人工智慧國防運用倫理準則」

  美國國防部(Department of Defense)於2020年2月採納由美國國防創新委員會(Defense Innovation Board, DIB)所提出之「人工智慧國防運用倫理準則(AI Principles: Recommendations on the Ethical Use of Artificial Intelligence by the Department of Defense)」,以衡平倫理與人工智慧於國防帶來之增益。

  美國國防創新委員會為美國聯邦政府下之獨立委員會,設置目的在於依美國新創科技,提供意見予美國國防部,與美國國防部並無隸屬關係。有鑑於人工智慧之運用範疇日益增廣,美國國防創新委員會遂提出旨揭「人工智慧國防運用倫理準則」,以因應人工智慧於國防之應用所產生之問題。

  倫理準則適用於「戰爭或非戰爭用途之人工智慧之設計以及應用」,對於「人工智慧」之定義,倫理準認為人工智慧並無精確之範疇,只要「對於資訊有所處理並旨在達到所賦予任務之資訊系統」,皆為本準則下之人工智慧。倫理準則指出,「人工智慧」與美國國防部3000.09指令下之「自動化武器系統(Autonomous Weapon System)」之定義不同,但有可能重疊,而所謂「自動化武器系統」為「一經人類選擇啟動,即可在無人類監督之情形下,自動針對目標進行鎖定或進行攻擊之自動化武器系統」。

  美國國防創新委員會表示,該準則旨在切合美國既有憲法、法律、國際公約之傳統標準下,融入現代化對於人工智慧之要求,如國際公約中之戰爭法(Law of War)即為本準則之傳統標準之一,舉例而言,如人工智慧被裝置於武器中,其設計及應用應符合最小傷亡原則、避免傷及無辜原則等。

  除此之外,準則亦包含以下現代化對於人工智慧之要求:(1)人類對於人工智慧系統之設計、應用以及使用應善盡判斷以及注意義務,且人類應該對於人工智慧系統因瑕疵所帶來之傷害負擔最終責任;(2)對於目標之選擇或分類,應維持公平性,且不得有歧視性;(3)對於人工智慧之設計、應用以及使用,應有明確之工程標準以及資料保存程序,此一工程標準以及資料保存程序應為一般具有專業知識之工程人員可據以理解、分析、追蹤問題所在並加以改善;(4)「戰爭或非戰爭用途之人工智慧」應有明確之應用領域,且完善之檢測、維修,應適用於該人工智慧之全部生命週期。

本文為「經濟部產業技術司科技專案成果」

相關連結
相關附件
你可能會想參加
※ 美國國防部「人工智慧國防運用倫理準則」 , 資訊工業策進會科技法律研究所, https://stli.iii.org.tw/article-detail.aspx?d=8450&no=55&tp=1 (最後瀏覽日:2026/06/15)
引註此篇文章
你可能還會想看
青少年在網路使用安全的議題上需要更多的協助及指引

  為瞭解兒童及青少年透過行動裝置接取網路不當內容(inappropriate content)之情形,以及父母或監護人如何限制孩子使用網路設備等議題,英國通訊管理局(Office of Communications, Ofcom)委託英國第二大研究機構Ipsos MORI於2009年3-4月間,與797組7-16歲的兒童及青少年進行面對面的親子訪談,並於2009年9月公布該調查之研究結果。   根據該份兒童及青少年接取網路內容訪談的研究報告(Children’s and young people’s access to online content on mobile devices, games consoles and portable media players)顯示,分別有90%及74%的兒童及青少年透過遊戲裝置及行動電話使用接取網路,利用其他多媒體影音裝置上網的則占13%。另外有三分之二透過行動電話上網的使用者,可自由瀏覽及接取網路內容,而無任何內容分級或不當內容接取上的限制。該研究報告同時亦指出,對於使用行動電話上網的兒童及青少年,僅有10%的父母及監護人「非常關心」(major concerns)其瀏覽或接取不當網頁內容的問題;而使用遊戲裝置上網的兒童及青少年中,僅有11%的父母或監護人「非常關心」其對於接取或瀏覽不當內容之問題。對於兒童及青少年利用行動電話上網的管制議題上,父母及監護人多半透過通話及簡訊的使用量來限制兒童及青少年使用行動電話,而非直接要求兒童及青少年禁止其上網瀏覽不當的內容或教導其如何安全的使用網路。此外,就兒童及青少年本身使用網路所遇到的安全性問題上,介於11-16歲的青少年有54%表示,其需要有關如何維護隱私權及個人資料的建議與協助;而28%的青少年則提及,其需要資訊安全的建議,尤其是如何強化密碼及個人識別碼(personal identification numbers, PINs);至於7-11歲的兒童則多以「不知道」來回答調查問卷上的問題。   藉由該份研究報告數據的公開,英國政府開始針對兒童及青少年透過行動裝置使用網路之安全性問題進行研議,期望透過更多的宣導與教育,使父母及監護人更為關心兒童及青少年網路內容帶來的身心健康影響,並提昇父母、監護人、兒童及青少年對於網路使用的安全意識,以建立兒童及青少年對於網路安全的正確觀念。

美國青年盜錄電影遭受起訴

聯邦檢察官指出 19 歲的 Curtis Salisbury ,在九月二十六日針對他在密蘇里州的聖路易市盜錄電影,並在網路上散佈等非法行為坦承犯案。   Salisbury 利用工作之便,於下班後使用數位錄影機及錄音器材盜錄兩部電影,進而在網路上散佈而遭到起訴。 Salisbury 因而成為第一位根據 “ 家庭娛樂及著作權法案 ” (Family Entertainment and Copyright Act) 而遭受起訴者。   家庭娛樂及著作權法案在 2005 年四月由國會通過,致力於遏止網路上的著作權侵害行為。法案中規定,運用視聽器材於電影院中盜錄電影者,可以處$ 250,000 罰金及三年以下有期徒刑,若進而在網路上傳播者,則需承擔額外的罰則。   儘管這樣的結果使大多數電影製片業者歡欣鼓舞。然而,如此嚴厲的刑罰具有爭議性,原因在於嚴厲的罰則是為暴力犯罪而設計,若應用於著作權相關議題時,實非一個明智的選擇。

資訊揭露立場分歧:著作權集體管理團體條例修正草案

  著作權集體管理團體條例(集管條例)自2010年2月10日公布施行以來,終於今年(2019)5月中旬展開修法公聽會,智慧局提出三大項修法目的:「一、強化專責機關監督輔導;二、提升集管團體公信力與透明度;三、健全著作權授權市場環境。」依此分別提出修正條文。   其中,關於集管團體的財務治理透明化的規定,智慧局參考歐盟指令與德國集管條例,增訂集管團體之資產負債表、收支決算表、現金流量表等財務報表之揭露的法律義務(修正第21條第1項),且「應上網供公眾查閱」(增訂第22條第2項),係為建立集管團體公信力並強化良善治理與健全體質。   在場集管團體持不同意見,認集管團體僅係對身為會員的權利人以及利用人負責,且每年均已被主管機關與會員檢視相關報表,似無公開上網讓不特定大眾開放查閱之理。利用人則提出「重複管理」是須要被解決的議題,以授權移轉的實務問題舉例,故希望未來修新法有即時性的權利與管理的資訊揭露。權利人則反應授權金分配不透明,建議以資訊化的方式讓報酬分配機制透明化,並可應用區塊鍊技術達成之。

歐盟有條件批准Meta對Kustomer的併購案

  歐盟執委會於2022年1月27日宣布批准Meta(原Facebook)對Kustomer的併購案。Kustomer公司本身為向企業銷售客戶關係管理(customer relation management, CRM)整合軟體之公司,故本項併購可能影響Meta對消費者資訊的掌握能力,進而提升廣告市場影響力。因之,歐盟執委會基於自去(2021)年8月起深入調查本併購案有無影響公平競爭的結果,作成批准本併購案之決定,但要求Meta應遵守其提出的條件。   依據歐盟執委會的調查結果,主要擔憂本併購案可能阻礙CRM整合軟體之供給市場、以及CRM整合軟體售後客戶服務之供給市場的公平競爭。同時,調查中亦確認到Meta限制Kustomer公司的潛在競爭對手、以及新參與上述市場的業者近用Meta的訊息傳遞路徑應用程式介面(message channel API)。上述潛在競爭對手與業者和Kustomer公司相同,以中小企業為其主要銷售客群。而Meta採取此種經營方式,則可能會劇烈減少CRM整合軟體供給市場、以及CRM整合軟體售後客戶服務供給市場的競爭,導致相關軟體產品或服務的價格上揚,並伴隨品質與創新能量的下降,更可能將之轉嫁予消費者。   對上述調查結果所提出違反公平競爭秩序的疑慮,Meta則提案追加以下約款,作為條件以圖本併購案能夠獲准:(1)Meta保證於10年內,將其訊息傳遞路徑應用程式介面以無償、非歧視的方式,公開予存在競爭關係之客戶服務CRM整合軟體供應商、與新參與市場的業者取用;(2)Kustomer公司之客戶所使用Messenger、Instagram之私人通訊服務,以及WhatsApp之功能未來有進行改良或更新時,Kustomer公司之競爭對手與新進業者同樣得使用該些更新的功能。歐盟執委會最終認為Meta若踐行上述約款,將能消除其違反公平競爭秩序的疑慮,而以Meta履行該些約款為條件批准本併購案。

TOP