美國國防部「人工智慧國防運用倫理準則」

  美國國防部(Department of Defense)於2020年2月採納由美國國防創新委員會(Defense Innovation Board, DIB)所提出之「人工智慧國防運用倫理準則(AI Principles: Recommendations on the Ethical Use of Artificial Intelligence by the Department of Defense)」,以衡平倫理與人工智慧於國防帶來之增益。

  美國國防創新委員會為美國聯邦政府下之獨立委員會,設置目的在於依美國新創科技,提供意見予美國國防部,與美國國防部並無隸屬關係。有鑑於人工智慧之運用範疇日益增廣,美國國防創新委員會遂提出旨揭「人工智慧國防運用倫理準則」,以因應人工智慧於國防之應用所產生之問題。

  倫理準則適用於「戰爭或非戰爭用途之人工智慧之設計以及應用」,對於「人工智慧」之定義,倫理準認為人工智慧並無精確之範疇,只要「對於資訊有所處理並旨在達到所賦予任務之資訊系統」,皆為本準則下之人工智慧。倫理準則指出,「人工智慧」與美國國防部3000.09指令下之「自動化武器系統(Autonomous Weapon System)」之定義不同,但有可能重疊,而所謂「自動化武器系統」為「一經人類選擇啟動,即可在無人類監督之情形下,自動針對目標進行鎖定或進行攻擊之自動化武器系統」。

  美國國防創新委員會表示,該準則旨在切合美國既有憲法、法律、國際公約之傳統標準下,融入現代化對於人工智慧之要求,如國際公約中之戰爭法(Law of War)即為本準則之傳統標準之一,舉例而言,如人工智慧被裝置於武器中,其設計及應用應符合最小傷亡原則、避免傷及無辜原則等。

  除此之外,準則亦包含以下現代化對於人工智慧之要求:(1)人類對於人工智慧系統之設計、應用以及使用應善盡判斷以及注意義務,且人類應該對於人工智慧系統因瑕疵所帶來之傷害負擔最終責任;(2)對於目標之選擇或分類,應維持公平性,且不得有歧視性;(3)對於人工智慧之設計、應用以及使用,應有明確之工程標準以及資料保存程序,此一工程標準以及資料保存程序應為一般具有專業知識之工程人員可據以理解、分析、追蹤問題所在並加以改善;(4)「戰爭或非戰爭用途之人工智慧」應有明確之應用領域,且完善之檢測、維修,應適用於該人工智慧之全部生命週期。

本文為「經濟部產業技術司科技專案成果」

相關連結
相關附件
你可能會想參加
※ 美國國防部「人工智慧國防運用倫理準則」 , 資訊工業策進會科技法律研究所, https://stli.iii.org.tw/article-detail.aspx?d=8450&no=64&tp=5 (最後瀏覽日:2026/04/29)
引註此篇文章
你可能還會想看
英國禁止限制級(R18級)情色影片以網路方式行銷

  為貫徹對未成年人的保護,避免未成年人以網路方式購買 R18 級情色影片,英國政府規定該類影片只能於獲有執照之供應商店販售,並僅有實際到店的顧客方得購買,禁止以郵購、網路或電話方式行銷,引發業者反彈,其中兩家公司遭受罰鍰處分後提起訴訟,日前上訴英國高等法院 (High Court) 主張此項限制對英國境內業者並不公平,境外業者可以規避此限制而仍於網路上販售 R18 級影片,將嚴重影響英國境內業者的發展。   該法院於五月二十三日作出決定認為此項限制為合法,蓋因網路購物難以確認購買者的年齡,強制規定必須到店購買將有助於確認購買者是否已達法定年齡,降低未成年人購得 R18 級影片的可能性。

美國國防授權法案擴大告發者保護範圍透過外部監督有效遏止不法行為

  自2013年7月1日起,2013年國防授權法(2013 National Defense Authorization Act,NDAA)新規定生效,使得聯邦政府採購案件對告發不法行為者(whistleblower)的保護,由承包商的雇員擴及於分包商的雇員,在此之前,如果分包商的員工向政府直接告發不法行為時,絲毫沒有法律可以用於對抗雇主可能採取的報復措施。   2013 NDAA業於1月份經美國總統簽署,期中除新增對於分包商雇員保護外,該法案也擴張了主包商員工的保護範圍。新法之下,主包商員工如向其公司內部之主管告發不法行為,一樣可以受到法律對告發者的保護,強化了現行法下只有直接對政府申訴者始能得到法律保護。   根據2013 NDAA第828節之規定,承包商、分包商之雇員,都不能被解雇、降級或其他歧視行為以作為揭發行為之報復。當這些雇員合理認為有關於聯邦契約的管理不善、聯邦經費的浪費、或濫用聯邦契約授與之權力等行為,而可能造成潛在的或特定的對公共健康或安全之危害時,或違反聯邦契約行為有關法律或法規時,而向國會議員、稽查總長、政府課責辦公室(The Government Accountability Office)、聯邦契約管理人員、司法部人員、法院或陪審團、承包商或次包商負責調查不法之人員等提供資訊時。法規也明訂,條文中所謂報復,包括該等人員即使是受到行政機關人員在法定權限內的的正式要求而提供資訊時亦然。

為杜絕網路盜版行為,美國網路服務提供者合作建置Six Strikes系統

  美國電影協會(Motion Picture Association of America, MPAA)和美國唱片業協會(Recording Industry Association of America, RIAA)於2011年6月共同組成著作權資訊中心(Center for Copyright Information,簡稱CCI),並說服Verizon、AT&T、Time Warner、Comcast、Cablevision等美國5大網路服務提供者加入,簽訂備忘錄,表示合作建置「著作權警告系統(Copyright Alert System,簡稱CAS)」,又謂「Six Strike系統」,該網站可向有提供下載非法檔案服務之網站業者發出警告或給予處罰,預計於2013年正式運作。   所謂「Six Strikes」,係指網路服務提供者發現有盜版行為時,會發出不同程度的6次警告。至於Six Strikes系統運作方式,係由各網路服務提供者自行決定要採取可有效打擊網路盜版的方式。目前美國5大網路服務提供者中,除Comcast及Cablevision以外,其它3個網路服務提供者已公開Six Strikes警告措施內容。   基本上,第1、2次警告屬於「通知(notice)」,僅利用電子郵件或電話通知使用者已侵害著作權;第3、4次警告屬「承認(acknowledgement)」,即利用彈跳視窗(pop-up)告知使用者侵害著作權情形已有3次以上等訊息,並且使用者應點選該告知侵權訊息之彈跳視窗方可進入其欲瀏覽的網站,使用者若點選視窗則視為其承認本身侵權行為;第5、6次警告則屬「因應措施(mitigation)」,即其它3個網路服務提供者會讓使用者感受到上網速度變慢,或是直到使用者上完著作權教育課程前,不讓其進入常瀏覽的網站等措施,而使用者亦可對網路服務提供者採取的措施提出異議。   但仍有論者對此提出不同看法,諸如若使用者利用虛擬私人網路(VPN)或非BitTorrent之檔案共享形式,分享檔案,即可迴避Six Strikes系統,或有論者認為侵權與否應由法院判斷,而非由網路服提供者逕行判斷等質疑,此一系統後續發展有待進一步關注。

司法院擬設置智慧財產專門法院,並就智慧財產案件訂定特別之審理制度

  鑑於以知識產能為基礎而形成之專利、商標及著作權等智慧財產權,已成為促進國家產業升級及經濟發展之利器,而智慧財產權因無實體存在,故其權利之獲取及維護,端賴健全之智慧財產法制,故完善之智慧財產權爭訟程序,居於關鍵之地位。   智慧財產案件之審理,與一般訴訟相較,有其特殊性,例如其審理必須仰賴科技專業之協助,並經常涉及營業秘密之保護;又因智慧財產有關產品之市場更替週期短暫,因此其迅速審理之要求,具有等同於裁判正確之重要性。而針對智慧財產案件之特性,先進國家多設置專責審理智慧財產案件之專業法院,並就智慧財產訴訟,設有特殊之程序規定,以資因應。   反觀我國之專利法、商標法等智慧財產相關法律,就權利之取得及受侵害有關之訴訟,固亦設有若干特別規定,惟實際上仍有不足,未能充分符合智慧財產案件審理之需求,以致各界認為我國之智慧財產訴訟,仍然存有諸如證據蒐集手段欠缺,舉證困難,以及法官未具備法律以外之專業知識,並過度依賴鑑定結果,以致拖延訴訟,且裁判專業性不足等等缺點,未能符合社會之期待,甚至造成產業發展之障礙。   為改善我國智慧財產訴訟程序,發揮權利有效救濟之機能,司法院擬具「智慧財產法院組織法」及「智慧財產案件審理法」兩草案,期能藉由完善之智慧財產救濟制度,妥善保障智慧財產權人之權益,從而增進我國知識經濟之競爭力。   現今在智財案件處理實務上,權利人最常以提供擔保方式,聲請定暫時狀態處分,以禁止侵權者繼續製造、販賣及銷售商品。由於此舉可立刻讓侵權者沒辦法做生意,甚至逼迫下游供應商選邊站,殺傷力往往比訴訟的審理結果還大。考量智慧產案件之特性, 「智慧財產案件審理法」草案,將智慧財產權保全程序聲請門檻提高,要求聲請人應「釋明」理由,不能僅提供巨額擔保金,否則法官將不准其保全聲請。這項規定勢將促使企業更為審慎地提出「定暫時狀態」處分的聲請, 高科技企業未來將不能動輒利用假扣押等保全程序進行「騷擾」性商業戰術。   行政院院會於 4 月 19 日 已通過前二草案,但政院以附註意見方式,指智財法院應結合民、刑、行政「三合一」審理制度,對涉及行政處分「得」自為判斷,不能「應」自為判斷,期能快速解決訟爭,突破現行智財案件審理瓶頸。

TOP