美國國防部「人工智慧國防運用倫理準則」

  美國國防部(Department of Defense)於2020年2月採納由美國國防創新委員會(Defense Innovation Board, DIB)所提出之「人工智慧國防運用倫理準則(AI Principles: Recommendations on the Ethical Use of Artificial Intelligence by the Department of Defense)」,以衡平倫理與人工智慧於國防帶來之增益。

  美國國防創新委員會為美國聯邦政府下之獨立委員會,設置目的在於依美國新創科技,提供意見予美國國防部,與美國國防部並無隸屬關係。有鑑於人工智慧之運用範疇日益增廣,美國國防創新委員會遂提出旨揭「人工智慧國防運用倫理準則」,以因應人工智慧於國防之應用所產生之問題。

  倫理準則適用於「戰爭或非戰爭用途之人工智慧之設計以及應用」,對於「人工智慧」之定義,倫理準認為人工智慧並無精確之範疇,只要「對於資訊有所處理並旨在達到所賦予任務之資訊系統」,皆為本準則下之人工智慧。倫理準則指出,「人工智慧」與美國國防部3000.09指令下之「自動化武器系統(Autonomous Weapon System)」之定義不同,但有可能重疊,而所謂「自動化武器系統」為「一經人類選擇啟動,即可在無人類監督之情形下,自動針對目標進行鎖定或進行攻擊之自動化武器系統」。

  美國國防創新委員會表示,該準則旨在切合美國既有憲法、法律、國際公約之傳統標準下,融入現代化對於人工智慧之要求,如國際公約中之戰爭法(Law of War)即為本準則之傳統標準之一,舉例而言,如人工智慧被裝置於武器中,其設計及應用應符合最小傷亡原則、避免傷及無辜原則等。

  除此之外,準則亦包含以下現代化對於人工智慧之要求:(1)人類對於人工智慧系統之設計、應用以及使用應善盡判斷以及注意義務,且人類應該對於人工智慧系統因瑕疵所帶來之傷害負擔最終責任;(2)對於目標之選擇或分類,應維持公平性,且不得有歧視性;(3)對於人工智慧之設計、應用以及使用,應有明確之工程標準以及資料保存程序,此一工程標準以及資料保存程序應為一般具有專業知識之工程人員可據以理解、分析、追蹤問題所在並加以改善;(4)「戰爭或非戰爭用途之人工智慧」應有明確之應用領域,且完善之檢測、維修,應適用於該人工智慧之全部生命週期。

本文為「經濟部產業技術司科技專案成果」

相關連結
相關附件
你可能會想參加
※ 美國國防部「人工智慧國防運用倫理準則」 , 資訊工業策進會科技法律研究所, https://stli.iii.org.tw/article-detail.aspx?d=8450&no=64&tp=5 (最後瀏覽日:2026/04/02)
引註此篇文章
你可能還會想看
日本文部科學省發布2021年科學技術與創新白皮書,著眼於韌性社會願景與疫後對策的具體措施

  日本文部科學省於2021年6月8日公布「2021年科學技術與創新白皮書」(令和3年版科学技術・イノベーション白書),為文部省就政府所訂立之科技政策藍圖,所發布的年度報告書。本年度白皮書循往例,區分為第一部分與第二部分。第一部分著重同年3月發布之第6期科學技術與創新基本計畫(第6期科学技術・イノベーション基本計画)框架下,為達成Society 5.0之願景政府所規劃的一系列政策;第二部分則回顧去(2020)年,政府針對科技與創新創造所採取的各項對策。   本白皮書就韌性社會所需科研項目、強化研究能量的激勵措施等層面,提出以下具體方向: (1)推動社會數位化與零碳排放(脱炭素化)   為強化網路虛擬空間與現實社會間的資源共享與互動發展,虛擬空間之基礎技術方面,持續研發超級電腦、AI與量子電腦,利用所累積的資料運用於深度分析與模擬,並實現超高速計算與量子通訊。虛擬空間與現實社會結合之應用型技術研發方面,包含能輔助身體運作的外部機械、透過自駕車系統銜接高齡化社會交通需求、以及遠端遙控之機器人技術應用於高風險作業環境。推動零碳排放、強化防災能量等面向,則藉由綠色成長戰略、綠色創新基金等政策,發展核融合、次世代蓄電池、精準預測氣候變遷之系統等新興技術;運用AI模擬等強化地震與天災的預報精準度,提升社會應對大規模自然災害的韌性。 (2)「知識」的整合創造與利用,以用於解決各類社會議題   考量社會議題的解決,不僅在於前瞻性自然科學技術的研發,尚需同步理解人類社會的多樣性。同時,人文社會科學近年來,亦多有採用自然科學的研究方法。因之,白皮書主張兩方的跨域知識結合,應用上強調須以人為本來解決各類社會議題。 (3)強化基礎研究能量   應著手改善出於個人經濟因素,放棄申請博士後課程的現況,創造年輕研究者敢於投入自身有興趣且具挑戰性研究課題之環境。基此,白皮書提出設置10兆日圓規模的大學基金,提升約15,000名博士後課程學生的待遇,並推動「創造發展性研究支援事業」(創発的研究支援事業)措施,穩定提供10年期間的研究資金。 (4)COVID-19疫情對策   持續投入研發治療方法(如檢驗抗病毒藥物Favipiravir用於治療COVID-19的效果與安全性)、疫苗與相關醫療器材,並推動以遠距方式進行研究活動,導入機器人技術等來發展自動化實驗、於虛擬空間內進行實驗等;另一方面,有效的防疫對策(如避免人潮密集、密切接觸、密閉空間的「三密」),根基於COVID-19的最新科研成果,因此需讓科學性、客觀性資訊透過適切的管道(如日本科學未來館網站),以淺顯易懂的形式向大眾宣達。

美國司法部與聯邦貿易委員會聯合發布新「垂直合併指引」

  美國司法部 (Department of Justice, DOJ)與聯邦貿易委員會(The Federal Trade Commission, FTC)於2020年6月30日發布新的「垂直合併指引(Vertical Merger Guidelines)」,其為美國司法部與聯邦貿易委員會首次針對垂直合併所發布之共同指引,且為自司法部1984年「非水平合併指引(Non-Horizontal Merger Guidelines)」頒布以來,首次針對垂直合併之重大修正,內容旨在概述聯邦反托拉斯主管機關如何評估垂直合併之競爭效應、以及該等合併是否符合美國反托拉斯法。   本指引所適用之合併態樣包括嚴格垂直合併(於相同供應鏈之不同階段的公司或資產之合併)、斜向合併(diagonal mergers)(於競爭供應鏈之間之不同階段的公司或資產之合併)、以及於互補合併(mergers of complements)時所會產生之垂直議題。其描述主管機關用於判斷垂直合併之反競爭與促進競爭效果之分析架構。   於反競爭效果分析之單方效果方面,其提出可能之類型包括封鎖與提高競爭對手成本(Foreclosure and Raising Rivals’ Costs)、影響競爭之敏感資訊的近用(Access to Competitively Sensitive Information);於反競爭效果分析之共同效果方面,其指出垂直合併可能會透過鼓勵合併後相關市場中各公司間之協調互動(coordinated interaction)來減少競爭並傷害消費者。   於促進競爭效果分析方面,其著重於針對消除雙重邊際化(elimination of double marginalization, EDM)之分析,因垂直合併通常透過EDM使消費者受益,而傾向於可減少對競爭造成損害之風險。主管機關可以獨立依一切可得之證據來量化EDM之效果,其通常會檢驗被併購後可自給自足之效果,相較於若未被併購時需從獨立供應商購買之情況下所可能節省之成本,作為對於EDM效果之驗證。   藉由此指引之發布,可為主管機關對於垂直合併之評估與分析方式提供了透明度,而有助於為企業界、律師界、與執法者提供更多之可預測性。

菲律賓基因改造茄子被迫停止田間試驗

  菲律賓為亞洲國家間第一個將基因改造作物(基改玉米)商業化並用於食品和動物飼料者,而另一項正等待商品化的基改作物,基因改造茄子,原預計於今(2011)年底完成7項試驗並於明年達成商品化的目標,卻因未符合地方政府法規所要求的公眾諮詢程序而被迫暫時中斷其中2項實驗。   2010年12月,菲律賓Davo市市長因申請本案田間試驗之UP Mindano公司未遵守應於市政府內張貼公開資訊之法定義務,以違反基因改造作物環境釋放之法規為由,向該公司發出禁止令並銷毀植株,其田間試驗因此延誤了6個月以上。無獨有偶的,作為菲律賓基改作物主管機關的植物產業局,也以同樣的理由中止另一項在Visayes國立大學所進行的基因改造作物田間試驗。   Davo市農業辦公室Leonardo Avila III主任表示,就該公司就試驗田所設立的藩籬實際狀況來看,雙方對於嚴格密閉的田間試驗(strictly confined field trial)有理解上的落差。面對UP Mindano公司於期間未盡公開資訊義務以進行充份溝通的指控,該公司負責田間試驗的科學家Rasco表示,所有爭議皆已透過直接或間接的方式於報紙和公開論壇中予以釐清。甚至嘗試著透過說明會教育大眾關於基因改造茄子的風險和優點,更強調茄子沒有異花授粉植物所會造成的基因汙染問題。   從法規面觀察,此一事件所透露的問題在於,即便一國中央法規允許基因改造作物之環境釋出,地方政府亦有可能藉由地方法規來落實其限制或阻擋基因改造作物之政策或目的,因而中央和地方間之政策歧異也將會成為GMO推展時必須面對的法制議題。

聯合國科研創新推動永續發展(STI for SDGs)

  2015年9月25日,聯合國發布「2030永續發展議程(2030 Agenda for Sustainable Development)」,強調科研創新是推動永續發展願景的核心關鍵(STI for SDGs),透過科學(Science)、技術(Technology)、創新(Innovation)三項STI指標以落實各國永續發展目標(Sustainable Development Goals,簡稱SDGs)。又為達成科研創新推動永續發展目標,必須建立技術促進機制(Technology Facilitation Mechanism, TFM), TFM主要透過聯合國成員國、民間社會、私營部門、科學界及其他利益相關方間的經驗分享與合作,由三部分組成包括:聯合國跨機構任務小組(Inter-Agency Task Team, IATT),科學、技術、創新促進永續發展目標多方利害關係人論壇(Multi-stakeholder Forum on science, technology and innovation for the sustainable development Goals, STI Forum),線上平台(online platform)。   其中,聯合國跨機構任務小組(IATT)於2019年6月擬定的「科學、技術和創新促進永續發展目標路線圖(Science, Technology and Innovation for SDGs Roadmaps, STI for SDG Roadmap)」,邀請各國參與試點計畫,協助國家檢視現有科研創新政策需求、掌握未來科研發展趨勢與可能面臨的挑戰與機會,乃協助政府決策的科技前瞻支援工具,藉此達成STI for SDGs科研創新政策與永續發展目標間之平衡。關於國家科研創新路線圖規畫方法論,可以區分為基礎(Foundation)、調適(Adaptation)、整合(Integration)三部分:盤點各國現有科研創新政策需求,歸納與SDGs間落差;嘗試將SDGs理念注入政策目標,建構符合SDGs的科研創新規範與政策監管標準;運用科技前瞻方法掌握未來發展趨勢,研擬對策並面對挑戰。

TOP