美國國防部「人工智慧國防運用倫理準則」

  美國國防部(Department of Defense)於2020年2月採納由美國國防創新委員會(Defense Innovation Board, DIB)所提出之「人工智慧國防運用倫理準則(AI Principles: Recommendations on the Ethical Use of Artificial Intelligence by the Department of Defense)」,以衡平倫理與人工智慧於國防帶來之增益。

  美國國防創新委員會為美國聯邦政府下之獨立委員會,設置目的在於依美國新創科技,提供意見予美國國防部,與美國國防部並無隸屬關係。有鑑於人工智慧之運用範疇日益增廣,美國國防創新委員會遂提出旨揭「人工智慧國防運用倫理準則」,以因應人工智慧於國防之應用所產生之問題。

  倫理準則適用於「戰爭或非戰爭用途之人工智慧之設計以及應用」,對於「人工智慧」之定義,倫理準認為人工智慧並無精確之範疇,只要「對於資訊有所處理並旨在達到所賦予任務之資訊系統」,皆為本準則下之人工智慧。倫理準則指出,「人工智慧」與美國國防部3000.09指令下之「自動化武器系統(Autonomous Weapon System)」之定義不同,但有可能重疊,而所謂「自動化武器系統」為「一經人類選擇啟動,即可在無人類監督之情形下,自動針對目標進行鎖定或進行攻擊之自動化武器系統」。

  美國國防創新委員會表示,該準則旨在切合美國既有憲法、法律、國際公約之傳統標準下,融入現代化對於人工智慧之要求,如國際公約中之戰爭法(Law of War)即為本準則之傳統標準之一,舉例而言,如人工智慧被裝置於武器中,其設計及應用應符合最小傷亡原則、避免傷及無辜原則等。

  除此之外,準則亦包含以下現代化對於人工智慧之要求:(1)人類對於人工智慧系統之設計、應用以及使用應善盡判斷以及注意義務,且人類應該對於人工智慧系統因瑕疵所帶來之傷害負擔最終責任;(2)對於目標之選擇或分類,應維持公平性,且不得有歧視性;(3)對於人工智慧之設計、應用以及使用,應有明確之工程標準以及資料保存程序,此一工程標準以及資料保存程序應為一般具有專業知識之工程人員可據以理解、分析、追蹤問題所在並加以改善;(4)「戰爭或非戰爭用途之人工智慧」應有明確之應用領域,且完善之檢測、維修,應適用於該人工智慧之全部生命週期。

本文為「經濟部產業技術司科技專案成果」

相關連結
相關附件
你可能會想參加
※ 美國國防部「人工智慧國防運用倫理準則」 , 資訊工業策進會科技法律研究所, https://stli.iii.org.tw/article-detail.aspx?no=64&tp=5&d=8450 (最後瀏覽日:2024/04/15)
引註此篇文章
你可能還會想看
美國健康保險制度下的個人資料安全保護隱憂

  為降低美國人民在醫療保險費用的支出,同時加強管理現有的保險產業,同時提供美國人民一更易負擔的醫療保險制度,美國總統歐巴馬自上任以來遂特別加強推動美國健康保險制度,與相關現有醫療保險制度的建置與改革,並於2010年3月23日通過「病患保護與平價醫療法案」(The Patient Protection and Affordable Care Act,本法暱稱Obamacare),並計劃於今(2013)年10月正式啟動上路。   為集中且便利相關機構快速讀取單一個人之相關資訊,Obamacare計畫透過聯邦數據服務樞紐(The Federal Data Services Hub)的建置,彙整目前美國各單一政府單位所保有之全民個人資料,該類資料涵蓋個人醫療、教育、和財務等相關資訊,提供各州政府單位機關有需求時得以讀取。然而,儘管該服務樞紐的用意係為提供更完整的個人資料,然而其卻也因其本身具集中單一個人資料於一身的特性而受到各界的質疑。反對人士認為,由於該服務樞紐彙整龐大單一個人資料,因此若其未建立完善資訊安全機制,而遭受到不肖駭客入侵竊取個人資料的話,所造成的後果將影響甚遠,再加上未來將管理服務樞紐的美國衛生及公共服務部(The Department of Health and Human Services, HHS),遲遲未能讓外界信服其已建立充分的資訊安全保全系統來保障全美國人民的個人資料,因此反對人士對於該服務樞紐對於個人資料安全與隱私的保全能力感到堪慮。   根據美國隱私法(Privacy Act of 1974),美國政府需提供適當的隱私保全機制來保障美國人民的個人資料,同時,美國聯邦資訊安全管理法(Federal Information Security Management Act of 2002)亦要求美國政府需確保美國人民的個人資料不被濫用,故在該二法案的明文要求下,歐巴馬政府於推行Obamacare之際,相關資訊安全保全系統機制仍須符合標準始得合法運作。Obamacare上路在即,歐巴馬政府與相關部會該如何解決個人資料保護問題,其後續發展實值得觀察。

美國傳播通訊委員會發動推展國家寬頻計劃

  美國聯邦通訊傳播委員會(FCC)於2009年04月08日宣佈開始推展國家寬頻計劃進程,以達到能使每位美國民眾均有能力負擔與使用寬頻網路的服務。   此項引發廣大爭議的寬頻計畫係植基於2009年的「美國經濟復甦與再投資法」(American Recovery and Reinvestment Act of 2009)─即眾所周知的「振興經濟方案」。在此之前,FCC曾於2007年04月根據1996年電信法第706節發佈法規制定提議意見調查書(NOI,FCC 09-31),希望蒐集各界對於以下四個問題的看法:1.) 何為「先進通訊服務」?;2.) 如何促進美國民眾先進通訊的使用;3.) 目前推動是否合理合時?4.) 何種方式可以更有效推動先進通訊服務發展。   此次,該計畫將獲得72億美元以實現下列要求:1.) 以最有效能與效率的方式確保全美民眾能接近使用寬頻網路服務;2.) 提出人民有能力負擔與寬頻服務最大效用化的策略;3.) 評估目前寬頻推展現狀(包括其他相關的計畫);4.) 如何運用寬頻網路服務以提升消費者權益、公民參與、公眾安全、社區發展、健康照護、能源獨立效率性、教育、員工訓練、私部門投資、企業活動、創造工作機會與經濟成長。   參眾兩院要求FCC必須在2010年02月17日前,將該最終方案遞交眾議院與參議院相關委員會審議。但是,有論者認為目前FCC的計畫與方向並未考量到終端使用者真正需求與如何使用該等科技;同時,歐巴馬政府針對寬頻網路議題未提供足夠的公民思辨機會,最後恐將事倍功半。

日本政府擬修法擴大個人編號卡(My Number Card)資料使用及調取範圍

日本政府於2022年11月29日公布「個人編號法」(平成二十五年法律第二十七号,行政手続における特定の個人を識別するための番号の利用等に関する法律)之預計修正內容。 目前個人編號法第9條第2項主要限定於社會保障、稅收、災害防治三個領域,該法對哪一些行政機關能調取,以及可調取個人資料的種類均有詳細規定。本次修正案目的為將個人編號的用途擴大,除了前揭所提三個領域外,將再包括國家資格管理、汽車登記以及外籍居民行政程序、國家急難救助金及其他津貼發放等。其次,為擴大個人編號用途與增加運用彈性,此次修法重點之一在於擴大該法第4章第19條特定個人編號(My Number)提供限制中,第17款關於其他依據「個人資料保護委員會」所訂規則準用事項範圍。未來日本政府可透過「政省令」的修改(基於國會立法授權,而由行政部門所頒訂,具有對外法拘束力,類似我國法規命令位階),讓政府及相關機關能在有需要時即可蒐集特定個人編號,以迅速、彈性地對應外在情況。 本案若經國會審議通過後,細節部分還需約時二年修改作業系統,最快預定令和7年(2025年度)施行。其他修正重點如:1.將公家機關掌握民眾銀行帳戶資訊和個人編號自動連結,此舉係為改善疫情期間之問題,未來將可使政府發放補助金及急難救助金時更為順暢;2.尚未取得個人編號卡仍可申請「資格確認書」參加社會保險或診療;3.嬰幼兒五歲前「個人編號卡」都不須附上照片等。 唯輿論有批評,在尚未經過國會及有識者充分討論前,貿然大幅擴大資料調取、使用範圍,尤其日本政府計畫將個人所有銀行帳戶都強制連結個人編號,可能讓政府更容易掌握民眾資訊,像是追蹤稅務狀況、打擊逃漏稅等。日本「個人編號法」主管機關總務省則再三保證個人編號卡晶片不會儲存稅金、年金等個人資料,即使作為醫療或健康用途時,也不會紀錄健檢結果和服用藥物等訊息。雖然仍有部分待改進處,惟日本以專法規定個人編號卡儲存資料之種類與範圍,並於該法中說明相關管理措施,仍值得我國未來密切關注。

英國通過調查權力法案(Investigatory Powers Act 2016)

  英國於2016年11月底通過「調查權力法案」(Investigatory Powers Act 2016),該法案的部分內容已於同年12月30日生效,主要係將目前執法機關和情資單位之通信及相關資料蒐集的權力整併,並訂定了通信監察書(Interception Warrants)授權及監督之方式,以及要求業者保留網路連結記錄以供執法機構識別網路使用者。法案共分為九個章節,分別為: 1.一般隱私保護 2.合法監聽通信 3.取得通信資料之授權 4.通信資料之保留 5.設備干擾 6.大量授權 7.大量個人資料之授權 8.監督措施 9.其他及一般規定   調查權力法案通過後,使英國政府得以合法的監控人民許多行為,包括蒐集、查看民眾的網絡瀏覽記錄、通訊資料、通聯紀錄及相關個人資料等,而監控範圍不再限於個體,並擴大至全體民眾。此外,必要時警方及安全部門亦得破解或遠端遙控人民之電腦或手機。法案並要求通信服務提供商(Communication Service Providers, CSPs)將民眾之網路使用紀錄相關資料保存至少12個月,而近50個不同之機關都能夠查看該些資料,如警察局、國防部、司法局、金融行為監管局,甚至與國家安全較無關連的食品標準局及勞動和退休金部等部門,均有查看之權限。   法案目前生效的部分包括政府蒐集和保留民眾資料之權力,以及得強迫握有民眾資料的科技公司或相關單位,將所掌握關於民眾的資料交給情報機構。   英國政府認為,在面臨現今高度安全威脅之情況下,網路已成為恐怖份子用來犯罪的新工具,故有必要讓執法與情資單位擁有維護人民安全的權力,確保政府具備對抗該挑戰的能力,使情資單位得以阻止新型態之犯罪並追訴參與犯罪之相關人員。   然而,該法案已遭數萬人民連署反對,要求廢除該法案,因人民於網路上進行的各樣活動,均將遭受國家的監視,而負責機關也將面臨負荷龐大的資訊處理量,且一般人民之個人資訊亦將暴露在巨大的風險下。   目前法案部分內容尚未生效,如網路連線紀錄(Internet Connection Records)的蒐集,因相關安全機制尚未建立完成。但可想而知,該法案所造成的爭議,已成為英國民眾所關注之焦點,而未來全面生效後,英國政府該如何面對這些反對的衝擊,則可繼續觀察。

TOP