美國國防部「人工智慧國防運用倫理準則」

  美國國防部(Department of Defense)於2020年2月採納由美國國防創新委員會(Defense Innovation Board, DIB)所提出之「人工智慧國防運用倫理準則(AI Principles: Recommendations on the Ethical Use of Artificial Intelligence by the Department of Defense)」,以衡平倫理與人工智慧於國防帶來之增益。

  美國國防創新委員會為美國聯邦政府下之獨立委員會,設置目的在於依美國新創科技,提供意見予美國國防部,與美國國防部並無隸屬關係。有鑑於人工智慧之運用範疇日益增廣,美國國防創新委員會遂提出旨揭「人工智慧國防運用倫理準則」,以因應人工智慧於國防之應用所產生之問題。

  倫理準則適用於「戰爭或非戰爭用途之人工智慧之設計以及應用」,對於「人工智慧」之定義,倫理準認為人工智慧並無精確之範疇,只要「對於資訊有所處理並旨在達到所賦予任務之資訊系統」,皆為本準則下之人工智慧。倫理準則指出,「人工智慧」與美國國防部3000.09指令下之「自動化武器系統(Autonomous Weapon System)」之定義不同,但有可能重疊,而所謂「自動化武器系統」為「一經人類選擇啟動,即可在無人類監督之情形下,自動針對目標進行鎖定或進行攻擊之自動化武器系統」。

  美國國防創新委員會表示,該準則旨在切合美國既有憲法、法律、國際公約之傳統標準下,融入現代化對於人工智慧之要求,如國際公約中之戰爭法(Law of War)即為本準則之傳統標準之一,舉例而言,如人工智慧被裝置於武器中,其設計及應用應符合最小傷亡原則、避免傷及無辜原則等。

  除此之外,準則亦包含以下現代化對於人工智慧之要求:(1)人類對於人工智慧系統之設計、應用以及使用應善盡判斷以及注意義務,且人類應該對於人工智慧系統因瑕疵所帶來之傷害負擔最終責任;(2)對於目標之選擇或分類,應維持公平性,且不得有歧視性;(3)對於人工智慧之設計、應用以及使用,應有明確之工程標準以及資料保存程序,此一工程標準以及資料保存程序應為一般具有專業知識之工程人員可據以理解、分析、追蹤問題所在並加以改善;(4)「戰爭或非戰爭用途之人工智慧」應有明確之應用領域,且完善之檢測、維修,應適用於該人工智慧之全部生命週期。

本文為「經濟部產業技術司科技專案成果」

相關連結
相關附件
你可能會想參加
※ 美國國防部「人工智慧國防運用倫理準則」 , 資訊工業策進會科技法律研究所, https://stli.iii.org.tw/article-detail.aspx?d=8450&no=64&tp=5 (最後瀏覽日:2026/01/24)
引註此篇文章
你可能還會想看
英國醫學總會新指南 提醒醫師在保護病患隱私權和保護可能具有共同基因者健康之間做出衡平

  英國醫學總會(General Medical Council, GMC)在2009年9月公佈了一份有關醫師保密義務的指南(Guidance for doctors - Confidentiality),該指南針對基因檢測資訊的部份指出,病患的基因資訊和一些其他的資訊,有時也會是和病患擁有共同基因或其它連結的其他人的資訊,因為,在病患身上所診斷出來的因有缺陷基因所造成的疾病,可能也就指出了和病患有血緣關係的親屬的發病可能性,或甚至是幾乎可以確定他們未來也會發病。此時,醫師要提醒病患應該立即通知也有可能有此有缺陷基因的親屬,以期能夠協助那些親屬接受預防治療或作更進一步的檢查,對潛在的健康問題有所準備。   然而,若是病患表示了反對的意思,例如病患是來自一個破碎的家庭,和親屬的關係並不良好,或是基於其它個人的理由,所以不願意告知親屬相關有缺陷基因的風險時,則指南提醒醫師應該要自行衡量身為醫師對於保護病患所需遵守的義務,以及協助保護他人免於嚴重傷害兩者之間孰輕孰重。此外,若經過醫師的判斷之後,決定要向那些親屬告知他們所可能面對的健康風險時,醫師必須要採行不會透露病患身份的方式為之。   當然此種基因檢測資訊的通知,引起了正反兩極的評價,反對者主張此舉將嚴重侵害病患隱私權,也可能損害了醫師與病患間資訊保密的原理原則。唯贊成者則指出,許多的基因疾病,如亨丁頓舞蹈症、囊狀纖維化(Cystic fibrosis)、血友病(Haemophilia)、及乳癌(Breast cancer)等,都有著極高的遺傳性及致死率,透過此一機制所能達到的早期警告的效果,或可使得帶有相同有缺陷基因的病患親屬,能夠對潛在的健康問題及早有所準備。且若該等親屬正要或未來要透過試管嬰兒取得下一代時,亦可在執行試管嬰兒的程序中進行篩檢,防止下一代的人生繼續遭受此種有缺陷基因所帶來的疾病。

何謂「數位藥丸(digital pill)」?

  「數位藥丸(digital pill)」顧名思義就是將藥物與數位科技結合,藥丸上載有感測器(sensor),在進入人體後傳輸訊號至病人身上的訊號接收器貼片,相關資訊再被傳送給醫療人員。由於許多研究顯示約有半數病人並不會完全遵照醫師指示服藥,使治療效果不彰,並造成醫療資源之浪費。而電子藥丸有助需長期頻繁用藥的族群定時服藥與協助醫療機構追蹤病人服藥狀況,並在臨床試驗中持續觀察病患用藥後的生理反應。   日前美國食品藥物管理署(Food and Drug Association)已接受Proteus Digital Health公司之上市審核申請,不久之後人們將有望享受到此數位藥丸帶來的便利。不過其亦存有一些疑慮以及待克服的技術問題,例如:個人資料之保護措施、控制藥物釋放之系統故障或遭惡意攻擊時之應變等等問題。同時,雖然許多人都認為數位藥丸對病人之疾病控制有利,但是病人之拒絕治療權卻可能因而犧牲,雖然醫生不能強迫病人服藥,但法院強制處分常會牽涉特定的治療程序,此時若病人拒絕服藥,其假釋可能被撤銷,該技術將可能成為一個監視的手段。

英國提出「緊急應變與復原準則」強化災難時之應變規定

  英國內閣辦公室(Cabinet Office)於2013年10月29日提出「緊急應變與復原準則:依循2004年國民緊急應變法之不成文準則」(Emergency Response and Recovery: Non statutory guidance accompanying the Civil Contingencies Act 2004),針對「應變與復原」作相關規定,以補充內閣辦公室於2006年1月1日提出「緊急準備規則」(Emergency Preparedness)對複合式緊急管理(Integrated emergency management, IEM)規定的不足之處。   英國「2004年國民緊急應變法」(The Civil Contingency Act 2004),為英國處理緊急事件之主要依據,「緊急應變與復原準則」即根據「2004年國民緊急應變法」制訂。此規則於「緊急應變章節」規定地方政府之緊急事件依嚴重程度區分為三級:銅(Bronze),僅需要操作指揮(Operational)、銀(Silver),需要策略指揮 (Tactical)、金(Gold),需要戰略指揮(Strategic),用以判斷是否區需要跨機關合作來因應緊急事故。如事故屬於重大緊急災難時,則屬於需要跨機關協調合作,藉由層級指揮及指令下達掌控應變程序與資訊傳遞,以因應長期及廣泛區域之災難。中央政府的權責在於全國性重大緊急事件,並且災難發生時之首相為最高行政首長,最高緊急機構為「內閣緊急應變會議」(Cabinet Office Brifing Rooms, COBR,又稱為眼鏡蛇),同時國民緊急秘書處(Civil Contingencies Secretariat, CCS)也需要協調跨部門及跨機構事務。   為提升災難應變與復原效率,2013年10月的「緊急應變與復原準則」,說明藉由地方的地方抗災議會(Local Resilience Forum)到中央等全國性之系統與網路串聯以傳遞緊急訊息,並建立三種層級之共同認知資訊圖像(Common Recognized Information Picture, CRIP),包括地方層級、區域以及國家級。此項系統必須足以傳遞並收集來自各方的大量資訊、能評估所收集各資料之性質,如緊急性、關聯性、說明性及可使用性等,並且能夠使大眾週知。   然,處理資料的過程仍有可能面臨數種問題,包括各機關之資料不同、判斷不同、理解錯誤及通訊超載等。2013年10月緊急應變與復原準則亦說明建立資訊管理系統(information management system)並安裝至多機構緊急管理中;而民間機構也應作為多機構之一環,並擔任資訊管理機構。同時,在共享資料之同時,必須注意資料保護,因此必須遵守「資料保護與共享-緊急計畫人與應變人準則」(Data Protection and Sharing-Guidance for Emergency Planner and Responders)。英國地域性與台灣近似,皆屬易於發生水患的國家,英國在緊急災難之應變於各方面的法制皆以趨於完善,殊值得持續觀察未來發展方向。

加拿大在商展中展現數位內容產業之實力

加拿大領導廠商 ICTV ,在 NCTA 國家商展 (NCTA National Show) 中,帶來了加拿大在互動電視內容方面的最新科技展現。 ICTV 是著名產品 HeadendWare 的製造商,此產品是在寬頻產業中傳輸互動電視內容最強大的平台。此一平台目前已取得多家加拿大廠商的協力合約,將共同在此平台上發展遊戲、娛樂與資訊內容等將關服務。   ICTV 解決方案部門的主管表示,加拿大確實是在互動數位內容方面的技術領先國家,並且正持續吸引更多的廠商與其合作。確實,加拿大的科技產業在全球屬領先地位,過去國內廠商對於新科技的注意力,大都放在美國、歐洲及日韓等國,或許,對加拿大進行更深入的關心與瞭解,可以挖掘到更多的報寶藏。

TOP