美國國防部「人工智慧國防運用倫理準則」

  美國國防部(Department of Defense)於2020年2月採納由美國國防創新委員會(Defense Innovation Board, DIB)所提出之「人工智慧國防運用倫理準則(AI Principles: Recommendations on the Ethical Use of Artificial Intelligence by the Department of Defense)」,以衡平倫理與人工智慧於國防帶來之增益。

  美國國防創新委員會為美國聯邦政府下之獨立委員會,設置目的在於依美國新創科技,提供意見予美國國防部,與美國國防部並無隸屬關係。有鑑於人工智慧之運用範疇日益增廣,美國國防創新委員會遂提出旨揭「人工智慧國防運用倫理準則」,以因應人工智慧於國防之應用所產生之問題。

  倫理準則適用於「戰爭或非戰爭用途之人工智慧之設計以及應用」,對於「人工智慧」之定義,倫理準認為人工智慧並無精確之範疇,只要「對於資訊有所處理並旨在達到所賦予任務之資訊系統」,皆為本準則下之人工智慧。倫理準則指出,「人工智慧」與美國國防部3000.09指令下之「自動化武器系統(Autonomous Weapon System)」之定義不同,但有可能重疊,而所謂「自動化武器系統」為「一經人類選擇啟動,即可在無人類監督之情形下,自動針對目標進行鎖定或進行攻擊之自動化武器系統」。

  美國國防創新委員會表示,該準則旨在切合美國既有憲法、法律、國際公約之傳統標準下,融入現代化對於人工智慧之要求,如國際公約中之戰爭法(Law of War)即為本準則之傳統標準之一,舉例而言,如人工智慧被裝置於武器中,其設計及應用應符合最小傷亡原則、避免傷及無辜原則等。

  除此之外,準則亦包含以下現代化對於人工智慧之要求:(1)人類對於人工智慧系統之設計、應用以及使用應善盡判斷以及注意義務,且人類應該對於人工智慧系統因瑕疵所帶來之傷害負擔最終責任;(2)對於目標之選擇或分類,應維持公平性,且不得有歧視性;(3)對於人工智慧之設計、應用以及使用,應有明確之工程標準以及資料保存程序,此一工程標準以及資料保存程序應為一般具有專業知識之工程人員可據以理解、分析、追蹤問題所在並加以改善;(4)「戰爭或非戰爭用途之人工智慧」應有明確之應用領域,且完善之檢測、維修,應適用於該人工智慧之全部生命週期。

本文為「經濟部產業技術司科技專案成果」

相關連結
相關附件
你可能會想參加
※ 美國國防部「人工智慧國防運用倫理準則」 , 資訊工業策進會科技法律研究所, https://stli.iii.org.tw/article-detail.aspx?d=8450&no=64&tp=5 (最後瀏覽日:2026/03/25)
引註此篇文章
你可能還會想看
Refuah公司與紐約總檢察長達成和解並投資120萬美元保護病人資料

紐約州總檢察長Letitia James於2024年1月5日與健康照護服務業者Refuah Health Center, Inc.(下稱Refuah公司)達成和解,主因為該公司遭受勒索軟體攻擊(ransomware attack),約25萬紐約州民個資遭到洩漏。和解協議要求Refuah公司支付共計45 萬美元之民事懲罰金及費用(penalties and costs),且應投資 120 萬美元加強網路安全(cybersecurity)。 Refuah公司主要業務為經營三家醫療機構和五輛行動醫療車(mobile medical vans)。2021 年 5 月,Refuah公司遭到勒索軟體攻擊,網路攻擊者得以近用數千名病人的資料,取得了包含姓名、地址、電話號碼、社會保險號碼、駕照號碼、出生日期、金融帳號、醫療保險號碼等資料。 依據檢察長辦公室的調查顯示,攻擊者之所以得近用這些資料,原因為 Refuah公司未採取適當安全維護措施,包括:未停用不活躍之使用者帳號(inactive user accounts);未定期更換使用者帳號憑證(user account credentials);未限制員工僅得近用其業務所必需之資源和資料;未使用多重要素驗證(multi-factor authentication)以及未加密病人資料。 依據協議內容,Refuah公司同意投資 120 萬美元,用於開發和維護更強大的資訊安全計畫(information security programs),以更妥適地保護病人資料。該協議還要求Refuah公司應: 1.維護全面的資訊安全計畫,以保護消費者資料的安全性、機密性和完整性; 2.實施並持續更新消費者資料近用限制相關政策和程序; 3.遠端近用資源和資料應使用多重要素驗證; 4.定期更新近用資源和資料的憑證; 5.至少每半年進行一次稽核,確保使用者僅近用其業務所必需之資源和資料; 6.對所有儲存或傳輸的消費者資料進行加密; 7.實施控制措施,監控和記錄公司網路和系統的所有安全和操作活動;以及 8.制定、實施和持續更新全面的事故應變計畫。 Refuah公司還須向州政府支付共計45 萬美元之民事懲罰金及費用,其中 10 萬美元將在該公司投入 120 萬美元開發和維護其資訊安全計畫後,得暫緩支付。

澳洲政府公布「國家電池戰略」,概述澳洲將如何擴大電池製造能力和技術,提升經濟韌性和安全性

澳洲政府2024年5月23日公布「國家電池戰略」(National Battery Strategy),這是澳洲政府推動「澳洲未來製造」(Future Made in Australia)政策計畫重要的一環。該戰略概述政府將如何擴大澳洲電池製造能力和發展專業技術,提升澳洲的經濟韌性和安全性。 戰略文件中,主要行動分為五項: 一、建立電池製造能力,增強經濟韌性,利用優勢促進國家經濟增長: 以2024年4月公布的《澳洲未來製造法》(Future Made in Australia Act)作為支持電池行業的法源。政府未來10年會提供227億澳元,投資包括再生氫、綠色金屬、低碳液體燃料、關鍵礦產精煉和清潔能源製造技術。 二、培養人才知識和技能,創造澳洲本土工作機會: 建立電池製造園區,結合企業和研究機構,將電池研究集中在有顯著需求和具市場潛力的領域。 三、確保澳洲在全球電池供應鏈中的地位: 重點支持構建供應鏈韌性的製造業,透過國際合作,應對氣候挑戰,支持電力轉型,創造清潔能源貿易機會,推廣高ESG標準。 四、在永續、標準和循環經濟方面引領世界 支持澳洲各地建立電池回收設施,補助電池回收技術的研究和測試,同時要求電池產業採取嚴格和有效的ESG措施。 五、促進各級政府合作 與各級政府合作,採取一致的標準和方法發展電池技術。透過聯合採購推動電池產業,並集中管理和輔導澳洲電池製造商。 澳洲擁有豐富的礦物資源,供應全球一半的鋰,但是其所製造的加工電池元件占全球不到1%;「國家電池戰略」的發布顯示澳洲政府希望利用自身優勢,在全球能源轉型中佔有一席之地的企圖心。

歐洲議會於2022年初通過數位服務法(DSA)

  歐洲議會(European Parliament)於2022年1月20日通過數位服務法(Digital Services Act),該法旨在監管線上服務提供者(online service providers),為線上服務接受者提供更安全線上空間,包含要求線上平臺應(1)打擊線上非法服務或內容;(2)提供通知並刪除/下架(notice and action)機制,不得有差別性或任意性對待;(3)提供無廣告追蹤(tracking-free ad)選項,和禁止將未成年人資料用於定向廣告(targeting advertising);(4)對於線上平臺課以行政責任,如:超大型線上平臺(very large online platforms, VLOP)若故意或過失違反義務,最高罰鍰可被處以前一會計年度總營業額6%,或按日連續處罰最高可處前一會計年度平均每日營業額5%。若可能致危害生命或人身安全,主管機關亦可勒令其停止提供服務;(5)強制性風險評估和提高演算法透明度,以打擊有害內容(harmful content)和虛假資訊。   數位服務法所規範的服務主要有四種類型,四種服務提供者負擔累計義務(cumulative obligation),其中VLOP被賦予最多責任,因其對於散布非法內容並造成社會危害具有特殊風險,須具備風險減緩、獨立稽核等機制。相關服務定義如下: (1)中介服務提供(Intermediary Service):提供網路基礎建設服務。 (2)託管服務提供(hosting service):由服務接受者提供資訊並應其要求提供資訊儲存服務,例如:雲端儲存服務、網站主機代管等服務。 (3)線上平臺(online platform):包含類型線上市集、應用程式商店、以及社群媒體平台。 (4)VLOP:每月平均歐盟境內活躍用戶達4500萬以上或人口10%之線上平臺。例如:Google、Facebook及YouTube。   此數位服務法草案最早在2019年年底提出,歐洲議會於今年投票通過後,尚待歐盟理事會(Council of the European Union)審查同意後,此法即正式發布施行。歐洲議會於審查所提出之修正建議,除針對前述五大重點外,還特別強調對於微中小型企業(MSMES)相關義務的免除,以及禁止線上平臺使用欺瞞(deceiving)或助推(nudging)方法影響消費者購物選擇。

中國大陸國家新聞出版廣電總局重新建構網路服務管理規範

TOP