美國國防部「人工智慧國防運用倫理準則」

  美國國防部(Department of Defense)於2020年2月採納由美國國防創新委員會(Defense Innovation Board, DIB)所提出之「人工智慧國防運用倫理準則(AI Principles: Recommendations on the Ethical Use of Artificial Intelligence by the Department of Defense)」,以衡平倫理與人工智慧於國防帶來之增益。

  美國國防創新委員會為美國聯邦政府下之獨立委員會,設置目的在於依美國新創科技,提供意見予美國國防部,與美國國防部並無隸屬關係。有鑑於人工智慧之運用範疇日益增廣,美國國防創新委員會遂提出旨揭「人工智慧國防運用倫理準則」,以因應人工智慧於國防之應用所產生之問題。

  倫理準則適用於「戰爭或非戰爭用途之人工智慧之設計以及應用」,對於「人工智慧」之定義,倫理準認為人工智慧並無精確之範疇,只要「對於資訊有所處理並旨在達到所賦予任務之資訊系統」,皆為本準則下之人工智慧。倫理準則指出,「人工智慧」與美國國防部3000.09指令下之「自動化武器系統(Autonomous Weapon System)」之定義不同,但有可能重疊,而所謂「自動化武器系統」為「一經人類選擇啟動,即可在無人類監督之情形下,自動針對目標進行鎖定或進行攻擊之自動化武器系統」。

  美國國防創新委員會表示,該準則旨在切合美國既有憲法、法律、國際公約之傳統標準下,融入現代化對於人工智慧之要求,如國際公約中之戰爭法(Law of War)即為本準則之傳統標準之一,舉例而言,如人工智慧被裝置於武器中,其設計及應用應符合最小傷亡原則、避免傷及無辜原則等。

  除此之外,準則亦包含以下現代化對於人工智慧之要求:(1)人類對於人工智慧系統之設計、應用以及使用應善盡判斷以及注意義務,且人類應該對於人工智慧系統因瑕疵所帶來之傷害負擔最終責任;(2)對於目標之選擇或分類,應維持公平性,且不得有歧視性;(3)對於人工智慧之設計、應用以及使用,應有明確之工程標準以及資料保存程序,此一工程標準以及資料保存程序應為一般具有專業知識之工程人員可據以理解、分析、追蹤問題所在並加以改善;(4)「戰爭或非戰爭用途之人工智慧」應有明確之應用領域,且完善之檢測、維修,應適用於該人工智慧之全部生命週期。

本文為「經濟部產業技術司科技專案成果」

相關連結
相關附件
你可能會想參加
※ 美國國防部「人工智慧國防運用倫理準則」 , 資訊工業策進會科技法律研究所, https://stli.iii.org.tw/article-detail.aspx?d=8450&no=65&tp=1 (最後瀏覽日:2024/07/21)
引註此篇文章
你可能還會想看
歐盟預計投入4700萬歐元強化中小企業智慧財產權的保護

  歐盟執委會及歐盟智慧財產局(European Union Intellectual Property Office, EUIPO)於2022年1月10日共同宣布啟動第二輪的歐盟中小企業基金(EU SME Fund),以強化中小企業的智財管理與布局。   歐盟於2020年11月發布了《智慧財產權行動計畫(Action Plan on Intellectual Property)》,並推出中小企業基金,在2021年間共補助12,989家的中小企業,補助金額達680萬歐元。由於成效不錯,因此歐盟推出第二輪的中小企業基金,其金額高達4700萬歐元,補助期間為2022年至2024年。歐盟指出,中小企業在保護創新上需要有相關的工具及資金,目前規劃的補助項目如下: 補助中小企業申請智財檢視服務(IP Scan service)90%的費用。該項服務是在2021年6月推出,內容為中小企業智財布局的諮詢,以及協助檢視其無形資產(intangible assets)的創新潛力。 補助中小企業向各會員國智財局、歐盟智財局(EUIPO)、比荷盧智財局(Benelux Office for Intellectual Property, BOIP)申請商標、設計註冊75%的費用。 補助中小企業向世界智慧財產權組織(WIPO)取得國際商標和設計保護50%的費用。 2022年將補助中小企業向各會員國專利局申請專利註冊50%的費用。 2023年預計進一步納入補助的項目包含:補助中小企業進行專利先前技術檢索、專利申請的部分費用;律師諮詢費(如專利註冊、授權協議、智財鑑價、替代性紛爭解決機制等事項的諮詢。)   歐盟希望透過上述的方式,協助中小企業在疫情期間加速數位轉型,強化無形資產的智財布局和管理,以提升歐盟中小企業的競爭力。 「本文同步刊登於TIPS網站(https://www.tips.org.tw)」

歐盟智慧聯網研發推動平台報告,物聯網共創價值的六大支柱

  成功的物聯網(IOT)平台生態系統取決於多種因素,2017年4月3日歐盟智慧聯網研發推動平台( European Research Cluster on the Internet of Things)在物聯網活動平台分析(Analysis on IoT Platforms Adoption Activities)中提出六個成功的重要因素: 策略與利害關係人的參與(Strategy & Stakeholder Engagement):成功物聯網平台除了要製定良好的願景外,並讓主要利害關係人適當的參與系統策略,與整體政策格局保持一致性。 社群的支持(Community Support):社群支持程度決定了物聯網系統的吸引力,透過適當的的機制和工具,以有效地減少參與的障礙。 開放性(Ecosystem Openness):非常封閉的物聯網系統,吸引較少參與者。透過適當的開放以鼓勵利害關係人之參與,並減少進入之障礙。 技術的進步程度(Technology Advancement):越是被廣泛使用的技術及技術特徵,越可以顯著增加物聯網系統的吸引力,除了提高績效以外,並增加系統存續之可能性。 市場機制(Marketplace Mechanisms):透過市場機制可以取得用戶間的信任感,以增加參與的可能性,透過參與者價值交流進一步鼓勵參與。 包容性(Technology Inclusivity):物聯網系統很少是孤立的,必須考慮許多外部因素,如架構技術、物聯網設備、服務等。物聯網生態系統越包容其他流行技術,越有可能被使用者接受。

西班牙AEPD增加關於健康和個人資料保護關注領域

  西班牙個資監管機關(Agencia Española de Protección de Datos, AEPD)於2022年5月3日增加健康和個人資料保護有關的關注領域。觀2021年,計有680件與健康資料相關之爭議案件,與2020年相比增長了75%,又因健康資料為特殊類型之個人資料,故更應嚴加保障。   該領域的內容適用於公民、資料控制者、資料保護專業人員、健康中心或製藥行業等,共分六小節: 一、第一小節概述了與健康資料有關的權利,解釋了歐盟一般個人資料保護規則(General Data Protection Regulation, GDPR)第9條及西班牙當地規範有關處理健康資料定義、如何行使醫療記錄近用權(Right to access),以及與醫學研究相關的問題,其中規定了患者在使用資料和臨床文件方面權利和義務、在近用權被拒絕情況下如何向AEPD申訴、臨床病史保留及刪除權利之限制等。 二、第二小節重點介紹AEPD公布的相關報告和指南,包括勞資關係中之個人資料保護指南,及有關臨床病史、臨床試驗等相關主題之報告。 三、第三小節則著重在AEPD於新型冠狀病毒肺炎(COVID-19)爆發後,製作大量與COVID-19相關之聲明文件及法律報告,故在此彙整相關資料,以協助落實個人資料之保障。 四、第四小節健康研究和臨床試驗,其中彙編了相關指南,以及規範臨床試驗和其他臨床研究以及藥物安全監視所涉個人資料保護行為準則。 五、第五小節講述與健康狀況有關之申訴、賠償紀錄部分,其中包括AEPD收到多項涉及已故患者直系親屬近用醫療記錄之權利或醫療專業人員非法獲取臨床病史和醫療記錄之投訴。 六、第六小節側重於醫療組織洩露個人資料議題,概述了資料控制者之義務以及為確保遵循GDPR而應採取之措施,另強調以特殊方式處理健康資料之活動,如電子健康紀錄、物聯網醫療所使用之行動裝置或雲端等存取設備,皆存在外洩之風險因子。

美國聯邦貿易委員會(FTC)持續開鍘違約揭露用戶個資的業者

美國聯邦貿易委員會(Federal Trade Commission,FTC)根據《健康違規通知規則》(Health Breach Notification Rule,HBNR),於2023年2月1日和3月2日分別對GoodRx Holdings Inc.公司和BetterHelp, Inc.公司提出擬議命令(Proposed order)。擬議命令指經由行政機關調查案件後提出的改善建議,且經聯邦法院批准後對被調查公司生效。這兩件案例是FTC於2021年後擴大《健康違規通知規則》適用範圍從傳統的健康產業及於網路行業後的首次執法。GoodRx Holdings Inc.公司提供藥物資訊平台與折扣訊息;而BetterHelp, Inc.公司提供遠距醫療服務。兩者在2017到2020年間均向他們的消費者聲明,將妥善保護所蒐集之個資,然而卻轉手將取得個資揭露給Facebook、Snapchat和Google等第三方公司,用來進行目標式廣告的投放。 FTC對GoodRx的擬議命令要求其停止向第三方揭露使用者的個人資料,並處以支付150萬美元的罰鍰。對BetterHelp, Inc.的命令除要求其停止共享使用者的個人資料外,更要求BetterHelp, Inc.向網站的使用者進行退款,退款總額上限高達780萬美元。FTC在擬議命令中建議:涉及敏感性健康資料的事業負責人,除了需要重新檢視目前持有資料的隱私和安全性外,最好能建立一套完整的資料管理流程。流程包括對當事人充分說明蒐集利用目的、取得當事人完整的知情同意、制定完整的個人資料管理及保存銷毀程序、限制員工對資料的存取權限等等。最後也最重要的是要「信守承諾」,這兩個案例中的業者都是違反了自己當初對使用者的承諾,最終才導致被處罰的結果。

TOP