美國國防部「人工智慧國防運用倫理準則」

  美國國防部(Department of Defense)於2020年2月採納由美國國防創新委員會(Defense Innovation Board, DIB)所提出之「人工智慧國防運用倫理準則(AI Principles: Recommendations on the Ethical Use of Artificial Intelligence by the Department of Defense)」,以衡平倫理與人工智慧於國防帶來之增益。

  美國國防創新委員會為美國聯邦政府下之獨立委員會,設置目的在於依美國新創科技,提供意見予美國國防部,與美國國防部並無隸屬關係。有鑑於人工智慧之運用範疇日益增廣,美國國防創新委員會遂提出旨揭「人工智慧國防運用倫理準則」,以因應人工智慧於國防之應用所產生之問題。

  倫理準則適用於「戰爭或非戰爭用途之人工智慧之設計以及應用」,對於「人工智慧」之定義,倫理準認為人工智慧並無精確之範疇,只要「對於資訊有所處理並旨在達到所賦予任務之資訊系統」,皆為本準則下之人工智慧。倫理準則指出,「人工智慧」與美國國防部3000.09指令下之「自動化武器系統(Autonomous Weapon System)」之定義不同,但有可能重疊,而所謂「自動化武器系統」為「一經人類選擇啟動,即可在無人類監督之情形下,自動針對目標進行鎖定或進行攻擊之自動化武器系統」。

  美國國防創新委員會表示,該準則旨在切合美國既有憲法、法律、國際公約之傳統標準下,融入現代化對於人工智慧之要求,如國際公約中之戰爭法(Law of War)即為本準則之傳統標準之一,舉例而言,如人工智慧被裝置於武器中,其設計及應用應符合最小傷亡原則、避免傷及無辜原則等。

  除此之外,準則亦包含以下現代化對於人工智慧之要求:(1)人類對於人工智慧系統之設計、應用以及使用應善盡判斷以及注意義務,且人類應該對於人工智慧系統因瑕疵所帶來之傷害負擔最終責任;(2)對於目標之選擇或分類,應維持公平性,且不得有歧視性;(3)對於人工智慧之設計、應用以及使用,應有明確之工程標準以及資料保存程序,此一工程標準以及資料保存程序應為一般具有專業知識之工程人員可據以理解、分析、追蹤問題所在並加以改善;(4)「戰爭或非戰爭用途之人工智慧」應有明確之應用領域,且完善之檢測、維修,應適用於該人工智慧之全部生命週期。

本文為「經濟部產業技術司科技專案成果」

相關連結
相關附件
你可能會想參加
※ 美國國防部「人工智慧國防運用倫理準則」 , 資訊工業策進會科技法律研究所, https://stli.iii.org.tw/article-detail.aspx?d=8450&no=55&tp=1 (最後瀏覽日:2026/09/07)
引註此篇文章
你可能還會想看
因應生成式AI使用的營業秘密保護對策

美國智慧財產律師於2026年4月撰文說明兩件聯邦地方法院之判決揭示將機密資訊分享於生成式AI平台上的重大風險。 在Trinidad v. OpenAI 案中(Trinidad使用ChatGPT開發出AI框架,並將其框架申請美國專利,其主張OpenAI 後續申請專利之產品係基於使用其成果所開發,惟法院駁回原告依據美國營業秘密保護法(即DTSA)提出使用ChatGPT的產出物”專有AI開發框架(proprietary AI development frameworks,簡稱框架)為其營業秘密之主張,理由是原告在使用ChatGPT創建這些框架時,是自願向OpenAI 揭露其框架相關資訊。本案中,法院認為,原告使用ChatGPT創建框架時未有採取保密措施,且基於接受OpenAI的使用條款,也就是同意於未建立任何保護下揭露資訊,而不屬於DTSA保護的營業秘密。 在United States v. Heppner案中(被告Heppner 因涉及金融詐騙案件遭起訴,其收到法院傳票後使用Claude AI,將該案件的案件事實、可能的抗辯事由、法律分析和防禦策略輸入至Claude AI,使用AI產出法律分析報告),則是強調使用公開可得的生成式AI平台所建立之文件不受律師與當事人間之秘匿特權( attorney-client privilege)保護,因為在AI平台記錄的對話內容,在沒有與平台合約約定保密義務時,這些內容並不具保密性。本案主要探討於被告與Claude AI之間之對話紀錄是否符合律師與當事人間之秘匿特權之範圍,法院認為Claude AI並非律師,兩位非律師之人的法律討論並不享有特權,且成立律師與當事人間之秘匿特權需建立於當事人與有委託關係之律師(或其代理人:實習律師、法務助理等)因為法律諮詢目的之通訊內容。此外,被告與Claude AI之間的通訊並非機密,因為Claude AI的用戶須同意「Anthropic (Claude AI之開發商)收集用戶輸入與輸出資料,利用這些資料訓練 Claude,並保留向第三方(包括政府監管機構)揭露此類資料的權利」,故法院未將律師與當事人間之秘匿特權延伸至AI平台產出的資訊。 在如今生成式AI已被普遍使用之時代,AI工具可提高生產力及工作效率,而對企業而言,開放員工使用AI時應留意公司是否有對使用AI工具提供相應的管理措施。可參考的管理方式有二: 作法其一是:建立企業內部的生成式AI平台 在此狀況下與AI共享的資訊只會留在公司的環境中,並且員工會受到聘用條件中所簽署過的保密協議拘束,此種做法可提供強而有力的保護,但也需要公司投入大量財務資源,惟許多企業未有足夠資源採取此做法。 作法其二:企業從商業生成式AI供應商取得企業授權 企業可跟AI供應商簽定特殊的授權模式,例如約定除了為遵守法律規範或防止濫用之情況外均不儲存輸入或輸出之資訊、約定不會使用其資料進行AI模型訓練、不向第三方揭露客戶所提供之資訊等保密條款,此類保密條款約定會被視為合理保密措施。 企業亦須留意法院在檢視是否成立合理保密措施時,通常只有簽訂相關保密條款並不足夠,法院通常會審查是否有其他保護措施,例如哪些員工有權使用AI平台、是否規範哪些資訊可用/不可用於AI平台、員工是否簽署對其使用AI平台應遵守之義務的確認書等。此外,企業還須避免員工以個人消費者帳號(非企業用戶權限)於AI平台輸入公司機密資訊,而使公司在不知情狀況下同意AI供應商使用其公司機密資訊。因此,企業應建立明確政策,限制員工將公司機密資訊輸入任何AI平台,並留存管理存取紀錄。 由前面兩個案件我們可了解,在未有適當合約與相關保密措施的情況下,於公開的生成式 AI 平台分享機密或專有資訊,法律上等同於向全世界揭露該資訊。法院於營業秘密、律師與當事人間之秘匿特權不太可能對 AI 相關揭露行為做出特別豁免。因此,對於AI工具的使用,企業至少需確保使用的是在具備適當合約保護的商業或企業級 AI 平台,制定明確的內部政策規範可輸入 AI 平台的資訊,提供員工相關訓練,並審核現有的營業秘密保護計畫找出因應AI工具使用的相關風險並予以補強。 本文為資策會科法所創智中心完成之著作,非經同意或授權,不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。 本文同步刊登於TIPS網站(https://keid.nat.gov.tw/tips/)

中國大陸強制醫療所草案 規範肇事精神病患

  中國大陸國務院法制辦公室於105年6月擬訂強制醫療所條例草案《送審稿》(下稱本草案),規範對肇事精神病患的管制制度,並將本草案全文公布,徵求各界意見,本草案通過後將以行政法規形式公布。   依據中國大陸政府於105年6月12日官方網站聲明,中國大陸刑法規定肇事精神病患在不能辨認或者不能控制自己行為時造成危害結果,經法定程序鑑定確認者,不負刑事責任,但應當責令其家屬或者監護人嚴加看管和施予醫療;在必要的時候,由政府強制醫療。但修訂後的中國大陸刑事訴訟法實施以來,各地區適用強制醫療措施標準不一,導致由該制度所生之社會效果與法律效果並不明顯。因此本草案強調強制醫療所的性質是執法機關,不是單純的醫療機構,但醫療是實現強制措施的必要手段,也是強制醫療所的重點工作。 謹就本草案制定重點整理如下: 一、強制醫療所的設置 第七條第一款規定,強制醫療所的設置原則,由省、自治區、直轄市政府根據實際需要規劃設置。第二款規定市、州、盟如需設置強制醫療所,應提報所屬省、自治區政府批准。 二、醫療工作模式 第十條規定,強制醫療所應當設有相應的醫療機構,並依照醫療機構管理條例及國家相關規定開展診療活動。 三、強制醫療的解除 第三十七條規定,經診斷評估,被強制醫療人員病情穩定,已不具有人身危險性,不需繼續強制醫療者;或被強制醫療人員因嚴重身體疾病、傷殘或年老體弱致使日常生活不能自理,而不具有人身危險性,不需繼續強制醫療者,醫療院所應當提出解除強制醫療的意見,呈報做出強制醫療決定的法院批准,同時抄送同級檢察院。 四、臨時請假回家制度 第二十五條規定臨時請假回家之要件。被強制醫療人員須同時具備被強制醫療達半年以上、經診斷病情明顯緩解、其監護人或近親屬書面擔保履行看護、治療、安全及按期送回強制醫療所之責任、經強制醫療所出具准假證明,同時強制醫療所應向做出強制醫療決定之法院報備等要件。 五、患傳染病、嚴重身體疾病被強制醫療人員所外就醫 第三十三條規定,被強制醫療人員因罹患傳染病或嚴重身體疾病,而強制醫療所不具備治療條件,須轉送其他醫療機構治療者,強制醫療所應於發現後立即提出所外就醫意見,並報公安機關審批。經核准移送其他醫療院所,強制醫療所應即通知監護人、近親屬,並通知做出強制醫療決定之法院及同級檢察院。 六、收治被採取臨時保謢性拘束措施的精神病人 第四十五條規定,被公安機關依法採取臨時保謢性拘束措施的精神病人,可以在強制醫療所執行醫療行為。

日本《研究資料基盤整備與國際化戰略》報告書

  日本因應各先進國家近年於開放科學概念下,政府資助研發計畫研究資料管理及開放之倡議與制度化推展趨勢,內閣府於2015年提出開放科學國際動向報告書,並在第5期科學技術基本計畫與2019年統合創新戰略中規劃推動開放科學。上述政策就研究資料管理開放議題,擬定了資料庫整備、研究資料管理運用方針或計劃之制定、掌握相關人才培育與研究資料運用現況等具體施政方針。在此背景下,內閣府於2018年設置「研究資料基盤整備與國際化工作小組(研究データ基盤整備と国際展開ワーキング・グループ)」,持續檢討日本國內研究資料管理、共享、公開、檢索之基盤系統建構與政府制度、國家研究資料戰略與資料方針、國際性層級之推動方向等議題,在2019年10月據此作成《研究資料基盤整備與國際化戰略》(研究データ基盤整備と国際展開に関する戦略)報告書,形成相關政策目標。   本報告書所設定的政策目標採階段性推動,區分為短期目標與中長期目標。短期預計在2020年前,正式開始運用目前開發測試中之研究資料基盤雲端平台系統(NII Research Data Cloud, RDC),針對射月型研發計畫研擬並試行研究資料管理制度,建構詮釋資料(metadata)之集中檢索體系,並建立與歐洲開放科學雲(EOSC)之連結;中長期目標則規劃至2025年前,持續調適運用RDC,正式施行射月型研發計畫之研究資料管理制度,確立共享與非公開型研究資料之管理框架,蒐整管理資料運用現況之相關資訊,並逐步擴張建立與全球研究資料共享平台間之連結。

中華人民共和國《出版管理條例》之介紹

TOP