美國國土安全部發布「2024人工智慧路線圖」,確保AI安全開發與部署

美國國土安全部(Department of Homeland Security, DHS)於2024年3月17日發布「2024人工智慧路線圖」(2024 Artificial Intelligence Roadmap)(下稱AI路線圖),設立三大目標,將偕同旗下機關與產官學研各界合作,確保AI的安全開發與部署,保護國家關鍵基礎設施安全,以強化國家安全。

美國拜登總統於2023年10月30日簽署的第14110號總統行政命令《安全可靠且值得信賴的人工智慧開發暨使用》(Executive Order on the Safe, Secure, and Trustworthy Development and Use of Artificial Intelligence)(下稱AI總統行命令),要求DHS應管理使用於關鍵基礎設施與資通安全的AI、制定全球AI標準並推廣、降低利用AI造成具有大規模殺傷力武器攻擊之風險、保護AI智慧財產權、以及吸引AI領域人才,以促使、加強AI開發與部署等事項。為踐行上述事項,DHS制定AI路線圖,其三大目標如下:

(1) 負責任的使用AI以推進國安任務(Responsibly Leverage AI to Advance Homeland Security Mission):透過建置AI基礎建設、建立AI系統測試與評估(Testing and Evaluation, T&E)、推動AI人才培育計畫等行動措施,帶領主管機關負責任的使用AI,以保護國家安全及避免AI對關鍵基礎設施的風險,確保AI於使用過程中係尊重個人隱私、保護公民權利與自由。

(2) 促進AI安全與資安(Promote Nationwide AI Safety and Security):利用AI技術改善與預防關鍵基礎設施之安全與資安風險、制定關鍵基礎設施之AI使用指引、以及成立AI安全與資安委員會(AI Safety and Security Board, AISSB),彙集產官學研各界專家意見。

(3) 透過擴大AI國際合作來引領AI發展(Continue to Lead in AI Through Strong, Cohesive Partnerships):將透過與產官學研各界合作,擴大AI的國際合作,並持續與公眾進行意見交流與分享,推廣AI政策或相關行動措施;DHS亦將持續與參眾議院及其他主管機關匯報AI相關之工作進度與未來規劃,以提升部門AI的透明度,並建立公眾對AI的信任。

本文為「經濟部產業技術司科技專案成果」

相關連結
你可能會想參加
※ 美國國土安全部發布「2024人工智慧路線圖」,確保AI安全開發與部署, 資訊工業策進會科技法律研究所, https://stli.iii.org.tw/article-detail.aspx?d=9184&no=67&tp=1 (最後瀏覽日:2026/06/17)
引註此篇文章
科法觀點
你可能還會想看
歐盟智慧聯網研發推動平台報告,物聯網共創價值的六大支柱

  成功的物聯網(IOT)平台生態系統取決於多種因素,2017年4月3日歐盟智慧聯網研發推動平台( European Research Cluster on the Internet of Things)在物聯網活動平台分析(Analysis on IoT Platforms Adoption Activities)中提出六個成功的重要因素: 策略與利害關係人的參與(Strategy & Stakeholder Engagement):成功物聯網平台除了要製定良好的願景外,並讓主要利害關係人適當的參與系統策略,與整體政策格局保持一致性。 社群的支持(Community Support):社群支持程度決定了物聯網系統的吸引力,透過適當的的機制和工具,以有效地減少參與的障礙。 開放性(Ecosystem Openness):非常封閉的物聯網系統,吸引較少參與者。透過適當的開放以鼓勵利害關係人之參與,並減少進入之障礙。 技術的進步程度(Technology Advancement):越是被廣泛使用的技術及技術特徵,越可以顯著增加物聯網系統的吸引力,除了提高績效以外,並增加系統存續之可能性。 市場機制(Marketplace Mechanisms):透過市場機制可以取得用戶間的信任感,以增加參與的可能性,透過參與者價值交流進一步鼓勵參與。 包容性(Technology Inclusivity):物聯網系統很少是孤立的,必須考慮許多外部因素,如架構技術、物聯網設備、服務等。物聯網生態系統越包容其他流行技術,越有可能被使用者接受。

美國佛羅里達州「基於保險目的之基因資訊法」最新修正於2020年7月1日正式施行

  美國佛羅里達州州長於2020年6月30日簽署「基於保險目的之基因資訊法」(Genetic Information for Insurance Purposes)法律修正案,並於2020年7月1日正式生效施行。本次「基於保險目的之基因資訊法」修正重點有二: 將「人壽保險」和「長期照護保險」保險人納入「禁止僅根據個人基因資訊即取消、限制、拒絕承保或設定不同保險費費率」之列; 明確規定醫療保險、人壽保險及長期照護保險之保險人,不得基於保險目的,向要保人、被保險人索取基因檢測結果,或要求要保人、被保險人須完成基因檢測後方同意核保。   同時,本次「基於保險目的之基因資訊法」修正理由亦明確說明:禁止醫療保險、人壽保險及長期照護保險之保險人利用基因檢測結果,並非禁止保險人依據醫療紀錄和醫療診斷結果進行核保或計算保險費費率,以此釋疑保險人對此次修正之擔憂。   美國聯邦參議院於2008年即通過「基因資訊平等法」(Genetic Information Nondiscrimination Act of 2008, GINA),惟「基因資訊平等法」僅禁止醫療保險保險人利用基因資訊進行核保,並未禁止其他類型之保險人。美國佛羅里達州本次修正「基於保險目的之基因資訊法」將人壽保險和長期照護保險一併納入規定,是全美首次擴大禁止利用基因資訊進行核保之保險類型。

輝瑞在中國獲得威而鋼專利戰爭的勝利 Pfizer Emerges Victorious in China Viagra Patent Battle

  在未來三年,中國藥品市場將以每年20-25%的成長率快速成長,並且預估可在2010年成為世界第五大藥品市場。在中國加入世界貿易組織(World Trade Organization, WTO)之後,其廣大的市場以及商機吸引了許多海外藥品製造商的興趣。然而,因為中國對智慧財產保護的社會環境非常複雜,使得本土製造的學名藥以及複製產品仍然主宰其藥品市場。   在歷經六年的法律戰爭後,輝瑞終於在中國成功地捍衛其關於陽痿治療藥物Viagra的專利權。根據報導,北京高等人民法院已駁回來自12家本土製藥廠所提出的專利異議案,並且同意授予輝瑞對於Viagra的專利保護至2014年為止。   輝瑞於1994年提出以Sildenafil (Viagra)治療陽痿的專利申請。歷經七年的審查,中國知識產權局於2001年核准該專利申請案。隨後,12家本土製藥廠提出了該專利的異議案,而中國知識產權局的專利檢定所於2004年判定此專利無效。輝瑞很快地對此決議提出異議,2006年,北京中級人民法院作出對輝瑞有利的判決。雖然前述之本土製藥廠商針對此判決向北京高等人民法院提出訴願,但北京高等人民法院於週四正式駁回訴願,並指示SIPO撤銷先前的專利無效判定。   這個判決結果應有助於Viagra站穩中國的陽痿治療藥物市場。然而,輝瑞在中國仍然面臨許多挑戰。今年初,該公司輸掉一個關於Viagra的商標侵權官司。而輝瑞目前正上訴中。

IBM提出「人工智慧日常倫理」手冊作為研發人員指引

  隨著人工智慧快速發,各界開始意識到人工智慧系統應用、發展過程所涉及的倫理議題,應該建構出相應的規範。IBM於2018年9月02日提出了「人工智慧日常倫理」(Everyday Ethics for Artificial Intelligence)手冊,其以明確、具體的指引做為系統設計師以及開發人員間之共同範本。作為可明確操作的規範,該手冊提供了問責制度、價值協同、可理解性等關注點,以促進社會對人工智慧的信任。 一、問責制度(Accountability)   由於人工智慧的決策將作為人們判斷的重要依據,在看似客觀的演算系統中,編寫演算法、定義失敗或成功的程式設計人員,將影響到人工智慧的演算結果。因此,系統的設計和開發團隊,應詳細記錄系統之設計與決策流程,確保設計、開發階段的責任歸屬,以及程序的可檢驗性。 二、價值協同(Value Alignment)   人工智慧在協助人們做出判斷時,應充分考量到事件的背景因素,其中包括經驗、記憶、文化規範等廣泛知識的借鑑。因此系統設計和開發人員,應協同應用領域之價值體系與經驗,並確保演算時對於跨領域的文化規範與價值觀之敏感性。同時,設計師和開發人員應使人工智慧系統得以「了解並認知」用戶的價值觀,使演算系統與使用者之行為準則相符。 三、可理解性(Explainability)   人工智慧系統的設計,應盡可能地讓人們理解,甚至檢測、審視它決策的過程。隨著人工智慧應用範圍的擴大,其演算決策的過程必須以人們得以理解的方式解釋。此係讓用戶與人工智慧系統交互了解,並針對人工智慧結論或建議,進而有所反饋的重要關鍵;並使用戶面對高度敏感決策時,得以據之檢視系統之背景數據、演算邏輯、推理及建議等。   該手冊提醒,倫理考量應在人工智慧設計之初嵌入,以最小化演算的歧視,並使決策過程透明,使用戶始終能意識到他們正在與人工智慧進行互動。而作為人工智慧系統設計人員和開發團隊,應視為影響數百萬人甚至社會生態的核心角色,應負有義務設計以人為本,並與社會價值觀和道德觀一致的智慧系統。

TOP