美國情報體系發布「情報體系運用人工智慧倫理架構」

  美國國家情報體系(United States Intelligence Community)係於1981年依據行政命令第12333號(Executive Order 12333)所建立,其任務為蒐集、分析與提供外國情報與反情報資訊美國國家領導人,服務對象包含美國總統、執法單位以及軍事單位。其於2020年6月提出「情報體系人工智慧倫理架構」(Artificial Intelligence Ethics Framework for the Intelligence Community),為人工智慧系統與訓練資料、測試資料之採購、設計、研發、使用、保護、消費與管理提出指引,並指出人工智慧之利用須遵從以下事項:

一、於經過潛在風險評估後,以適當且符合目的之方法利用;

二、人工智慧之使用應尊重個人權利與自由,且資料取得應合法且符合相關政策與法規之要求;

三、應於利用程序內結合人類判斷與建立問責機制,以因應AI產品之風險並確保其決策之適當性。

四、於不破壞其功能與實用性之前提下,盡可能確認、統計以及降低潛在之歧視問題。

五、AI進行測試時應同時考量其未來利用上可預見之風險。

六、持續維持AI模型之迭代(Iteration)、版本與改動之審查。

七、AI之建立目的、限制與設計之輸出項目,應文件化。

八、盡可能使用可解釋與可理解之方式,讓使用者、審查者與公眾理解為何AI會產出相關決策。

九、持續不定期檢測AI,以確保其符合當初建置之目的。

十、確認AI於產品循環中各階段之負責人,包含其維護相關紀錄之責任。

本文為「經濟部產業技術司科技專案成果」

相關連結
※ 美國情報體系發布「情報體系運用人工智慧倫理架構」, 資訊工業策進會科技法律研究所, https://stli.iii.org.tw/article-detail.aspx?d=8520&no=57&tp=1 (最後瀏覽日:2026/02/28)
引註此篇文章
你可能還會想看
拜登政府宣布採取促進負責任AI創新之新行動,以保護美國人民權利與安全

拜登政府於2023年5月4日宣布將採取促進負責任AI創新之新行動,表示公司於部署或公開其產品前,應致力於降低AI風險,並強調風險管理與保障措施的重要性,以防止AI對個人與社會造成潛在危害。此外,拜登總統於2月簽署「透過聯邦政府進一步推動種族平等和支持弱勢群體」行政命令(Executive Order on Further Advancing Racial Equity and Support for Underserved Communities Through The Federal Government),指示聯邦政府機關在設計和使用AI等新技術時,應避免偏見,並保護公眾免受演算法歧視。促進負責任AI創新之新行動包括: 一、投資負責任AI的研發 美國國家科學基金會(National Science Foundation)宣布撥款1.4億美元以啟動7個新的國家AI研究所,未來全美將有25個國家級AI研究所。除有助於促進公私部門之間合作外,將強化AI研發基礎設施、支持多元化AI勞動力發展,及推動氣候、農業、能源、公共衛生、教育與資安等關鍵領域之突破。 二、公開評估現有的生成式AI系統(generative AI systems) Anthropic、Google、Hugging Face、微軟、NVIDIA、OpenAI和Stability AI等領先AI開發商將參與AI系統獨立公開評估,以評估其模型是否符合AI權利法案藍圖(Blueprint for an AI Bill of Rights),及AI風險管理框架(AI Risk Management Framework)所提出之原則與實踐,並使企業及開發人員能就所發現問題,進一步採取解決措施。 三、提出政策引導聯邦政府減輕AI風險及提升AI利用機會 美國行政管理預算局(Office of Management and Budget)宣布,將於2023年夏季發布有關聯邦政府機關各部門使用AI系統之政策指引草案,並徵詢公眾意見。

首批奈米標章三月核發

  國內推出的「奈米標章」日前開放申請,第一批受理的奈米產品是與人體未直接碰觸的奈米光觸媒脫臭塗料、光觸媒抗菌瓷磚、及光觸媒抗菌燈管等三項產品,經濟部可望在今年3月核發第一批標章,並在今年內再開放五項奈米產品申請。   目前國內生產相關奈米磁磚廠商有泉耀科技等、奈米燈管業者有台灣日光燈及東亞照明等、奈米塗料廠商有台灣富萊寶科技等都可望提出申請,有機會成為第一  批拿到奈米標章的廠商,因我國也是全球第一個推出奈米標章國家,對政府積極推動發展奈米產業助益大。   經濟部指出,第一批僅開放三項奈米產品,是基於安全起見,以未與人體直接碰觸的產品為主,其他與人體直接接觸的奈米紡織品、奈米化妝品及保養品等尚未納入,第二批開放五項奈米產品也還未敲定。

日本健康保險擴大遠距醫療適用對象並提高支付標準

  日本厚生勞動省對於利用電話、視訊等資通訊機器所為之遠距醫療,因應明年修正健康保險診療報酬,提高遠距醫療服務給付項目及支付標準,為了明確適用健康保險之相關要件與規定,成立研究委員會以作成相關適用指引。隨著資通訊技術發展,利用資通訊機器所為之遠距醫療漸漸普及。在擔保醫療之安全性、必要性及有效性下,為了更進一步普及並推進適當之診療,有必要整備相關法令規定。厚生勞動省於11月設置研究委員會,預定在2018年3月底前訂定「遠距醫療適用指引(情報通信機器を用いた診療に関するガイドライン)」。   日本1948年制定之醫師法第20條規定醫師非親自診療,不得為治療等行為。此一規定迄今未修正,遠距醫療並非當時所能想像與規範。目前,厚生勞動省以函釋通知方式,對於該條之適用為相關通知與事務聯絡,以擴大遠距醫療適用之可能性。厚生勞動省於1997年第一次發出之通知(平成9年12月24日健政發第1057號厚生省健康政策局長通知),對於遠距醫療與醫師法第20條的適用關係提出基本見解,認為醫師法第20條親自診療原則規定,不一定等於直接見面診療,以代替方式而對於病患身心狀況得以獲得有用資訊下,使用遠距醫療並非違反本條親自診療規定。在本號通知「留意事項」中,對於遠距醫療之適用對象地區與病患,有以下規定:1. 初診原則上必須為面對面診療;2.直接面對面診療有困難之離島及偏遠地區;3. 對於病況穩定之病患,在確保緊急對應處理及聯絡體制下,以「別表」列舉適用之慢性疾病(例如:居家氧氣治療病患)為對象。但是本來只是例式規定的「非初診」「離島及偏遠地區」、「特定慢性疾病」,卻被解釋成限定列舉規定,導致遠距醫療適用範圍非常狹窄,變成原則禁止之情形。   直至2015厚生勞動省再發出通知(平成27年8月10日厚生勞動省事務連絡),明確非初診、離島及偏遠地區、「別表」所列舉之慢性疾病等,僅是例式規定,對象地區及病患不限於此,以及就算是初診,直接為親自診療有困難時,基於病患要求下充分考量病患有利條件下,依據醫師之判斷,活用各種可能之工具,結合社交網路服務(SNS)、視訊影像以及電子郵件等方式組合而為適當之遠距醫療。於「別表」列舉遠距醫療之九種病患對象為,居家氧氣治療病患、居家罕見疾病病患、居家糖尿病患、居家氣喘病患、居家高血壓病患、居家過敏性皮膚炎病患、褥瘡居家療養病患、居家腦血管病患以及居家癌症病患等。   2015年通知使得遠距醫療之適用對象範圍大為擴大,因此日本醫療院所積極整備資通訊設備環境。同時,厚生勞動省在2017年底提出之2018年度福祉預算中,明確修正健康保險診療報酬,提高遠距醫療之醫療服務給付項目與支付標準,使得利用遠距醫療為診療服務之利益大為提高,更加速提高遠距醫療之利用可能性。惟,前述2015年通知之內容,對於適用對象與診療內容,尚有不明確之處,因此邀集醫療、法學、遠距醫療專門等12名專家成立研究委員會,以訂定明確適用規則,防止未來對於病患造成不利益之判斷。

美國國家標準暨技術研究院規劃建立「人工智慧風險管理框架」,並徵詢公眾對於該框架之意見

  美國國家標準暨技術研究院(National Institute of Standards and Technology, NIST)為管理人工智慧對於個人、組織以及社會所帶來之風險,於2021年7月29日提出將建立「人工智慧風險管理框架」(Artificial Intelligence Risk Management Framework, AI RMF)之規畫並徵詢公眾意見,截止日為9月15日,並預計於10月發布正式報告。   依照NIST說明,公眾所建議之人工智慧風險管理框架,可促進人工智慧之可信賴性,其中包含如何應對並解決人工智慧於設計、發展及使用過程中所遭遇之「精確度」(accuracy)、「可解釋性」(explainability)、「偏見」(bias)等議題。此外,上開管理框架預計為非強制性、供企業自願性使用於人工智慧設計、發展、使用、衡量及評估之人工智慧標準。   依現有公眾意見徵詢結果,其中DeepMind公司建議於人工智慧設計初期,必須預先構思整體系統之假設是否符合真正社會因果關係。舉例言之,當設計一套可預測民眾健保需求程度之系統時,如輸入參數僅考量民眾於醫療上的花費,將使僅有可負擔較高醫療費用之民眾被歸類為健保需求程度較高者,從而導致健保制度排擠經濟負擔程度較差之公民,故在設計系統時,應從預先設定之假設事實反面(counter-factual)思考並驗證是否會產生誤差或公平性之問題(例如預先思考並驗證「醫療費用支出較低之民眾是否即可被正確歸類為健保需求度低之民眾」)。惟進行上述驗證需要大量社會資料,因此DeepMind也建議NIST應建立相關機制,使這些社會資料可以被蒐集、使用。   此外,亦有民眾建議管理框架應有明確之衡量方法以及數值指標,以供工程界遵循。同時鑒於人工智慧發展極為快速,未來可能有不同於以往之人工智慧類型出現,故亦建議NIST應思考如何在「建構一套完整且詳細之人工智慧治理框架」與「保持人工智慧治理框架之彈性與靈活性」之間取得平衡。   最後,目前也有許多徵詢意見指出,許多人工智慧治理之目標會相互衝突。舉例言之,當NIST要求人工智慧系統應符合可解釋性,則人工智慧公司勢必需要經常抽取人工智慧系統中之「數據軌跡」(audit logs),惟數據軌跡可能被認為是使用者之個人資料,因此如何平衡或完善不同治理框架下之目標,為未來應持續關注之議題。

TOP