美國國家標準暨技術研究院規劃建立「人工智慧風險管理框架」，並徵詢公眾對於該框架之意見
美國國家標準暨技術研究院（National Institute of Standards and Technology, NIST）為管理人工智慧對於個人、組織以及社會所帶來之風險，於2021年7月29日提出將建立「人工智慧風險管理框架」（Artificial Intelligence Risk Management Framework, AI RMF）之規畫並徵詢公眾意見，截止日為9月15日，並預計於10月發布正式報告。
依照NIST說明，公眾所建議之人工智慧風險管理框架，可促進人工智慧之可信賴性，其中包含如何應對並解決人工智慧於設計、發展及使用過程中所遭遇之「精確度」（accuracy）、「可解釋性」（explainability）、「偏見」（bias）等議題。此外，上開管理框架預計為非強制性、供企業自願性使用於人工智慧設計、發展、使用、衡量及評估之人工智慧標準。
依現有公眾意見徵詢結果，其中DeepMind公司建議於人工智慧設計初期，必須預先構思整體系統之假設是否符合真正社會因果關係。舉例言之，當設計一套可預測民眾健保需求程度之系統時，如輸入參數僅考量民眾於醫療上的花費，將使僅有可負擔較高醫療費用之民眾被歸類為健保需求程度較高者，從而導致健保制度排擠經濟負擔程度較差之公民，故在設計系統時，應從預先設定之假設事實反面（counter-factual）思考並驗證是否會產生誤差或公平性之問題（例如預先思考並驗證「醫療費用支出較低之民眾是否即可被正確歸類為健保需求度低之民眾」）。惟進行上述驗證需要大量社會資料，因此DeepMind也建議NIST應建立相關機制，使這些社會資料可以被蒐集、使用。
此外，亦有民眾建議管理框架應有明確之衡量方法以及數值指標，以供工程界遵循。同時鑒於人工智慧發展極為快速，未來可能有不同於以往之人工智慧類型出現，故亦建議NIST應思考如何在「建構一套完整且詳細之人工智慧治理框架」與「保持人工智慧治理框架之彈性與靈活性」之間取得平衡。
最後，目前也有許多徵詢意見指出，許多人工智慧治理之目標會相互衝突。舉例言之，當NIST要求人工智慧系統應符合可解釋性，則人工智慧公司勢必需要經常抽取人工智慧系統中之「數據軌跡」（audit logs），惟數據軌跡可能被認為是使用者之個人資料，因此如何平衡或完善不同治理框架下之目標，為未來應持續關注之議題。
本文為「經濟部產業技術司科技專案成果」
王柏霳
法律研究員 編譯整理
National Security Commission on Artificial Intelligence, Final Report, https://www.nscai.gov/wp-content/uploads/2021/03/Full-Report-Digital-1.pdf (last visited, Sep. 28, 2021).
DeepMind, Request for Information: Artificial Intelligence Risk Management Framework, https://www.nist.gov/system/files/documents/2021/09/17/ai-rmf-rfi-0105.pdf (last visited, Sep. 28, 2021).
Comments Received for RFI on Artificial Intelligence Risk Management Framework, NIST, https://www.nist.gov/itl/ai-risk-management-framework/comments-received-rfi-artificial-intelligence-risk-management (last visited, Sep. 28, 2021).
AI RMF Development & Request for Information, NIST, https://www.nist.gov/itl/ai-risk-management-framework (last visited, Sep. 28, 2021).
〈歐盟提出人工智慧法律調和規則草案〉，資訊工業策進會科技法律研究所，https://stli.iii.org.tw/article-detail.aspx?no=55&tp=1&d=8674（最後瀏覽日期：2021/09/28）。
全球創新指數（Global Innovation Index，簡稱GII）為世界智慧財產權組織（WIPO）與歐洲工商管理學院（INSEAD）等單位，共同衡量全球經濟創新績效之參考指標，於今年（2020）9月2日所發佈的全球創新指數顯示，COVID-19嚴重的阻礙全球創新的發展，但卻也對於特定領域（如醫療衛生）帶來新的創新契機。 今年與2009年（全球經濟危機時）相比，世界金融體系運作仍保持平穩，但用於資助創新型企業的資金，由於全球投資者對於疫情影響新創企業營利表現擔憂，資金的投入也連帶受到影響。而在創新融資方面，鎖定新創早期階段投資的創投公司為確保日後競爭力，轉向對當今熱門標的（如生命科學等）等進行投資，若屬於研發密集型新創企業（研發時間較長）及非投資熱點（區域）的企業，投資方面則所受疫情衝擊較大。 觀察全球主要國家，雖然皆制訂相關補助計劃用以緩解因疫情所帶來之衝擊，例如中短期欲透過貸款擔保爲企業提供支持。然而，這些補助措施並非直接爲創新和新創企業提供資金。儘管如此，專家對於全球科學和創新受COVID-19的影響也非全然悲觀，部分源自於全球對於資本回報的期待，也預估未來風險投資及創新也將轉向醫療衛生、遠距教學、大數據、電子商務、機器人等領域。
美國健康保險制度下的個人資料安全保護隱憂為降低美國人民在醫療保險費用的支出，同時加強管理現有的保險產業，同時提供美國人民一更易負擔的醫療保險制度，美國總統歐巴馬自上任以來遂特別加強推動美國健康保險制度，與相關現有醫療保險制度的建置與改革，並於2010年3月23日通過「病患保護與平價醫療法案」（The Patient Protection and Affordable Care Act，本法暱稱Obamacare），並計劃於今（2013）年10月正式啟動上路。 為集中且便利相關機構快速讀取單一個人之相關資訊，Obamacare計畫透過聯邦數據服務樞紐（The Federal Data Services Hub）的建置，彙整目前美國各單一政府單位所保有之全民個人資料，該類資料涵蓋個人醫療、教育、和財務等相關資訊，提供各州政府單位機關有需求時得以讀取。然而，儘管該服務樞紐的用意係為提供更完整的個人資料，然而其卻也因其本身具集中單一個人資料於一身的特性而受到各界的質疑。反對人士認為，由於該服務樞紐彙整龐大單一個人資料，因此若其未建立完善資訊安全機制，而遭受到不肖駭客入侵竊取個人資料的話，所造成的後果將影響甚遠，再加上未來將管理服務樞紐的美國衛生及公共服務部（The Department of Health and Human Services, HHS），遲遲未能讓外界信服其已建立充分的資訊安全保全系統來保障全美國人民的個人資料，因此反對人士對於該服務樞紐對於個人資料安全與隱私的保全能力感到堪慮。 根據美國隱私法（Privacy Act of 1974），美國政府需提供適當的隱私保全機制來保障美國人民的個人資料，同時，美國聯邦資訊安全管理法（Federal Information Security Management Act of 2002）亦要求美國政府需確保美國人民的個人資料不被濫用，故在該二法案的明文要求下，歐巴馬政府於推行Obamacare之際，相關資訊安全保全系統機制仍須符合標準始得合法運作。Obamacare上路在即，歐巴馬政府與相關部會該如何解決個人資料保護問題，其後續發展實值得觀察。
金融穩定委員會報告指出金融領域採用AI之模型、資料品質與治理風險.Pindent{text-indent: 2em;} .Noindent{margin-left: 2em;} .NoPindent{text-indent: 2em; margin-left: 2em;} .No2indent{margin-left: 3em;} .No2Pindent{text-indent: 2em; margin-left: 3em} .No3indent{margin-left: 4em;} .No3Pindent{text-indent: 2em; margin-left: 4em} 金融穩定委員會(Financial Stability Board, FSB)於2024年11月14日發布《人工智慧對金融穩定的影響》報告，探討人工智慧（Artificial Intelligence, AI）在金融領域的應用進展及對全球金融穩定的影響，分析相關風險並提出建議。 報告指出AI具有提升效率、加強法規遵循、提供個人化金融產品及進階資料分析等益處，但同時可能加劇某些金融部門的脆弱性（Vulnerability），進而構成金融穩定風險。報告特別提出之脆弱性包括：「第三方依賴及服務供應商集中化」、「市場相關性」、「資安風險」，以及「模型風險、資料品質和治理」。 在模型風險、資料品質與治理中，廣泛應用AI可能導致模型風險上升，因某些模型難以驗證、監控及修正，且模型的複雜性與透明性不足將增加尋找具獨立性和專業知識的驗證者的挑戰。此外，在大型語言模型（Large Language Model, LLM），大規模非結構化資料的使用及訓練資料來源的不透明性，使資料品質評估更加困難。特別是在預訓練模型（Pre-trained Model）中，金融機構對眾多資料來源的評估方式不熟悉，進一步增加管理難度。 若金融機構未建立健全的治理架構以審查AI的使用及其資料來源，模型風險與資料品質問題將難以控制。金融機構有責任應對與AI相關的模型風險和資料品質挑戰，包含對模型進行驗證、持續監控、執行結果分析和評估資料品質的預期要求。 報告呼籲各國金融主管機關加強對AI發展的監測，評估現行金融政策框架是否充分，並增強監管能力。建議可定期或不定期調查AI應用情形，並透過報告及公開揭露制度獲取相關資訊。此外，主管機關可考慮利用監督科技（SupTech）及監管科技（RegTech）等AI驅動工具強化監管效能，以應對AI在金融領域帶來的挑戰與風險。
美國寬頻進步報告：寬頻部署有顯著改善但數位落差持續存在根據美國聯邦通訊傳播委員會（Federal Communications Commission, FCC）於2016年之寬頻進步報告，美國現行之標準為業者必須提供下載速度至少達25Mbps與上傳速度至少達3Mbps之寬頻服務，相較於2010年所設立之標準─下載速度至少達4Mbps與上傳速度至少達1Mbps的寬頻服務，顯示出美國在寬頻部署上有明顯的進步。然而，目前仍有3400萬美國人民所使用之寬頻服務並未達到上述FCC所設立之標準（25Mbps/3Mbps）。 這份報告亦顯示，持續之數位落差（digital divide）導致40%生活在鄉村以及部落地區之人民所使用之寬頻服務並未達到上述FCC所設立之標準（25Mbps/3Mbps）。此外，E-rate計畫方案之持續推行，雖使許多學校之網路連線已有顯著改善，但仍有41%之學校未能符合FCC之短期目標，亦即這些學校之寬頻連線仍無法供應數位學習之應用。基於以上理由，2016年之寬頻進步報告總結：寬頻部署並未被適時並合理的（timely and reasonable）適用於全體美國人。 該份報告亦認為當今的通訊服務應以固網及行動寬頻服務（fixed and mobile broadband service）之方式提供，彼此的功能不同並能互補。然而，FCC尚未建立行動寬頻服務標準，因此，行動寬頻之部署尚未能反映在目前之評估。 依據1996年電信法第706條之規定，FCC必須每年報告先進通訊能力之部署，是否讓每位美國人民都能適時且合理的使用。國會所定義之「先進通訊能力」（advanced telecommunications capability）必須具高品質之能力，可讓使用者傳輸以及接收高品質之聲音、數據資料、照片以及影像服務。 此份報告重點總結如下： ●全面部署： 目前仍有3400萬美國人（約10%人口）無法接取固網下載速度至少達25Mbps與上傳速度至少達3Mbps之寬頻服務。然而，相較於去年之5500萬美國人（約17%人口）未能接取該寬頻服務，今年已有顯著的改善。 ●鄉村與城市間之數位落差仍待改善： 仍有39%之鄉村人口（2340萬人）以及41%之部落人口（160萬人）無法接取該寬頻服務（25Mbps/3Mbps）。相較於都市僅有4%之人無法接取該寬頻服務，發展上仍不平等。但相較於去年報告所示，有高達53%鄉村人口以及63%部落人口無法接取寬頻服務，城鄉發展不均之程度已有改善。 ●學校之寬頻速度： 全國僅有59%之學校達到FCC所設立之短期目標，亦即100Mbps可以供1000位學生使用，並有極少數之學校達到長程目標，即1Gbps可供1000位學生使用。 這份報告首次將衛星寬頻服務列入評估，FCC對於衛星寬頻服務適用與固網寬頻服務採用同樣之標準（25Mbps/3Mbps）。然而，在評估過程中，尚未有任合衛星寬頻服務符合FCC所採行之寬頻標準。