美國國家標準暨技術研究院規劃建立「人工智慧風險管理框架」，並徵詢公眾對於該框架之意見
美國國家標準暨技術研究院（National Institute of Standards and Technology, NIST）為管理人工智慧對於個人、組織以及社會所帶來之風險，於2021年7月29日提出將建立「人工智慧風險管理框架」（Artificial Intelligence Risk Management Framework, AI RMF）之規畫並徵詢公眾意見，截止日為9月15日，並預計於10月發布正式報告。
依照NIST說明，公眾所建議之人工智慧風險管理框架，可促進人工智慧之可信賴性，其中包含如何應對並解決人工智慧於設計、發展及使用過程中所遭遇之「精確度」（accuracy）、「可解釋性」（explainability）、「偏見」（bias）等議題。此外，上開管理框架預計為非強制性、供企業自願性使用於人工智慧設計、發展、使用、衡量及評估之人工智慧標準。
依現有公眾意見徵詢結果，其中DeepMind公司建議於人工智慧設計初期，必須預先構思整體系統之假設是否符合真正社會因果關係。舉例言之，當設計一套可預測民眾健保需求程度之系統時，如輸入參數僅考量民眾於醫療上的花費，將使僅有可負擔較高醫療費用之民眾被歸類為健保需求程度較高者，從而導致健保制度排擠經濟負擔程度較差之公民，故在設計系統時，應從預先設定之假設事實反面（counter-factual）思考並驗證是否會產生誤差或公平性之問題（例如預先思考並驗證「醫療費用支出較低之民眾是否即可被正確歸類為健保需求度低之民眾」）。惟進行上述驗證需要大量社會資料，因此DeepMind也建議NIST應建立相關機制，使這些社會資料可以被蒐集、使用。
此外，亦有民眾建議管理框架應有明確之衡量方法以及數值指標，以供工程界遵循。同時鑒於人工智慧發展極為快速，未來可能有不同於以往之人工智慧類型出現，故亦建議NIST應思考如何在「建構一套完整且詳細之人工智慧治理框架」與「保持人工智慧治理框架之彈性與靈活性」之間取得平衡。
最後，目前也有許多徵詢意見指出，許多人工智慧治理之目標會相互衝突。舉例言之，當NIST要求人工智慧系統應符合可解釋性，則人工智慧公司勢必需要經常抽取人工智慧系統中之「數據軌跡」（audit logs），惟數據軌跡可能被認為是使用者之個人資料，因此如何平衡或完善不同治理框架下之目標，為未來應持續關注之議題。
本文為「經濟部產業技術司科技專案成果」
王柏霳
法律研究員 編譯整理
National Security Commission on Artificial Intelligence, Final Report, https://www.nscai.gov/wp-content/uploads/2021/03/Full-Report-Digital-1.pdf (last visited, Sep. 28, 2021).
DeepMind, Request for Information: Artificial Intelligence Risk Management Framework, https://www.nist.gov/system/files/documents/2021/09/17/ai-rmf-rfi-0105.pdf (last visited, Sep. 28, 2021).
Comments Received for RFI on Artificial Intelligence Risk Management Framework, NIST, https://www.nist.gov/itl/ai-risk-management-framework/comments-received-rfi-artificial-intelligence-risk-management (last visited, Sep. 28, 2021).
AI RMF Development & Request for Information, NIST, https://www.nist.gov/itl/ai-risk-management-framework (last visited, Sep. 28, 2021).
〈歐盟提出人工智慧法律調和規則草案〉，資訊工業策進會科技法律研究所，https://stli.iii.org.tw/article-detail.aspx?no=55&tp=1&d=8674（最後瀏覽日期：2021/09/28）。
世界智慧財產權組織（World Intellectual Property Organization, WIPO）於2020年9月2日發表「2020年全球創新指數報告」（Global Innovation Index 2020, GII 2020），報告中比較131個經濟體之最新全球創新趨勢。GII為一年一度發行之報告，除了比較不同經濟體的創新指數外，每年會挑選不同創新議題進行深度研究，2020年研究主題為「誰投資創新？」（WHO WILL FINANCE INNOVATION?）。 GII的報告評比，區分為七大指標分別為：組織機構（Institutions）、研發與人力資源（Human capital and research）、基礎建設（Infrastructure）、市場成熟度（Market Sophistication）、企業成熟度（Business sophistication）、知識技術產出（Knowledge and technology outputs）以及創意產出（Creative outputs）。其下再區分為21個次標和80個小標例如政府效能（Government effectiveness）、法規範環境建構（Regulatory environment）、教育支出占GDP比例、外國學生比例、R&D支出占GDP比例、生態永續度、高科技出口、資通訊服務出口等。2020年評比全球創新指數最高的10個國家排名分別為：瑞士、瑞典、美國、英國、荷蘭、丹麥、芬蘭、新加坡、德國和南韓，均為高所得國家；這也是南韓第一次躋身進入前10名。 另外報告中亦說明，2020年COVID-19大流行引發前所未有的經濟停滯。在COVID-19爆發之前，研發支出成長明顯快於全球GDP成長，創業投資（Venture capital）和IP應用達到高峰，但疫情發生的現階段全球經濟成長大幅度下降。然而經濟成長停滯之下，突破性技術創新的潛力仍在繼續存在，例如許多仍保有現金流的大型ICT企業仍持續推動數位創新，製藥技術與生物科技產業的研發支出大量增加，健康產業研發也受到重點關注。此外，COVID-19危機亦會促進傳統產業（例如旅遊、教育和零售等）之創新，以及改變企業在本地或全球之生產工作組織方式。而在各國政府為忙於制定緊急救濟計畫（emergency relief packages），以緩解地域封鎖所造成的負面影響和經濟衰退的同時，這些緊急救濟計畫對新創公司之融資多半不夠明確，到目前為止，各國政府並沒有創新研發作為當前刺激經濟計畫中的優先事項（priority）。 報告中針對「誰投資創新？」之主題，統計數據顯示創新金融（Innovation finance）雖然受疫情影響有所下降，但金融體系尚屬健全。惟資助新創企業的資金正在枯竭（drying up），北美、亞洲和歐洲地區的創業投資交易也急劇下降，幾乎看不到首次公開發行（IPO）。即使是倖存下來的新創公司，其盈利能力和對創投者（Venture Capitalist）的吸引力也在下降。也因為疫情影響，創投者減少對創新、小型和多元化的新創事業提供資金，取而代之關注所謂的「大型交易」（mega-deals），也就是資助大型企業的發展，並將投資領域轉向健康、線上教育（online education）、大數據、電子商務和機器人科技。此外，報告中亦說明近期創投多半集中在可以短期得到報酬的創新事業，例如資通訊軟體及服務、消費性產品服務、金融商品等，取得創投機構大量資金。相較之下，若研發較為複雜的前瞻科學技術，反而取得之資金較少；同時COVID-19惡化此現象，使研發期較長之產業和企業面臨更嚴峻的財務限制。
美國制訂「促進政府資訊開放」行政命令及推動「藍色按鈕倡議」計畫美國歐巴馬總統於2013年5月9日正式簽署「促進政府資訊開放並利機器讀取」行政命令（Executive Order 13642–Making Open and Machine Readable the New Defaut for Government Information），推崇聯邦政府過去釋出氣候、全球定位系統（GPS）等資訊對於私部門產業創新及新創事業（entrepreneurship and star-up）之正面影響，盼未來所有新增加的政府資料在資訊安全和隱私權雙重確保之前提下，將開放以可供機器可讀取之格式給公共大眾，帶動整體經濟正面循環發展。之前，美國推動聯邦政府資料開放政策，重要者為白宮科學技術政策辦公室（Office of Science and Technology Policy, OSTP）於2009年3月份啟動「開放政府倡議」（Open Government Initiative），民眾可透過「Data.gov」入口網站 ，取得高價值、機器可讀取之聯邦政府資料。 近年來，在公部門政府政策鼓勵導引下，不同的產業也逐漸發展出適用於特定產業的共同互通性標準（sectoral interoparability）。以醫療衛生領域為例，從2010年開始，歐巴馬總統乃宣布「藍色按鈕倡議」（Blue Button Initiative），病患得透過特定網頁（web-based）簡易下載其健康資訊（health information），並可供重複利用的格式下；同時，患者也可以選擇將該資訊分享給健康照護提供者（health care provider）、保險公司和信任的第三者（trusted third parties）。該倡議更挑戰軟體開發者（developer）在藍色按鈕的基礎上，開發更多的Apps軟體，使當事人更容易去管理掌控自身健康的狀況。在能源科技領域，近似於藍色按鈕倡議，白宮幕僚科技長Aneesh Chopra於2011年9月，也發起了「綠色按鈕倡議」（green button initaitive），挑戰美國境內大小事業單位（utilities）投入參與該倡議，研發一個機器可讀取之開放格式（a machine-readable open format），使消費者得透過連線網路重複近取之。 有鑒於網際網路開放的特性，且近年來來自外國網路攻擊不斷，於2013年2月份，NIST與國際間重要標準組織，如ISO、IEC和IEEE，首度就感應網絡（sensor networks）、機器對機器（M2M）和智慧聯網（IoT），提出一個跨界面之共通標準計畫（ISO/IEC/IEEE P21451-1-4 XMPP），該共通標準計畫內容包含: 封包傳輸（檢測）、全球獨特辨識、政策控制和加密，此共通標準得確保未來巨量資料領域資料近取之安全性 。