美國國家標準暨技術研究院規劃建立「人工智慧風險管理框架」，並徵詢公眾對於該框架之意見
美國國家標準暨技術研究院（National Institute of Standards and Technology, NIST）為管理人工智慧對於個人、組織以及社會所帶來之風險，於2021年7月29日提出將建立「人工智慧風險管理框架」（Artificial Intelligence Risk Management Framework, AI RMF）之規畫並徵詢公眾意見，截止日為9月15日，並預計於10月發布正式報告。
依照NIST說明，公眾所建議之人工智慧風險管理框架，可促進人工智慧之可信賴性，其中包含如何應對並解決人工智慧於設計、發展及使用過程中所遭遇之「精確度」（accuracy）、「可解釋性」（explainability）、「偏見」（bias）等議題。此外，上開管理框架預計為非強制性、供企業自願性使用於人工智慧設計、發展、使用、衡量及評估之人工智慧標準。
依現有公眾意見徵詢結果，其中DeepMind公司建議於人工智慧設計初期，必須預先構思整體系統之假設是否符合真正社會因果關係。舉例言之，當設計一套可預測民眾健保需求程度之系統時，如輸入參數僅考量民眾於醫療上的花費，將使僅有可負擔較高醫療費用之民眾被歸類為健保需求程度較高者，從而導致健保制度排擠經濟負擔程度較差之公民，故在設計系統時，應從預先設定之假設事實反面（counter-factual）思考並驗證是否會產生誤差或公平性之問題（例如預先思考並驗證「醫療費用支出較低之民眾是否即可被正確歸類為健保需求度低之民眾」）。惟進行上述驗證需要大量社會資料，因此DeepMind也建議NIST應建立相關機制，使這些社會資料可以被蒐集、使用。
此外，亦有民眾建議管理框架應有明確之衡量方法以及數值指標，以供工程界遵循。同時鑒於人工智慧發展極為快速，未來可能有不同於以往之人工智慧類型出現，故亦建議NIST應思考如何在「建構一套完整且詳細之人工智慧治理框架」與「保持人工智慧治理框架之彈性與靈活性」之間取得平衡。
最後，目前也有許多徵詢意見指出，許多人工智慧治理之目標會相互衝突。舉例言之，當NIST要求人工智慧系統應符合可解釋性，則人工智慧公司勢必需要經常抽取人工智慧系統中之「數據軌跡」（audit logs），惟數據軌跡可能被認為是使用者之個人資料，因此如何平衡或完善不同治理框架下之目標，為未來應持續關注之議題。
本文為「經濟部產業技術司科技專案成果」
王柏霳
法律研究員 編譯整理
National Security Commission on Artificial Intelligence, Final Report, https://www.nscai.gov/wp-content/uploads/2021/03/Full-Report-Digital-1.pdf (last visited, Sep. 28, 2021).
DeepMind, Request for Information: Artificial Intelligence Risk Management Framework, https://www.nist.gov/system/files/documents/2021/09/17/ai-rmf-rfi-0105.pdf (last visited, Sep. 28, 2021).
Comments Received for RFI on Artificial Intelligence Risk Management Framework, NIST, https://www.nist.gov/itl/ai-risk-management-framework/comments-received-rfi-artificial-intelligence-risk-management (last visited, Sep. 28, 2021).
AI RMF Development & Request for Information, NIST, https://www.nist.gov/itl/ai-risk-management-framework (last visited, Sep. 28, 2021).
〈歐盟提出人工智慧法律調和規則草案〉，資訊工業策進會科技法律研究所，https://stli.iii.org.tw/article-detail.aspx?no=55&tp=1&d=8674（最後瀏覽日期：2021/09/28）。
美國國家創新與創業諮詢委員會（National Advisory Council on Innovation and Entrepreneurship, NACIE）於2024年2月8日發布「透過創業提高競爭力：美國創新策略」（Competitiveness Through Entrepreneurship: A Strategy For U.S. Innovation）報告，其確定改善與協助美國創業精神之三大關鍵領域，並提出十項建議，敦促政府消除創業活動障礙，增加新創公司獲得人才、資金之機會。 NACIE由企業家、創新者、投資人、學者與經濟發展領導者組成。由商務部長責成其確定如何使美國繼續成為改變典範之創新來源、以及將創新推向市場之泉源。NACIE於此報告中所確認之三大關鍵領域與十項建議之內涵簡述如下： （1）關鍵領域1：發展未來產業（Growing the Industries of the Future） 美國雖於能源、自動化、人工智慧、量子科學與生物科技等創新領域取得商業上之成功，但對於產業創新仍存有四大威脅，包括國家機關間之協調、研發投資之持續減少、大學研發產品商業化受阻與境外製造之風險。 建議1： 成立國家創新委員會（National Innovation Council），由科學技術政策辦公室主任（Director of the Office of Science & Technology Policy）擔任主席，成員包括相關內閣秘書、國家科學基金會（NSF）主任、美國專利商標局（USPTO）局長與美國首席技術長（Chief Technology Officer, CTO），倡導全國創新與創業並協調相關聯邦政府活動。 建議2： 恢復與擴大國家投資，使創新登月計畫成為可能—大幅增加聯邦對關鍵技術之研發投資，使美國在未來成長產業中發揮領導作用。 建議3： 啟動國家創新加速器網路（National Innovation Accelerator Network, NIAN）—一個由加速器、輔導、投資計畫與創業支持組織組成之虛擬“網路中之網路”（“network of networks”），旨在大規模增強社會各方面之包容性創業能力。 建議4： 為聯邦資助之研究與開發提供智慧財產權激勵措施；制定政策與激勵措施，促進聯邦政府資助之創新廣泛傳播與商業化；並促進將聯邦資助創新進行國內製造。 建議5： 積極與創新者、企業家與資助者合作，確保其擁有足夠之智慧財產權與網路安全教育與資源來保護其之想法與業務，並接受培訓以能夠識別與防止外國公司或國家潛在之智慧財產權盜竊。 （2）關鍵領域2：獲取資本（Accessing Capital） 美國前七大上市公司全部皆由創投所支持，於1990至2020年間，相較於私部門之雇用率上升40%，同一時期由創投支持之公司雇用率成長達960%；美國創投規模亦居於全球之冠，甚至某些城市之創投規模已超過其他國家，如2021年紐約之創投規模即相當於印度全國之規模。惟美國創投之問題在於投資機會未能平等，如女性、有色人種、非都會區較難獲得創投投資。 建議6： 透過制定新聯邦計畫，擴大企業家之成長資金管道，以支持各地更多企業家，特別是通常未受足夠服務之企業家。 建議7： 透過擴大直接資助與基於激勵（incentive-based）之聯邦計畫，增加資金並為新興基金經理提供機會，以便於全國更多處皆能有更多具有各種人口背景與專業之投資人。 建議8： 向投資於研發、種子輪或A 輪融資新創公司、女性與少數族群擁有之新創公司、以及保護與授權智慧財產權之公司與個人提供年度稅收抵免與激勵措施。 （3）關鍵領域3：培養創業人才（Developing Entrepreneurial Talent） 人才對於創業生態系之完整建構至為重要，美國一半以上之10億美元公司由移民創辦，三分之二之獨角獸公司由移民創辦或共同創辦，這些公司之創辦人中有25%是國際學生。 建議9： 透過提供導師、支持服務資金以及幫助吸引與培養關鍵人才，全面支持新高潛力企業家，旨在增加美國新創公司之數量與影響力。 建議10： 有系統地提供支持創業之工具與資源，打破任何人、任何地方之障礙，為新創業企業做出貢獻，以便美國未來能更快地創新。
歐盟會員國要求分享DNA資料庫歐盟十五個會員國為強化對抗恐怖攻擊、跨邊境犯罪及非法遷徙之國際合作，於2007年3月28日提出有關資料分享的立法草案，以期歐盟能夠建立一套資料分享的機制與架構。立法草案明確規範了各成員國就資料保護所應給予的等級，其必須保證個人資料保護必須達到與1980年歐洲理事會（Council of Europe）通過的「保護自動化處理個人資料公約（Convention for the Protection of Individuals with Regard to Automatic Processing of Personal Data）」及其於2001年通過的附加議定書相同等級。 該立法草案係根據「Prüm條約」而來，其條約簽署背景為2004年馬德里的恐怖組織炸彈攻擊事件，有鑑打擊恐怖攻擊及跨國犯罪之國際合作，歐盟七個會員國於2005年5月27日在德國、比利時及盧森堡邊境的城市Prüm，簽訂了該條約。條約中規定，簽署國之警察及刑事追訴機關執法於恐怖攻擊及跨邊境犯罪時，得向他簽署國處理相關資料之單位請求有關DNA之分析資料、指紋及相關車籍資料。 目前，歐盟資料保護監督機構（European Data Protection Supervisor）已背書支持建立該機制與架構，並且聲明表示，該架構之建立，仍應注意資料保護的相關事項，在追求資料分享更為便利的同時，應給予人民更為足夠的保護，再者，資料處理的權責單位對於不同的資料類型，也應以不同的方式處理之，越敏感性的資料越應限制其使用目的，並且讓越少人得以接觸。
美國國際消費電子展研討會討論有關打擊專利蟑螂議題 美國加州日前開始審查輕量自動駕駛運輸載具應用之測試申請美國加州行政法辦公室（the Office of Administrative Law）於2019年12月17日宣布，根據日前通過之修訂規範，該州車輛管理局（the Department of Motor Vehicles）將審查州內公共道路上進行輕型自動駕駛（下稱自駕）運輸服務商業化應用測試之申請，換言之，業者如取得車輛管理局之核准，可以測試重量未達10,001磅之自駕運輸車輛（如一般客車、中型貨車、可載運雜貨類商品的客貨兩用車等）服務。另外，業者如欲就該自駕運輸服務收取運輸費用，則必須另向車輛管理局申請佈署（deployment）許可，即商業化或供公眾使用之許可。 不論何種自駕運輸車輛服務之測試，均須遵循現行測試、佈署之申請程序要求，並根據車輛管理局的核准內容進行有或無安全性駕駛人（safety driver）的自駕運輸服務測試，簡要整理不同規範要求如下： 如為有安全性駕駛人之測試與應用，有以下要求： 證明車輛已經曾在符合應用目的之情境（如駕駛環境）下進行測試。 維持測試駕駛人（test driver）的培訓規劃，並且證明每位測試駕駛人均完成培訓。 確保測試駕駛人維持潔淨（clean）的駕駛記錄。 確保測試駕駛人在測試期間乘坐在駕駛座上監控車輛的運行狀況，並在有需要的時候可以即時接管車輛。 須提交年度脫離（或譯為解除自駕）報告（disengagement report），且如有發生碰撞，須於10日內提交碰撞報告予車輛管理局。 如為無安全性駕駛人之測試與應用，有以下要求： 提供測試自駕運輸服務所在地方當局之書面通知以茲證明。 證明自駕測試車輛符合以下要求： (1)車輛與遠端遙控操作者間具有通訊連結。 (2)車輛與執法部門間的通訊方式。 (3)製造商將如何監控測試車輛之說明 提交一份與執法部門如何互動交流的計畫。 證明自駕測試車輛符合聯邦機動車輛安全標準（FMVSS），或提供國家公路交通安全管理局（NHTSA）之豁免監管證明。 證明自駕測試車輛可以在沒有駕駛人存在的情況下可以自主運行，並屬於美國汽車工程師協會（SAE）標準等級4、等級5之車輛。 證明測試車輛已經曾在符合應用目的之情境（如駕駛環境）下進行測試。 通知車輛管理局將要測試營運的區域範圍。 維持遠端遙控操作相關培訓規劃，並證明每位遠端遙控操作者均完成培訓。 須提交年度脫離報告，且如有發生碰撞，須於10日內提交碰撞報告予車輛管理局。 如自駕運輸服務擬商業化或供公眾使用，申請佈署之相關要求如下： 證明車輛： (1)配備自駕車輛資料紀錄器，此技術是根據加州車輛法規（California Vehicle Code）設計來偵測並反應道路實際狀況 (2)符合聯邦機動車輛安全標準或提供國家公路交通安全管理局之豁免監管證明。 (3)符合現行關於網路攻擊、非經授權侵入或錯誤車輛控制指令之防護、偵測與回應等產業標準。 (4)製造商曾進行測試與驗證，並有足夠信心將車輛佈署於公用道路上。 提交一份與執法部門如何互動交流的計畫複本。 如果車輛不需要駕駛員，製造商必須證明其他事項： (1) 車輛與遠端遙控操作者間具有通訊連結。 (2) 當碰撞事故發生時，車輛可以顯示或傳輸相關資訊予車輛所有人或操作員。 綜上所述，若要在加州進行自駕運輸車輛服務測試，須視其服務型態及是否涉及佈署，以遵循不同規範要求，申言之，服務採行有無安全性駕駛人與是否商業化或供公眾使用，二者為併行關係，舉例來說，如業者擬佈署有安全性駕駛人之商業運輸服務，則須同時符合有安全性駕駛人之測試與應用以及佈署等要求。加州對於自駕車輛運輸服務商業化之措舉，值得我國借鏡以完善自駕車輛運輸應用之推動。