美國國家標準暨技術研究院規劃建立「人工智慧風險管理框架」，並徵詢公眾對於該框架之意見
美國國家標準暨技術研究院（National Institute of Standards and Technology, NIST）為管理人工智慧對於個人、組織以及社會所帶來之風險，於2021年7月29日提出將建立「人工智慧風險管理框架」（Artificial Intelligence Risk Management Framework, AI RMF）之規畫並徵詢公眾意見，截止日為9月15日，並預計於10月發布正式報告。
依照NIST說明，公眾所建議之人工智慧風險管理框架，可促進人工智慧之可信賴性，其中包含如何應對並解決人工智慧於設計、發展及使用過程中所遭遇之「精確度」（accuracy）、「可解釋性」（explainability）、「偏見」（bias）等議題。此外，上開管理框架預計為非強制性、供企業自願性使用於人工智慧設計、發展、使用、衡量及評估之人工智慧標準。
依現有公眾意見徵詢結果，其中DeepMind公司建議於人工智慧設計初期，必須預先構思整體系統之假設是否符合真正社會因果關係。舉例言之，當設計一套可預測民眾健保需求程度之系統時，如輸入參數僅考量民眾於醫療上的花費，將使僅有可負擔較高醫療費用之民眾被歸類為健保需求程度較高者，從而導致健保制度排擠經濟負擔程度較差之公民，故在設計系統時，應從預先設定之假設事實反面（counter-factual）思考並驗證是否會產生誤差或公平性之問題（例如預先思考並驗證「醫療費用支出較低之民眾是否即可被正確歸類為健保需求度低之民眾」）。惟進行上述驗證需要大量社會資料，因此DeepMind也建議NIST應建立相關機制，使這些社會資料可以被蒐集、使用。
此外，亦有民眾建議管理框架應有明確之衡量方法以及數值指標，以供工程界遵循。同時鑒於人工智慧發展極為快速，未來可能有不同於以往之人工智慧類型出現，故亦建議NIST應思考如何在「建構一套完整且詳細之人工智慧治理框架」與「保持人工智慧治理框架之彈性與靈活性」之間取得平衡。
最後，目前也有許多徵詢意見指出，許多人工智慧治理之目標會相互衝突。舉例言之，當NIST要求人工智慧系統應符合可解釋性，則人工智慧公司勢必需要經常抽取人工智慧系統中之「數據軌跡」（audit logs），惟數據軌跡可能被認為是使用者之個人資料，因此如何平衡或完善不同治理框架下之目標，為未來應持續關注之議題。
本文為「經濟部產業技術司科技專案成果」
王柏霳
法律研究員 編譯整理
National Security Commission on Artificial Intelligence, Final Report, https://www.nscai.gov/wp-content/uploads/2021/03/Full-Report-Digital-1.pdf (last visited, Sep. 28, 2021).
DeepMind, Request for Information: Artificial Intelligence Risk Management Framework, https://www.nist.gov/system/files/documents/2021/09/17/ai-rmf-rfi-0105.pdf (last visited, Sep. 28, 2021).
Comments Received for RFI on Artificial Intelligence Risk Management Framework, NIST, https://www.nist.gov/itl/ai-risk-management-framework/comments-received-rfi-artificial-intelligence-risk-management (last visited, Sep. 28, 2021).
AI RMF Development & Request for Information, NIST, https://www.nist.gov/itl/ai-risk-management-framework (last visited, Sep. 28, 2021).
〈歐盟提出人工智慧法律調和規則草案〉，資訊工業策進會科技法律研究所，https://stli.iii.org.tw/article-detail.aspx?no=55&tp=1&d=8674（最後瀏覽日期：2021/09/28）。
歐盟執委會（European Commission）於去（2011）年10月公布一份「建立共通性智慧讀表功能要項及影響因素（Set of Common Functional Requirements of the Smart Meter）」調查報告，對於各會員國發出問券，調查對於建設智慧讀表（智慧電網SmartGrid系統首要基礎）之經濟評估要項，藉此瞭解各國於推動建立，所考量之優先因素及差異性，並藉此彙整出「成本效益評估項目（Cost Benefit Assessments , CBAs)」，建立歐盟層級之共通性功能要項，以利後續其他會員國援用導入之政策工具。 以及，歐盟執委會所屬聯合研究中心（Joint Research Centre , JRC），於去（2011）年7月亦公布一份「歐盟智慧電網關鍵挑戰及發展趨勢（Smart Grids: New Study Highlights Key Challenges and Trends in the EU）」研究報告，指出歐盟各會員國現今已投入219個智慧電網計畫，總經費達5.5兆歐元以上，並設立展示（Showcases）網站，供外界瞭解推動進度；此研究報告並指出，要健全智慧電網發展，除了大規模投入經費資源建設外，更應重視各會員國對於原既有能源管制規範之體檢審視；該報告呼籲各會員國應積極建立新世代智慧電網規範，因為於現有管制規範下，常導向各國推動實務，多僅強調可降低系統運作支出成本，而不是直接朝向升級為智慧性整合體系而發展，於現有監管模式（Current Regulatory Models）下，縱使眾多投資於智慧電網，亦無法出現突破性發展。該報告並倡議，新世代管理規範，至少應建立服務平台運作原則及遵守規範，並導引效益之公平分享。 此外，歐盟執委會於去（2011）年4月間，關於智慧電網發展重要法制政策之關鍵議題，亦曾發布「智慧電網創新發展（Smart Grids: From Innovation to Deployment）」政策文件，其中明列發展智慧電網，首要應重視資料隱私及安全性議題（Addressing data privacy and security issues），亦必須建立共通性標準（Developing common European Smart Grids standards），及提供優惠政策措施，並且應確保消費者資料接取（Access）權利，保證維持公開競爭市場並鼓勵增進消費者利益之各項發展。
CAR-T細胞治療產品Yescarta美國專利侵權訴訟逆轉勝，CAFC認定專利不符書面說明要件而無效Gilead Sciences之子公司Kite Pharma（以下簡稱Kite）所推出之Yescarta®（Axicabtagene Ciloleucel）為治療復發型或難治型瀰漫性大B細胞淋巴瘤（Diffuse Large B-Cell Lymphoma, DLBCL）之CAR-T細胞治療產品，其為美國FDA第二個核准上市之CAR-T產品。 上述產品於2017年獲美國FDA核准上市後，Juno therapeutics公司隨即於美國加州中區聯邦地院起訴Kite，主張Yescarta侵害Juno therapeutics之美國7,446,190號專利「編碼嵌合T細胞受體之核酸（Nucleic acids encoding chimeric T cell receptors）」（以下簡稱190專利），2019年陪審團認定Kite成立專利侵權，裁定損害賠償額為7.78億美元；於2020年法院進一步認定Kite有蓄意侵權行為，再判定需增加50%之損害賠償金，使損害賠償總額超過11億美元。 本案上訴後，美國聯邦巡迴上訴法院（US Court of Appeals for the Federal Circuit, 以下簡稱 CAFC）於2021年8月26日推翻原審判決，認定190專利不符書面說明（Written Description）要件而無效。CAFC認為190專利請求項所請求之單鏈可變區片段抗體（single-chain variable fragment, scFv）結合部涵蓋過廣，包括可結合「任何」標的之「任何」scFv，惟其說明書未能提供其中之代表性物種（species）、或界定其共通結構特徵，於說明書中僅揭露可結合兩種不同標的之兩種scFv作為實施例，但未能說明此二物種如何、或是否能夠代表其所請求的整個上位之屬（genus）。CAFC指出，若要滿足書面說明要件之要求，說明書應揭露與代表性數量之標的結合之特定scFv物種，Juno雖提出專家證詞主張此二scFv實施例已具代表性，惟CAFC仍認為該證詞過於籠統而未能解釋何種scFv將與何種標的結合。CAFC指出，書面說明要件之目的在於確保專利排他權範圍不會超出發明人記載於說明書中之貢獻範圍，190專利發明人證稱其申請發明時只使用過說明書所載之兩個scFv實施例，且說明書未提供確認何種scFv將結合至何種標的之方法與指導，但190專利卻請求可與任何標的結合之scFv，因此，190專利之揭露內容未能證明發明人擁有結合至各種選定標的之所有可能scFvs，無法滿足書面說明要件之要求。 醫藥專利以上位請求項（genus claim）尋求保護時，可能因說明書記載內容不容易滿足書面說明與可據以實施（Enablement）要件而受到挑戰。除本案外，美國近期亦有數件醫藥專利因不符書面說明要件與可據以實施要件而被宣告無效，如Amgen Inc. v. Sanofi（Fed. Cir. 2021）、Idenix Pharmaceuticals LLC v. Gilead Sciences Inc.（Fed. Cir. 2019）、Enzo v. Roche（Fed. Cir. 2019），未來醫藥專利以上位請求項尋求保護是否會變得更加困難，值得繼續觀察。
世界經濟論壇發布《贏得數位信任：可信賴的技術決策》世界經濟論壇（World Economic Forum, WEF）於2022年11月15日發布《贏得數位信任：可信賴的技術決策》（Earning Digital Trust: Decision-Making for Trustworthy Technologies），期望透過建立數位信任框架（digital trust framework）以解決技術開發及使用之間對數位信任之挑戰。 由於人工智慧及物聯網之發展，無論個人資料使用安全性還是演算法預測，都可能削弱人民對科技發展之信賴。本報告提出數位信任路線圖（Digital trust roadmap），說明建立數位信任框架所需的步驟，以鼓勵組織超越合規性，指導領導者尋求符合個人與社會期望之全面措施行動，以實現數位信任。路線圖共分為四步驟： 1.承諾及領導（commit and lead）：數位信任需要最高領導階層之承諾才能成功，故需將數位信任與組織戰略或核心價值結合，並從關鍵業務領域中（例如產品開發、行銷、風險管理及隱私與網路安全）即納入數位信任概念。 2.規劃及設計（plan and design）：透過數位信任差距評估（digital trust gap assessment）以瞭解組織目前之狀態或差距，評估報告應包括目前狀態說明；期望達成目標建議；治理、風險管理與合規性（governance, risk management and compliance, GRC）調查結果；將帶來之益處及可減輕之風險；計畫時程表；團隊人員及可用工具；對組織之影響等。 3.建立及整合（build and integrate）：實現數位信任需關注人員、流程及技術等三大面向。首先需確保人員能力、達成該能力所需之資源，以及人員溝通與管理；第二，定義組織數位信任流程，包括制定計劃所需時程、預算及優先實施領域，調整目前現有管理流程，並識別現有資料資產；最後，針對技術使用，可考慮使用AI監控、雲端管理系統以及區塊鏈等，以監測資料之使用正確性及近用權限管理。 4.監控及滾動調整（monitor and sustain）：建立數位信任框架後，需持續建構相關績效及風險評估程序，以確保框架之穩定，並根據不斷變化的數位信任期望持續改善，以及定期向董事會報告。
歐盟《5G網絡安全風險聯合評估報告》歐盟執委會（European Commission, EC）於2019年10月9日發布《5G網絡安全風險聯合評估報告》（report on the EU coordinated risk assessment on cybersecurity in Fifth Generation networks），為執委會調查歐盟成員國家5G網路安全風險評鑑。該評估報告將由歐盟網路與資訊安全局（European Union Agency for Network and Information Security, ENISA）後續進一步分析歐盟發展5G行動通訊所帶來的網路安全威脅。 報告中顯示，5G網路的安全挑戰，主要來自(1)5G技術關鍵創新：尤其是5G軟體重要組成部分與5G廣泛的服務和應用等技術創新，以及技術創新所帶來的安全性更新；(2)供應商：若5G通訊營運業者對供應商過度依賴，會導致攻擊者可利用的攻擊路徑的增加。 5G網路開展將帶來許多影響，包含： 隨著5G網路軟體發展，攻擊者有更多潛在切入點；與軟體有關的安全風險漏洞管理十分重要，供應商內部不良的軟體開發流程會使攻擊者容易將惡意軟件植入後門，且難以被發現。 對單一供應商的依賴也會帶來風險增加，包含供應鏈中斷風險、增加供應商變更成本、供應商受到非歐盟國家有意介入的可能性、以及在產品供應瑕疵的情況下營運業者難以採行應變措施等。 隨著5G網絡作為許多關鍵資通訊應用的骨幹，對5G網路可用性、完整性、機密性的威脅將成為國家安全隱憂，也是歐盟未來需要面對的最大的網路安全挑戰。