美國國家標準與技術研究院公布人工智慧風險管理框架（AI RMF 1.0）
美國國家標準與技術研究院（National Institute of Standards and Technology, NIST）於2023年1月26日公布「人工智慧風險管理框架1.0」（Artificial Intelligence Risk Management Framework, AI RMF 1.0），該自願性框架提供相關資源，以協助組織與個人管理人工智慧風險，並促進可信賴的人工智慧（Trustworthy AI）之設計、開發與使用。NIST曾於2021年7月29日提出「人工智慧風險管理框架」草案進行公眾徵詢，獲得業界之建議包含框架應有明確之衡量方法以及數值指標、人工智慧系統設計時應先思考整體系統之假設於真實世界中運作時，是否會產生公平性或誤差的問題等。本框架將隨著各界使用後的意見回饋持續更新，期待各產業發展出適合自己的使用方式。
本框架首先說明人工智慧技術的風險與其他科技的差異，定義人工智慧與可信賴的人工智慧，並指出設計該自願性框架的目的。再來，其分析人工智慧風險管理的困難，並用人工智慧的生命週期定義出風險管理相關人員（AI actors）。本框架提供七種評估人工智慧系統之信賴度的特徵，包含有效且可靠（valid and reliable）：有客觀證據證明人工智慧系統的有效性與系統穩定度；安全性（safe）：包含生命、健康、財產、環境安全，且應依照安全風險種類決定管理上的優先次序；資安與韌性（secure and resilient）；可歸責與資訊透明度（accountable and transparent）；可解釋性與可詮譯性（explainable and interpretable）；隱私保護（privacy-enhanced）；公平性—有害偏見管理（fair – with harmful bias managed）。
本框架亦提出人工智慧風險管理框架核心（AI RMF Core）概念，包含四項主要功能：治理、映射（mapping）、量測與管理。其中，治理功能為一切的基礎，負責孕育風險管理文化。各項功能皆有具體項目與子項目，並對應特定行動和結果產出。NIST同時公布「人工智慧風險管理框架教戰手冊」（AI RMF Playbook），提供實際做法之建議，並鼓勵業界分享其具體成果供他人參考。
本文為「經濟部產業技術司科技專案成果」
陳箴
專案經理 編譯整理
National Institute of Standards and Technology, Artificial Intelligence Risk Management Framework (AI RMF 1.0) (2023), https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.100-1.pdf (last visited Feb. 16, 2023).
NIST AI Risk Management Framework Playbook, National Institute of Standards and Technology, https://pages.nist.gov/AIRMF/ (last visited Feb. 16, 2023).
AI RISK MANAGEMENT FRAMEWORK, National Institute of Standards and Technology, https://www.nist.gov/itl/ai-risk-management-framework (last visited Feb. 16, 2023).
對於該框架之意見，資訊工業策進會科技法律研究所，https://stli.iii.org.tw/article-detail.aspx?no=66&tp=1&d=8727（最後瀏覽日：2023/02/16）。
美國參議院於2022年4月提出《演算法問責法案》對演算法治理再次進行立法嘗試，資訊工業策進會科技法律研究所，https://stli.iii.org.tw/article-detail.aspx?tp=1&d=8912&no=64（最後瀏覽日：2023/02/16）。
美國情報體系發布「情報體系運用人工智慧倫理架構」，資訊工業策進會科技法律研究所，https://stli.iii.org.tw/article-detail.aspx?no=64&tp=1&d=8520（最後瀏覽日：2023/02/16）。
加拿大政府提交予國會《人工智慧資料法案》，資訊工業策進會科技法律研究所，https://stli.iii.org.tw/article-detail.aspx?tp=1&d=8888&no=64（最後瀏覽日：2023/02/16）。
英國政府提交予國會「人工智慧監管規範政策報告」，資訊工業策進會科技法律研究所，https://stli.iii.org.tw/article-detail.aspx?tp=1&d=8891&no=64（最後瀏覽日：2023/02/16）。
英國數位、文化、媒體暨體育部（Department for Digital, Culture, Media & Sport）於2020年9月9日發布「國家資料戰略」（National Data Strategy），作為英國規劃其政府資料流通運用的整體性框架。數位、文化、媒體暨體育部長Oliver Dowden表示，資料為驅動現代社會經濟發展的關鍵。於今年COVID-19的全球疫情流行期間，政府、企業、組織等彼此及時共享重要資訊，除達成了防疫目標，更維繫了各層面的經濟生活。因此，本戰略則規劃活用此段期間獲得的知識與經驗，試圖透過資料的釋出流通與運用，讓英國經濟自COVID-19疫情中復甦，提高生產力與創造新型業態，改善公共服務，並使之成為推動創新的樞紐。 為優化英國資料的運用，本戰略提出了四個核心面向：（1）資料基礎（data foundation）：資料應以標準化格式，且符合可發現（findable）、可取用（accessible）、相容性（interoperable）與可再利用（reusable）的條件下記載；（2）資料技能（data skills）：應藉由教育體系等培養一般人運用資料的技能；（3）提升資料可取得性（data availability）：鼓勵於公共、私人與第三部門加強協調、取用與共享具備適切品質的資料，並為國際間的資料流通提供適當的保護；（4）負責任的資料（responsible）：確保各方以合法、安全、公平、道德、可持續、和可課責（accountable）的方式使用資料，並支援創新與研究。 基此，本戰略進一步提示了五個優先任務：（1）釋出資料的整體經濟價值：建立適切的條件，使資料在經濟體系內可取得且具備可取用性，同時保護私人的資料權（data rights）、以及企業的相關智慧財產權；（2）建構具發展性且可信賴的資料機制：協助企業家與新創人士以負責任及安全的方式使用資料，避免產生監管上的不確定性或風險，並藉以推動經濟發展。同時，也期待藉由機制的建立，鼓勵公眾參與資料的數位經濟應用；（3）改變政府運用資料的方式，提升效率及改善公共服務：以COVID-19疫情期間政府對資料積極運用為契機，推動政府間的整體資料有效管理、使用與共享措施，為相關作法建構一致性的標準與最佳實踐方式；（4）建立資料基礎設施的安全性與彈性：資料基礎設施為國家關鍵資產，應避免其遭遇安全或服務中斷的風險，進而導致資料驅動的相關業務或組織服務中斷；（5）推動國際資料流（international flow of data）：與國際夥伴合作，確保資料的流通運用不會因各地域的制度不同，而受到不當限制。
歐洲議會初步通過化妝品新法案，奈米化妝品成為規範之列奈米科技在化妝品領域之應用實例日益增多，對於此類產品之管理趨向也成各界關注的重點，可惜國際間遲遲未有突破性進展。 今(2009)年3月24日，歐洲議會初步通過化妝品規則之新法提案（提案編號：COM(2008)0049-c6-0053/2008-2008/0035(COD)），未來若獲正式通過，將可直接適用於歐盟各國。 就實質內容而言，歐盟在該規範中首次納入奈米科技之考量。其所界定之奈米材料為：「一種具有非溶解、抗生物性之材料，係經由人為單一或多次外部切割或內部建構，尺寸範圍在1至100奈米之間」。為確保奈米化妝品之安全性，該規範透過強制通報、安全評估，以及禁止使用有害人體健康之物質等機制進行管理。此外，化妝品倘若含有或使用奈米材料，製造人必須在產品包裝上之內容物清單中加以標明。 歐洲議會是以633位之多數票一讀通過了該法案，不過也有29位投票反對、11位放棄表示意見。 此外，各界對此立法之反應不一，消費者團體認為應儘早實施該法案；歐洲議會綠黨議員則對法案中的奈米材料之定義不予認同。 根據歐盟執委會評估，目前約有5%的化妝品使用奈米材料，主要是市面上銷售之防曬油、口紅以及抗老化乳霜。隨著此項運用趨勢的發展，很多消費者團體抱怨立法過於緩慢而無法趕上市售產品之發展腳步，而本次立法可望為奈米化妝品之管理開展新的契機與方向。
歐盟個資保護委員會大致認定南韓個資保護法具適足性認定，但須進一步評估歐盟個資保護委員會（EDPB）今（2021）年9月27日，就與南韓個人資料保護法（Personal Information Protection Act, PIPA）之適足性認定草案發表意見，認為南韓的個資保護框架與歐盟大致相同。但EDPB 同時也指出，在歐盟執委會做出決定之前，某些部分仍需要釐清。釐清的部分包含： 今年6月歐盟執委會公布並通過的適足性認定草案中，該草案之可執行性與有效性不應僅拘束南韓個資保護機構，也應對司法機構具有效力。除此之外，EDPB 也針對南韓PIPA 免除多項匿名化資訊之義務提出質疑；又南韓相關法令對「同意」之撤銷（或撤回）事由有所限定，應確保其對資料主體「同意」之保障持續符合適足性認定的要求。 至於在資料進一步移轉（onward transfers）方面，EDPB 認為即便資料主體知悉並同意其個資傳輸，仍應告知其資料是否會移轉到第三國之相關風險；以及若個資主體的同意無法符合GDPR 對有效同意之定義時（例如雙方地位不對等時，該同意即非有效），該個資不會從南韓之資料控管者傳輸至第三國；在對此議題南韓未具體修訂相關法令時，與國安相關的個資若進一步移轉，是否會受到憲法框架（如比例原則）和PIPA 中個資保護原則的充分保障？ 而在行政部門存取傳輸到南韓的個資方面，許多議題也需要釐清並引起關注。如與國安方面相關的個資處理，係受PIPA 抑或其他更為限縮的法令限制？又電信業者自願向國安部門揭露使用者個資時，必須同時通知相關的個資主體；EDPB 並希望歐盟執委會釐清，若歐洲經濟區（EEA）內的個人向南韓個資保護機構或司法機構提出救濟時，相關的救濟程序是否實質有效（例如舉證責任的規定為何）？ 於新聞稿中，EDPB 主席 Andrea Jelinek 表示：「歐盟對此適足性認定相當重視，因其將涵蓋公部門與私部門資料的傳輸。而適足的個資保護對支持歐盟與南韓的長期關係與個人權利、自由方面至關重要。雖然EDPB 認為南韓的個資保護框架與歐盟大致相同，然仍建議歐盟執委會密切關注適足性認定的各方發展。」
加拿大隱私專員辦公室針對聯邦廣播與電信修法提出隱私權與個資保護建議加拿大隱私專員辦公室（Office of the Privacy Commissioner of Canada, OPC）於2019年1月11日就其聯邦廣播通訊法（Radiocommunication Act, RA）與電信法（Telecommunications Act, TA）提出隱私權與個資保護建議。現行加拿大聯邦廣播通訊法針對個資保護並無特別立法，而其電信法第七條雖有提及要注重個資隱私，卻無實質責任規範。惟廣播與電信公司蒐集、處理及利用個資時，如何確保當事人之個資隱私受到保護，就此加拿大隱私專員辦公室提出三點修法建議。 一、電信法及廣播通訊法應包含哪些隱私安全與資訊安全之概念？ 基於人民將大量敏感個資委託給電信業者，以獲得互聯網、電話及電視通信便利服務。惟個人資訊不但具有龐大商業價值，對於執法機關和情報安全機構也具有相當利益。基於以下因素，加拿大隱私專員辦公室建議制定電信業者更新之安全機制與公共安全義務。 保護措施 現行法規之保護措施應該適用於現代通訊工具，所有設備儲存與傳輸之敏感性個資都應受到保護，而非僅限於被使用之個人資訊。 門檻提升 數據蒐集之法律標準需加強，提升隱私保護。 保存期限要求 除法律特別規定之保存期限外，相關通訊數據保存應於最短時間內刪除，通盤完整保留數據為不必要之風險。 強制協助命令 強制監督 關於電信商既已存在之標準，監視與保留通訊之數據，依據政府要求提供者，政府須解釋其合理性。 透明度 除加拿大電信商提供年度報告，政府單位依據合法授權來請求加拿大客戶數據之情況下，應有相關報告以示公平。 二、政府管理政策與產業治理之有效性衡平 鑑於資訊技術與商業模式蒐集數據為不透明，普通消費者根本無從得知個人資訊是如何被取得及利用分享，當事人較難根據資訊來識別問題，亦難區別是否當事人是否為有效性之同意，故加拿大隱私專員辦公室認為其應該有權審核或檢查電信業者使用技術範圍內之事務，以確保現實情況與隱私法規範保護一致。故應使加拿大隱私專員辦公室能與其他聯邦監管機構（Canadian Radio-television and Telecommunications Commission, CRTC加拿大廣播電視和電信委員會與加拿大競爭局）共享資訊，並授予加拿大隱私專員辦公司發布命令與實施行政罰鍰之權力，且允許其進行積極之合規性審查。 三、立法設計中應包含消費者保護、權利行使及可及性 加拿大人民享受數位經濟帶來之好處，同時希望個人資訊之利用為無疑慮地，人民相信政府及立法機關會做好保護措施。惟目前加拿大之隱私立法仍為相當寬鬆，近期相關數據洩漏事件亦已證實電信公司無法善盡管理負責任，透明度與問責制度皆不足，相關消費者保護與權利行使皆須更完善，並需要更多資金進行改善。 加拿大個人資料保護和電子文件法（Personal Information Protection and Electronic Documents Act, PIPEDA）個資隱私法下，公司或組織於所提供服務相關時，可獲取、使用及共享資訊，但在提供服務之資訊外，尚有許多資訊共享於其他目的。電信公司蒐集日常生活資訊，針對敏感性個資，隱私法規範為明確的，但若個人數據非敏感性，則會帶來許多隱含空間，當事人是否為有意義之同意？加拿大隱私專員辦公室認為他們應該要有更多法律權力，透過執法確保電信數據生態系統之信任，並整合聯邦與省之法規。政府與業者創新使用數據皆能受到監管，於事件未發生時，則有前端監督其合規性，將使市場有明確性，且能向人民進一步保證其關注將獲得解決。