美國商務部國家電信和資訊管理局呼籲透過第三方評測提高AI系統透明度
2024年3月27日，美國商務部國家電信和資訊管理局（National Telecommunications and Information Administration, NTIA）發布「人工智慧問責政策報告」（AI Accountability Policy Report），該報告呼籲對人工智慧系統進行獨立評估（Independent Evaluations）或是第三方評測，期待藉此提高人工智慧系統的透明度。
人工智慧問責政策報告就如何對人工智慧系統進行第三方評測提出八項建議作法，分別如下：
1.人工智慧稽核指引：聯邦政府應為稽核人員制定適合的人工智慧稽核指引，該指引須包含評估標準與合適的稽核員證書。
2.改善資訊揭露：人工智慧系統雖然已經應用在許多領域，但其運作模式尚缺乏透明度。NTIA認為未來可以透過類似營養標籤（Nutrition Label）的方式，使人工智慧模型的架構、訓練資料、限制與偏差等重要資訊更加透明。
3.責任標準（Liability Standards）：聯邦政府應盡快訂定相關責任歸屬標準，以解決現行制度下，人工智慧系統造成損害的法律責任問題。
4.增加第三方評測所需資源：聯邦政府應投入必要的資源，以滿足國家對人工智慧系統獨立評估的需求。相關必要資源如：
(1)資助美國人工智慧安全研究所（U.S. Artificial Intelligence Safety Institute）；
(2)嚴格評估所需的運算資源與雲端基礎設施（Cloud Infrastructure）；
(3)提供獎金和研究資源，以鼓勵參與紅隊測試的個人或團隊；
(4)培養第三方評測機構的專家人才。
5.開發及使用驗證工具：NTIA呼籲聯邦機關開發及使用可靠的評測工具，以評估人工智慧系統之使用情況，例如透明度工具（Transparency Tools）、認驗證工具（Verification and Validation Tools）等。
6.獨立評估：NTIA建議聯邦機關應針對高風險的人工智慧類別進行第三方評測與監管，特別是可能侵害權利或安全的模型，應在其發布或應用前進行評測。
7.提升聯邦機關風險管控能力：NTIA建議各機關應記錄人工智慧的不良事件、建立人工智慧系統稽核的登記冊，並根據需求提供評測、認證與文件紀錄。
8.契約：透過採購契約要求政府之供應商、承包商採用符合標準的人工智慧治理方式與實踐。
NTIA將持續與利害關係各方合作，以建立人工智慧風險的問責機制，並確保該問責報告之建議得以落實。
陳郁潔
副法律研究員 編譯整理
NATIONAL TELECOMMUNICATIONS AND INFORMATION ADMINISTRATION, NTIA calls for audits and investments in trustworthy AI systems (Mar. 27, 2024), https://www.ntia.gov/press-release/2024/ntia-calls-audits-and-investments-trustworthy-ai-systems (last visited April 26, 2024).
National Telecommunications and Information Administration, FACT SHEET: NTIA Urges Policy Changes to Boost Accountability and Trustworthiness in Artificial Intelligence Systems (Mar. 27, 2024), https://www.ntia.gov/other-publication/2024/fact-sheet-ntia-artificial-intelligency-policy-accountability (last visited April 26, 2024).
日本國家網路安全辦公室（国家サイバー統括室）於2026年3月5日，代表日本連署了「AI、機器學習供應鏈風險與緩和措施」（Artificial intelligence and machine learning Supply chain risks and mitigations）之國際文書（下稱本文書），並公布本文書內容。本文書是由隸屬於澳洲訊號局（Australian Signals Directorate，簡稱ASD）之澳洲網路安全中心（Australian Cyber Security Centre，簡稱ACSC）主導訂定，主要針對有導入或開發 AI、機器學習系統與元件等需求的組織，揭示其可能存在供應鏈風險與提升整體網路安全之重要性，並就AI開發或採購階段，組織應留意相關風險與可採行之緩和措施。有關連署國家，除了日本與澳洲以外，也包括加拿大、紐西蘭、韓國、新加坡、英國與美國等共八個國家皆已完成連署。 本文書內容強調組織於管理 AI、機器學習等風險時，應將 AI 供應鏈視為整體網路安全戰略的一環，同時評估產品或服務之整體生命週期風險，不應著重於單一技術，而是組織需要掌握整體供應鏈的全貌，包括特定關係事業者、活用AIBOM（AI物料清單，主要用來記錄AI模型相關資產與資訊，提供快速定位與管控AI問題模型功能）或SBOM（軟體物料清單，主要記錄軟體相依元件，用於漏洞管理與供應鏈透明度）、意識到是否已針對AI、機器學習系統可能帶來的風險，進行漏洞管理，以及針對AI、機器學習系統所導致之網路安全事件建立應處機制等。 本文書將AI、機器學習供應鏈風險大致區分為五類：AI 數據、機器學習模型、AI 軟體、AI 基礎設施（含硬體），以及第三方服務，本文書指出AI、機器學習應用於供應鏈時可能產生之風險，其中包括數據品質不良、資料受竄改、模型遭植入惡意程式碼、軟體元件複雜導致難以保證其安全、硬體與韌體擴大攻擊面，以及導入第三方服務致使供應鏈產生弱點等。 此外，本文書也針對各類風險提出可行的因應方法，例如： 1.數據面：需做標準化搜集、外部資料檢疫、資料前處理與完整性驗證。 2.模型面：需從可信來源取得透明模型，實施性能驗證與惡意程式偵測。 3.軟體面：需做完整性驗證、元件審核，並透過 SBOM 掌握已知弱點。 4.硬體面：需確認設備無惡意內容，並在網路中適當分區。 5.第三方服務面：需持續評估與監控供應商的資安實務與脆弱性管理。 總結來說，日本已意識到國家網路安全治理下，針對AI、機器學習的安全，不單是模型安全，而是涉及整體性供應鏈安全。日本藉由與他國連署國際文書，不僅強化國際合作，同時建立供應鏈網路安全共識，因應AI對於國家供應鏈之網路安全挑戰，從資料、模型、軟體、硬體到第三方服務等視角提出具體因應方法，作為全面提升國家整體網路安全環境之參考指引。日本透過強化與他國合作，提升國家網路安全治理之作法，值得我國未來借鏡參考。
美國藥品學會建議調整HIPAA隱私權規範以兼顧醫療研究及隱私保護隸屬美國科學院（National Academy of Sciences）之藥品學會（Institute of Medicine）於2009年2月4日發表一份研究報告，指出美國醫療保險可攜及責任法的隱私權規範（HIPAA, Privacy Rule），對於醫療研究中有關個人健康資訊之取得及利用的規定未盡周全，不僅可能成為進行醫療研究時的障礙，亦未能完善保障個人健康資訊。 在目前的規範架構下，是否允許資訊主體概括授權其資料供後續研究利用，並不明確；另外，在以取得資料主體之授權為原則，例外不需取得授權但必須由審查委員會判斷其妥適性的情況下，亦未有足夠明確的標準可資審查委員會判斷依循，此些問題不僅使得醫療研究中之資料取得及運用，產生若干疑慮，亦突顯個人相關健康資料保護之不足。 該報告建議國會應立法授權主管機關制訂一套新的準則，將個人隱私、資料安全及資訊運用透明化等標準，一體適用於所有醫療相關研究的資料取得及利用上；在未來的新準則中，應促進去名化醫療資訊之運用，同時對於未取得資料主體授權的資料逆向識別（re-identification）行為，應增設罰則；此外，審查委員會在判斷得否不經資料主體授權而以其資料進行研究之妥適性時，亦應納入道德考量因素，倘若研究係由聯邦層級的組織所主導，則研究團隊應先證明其已採取充分保護資料隱私及安全的措施，藉以平衡隱私權保護與醫療研究的拉鋸。
臉書改名Meta，宣告元宇宙的時代來臨Facebook宣布改名為「Meta」，決心投入巨額資金發展虛擬實境並研發相關app提供用戶社交會面和辦公場所，藉此定位自己為元宇宙（Metaverse）公司。臉書創辦人Mark Zuckerberg在今（2021）年10月28日宣告將「Facebook」改名為「Meta」的公開信中提及，在元宇宙中，您幾乎能做到所有能想像到的事情，與朋友和家人聚會、工作、學習、購物等行為。 元宇宙這名詞是如此新穎，以至於沒有一個被普遍接受的定義。它被認為是網路的未來。由臉書創辦人上述的公開信可以得知，元宇宙是個讓使用者能身歷其境且包羅萬象的世界，將超脫電玩與娛樂而進入工作和商業的領域。現實生活中一切的行為幾乎都可以在元宇宙中進行，也因此，現實世界的法律問題，也可能發生在元宇宙中，進而影響法律秩序。 隨著區塊鏈和加密貨幣這類科技被廣泛採用，在元宇宙或Web3.0這樣的虛擬空間經營公司、買賣持有商品將順勢發展而來。財產的標記化（tokenization）也意味著任何實體或虛擬物的所有權可以被認證，也在無法竄改的帳本擁有權限碼，使得虛擬世界的交易更可靠。 非同質化代幣（Non-Fungible Tokens，下稱NFTs）是近來彰顯所有權的新興表現方式，這將會在元宇宙的經濟體系中扮演重要角色。所有因契約、租約而來的財產將被標記化，使人們有可能在Opensea這樣的平台購買數位土地、數位房產或者任何其他的數位虛擬物品，且一樣能證明所有權。可以說，數位財產標記化將對法律業產生最大影響。元宇宙將很有可能發展出一個數位城市，使消費者們能在數位世界購買土地，在土地上面建造房屋且將透過NFTs把房子放滿藝術品。消費者們可以好好裝扮自己在元宇宙內的分身，買電影院或者演唱會的票。所有的商品和服務可以透過NFTs標示所有權的方式跟企業購買。 在元宇宙裡，交易行為將與現實世界一模一樣。財產可以被交易、關係可以被建立，也可以成立公司，更會創造出智慧財產，也會產生著作權的爭端，或者發生利用數位資產洗錢、逃漏稅等新型態的犯罪，但元宇宙中的行為人與現實世界行為人不一定有明確連結，使得執法機關更難以追查，甚至產生管轄權之衝突。在元宇宙中存在和營運的公司也如同現實世界一樣，需要法律專家和保險制度降低他們的風險。 元宇宙對法律產業和監管機構帶來的影響是多方面的。Facebook，或者說改名後的Meta，有意激發世人對元宇宙的討論以及關注元宇宙的發展，而律師們和法律事務所也必須熟稔於這個領域，以應付那些即將要投入這項產業的客戶們。
歐盟執委會發布人工智慧創新政策套案歐盟執委會（European Commission）於2024年1月24日發布AI創新政策套案（AI innovation package），將提供全面性的激勵措施，協助AI新創公司、中小企業與歐盟AI技術之發展。AI創新政策套案預計將修訂〈歐盟高效運算聯合承諾〉（the European High Performance Computing Joint Undertaking），以創建AI工廠（AI factories）；成立AI辦公室（AI Office）；並建立歐盟AI新創與創新交流（EU AI startup and innovation communication），重點分述如下： （1）AI工廠：歐盟執委會在將2027年前透過〈歐盟高效運算聯合承諾〉投資80億歐元，在歐盟境內建設全新的超級電腦，或升級現有高效運算設備，實現高速機器學習（fast machine learning）與訓練大型通用AI模型（large general-purpose AI models），使AI新創公司有機會使用超級電腦與大型通用AI模型來開發各種AI應用。並且，AI工廠將坐落於大型資料存儲中心（large-scale data storage facility）周圍，讓AI模型於訓練時可取得大量可靠的資料。其次，AI工廠將藉由開放超級電腦來吸引大量人才，包含學生、研究員、科學家與新創業者，以培養歐盟高階AI人才，供未來歐盟持續發展可信任的AI（Trustworthy AI）。 （2）AI辦公室：該辦公室將設置於歐盟執委會內，用於確認與協調歐盟成員國AI政策的一致性。此外，該辦公室未來亦將用於監督即將通過之歐盟《AI法案》（AI Act）的執行成效。 （3）歐盟AI新創與創新交流：歐盟執委會將透過〈展望歐洲〉（Horizon Europe）與〈數位歐洲計畫〉（Digital Europe Programme），在2027年前投入40億歐元的公部門與私人投資，俾利歐盟開發生成式AI（Generative AI）模型。該政策套案亦將加速歐盟共同資料空間（Common European Data Spaces）之發展，使歐洲企業得取得可靠且具價值性之資料來訓練AI模型。最後，執委會將啟動歐盟〈生成式AI倡議〉（GenAI4EU initiative），將AI工廠所訓練之生成式AI應用於工業用與服務型機器人、醫療保健、生物科技與化學、材料與電池、製造與工程、車輛移動、氣候變遷與環境保護、網路安全、太空、農業等實際領域，刺激產業創新發展，改善人類生活。