美國商務部國家電信和資訊管理局呼籲透過第三方評測提高AI系統透明度
2024年3月27日，美國商務部國家電信和資訊管理局（National Telecommunications and Information Administration, NTIA）發布「人工智慧問責政策報告」（AI Accountability Policy Report），該報告呼籲對人工智慧系統進行獨立評估（Independent Evaluations）或是第三方評測，期待藉此提高人工智慧系統的透明度。
人工智慧問責政策報告就如何對人工智慧系統進行第三方評測提出八項建議作法，分別如下：
1.人工智慧稽核指引：聯邦政府應為稽核人員制定適合的人工智慧稽核指引，該指引須包含評估標準與合適的稽核員證書。
2.改善資訊揭露：人工智慧系統雖然已經應用在許多領域，但其運作模式尚缺乏透明度。NTIA認為未來可以透過類似營養標籤（Nutrition Label）的方式，使人工智慧模型的架構、訓練資料、限制與偏差等重要資訊更加透明。
3.責任標準（Liability Standards）：聯邦政府應盡快訂定相關責任歸屬標準，以解決現行制度下，人工智慧系統造成損害的法律責任問題。
4.增加第三方評測所需資源：聯邦政府應投入必要的資源，以滿足國家對人工智慧系統獨立評估的需求。相關必要資源如：
(1)資助美國人工智慧安全研究所（U.S. Artificial Intelligence Safety Institute）；
(2)嚴格評估所需的運算資源與雲端基礎設施（Cloud Infrastructure）；
(3)提供獎金和研究資源，以鼓勵參與紅隊測試的個人或團隊；
(4)培養第三方評測機構的專家人才。
5.開發及使用驗證工具：NTIA呼籲聯邦機關開發及使用可靠的評測工具，以評估人工智慧系統之使用情況，例如透明度工具（Transparency Tools）、認驗證工具（Verification and Validation Tools）等。
6.獨立評估：NTIA建議聯邦機關應針對高風險的人工智慧類別進行第三方評測與監管，特別是可能侵害權利或安全的模型，應在其發布或應用前進行評測。
7.提升聯邦機關風險管控能力：NTIA建議各機關應記錄人工智慧的不良事件、建立人工智慧系統稽核的登記冊，並根據需求提供評測、認證與文件紀錄。
8.契約：透過採購契約要求政府之供應商、承包商採用符合標準的人工智慧治理方式與實踐。
NTIA將持續與利害關係各方合作，以建立人工智慧風險的問責機制，並確保該問責報告之建議得以落實。
陳郁潔
副法律研究員 編譯整理
NATIONAL TELECOMMUNICATIONS AND INFORMATION ADMINISTRATION, NTIA calls for audits and investments in trustworthy AI systems (Mar. 27, 2024), https://www.ntia.gov/press-release/2024/ntia-calls-audits-and-investments-trustworthy-ai-systems (last visited April 26, 2024).
National Telecommunications and Information Administration, FACT SHEET: NTIA Urges Policy Changes to Boost Accountability and Trustworthiness in Artificial Intelligence Systems (Mar. 27, 2024), https://www.ntia.gov/other-publication/2024/fact-sheet-ntia-artificial-intelligency-policy-accountability (last visited April 26, 2024).
澳洲證券投資委員會(Australian Securities and Investments Commission, ASIC) 於2016年12月15日發布第257號法規指導(Regulatory Guide 257，RG 257)-在未持有AFS或信用執照的狀態下測試fintech產品與服務(Testing fintech products and services without holding an AFS or credit licence)。RG 257並包含澳洲的監理沙盒架構。重要內容如下: 1.有別於其他國家的監理沙盒需要申請方能適用，透過法規以及ASIC澳洲已經提供一些鬆綁機制，換句話說並不需要事先申請就可以取得監管沙盒鬆綁。例如非現金支付產品，包含儲值卡，以及某些國外交易服務。 2.ASIC的fintech 執照豁免見諸於ASIC Corporations (Concept Validation Licensing Exemption) Instrument 2016/1175 以及ASIC Credit (Concept Validation Licensing Exemption) Instrument 2016/1176。 3.ASIC也可個別提供客製化的執照豁免以促進產品或服務測試，個別豁免就比較接近其他國家的監管沙盒架構。 因此基本上，只要符合法定以及上述兩個instruments的規定，就可以自動取得監管沙盒的鬆綁，而無需另外申請，唯需「通知」ASIC，並提供相關資料。監理沙盒的適用期間為十二個月。但是如果不符法定以及Instrument 2016/1175、Instrument 2016/1176的規定，也可以另外向ASIC申請客製化的豁免。 目前可適用Instrument 2016/1175的金融服務包含： •掛牌的澳洲證券； •簡易管理的投資架構； •存款產品； •某些一般的保險商品；以及 •「授權存款取用機構(authorised deposit-taking institutions，ADIs)」發行的支付產品。 唯須注意的是，Instrument 2016/1176允許有限的信用協助，但是不得提供借貸。另外，使用監理沙盒的fintech企業最多只能有100個零售客戶，以有效控制風險。
美國最高法院在Bilski v. Kappos案中仍然留下對於商業模式的可專利性做下模糊的判決美國最高法院於2010年6月28日對Bilski v. Kappos案作出5比4的拉距判決。原告Bilski為一家能源產品公司，其就一種讓買家或賣家在能源產品價格波動時，可用來保護、防止損失或規避風險的方法申請商業方法專利（Business Method Patent）。但美國商標專利局審查人員以此發明只是一種解決數學問題，而為抽象而無實體呈現的想法為理由而拒絕。經該公司於專利上訴委員會上訴無效後，繼續上訴至聯邦巡迴法院與最高法院。 最高法院拒絕適用前審以美國專利法第101條（35 U.S.C. §101），創造發明是否為有用的、有形的及有體的結果作為認定方法專利的標準。而最高法院多數意見係採用「機械或轉換標準」（machine or transformation test）為專利法第101條可專利性之標準，認定如果創造發明的方法能與機械器具或配件相結合或轉換為另外一種物品或型態時，即認定此方法具可專利性。惟經法院適用此標準後，仍認定原告的商業方法不具可專利性。 一些批評認為，目前「方法」和「轉換」等關鍵字的定義還不清楚，而該判決並沒有澄清這些爭議，甚至帶來更多的疑惑。美國律師Steven J. Frank認為，雖然最高法院的意見放寬了可專利性的標準，但是並沒有提及認定可專利性的其他標準。 該判決亦未明確指出商業方法究竟要符合哪些實質要件，方具有可專利性。相當多的電子商務中所使用的「方法」都有專利，最有名的大概就是亞馬遜公司的「一鍵購買（one-click）」的網路訂購方法，還有Priceline公司「反向拍賣」（reverse auction）的方法等。許多電子商務、軟體及財務金融相關業者在這個判決之後，對於商業方法的可專利性也感到相當的困惑。如果有方法專利的存在，那麼擁有這些專利的公司就可以放心了；但是，如果方法沒有可專利性，那麼對於現在擁有方法專利的權利人不啻是一個很壞的消息。是否一些比較不抽象的方法就具有可專利性，而比較抽象的方法就專利性，判定的標準又在哪裡，對此，法院並沒有加以說明，在法院明訂出更明確的標準之前，目前仍留給美國商標專利局來判定。
歐盟執委會發布指引以因應《人工智慧法》「禁止的人工智慧行為」條文實施歐盟執委會於2025年2月4日發布「關於禁止的人工智慧行為指引」（Commission Guidelines on Prohibited Artificial Intelligence Practices）（下稱「指引」）」，以因應歐盟《人工智慧法》（AI Act，下稱AIA）第5條關於「禁止的人工智慧行為」之規定。該規定自2月2日起正式實施，惟其內容僅臚列禁止行為而未深入闡釋其內涵，執委會特別制定本指引以避免產生歧義及混淆。 第5條明文禁止使用人工智慧系統進行有害行為，包括：利用潛意識技術或利用特定個人或群體之弱點進行有害操縱或欺騙行為、實施社會評分機制、進行個人犯罪風險預測、執行無特定目標之臉部影像蒐集、進行情緒識別分析、實施生物特徵分類、以及為執法目的而部署即時遠端生物特徵識別系統等。是以，指引就各禁止事項分別闡述其立法理由、禁止行為之具體內涵、構成要件、以及得以豁免適用之特定情形，並示例說明，具體詮釋條文規定。 此外，根據AIA規定，前述禁令僅適用於已在歐盟境內「投放市場」、「投入使用」或「使用」之人工智慧系統，惟對於「使用」一詞，並未予以明確定義。指引中特別闡明「使用」之定義，將其廣義解釋為涵蓋「系統投放市場或投入使用後，在其生命週期任何時刻的使用或部署。」 指引中亦指出，高風險AI系統的特定使用情境亦可能符合第5條的禁止要件，因而構成禁止行為，反之亦然。因此，AIA第5條宜與第6條關於高風險AI系統的規定交互參照應用。 AIA自通過後，如何進行條文內容解釋以及法律遵循義務成為各界持續討論之議題，本指引可提升AIA規範之明確性，有助於該法之落實。
法國通過具爭議性的iTune法法國眾議院與參議院於 2006 年 06 月 30 日 通過倍受爭議的 iTune 法，其主要理念在闡述著作權法的設計應該要防止將音樂著作消費者侷限在僅能利用特定設備聽取音樂的藩籬中，而目前 iTunes 提供的音樂格式僅可利用 iPod 設備播放，明顯違反此一理念。 眾議院原先通過之條文要求歌曲必須可以在任何設備上播放，但此一規範受到蘋果公司反對，認為如此規定將降低音樂檔案的安全性，而造成「鼓勵盜版」的結果。參議院為此修改規範內容，於規定中設計小部分空間賦予廠商可以運用 DRM 技術限制音樂於特定設備播放之音調；且若廠商獲得著作權人 ( 唱片公司及著作人 ) 之同意，仍得限制特定音樂格式僅得於特定設備中播放 ( 如： iTunes 的情況 ) 。 社會主義與綠黨之國會議員目前正針對此一規範提出違憲主張，若該主張無法成立，法國將成為歐洲訂定此一規範之先驅，預料其他歐洲國家將可能跟隨法國之腳步進行規範，如此情勢可以從挪威消費者保護官晚近作出之決議，認為 DRM 技術已破壞競爭法則，必須加以修正，以及其他國家包括丹麥、瑞典之類似決議窺知一二。