美國商務部國家電信和資訊管理局呼籲透過第三方評測提高AI系統透明度
2024年3月27日，美國商務部國家電信和資訊管理局（National Telecommunications and Information Administration, NTIA）發布「人工智慧問責政策報告」（AI Accountability Policy Report），該報告呼籲對人工智慧系統進行獨立評估（Independent Evaluations）或是第三方評測，期待藉此提高人工智慧系統的透明度。
人工智慧問責政策報告就如何對人工智慧系統進行第三方評測提出八項建議作法，分別如下：
1.人工智慧稽核指引：聯邦政府應為稽核人員制定適合的人工智慧稽核指引，該指引須包含評估標準與合適的稽核員證書。
2.改善資訊揭露：人工智慧系統雖然已經應用在許多領域，但其運作模式尚缺乏透明度。NTIA認為未來可以透過類似營養標籤（Nutrition Label）的方式，使人工智慧模型的架構、訓練資料、限制與偏差等重要資訊更加透明。
3.責任標準（Liability Standards）：聯邦政府應盡快訂定相關責任歸屬標準，以解決現行制度下，人工智慧系統造成損害的法律責任問題。
4.增加第三方評測所需資源：聯邦政府應投入必要的資源，以滿足國家對人工智慧系統獨立評估的需求。相關必要資源如：
(1)資助美國人工智慧安全研究所（U.S. Artificial Intelligence Safety Institute）；
(2)嚴格評估所需的運算資源與雲端基礎設施（Cloud Infrastructure）；
(3)提供獎金和研究資源，以鼓勵參與紅隊測試的個人或團隊；
(4)培養第三方評測機構的專家人才。
5.開發及使用驗證工具：NTIA呼籲聯邦機關開發及使用可靠的評測工具，以評估人工智慧系統之使用情況，例如透明度工具（Transparency Tools）、認驗證工具（Verification and Validation Tools）等。
6.獨立評估：NTIA建議聯邦機關應針對高風險的人工智慧類別進行第三方評測與監管，特別是可能侵害權利或安全的模型，應在其發布或應用前進行評測。
7.提升聯邦機關風險管控能力：NTIA建議各機關應記錄人工智慧的不良事件、建立人工智慧系統稽核的登記冊，並根據需求提供評測、認證與文件紀錄。
8.契約：透過採購契約要求政府之供應商、承包商採用符合標準的人工智慧治理方式與實踐。
NTIA將持續與利害關係各方合作，以建立人工智慧風險的問責機制，並確保該問責報告之建議得以落實。
陳郁潔
副法律研究員 編譯整理
NATIONAL TELECOMMUNICATIONS AND INFORMATION ADMINISTRATION, NTIA calls for audits and investments in trustworthy AI systems (Mar. 27, 2024), https://www.ntia.gov/press-release/2024/ntia-calls-audits-and-investments-trustworthy-ai-systems (last visited April 26, 2024).
National Telecommunications and Information Administration, FACT SHEET: NTIA Urges Policy Changes to Boost Accountability and Trustworthiness in Artificial Intelligence Systems (Mar. 27, 2024), https://www.ntia.gov/other-publication/2024/fact-sheet-ntia-artificial-intelligency-policy-accountability (last visited April 26, 2024).
日本經產省與環境省共同發布《促進循環經濟與永續金融之揭露及對話指導》 資訊工業策進會科技法律研究所 2021年06月10日 壹、背景目的 伴隨全球人口增加，除了提高資源需求，亦造成大量廢棄物產生，導致氣候變化等環境問題日益嚴重，為從過去大量生產、大量消費、大量廢棄的線性經濟轉型為循環經濟，日本經濟產業省（下稱經產省）與環境省於2021年1月19日共同公布「促進循環經濟與永續金融之揭露及對話指導[1]」（サーキュラー・エコノミーに係るサステナブル・ファイナンス促進のための開示・対話ガイダンス）。該指導旨在促進企業與投資者、金融機構之間在資源循環領域順利進行對話，期能通過企業適當地揭露資訊，推展企業技術及商業模式創新，共同創造價值達成永續企業與永續社會的轉型。 貳、事件摘要 「促進循環經濟與永續金融之揭露及對話指導」參考「環境社會治理」（Environmental, Social, Governance，簡稱ESG）公開框架及「氣候相關財務揭露建議書」（Task Force on Climate-related Financial Disclosures，TCFD）[2]，主要著眼於六項重點，除了ESG公開框架與循環經濟特徵共通的「風險與機會」、「策略」、「指標與目標」以及「治理」四者之外，再併入屬於企業經營方針的「價值觀」、「商業模式」兩者。根據上述六項重點，分為三個階層說明彼此關係：（1）首先在「上位方針」階層，「價值觀」作為統合企業實行循環經濟措施的理念與願景，為判斷企業的執行力及實現商業模式可能性的重要因素；而「商業模式」是指企業應分析目前市場環境與未來中長期動向，以及企業採取循環經濟措施對於其在市場地位的競爭優勢，並說明其商業模式所產生的附加價值及確保競爭優勢的差別化因素，使投資者得以適當評價企業進行投資判斷。（2）其次在「實行」階層，「風險與機會」主要包含政策法規、技術、市場及評價四個面向，企業應整理有關依賴線性經濟可能的風險與對財務潛在的影響，以及向循環經濟轉型的機會；並設定相對應的「指標與目標」，檢視商業模式與策略執行的狀況。（3）最後在「PDCA」階層，企業制定「策略」，以確保、強化支撐其商業模式競爭優勢的經營資源、無形資產等；並透過企業規律的「治理」運作，包括企業經營層與董事會積極參與過程，藉由PDCA方法論衡量策略達成情形，並重新進行評估審視[3]。 另一方面，循環經濟涵蓋多種類型，主體主要有（1）本身事業活動採取循環經濟措施的「採用者」（Adopters）；抑或（2）通過提供技術、解決方案以提高社會整體循環性的「推動者」（Enablers）。具體而言，即分為企業在本身事業活動中採用循環經濟措施，或是通過提供技術、解決方案對循環經濟措施做出貢獻，並有助於提高社會整體循環性的兩種方式。而循環經濟採取之措施則主要有（1）減量（Reduce），有助於節約資源、抑制廢棄物產生的措施；（2）再使用（Reuse），有助於產品長期使用、有效利用的措施；（3）再循環（Recycle），有助於資源循環利用、再生利用的措施；（4）可再生（Renewable），有助於可再生資源利用的措施[4]。此外，企業在經營事業活動時，應考量循環性，針對產品生命週期，從設計、生產、利用、廢棄等供應鏈所有階段中，根據其業態選擇所適合之循環經濟措施。 參、簡析 隨著ESG投資在國際逐年擴大，且國際供應鏈亦逐步要求企業採行循環經濟措施，日本本次發布「促進循環經濟與永續金融之揭露及對話指導」，即針對循環經濟與永續金融作出政策性宣示，為日本國內企業點明投資發展方向。對於企業而言，除了提供更具循環性的產品、服務，在企業價值創造故事中結合「價值觀」、「商業模式」，同時藉由企業年度報告將六項重點向投資者展示企業價值；對於投資者而言，除了關注投資效益，亦應以中長期的角度看待企業採取循環經濟措施對實現永續社會的價值，並對其進行適當評價與投資。 近年來我國政府與企業亦逐步向循環經濟轉型，於2018年12月通過「循環經濟推動方案[5]」，並在經濟部設立「循環經濟推動辦公室[6]」，以推動循環產業化、產業循環化，促進產業循環共生及轉型。而行政院環保署亦擬訂了「資源回收再利用推動計畫[7]」(2018至2020年），擬定有關如何有效利用資源與廢棄物適當處理之策略。由於推動循環經濟仍需要民間企業與投資者的支持，我國政府得參考日本作法訂定相關政策法規。且由於我國並未針對循環經濟制定專法，在資源利用方面，同時可能有「廢棄物管理法」及「資源回收再利用法」二者之適用，造成國內業者在推行創新商業模式遭遇法規障礙，不利於國內企業轉型循環經濟。故建議政府得因應政策變遷及經濟發展需求，通盤性建置循環經濟專法之制度框架，並滾動式調整相關規範，促進循環經濟產業發展，實現企業創新商業模式與新興合作關係，在永續金融方面則透過企業返還投資利潤予投資者，確立經濟與環境之間的良性循環，將有助於國內產業推行永續企業之循環經濟轉型。 [1]「サーキュラー・エコノミーに係るサステナブル・ファイナンス促進のための開示・対話ガイダンス」を取りまとめました，日本經濟產業省，https://www.meti.go.jp/press/2020/01/20210119001/20210119001.html ；環境省，https://www.env.go.jp/press/108893.html（最後瀏覽日：2021/6/10）。 [2]Task Force on Climate-related Financial Disclosures, Recommendations of the Task Force on Climate-related Financial Disclosures, https://www.fsb-tcfd.org/publications/final-recommendations-report/ （last visited June 10, 2021）. [3]サーキュラー・エコノミーに係るサステナブル・ファイナンス促進のための開示・対話ガイダンス（本文），日本經濟產業省與環境省，頁6-7，https://www.meti.go.jp/shingikai/energy_environment/ce_finance/pdf/20200119_2.pdf（最後瀏覽日：2021/6/10）。 [4]同前註，頁12-13。 [5]行政院經濟能源農業處，循環經濟推動方案，https://www.ey.gov.tw/Page/448DE008087A1971/dc1de106-4298-4ad1-a9c7-f5b800f283cb （最後瀏覽日：2021/6/10）。 [6]經濟部工業局，循環經濟推動辦公室，https://cepo.org.tw/Default.aspx （最後瀏覽日：2021/6/10）。 [7]行政院環保署，資源回收再利用推動計畫，https://www.epa.gov.tw/Page/72968DDF9105BE07 （最後瀏覽日：2021/6/10）。
歐盟執委會發布指引以因應《人工智慧法》「禁止的人工智慧行為」條文實施歐盟執委會於2025年2月4日發布「關於禁止的人工智慧行為指引」（Commission Guidelines on Prohibited Artificial Intelligence Practices）（下稱「指引」）」，以因應歐盟《人工智慧法》（AI Act，下稱AIA）第5條關於「禁止的人工智慧行為」之規定。該規定自2月2日起正式實施，惟其內容僅臚列禁止行為而未深入闡釋其內涵，執委會特別制定本指引以避免產生歧義及混淆。 第5條明文禁止使用人工智慧系統進行有害行為，包括：利用潛意識技術或利用特定個人或群體之弱點進行有害操縱或欺騙行為、實施社會評分機制、進行個人犯罪風險預測、執行無特定目標之臉部影像蒐集、進行情緒識別分析、實施生物特徵分類、以及為執法目的而部署即時遠端生物特徵識別系統等。是以，指引就各禁止事項分別闡述其立法理由、禁止行為之具體內涵、構成要件、以及得以豁免適用之特定情形，並示例說明，具體詮釋條文規定。 此外，根據AIA規定，前述禁令僅適用於已在歐盟境內「投放市場」、「投入使用」或「使用」之人工智慧系統，惟對於「使用」一詞，並未予以明確定義。指引中特別闡明「使用」之定義，將其廣義解釋為涵蓋「系統投放市場或投入使用後，在其生命週期任何時刻的使用或部署。」 指引中亦指出，高風險AI系統的特定使用情境亦可能符合第5條的禁止要件，因而構成禁止行為，反之亦然。因此，AIA第5條宜與第6條關於高風險AI系統的規定交互參照應用。 AIA自通過後，如何進行條文內容解釋以及法律遵循義務成為各界持續討論之議題，本指引可提升AIA規範之明確性，有助於該法之落實。
日本內閣通過2015年「世界最先進IT國家創造宣言」修訂版日本內閣設置之「IT總合戰略總部」於2015年6月30日通過「世界最先進IT國家創造宣言（世界最先端IT国家創造宣言，下稱該宣言）」之修訂版，此次為2014後的第二次修正。該宣言於2013年6月14日首次公布，作為安倍政府第3支箭成長戰略之一環，為國家層級的IT政策目標，宣言中並揭示，欲促使日本五年內成為世界最高水準的IT技術國家。 本次之重要修正內容摘要如下： (一) 基本理念 1. 以日本之再生為基礎活用IT技術 以成長戰略為根據，將IT技術做為日本再生之動能；組織構成方面，則以政府作為資訊總監（Chief Information Officer, CIO）為中心，打破省廳之間之縱向關係，以「橫向串聯」的方式來推動IT政策。 2. 以全球為範圍建構日本的IT利用及解決範本 因應IT技術之進展、資料流通量之增大、IoT、AI時代之進展為背景，並在確保資訊安全為前提下活用IT技術，建構全球獨一無二「問題解決導向之IT利用範本」，實現人民有感之目標。 3. 活用IT技術以解決問題為導向建構四大支柱 以活用IT技術為特色，並以誘發各個領域之創新性為觀點，以四大支柱為中心，建立一個活用IT技術的社會，建構必要的政策措施。 (二) 四大支柱 1. 朝未來成長之社會：深化IT活用技術 整備IT技術之活用環境，未來擬立新法加促進及加速IT技術之活用；現行則持續的修正個人資料保護法，排除影響IT活用技術的法規障礙；並繼續推動向民間開放公共資料（open data）之工作。 2. 充滿活力之社會：充分利用IT技術之居民、工作及街道 整備資料共有之基礎設施，並分析及活用RESAS（地域経済分析システム，Regional Economy Society Analyzing System）、SNS等巨量資料。 3. 安心安全的活用IT技術，實現人民有感之社會 ■適當地提供區域醫療、健康照護等服務，實現健康長壽之社會，於全國展開醫療資訊之聯合網路、活用醫療、健康資訊等資料，以預防重症、增進健康，目標於2020年之前人均壽命成長一歲以上。 ■用IT技術促進日本農業，以及周邊產業之升級等，並推動AI農業、以IT化方式保護鳥獸等技術。 ■實現世界最安全且經濟之道路交通社會，預計於2020年代後期，開始於日本全面性的適用無人駕駛系統。 4. 活用IT技術，創建集合式之公共服務社會持續推動個人號碼制度，擴大及檢討其利用之範圍，實現一卡化社會。
英國資訊委員辦公室（Information Commissioner’s Office，ICO）認定英國電子零售業者Carphone Warehouse違反《Data Protection Act 1998》資料保護法英國電子零售業者Carphone Warehouse在2015年遭到網路攻擊，造成逾300萬客戶及1000名員工的資料外洩，外洩的資料包括客戶的姓名、地址、電話號碼、出生日期、婚姻狀況及1.8萬名客戶的金融卡資訊。 英國資訊委員辦公室（Information Commissioner’s Office，ICO）認為涉及之個人資料嚴重影響個人隱私，使得個人資料有被誤用的風險。ICO進一步調查後並發現，駭客僅是透過有效的登入憑證，就能藉由WordPress軟體存取系統，此事件亦暴露該組織技術安全措施之不足，因受影響系統中使用的軟件的重要元素已過時，且公司未能執行例行的安全測試。ICO認為，像Carphone Warehouse此類規模龐大的公司，應積極評估其資料安全系統，確保系統穩健而避免類似的攻擊。 據此，ICO判定該公司缺乏妥善的安全措施保障使用者資訊，已嚴重違反《Data Protection Act 1998》資料保護法，判罰40萬英鎊。 從今年5月25日起，隨著GDPR的生效，法律將更加嚴格。對此，ICO亦發布了有用的指導，包括GDPR指南，現在採取的12個步驟和工具包。國家網絡安全中心（NCSC）也為組織為保護自己所採取的步驟提供了有用的指導。