美國商務部國家電信和資訊管理局呼籲透過第三方評測提高AI系統透明度
2024年3月27日，美國商務部國家電信和資訊管理局（National Telecommunications and Information Administration, NTIA）發布「人工智慧問責政策報告」（AI Accountability Policy Report），該報告呼籲對人工智慧系統進行獨立評估（Independent Evaluations）或是第三方評測，期待藉此提高人工智慧系統的透明度。
人工智慧問責政策報告就如何對人工智慧系統進行第三方評測提出八項建議作法，分別如下：
1.人工智慧稽核指引：聯邦政府應為稽核人員制定適合的人工智慧稽核指引，該指引須包含評估標準與合適的稽核員證書。
2.改善資訊揭露：人工智慧系統雖然已經應用在許多領域，但其運作模式尚缺乏透明度。NTIA認為未來可以透過類似營養標籤（Nutrition Label）的方式，使人工智慧模型的架構、訓練資料、限制與偏差等重要資訊更加透明。
3.責任標準（Liability Standards）：聯邦政府應盡快訂定相關責任歸屬標準，以解決現行制度下，人工智慧系統造成損害的法律責任問題。
4.增加第三方評測所需資源：聯邦政府應投入必要的資源，以滿足國家對人工智慧系統獨立評估的需求。相關必要資源如：
(1)資助美國人工智慧安全研究所（U.S. Artificial Intelligence Safety Institute）；
(2)嚴格評估所需的運算資源與雲端基礎設施（Cloud Infrastructure）；
(3)提供獎金和研究資源，以鼓勵參與紅隊測試的個人或團隊；
(4)培養第三方評測機構的專家人才。
5.開發及使用驗證工具：NTIA呼籲聯邦機關開發及使用可靠的評測工具，以評估人工智慧系統之使用情況，例如透明度工具（Transparency Tools）、認驗證工具（Verification and Validation Tools）等。
6.獨立評估：NTIA建議聯邦機關應針對高風險的人工智慧類別進行第三方評測與監管，特別是可能侵害權利或安全的模型，應在其發布或應用前進行評測。
7.提升聯邦機關風險管控能力：NTIA建議各機關應記錄人工智慧的不良事件、建立人工智慧系統稽核的登記冊，並根據需求提供評測、認證與文件紀錄。
8.契約：透過採購契約要求政府之供應商、承包商採用符合標準的人工智慧治理方式與實踐。
NTIA將持續與利害關係各方合作，以建立人工智慧風險的問責機制，並確保該問責報告之建議得以落實。
陳郁潔
副法律研究員 編譯整理
NATIONAL TELECOMMUNICATIONS AND INFORMATION ADMINISTRATION, NTIA calls for audits and investments in trustworthy AI systems (Mar. 27, 2024), https://www.ntia.gov/press-release/2024/ntia-calls-audits-and-investments-trustworthy-ai-systems (last visited April 26, 2024).
National Telecommunications and Information Administration, FACT SHEET: NTIA Urges Policy Changes to Boost Accountability and Trustworthiness in Artificial Intelligence Systems (Mar. 27, 2024), https://www.ntia.gov/other-publication/2024/fact-sheet-ntia-artificial-intelligency-policy-accountability (last visited April 26, 2024).
歐盟執委會(European Commission)的移動與運輸專員(European Commissioner for Mobility and Transport )Violeta Bulc在2016年11月23日於華沙發表歐盟目前到2019年的無人機發展計畫───U-space管理系統，該計畫希望能使無人機融入歐盟公民日常生活中的一部分。 U-Space為都會區上的空間(Urban-Space)，也代表「你的空間」(Your space)，範圍為150公尺以下涉及日常生活的空域空間。其在經濟目標上，期望藉由具體的政策，包含全自動化的導航與空中交管系統的建立，可以使一般人可以公平且容易的使用無人機，讓無人機應用在未來的日常生活成為普遍的應用活動，藉以促進整個歐盟無人機產業的發展。因此，進一步在法規管理上，需要在歐盟地區確立有關無人機之註冊、辨識以及衛星輔助設備之要求的全面一體化(Harmonized)系統，以確保該系統下的無人機操作均符合安全和保安的標準且可以達到隱私與環境保護的訴求。 目前看來，U-Space是推動無人機應用的管理系統，法規方面需要歐洲航空安全總署(European Aviation Safety Agency, EASA)於2016年8月22日公布之的初步無人機法規草案(EASA ‘Prototype’ Commission Regulation on Unmanned Aircraft Operations)支持，像是全自動化的導航系統需要的衛星輔助系統(Geo-fencing)就在EASA草案中提及。 而根據歐盟同一天的新聞稿，為達成U-Space之建置有三個面向須努力： 1.新創技術專案之展示：根據U-Space制度涵蓋之項目為運作基礎的展示專案應該評估特定技術的可行性，以讓相關產品服務早日投入應用，具體專案計畫將在2017年上半年推出。 2.產業密切合作：必須在產業相信歐盟執委會的決心以及願意投資無人機科技的前提下，執委會發展相關基礎設施才有意義。 3.設立新的法規標準：即就前述提及之EASA初步無人機法規草案徵詢各界之意見，預計蒐集各界相關意見後，並經由歐盟執委會、歐盟理事會(Council of the European Union)以及歐洲議會(the European Parliament)的三方會議後，在近期內出現更為具體的草案，議題將包含安全、資安、環境以及隱私等。
法國參議院關於資料在地化(Data Localization)之修法提案為實現歐洲公民資料一致保護水準之期待，全面革新歐盟各會員國資料保護規範的一般資料保護規則(General Data Protection Regulation, GDPR)，已於2016年4月14日由歐洲議會正式通過，且將在2018年5月25日生效，該規則異於資料保護指令（Data Protection Directive，95/46/EC）之處，在於規則無待各會員內國法化，得以直接適用，然而生效前的過渡期間，歐盟各國為因應新修正規則預作準備；近期，法國政府在「數位共和國」(République Numérique)法案中，欲修改現行關於資料保護之法律，如法國資料保護法(Loi Informatique et Libertes Act N°78-17 Of 6 January 1978)，以達歐盟資料保護水準。 法國國民議會(Assemblée nationale)於2016年1月一讀通過，參議院(Sénat)隨後在5月提出修正案中第26 條之一(Article 26 bis A)，要求個人資料應儲存於歐盟或法國境內的資料中心，同時為符合與歐盟的國際承諾會員國，並禁止個人資料傳輸至非歐盟的第三國，而參議院修法理由是為了確保法國規範符合歐盟資料保護水準，並依據先前歐盟法院關於安全港無效之判決的結果為修訂。 然而，資料在地化條款目前仍不明確，但此規定恐對資料傳輸設下更多限制；雖然在GDPR第23條規範關於各國決定限制權利和義務的範圍，資料傳輸至第三國並不在此列，故為加速修法程序，聯合調解委員會(Commission mixte paritaire)將於近期內審查調整，國民議會和參議院的代表仍能針對此條款提出意見以達成最終共識，後續修法值得關注。
美國商務部發佈智財權活動對美國經濟影響之綜合報告美國商務部發佈智財權活動對美國經濟影響之綜合報告 科技法律研究所 法律研究員 曾文怡 101年5月16日 壹、事件摘要 美國商務部於今年3月發佈一份委由其所屬之「經濟統計局（Economics and Statistics Administration，ESA）」和「美國專利商標局（United States Patent and Trademark Office，USPTO）」共同執行的調查報告：「智慧財產和美國的經濟：產業焦點（Intellectual Property and the U.S. Economy: Industries in Focus）」。 報告除界定所選研究標的313種行業別中，共75種被認定為「智財密集型行業（IP-intensive industries）」；而這些「智財密集型行業」為美國帶來至少4千萬筆就業機會、超過5兆美元產值，佔美國GDP高達34.8%。 貳、報告重點摘要 一、「智財密集型產業」的篩選 此報告採用美國USPTO相關的行政數據，用以確認（identify）最密集利用商標、專利所提供的保護之行業；著作權方面，則係以是否主要為創作或生產受著作權保護素材，加以認定。以標準統計方法用以確認（identify）哪些美國行業（industries）是最具專利、商標及著作權密集型（intensive），並統稱為「智財密集型產業」。 (一)以該行業平均每人擁有專利數認定專利密集型行業 美國使用各美國行業標準分類 (North American Industry Classification System, NAICS) 於2004-2008這五年間的專利總數與該行業的平均就業人口的比例來測量行業的專利密集型： Measure of industry patent “intensity” = total patents over the five years in a NAICS category / average payroll employment by industry 就業人口能夠展現一個行業的大小，並確保各行業在比較時是公平的 (even playing field) 。最具專利密集型的行業並不是擁有最多專利，而是在該行業一個職位有最多專利 (patents per job) 。若專利/職位比例高於所有行業的平均值，則該行業將被認定為專利密集型的行業。 (二)以商標登記數統計資料認定商標密集型行業 有鑑於一個商標通常會同時登記於好幾個不同的類別下，因此在此統計的方式將以類別為單位，而非商標。美國使用了3種方式來認定商標密集型的行業 (three-pronged approach) ： 1.平均每人擁有商標數密集的行業 比照專利的方式，以商標登記與行業就業人口比例來測量商標密集性，首先過濾出屬於上市公司的商標登記，並比對該公司公開資訊中 (Compustat 資料庫 ) 的主要產業及員工人數，因為Compustat資料庫有包含公司的NAICS行業類別，如此就可以取得行業的商標登記數及就業人口數並計算該行業之比例。 2.前50家商標登記最多企業 (Top 50 Trademark-Registering Companies) 利用USPTO發佈的前50家商標登記最多企業名單 ( 不同於第一種方式將包含上市與非上市公司 ) ，並利用付費的OneSource資料庫找出這些企業的 NAICS 行業類別，並統計各行業在前50家企業名單中出現的次數，一個行業出現超過5次以上將被認定為商標密集型。 3.隨機取樣 (Random Sample of Trademark Registrations) 從2010年所有在登記的商標隨機抽樣300件，其中196件為美國公司申請登記，針對這196家企業試圖找出其NAICS行業類別，行業類別若有超過5筆商標登記，將被視為商標密集型。 上述三種方式總共產出60個商標密集型行業，同時使用三種方式係希望能夠彌補一種方式可能有的缺點，例如商標密集型方式可能會低估某些產業或忽略到較小型或沒有上市的企業，這部分由第二種及第三種方式試圖彌補。 最後被認定出為商標密集型的行業也與Interbrand的品牌排行作比較 (Best Global Brands in 2010) ，以確認被認定為最具品牌價值的企業是否屬於商標密集型的行業，此研究找出品牌排行中的企業的NAICS行業類別，並與之前被認定為商標密集型的行業作比對，發現具相當的重疊性。 二、以WIPO核心著作權產業標準界定著作權密集型行業 美國有關著作權產業的界定，主要根據WIPO於2003年發佈之「著作權產業經濟貢獻調查報告（Guide on Surveying the Economic Contribution of the Copyright-based Industries）」以及 Stephen Siwek 發表之「著作權產業對美國經濟之影響報告（Copyright Industries in the U.S. Economy）」。亦即，報告採用WIPO所界定之「核心著作權產業（core copyright industries）」作為其認定何謂「著作權密集產業」的基礎，再將單純只以銷售（distribution）受著作權保護客體為目的之行業加以排除。 三、「智財密集型產業」是驅動美國經濟發展的重要引擎 根據報告，「智財密集型產業」在2010年的產值超過5兆美元，佔美國GDP高達34.8%；同年「智財密集型產業」的貨物出口總金額約7億750萬美元，佔全部貨物出口總額的60.7%。另外，智財密集型的國際服務貿易相關數據資料雖有限，但研究者仍發現在2007年，智財密集型的國際服務貿易約佔全美民營企業服務貿易額的19%。 四、「智財密集型產業」提供至少 4 千萬個就業機會 2010年全美至少有4千萬筆工作，是直接或間接與「智財密集型行業」相關，佔所有工作機會的27.7%。其中直接相關者的從業人數約2,710萬人，佔所有工作機會18.8%；而與「智財密集型行業」間接相關的從業人數約1,290萬人。換句話說，每2個與「智財密集型行業」直接相關的就業機會，就帶來1個額外的工作機會。 五、「智財密集型產業」薪資待遇、教育水準優於其他行業 「智財密集型產業」的平均週薪在2010年為1,156美元，高出其他民營產業別的815美元約42%。其中又以專利及著作權密集產業的薪資成長幅度較高，專利密集行業的薪資從2005年的66%，成長到2010年的73%；著作權密集行業的薪資從2005年的65%，成長到2010年的77%。 而相對高的薪資待遇又與IP密集型行業的教育背景有關。據2010年的統計資料，超過42%的25歲從業人員係具有大專院校學歷，高於其他非IP密集型行業的34%。 參、事件評析 一、我國應建立智財密集行業界定標準並建立數據資料庫，以利掌握產業智財發展動向 智財法令可以保護發明者、創作者免於盜版之害，鼓勵其持續創新，維持競爭優勢，並確保智財權交易、流通市場得以順利運作。但智財保護的界線設定，也相對的影響創新、創意是否有足夠的發展空間，一套經過衡平設計的智財權，影響國家產業經濟甚鉅。 然而如何設計出衡平的法令，並非只須單純的以正義公理做邏輯推論，同時也須仰賴大量統計資料的數據分析，以調查實際運用情形，才能在智財保護體系分寸拿捏之際有所依據。美國商務部的報告開宗明義便指出，必須透過大量數據資料的分析，方能掌握智財在所謂的「智財密集型行業」所扮演的角色。 我國目前在建立智財相關數據資料庫面向，基礎建設不足，無法分析預估產業的發展趨勢及經濟特性，亦不能評估智財對於我國經濟的貢獻程度影響，肇致智財相關政策的立論說明欠缺實證，實應立即著手整備建置相關數據資料庫。 二、推動著作識別碼與存證登記並建立誘因，是評估我國著作權密集型產業經濟貢獻統計分析模式的核心措施 全球經濟發展重心已轉移到音樂、影視、遊戲等文化創意產業，權利別亦跳脫專利權而與著作權息息相關。從韓國等國家智財戰略的方向亦可發現，有賴政策擬訂與相關推動措施，實現以著作權為核心的產業結構。 但從報告中可看出，相較於專利、商標，著作權相關的數據資料較為不足。究其原因，或與著作權採創作保護主義，毋須進行註冊、登記程序有關。由於我國著作權法亦採創作保護主義，且未有存證登記管道，建議可參酌美國、韓國、中國大陸等著作權法與權利登錄有關之規定，並提供登錄者相關誘因，作為我國著作權產業相關統計指標及資料庫之基礎。 而除規劃推動著作物登記制度外，為降低網路侵權對產業經濟造成損害，應一併研議著作物來源識別機制，利用單一著作物內容識別碼，來協助交易雙方經由識別碼查證著作物之來源與權利歸屬，降低著作權授權之風險。同時開發追蹤非法重製物流通之系統，協助權利人進行侵權證據之蒐集與保全，以健全的著作權交易機制，作為發展我國文創軟實力之後盾。 三、確保研發創作者的智財受到有效保護，是促進創新活動、智財交易流通、帶動經濟發展的根本基礎 此報告於一開始即特別指出，專利、商標及著作權提供企業和個人創作者，將無形的發明、創意轉化為實質經濟利益之法律基礎，而一個國家的智財保護機制將連帶影響其整體經濟的商業活動，包括：提供驅動發明、創作的誘因、保護創新者免於未經授權之利用、促進技術市場之垂直分工、媒合資金與創新活動、透過併購及首次公開發行股票 (IPO) ，支援創業初期階段企業資產的流動性及成長、實現以技術授權為基礎的商業模式、促使技術移轉市場與技術及創意交易市場得以更有效率的運作。 為保護研發創作者的權益，國外已有許多國家採取積極主動的措施，例如：韓國為維護韓國業者著作權海外交易秩序及提升交易雙方的信賴，於2012年1月11日指定其所屬的韓國著作權委員會（Korea Copyright Commission）作為著作權認證業務之專責機關，負責推動著作權認證制度。於今年以輸出海外市場 ( 中國等 ) 之音樂、電影、電視劇等內容，作為第一階段著作權認證對象，並提供免手續費之優惠。韓國著作權委員會並設置數位著作交易所 ( 網站 ) ，著作 ( 權 ) 人可將其著作之權利相關資訊登錄至數位著作交易所的「著作權資訊管理系統 (Copyright Integrated Management System，簡稱 CIMS) 」上，CIMS就會給予該著作一組ICN識別碼，讓公眾便於取得授權。韓國文化體育觀光部與特許廳也分別開發有非法重製物及仿冒品之線上追蹤系統，由該二套系統主動蒐集、分析相關侵權資料後，協助權利人交由檢調相關單位採取管制措施。 但回頭檢視我國情況，同樣面臨降低著作權交易可能衍生紛爭之需求，卻沒有著作權官方存證管道，更遑論給予著作權認證制度與重製物及仿冒品之線上追蹤協助。未來著實應該借鏡韓國作法，規劃推動符合我國產業發展需求的著作權保護機制。 報告原文：The full report can be found online at http://www.uspto.gov/news/publications/IP_Report_March_2012.pdf
美國國家健康研究院提出幹細胞研究指導方針草案美國新任總統歐巴馬上台後，終結小布希政府多年來的人類幹細胞研究補助禁令，於今（2009）年3月9日發佈了13505號執行命令（Executive Order）。此執行命令不僅擴大了可接受政府補助之人類幹細胞研究範圍，亦要求美國國家健康研究院（National Institutes of Health, NIH）檢視現存相關指導方針，並於120天內發佈新的規範。因此，NIH隨後於4月23日提出了幹細胞研究指導方針草案。 草案除將持續補助使用成體幹細胞及誘導多能幹細胞之研究外，針對過往無法接受補助之幹細胞類型（即原本為生殖目的之體外受精卵所衍生之幹細胞）也解除了禁令，使得美國科學家可取得更多樣及不受汙染的人類幹細胞。另外，草案也就幹細胞取得之告知後同意條約與流程做詳細的說明。最後，源自於體細胞核移轉（somatic cell nuclear transfer）、單性生殖（parthenogenesis）或為研究目的於體外所製造之胚胎等範疇之幹細胞，將無法接受草案的補助。 雖然草案大幅開放可受補助之範圍，但仍有些使用合乎規定之幹細胞之研究無法接受到補助，故對利害關係人來說，還是要注意草案所規定之限制條件。目前草案仍處於公眾評論之階段，預計不久之後將可正式生效。