美國商務部國家電信和資訊管理局呼籲透過第三方評測提高AI系統透明度
2024年3月27日，美國商務部國家電信和資訊管理局（National Telecommunications and Information Administration, NTIA）發布「人工智慧問責政策報告」（AI Accountability Policy Report），該報告呼籲對人工智慧系統進行獨立評估（Independent Evaluations）或是第三方評測，期待藉此提高人工智慧系統的透明度。
人工智慧問責政策報告就如何對人工智慧系統進行第三方評測提出八項建議作法，分別如下：
1.人工智慧稽核指引：聯邦政府應為稽核人員制定適合的人工智慧稽核指引，該指引須包含評估標準與合適的稽核員證書。
2.改善資訊揭露：人工智慧系統雖然已經應用在許多領域，但其運作模式尚缺乏透明度。NTIA認為未來可以透過類似營養標籤（Nutrition Label）的方式，使人工智慧模型的架構、訓練資料、限制與偏差等重要資訊更加透明。
3.責任標準（Liability Standards）：聯邦政府應盡快訂定相關責任歸屬標準，以解決現行制度下，人工智慧系統造成損害的法律責任問題。
4.增加第三方評測所需資源：聯邦政府應投入必要的資源，以滿足國家對人工智慧系統獨立評估的需求。相關必要資源如：
(1)資助美國人工智慧安全研究所（U.S. Artificial Intelligence Safety Institute）；
(2)嚴格評估所需的運算資源與雲端基礎設施（Cloud Infrastructure）；
(3)提供獎金和研究資源，以鼓勵參與紅隊測試的個人或團隊；
(4)培養第三方評測機構的專家人才。
5.開發及使用驗證工具：NTIA呼籲聯邦機關開發及使用可靠的評測工具，以評估人工智慧系統之使用情況，例如透明度工具（Transparency Tools）、認驗證工具（Verification and Validation Tools）等。
6.獨立評估：NTIA建議聯邦機關應針對高風險的人工智慧類別進行第三方評測與監管，特別是可能侵害權利或安全的模型，應在其發布或應用前進行評測。
7.提升聯邦機關風險管控能力：NTIA建議各機關應記錄人工智慧的不良事件、建立人工智慧系統稽核的登記冊，並根據需求提供評測、認證與文件紀錄。
8.契約：透過採購契約要求政府之供應商、承包商採用符合標準的人工智慧治理方式與實踐。
NTIA將持續與利害關係各方合作，以建立人工智慧風險的問責機制，並確保該問責報告之建議得以落實。
陳郁潔
副法律研究員 編譯整理
NATIONAL TELECOMMUNICATIONS AND INFORMATION ADMINISTRATION, NTIA calls for audits and investments in trustworthy AI systems (Mar. 27, 2024), https://www.ntia.gov/press-release/2024/ntia-calls-audits-and-investments-trustworthy-ai-systems (last visited April 26, 2024).
National Telecommunications and Information Administration, FACT SHEET: NTIA Urges Policy Changes to Boost Accountability and Trustworthiness in Artificial Intelligence Systems (Mar. 27, 2024), https://www.ntia.gov/other-publication/2024/fact-sheet-ntia-artificial-intelligency-policy-accountability (last visited April 26, 2024).
Spitzencluster-Wettbewerb由德國聯邦教育與科學部（Bundesministerium für Bildung und Forschung，BMBF）自2007年起開始推行，屬該國高科技戰略2020（hightech-strategie 2020）之政策配套措施之一，更是歐盟發展歐洲研發區位計畫（European Research Area）之一環。所謂聚落係建立在德國傳統工業區位分布上，利用群聚效應因應產業技術發展的複雜問題（產業問題非單一技術可解決），使各具專長之學研機構與企業共同分享產業問題研議出解決方案，分擔研發風險與成本等，增強合作效率，促進產業創新及升級。聚落多以成立協會（association）為主，平均每一聚落有近70個企業參與，原則上開放跨國參與者參與聚落之產學合作，並對會員收取會費。 本計畫作為重要的區域產學研合作計畫，乃承襲自德國過去不斷推動的區域產學研合作計畫，其特色是採取競爭方式選出德國境內優秀之聚落，並補助其相關研發計畫。自2007年至2015年間，已有三次選拔，並選出共15個領先聚落，分別涉及領域橫跨航太、資通訊、能源、生技等技術發展。至2015年為止總計已補助超過1300個計畫。2015-2017年將規劃有三次選拔，每回合挑選至多10個聚落獲得補助。目前本計畫已補助3.6億歐元預算，至2017年底將再投入5億歐元預算。
法國憲法委員會認定HADOPI法「三振條款」違憲延續本中心前幾期對於法國國會於今年5月所通過的「支持網路創作傳佈及保護法」（loi favorisant la diffusion et la protection de la création sur Internet，簡稱loi création et internet；又因該法中特別設立所謂的「網路著作散佈及權利保護高等署」（Haute Autorité pour la Diffusion des Œuvres et la Protection des Droits sur Internet，通常簡稱HADOPI）作為執行本法相關任務之獨立行政機關（autorité administrative indépendante），故本法又被稱為HADOPI法）中相關議題的報導，本次將簡要介紹法國憲法委員會（Conseil constitutionnel）於今年6月10日所作出（Décision n° 2009-580 DC du 10 juin 2009）對於該法所制定「三振條款」認定違憲之理由。 在進入憲法委員會此一決定前，須先說明HADOPI法的性質：依據本法第1條及第2條之指示，此一法律主要係修正及增補「法國智慧財產權法典」（Code de la propriété intellectuelle）之相關規定，特別是透過電子及網路傳輸之著作物（œuvres）的保護措施，並將原法典中「技術措施管理署」（l'Autorité de régulation des mesures techniques）更改為前述之「高等署」，並透過調整權限及組織內容之方式，賦予其「獨立行政機關」之地位─而特別值得注意的，則是此一獨立行政機關的9位委員中亦包括由中央行政法院（Conseil d'État）、法國最高法院（或稱「廢棄法院」；Cour de cassation ）、審計法院（Cour des comptes）等指派之成員。而所謂的「三振條款」，即是本法第5條（亦為增補後之智慧財產權法典第L. 331-25〜331-27條、）中所規定之：如網路用戶於接獲兩次由HADOPI所寄發之「違反勸阻通知」（recommandation）後依然違反智慧財產權法典第L. 336-3條所賦予之義務（禁止透過網路傳送服務對於受著作權及其他相近權利保護之著作進行非法複製、再現等；最常見之形式即為非法下載）時，HADOPI即可在進行「對辯程序」（procédure contradictoire，包括事前通知、卷宗閱覽、書面陳述意見，以致若經當事人要求須進行有律師或輔佐人陪同之正式聽證程序）後，對其進行裁罰（sanctions），最長可處使用者全面中斷（suspension）一年的網路服務。 因此，在法國憲法委員會對於此一法案的審議中，其關注重點即落在對於HADOPI是否可做出此種對於網路服務使用者進行中斷服務的裁罰之上。而主要基於2項理由，憲法委員會認為此一裁罰違反憲法： 1.此一中斷服務之裁罰雖可視為係達成此一法律任務所必要之措施，但因其涉及限制人民之自由及權利，故其實具有刑罰（punition）之性質；從而依據權力分立原則，能夠享有判斷並做出此一裁罰決定之權限者，僅為法院，而非行政機關。 2.而就算強調此一裁罰係由包含司法部門成員的獨立行政機關所做成，其依然違反了憲法前言、1789年法國人權及公民權宣言中所指涉及保護的基本權利，其中包括宣言第9條的「無罪推定」，以及在本案中具備決定性之宣言第11條「思想及意見自由傳達」的權利：因為在現代民主社會發展中，使用傳播工具及網路服務已是實現此一自由所不可或缺者；從而政府中斷網路服務之裁罰行為本身，已損及人民接近使用網路服務的基本權利。 然而，儘管法國憲法委員會在其決定中否認了HADOPI法中「三振條款」的合憲性，但因除去此一部份違憲條文外，整體HADOPI法仍通過了本次的憲法考驗，且HADOPI此一機關本身之正當性亦藉此取得確定。從而，HADOPI於後續實際案例中將會如何解釋適用此一法律，顯然是日後必須持續關心的重要議題。
「數位藥丸(digital pill)」新運用英國航空公司(British Airways)近來對數位藥丸申請了專利，並且調查乘客是否願意吞食數位藥丸，使空服員得對其提供更好的服務。 該數位藥丸以主要是一個可食用的偵測系統，藉此航空公司得以知悉乘客的身理狀況，包含偵測乘客的心跳、體溫、或是否處於睡眠等生理反應，航空公司便可據此調整基上的的燈光、用餐時間以及機上娛樂設施等等。這一整套「為了提升乘客旅遊品質」的系統現在被寫成專利申請書，並於2016年提出英國航空公司表示利用不同的資料可以幫助機員了解乘客是醒或睡、是否緊張、冷熱或感到不舒適，並通知機員。依據其專利申請書，英國航空希望創造一個App，協助乘客改善整體旅遊品質，不僅是在機上，而是乘客從踏出家門開始到旅程結束，均能享受此科技之便利。
美國FDA擬參考PDUFA，向學名藥產業收費美國FDA官員新近對外表示，該局正考慮參考處方藥使用者付費法（Prescription Drug User Fee Act, PDUFA），研擬一套向學名藥產業收費的機制。PDUFA是美國國會在1992年所通過的法案，依據該法，生技及製藥產業向FDA支付「使用費」（user fees），FDA承諾每年達到一定的審查“業績”（performance standards），以加速新藥上市申請。 目前PDUFA的適用對象並不包括學名藥廠，鑑於歷年來學名藥上市申請案件大幅攀升，以FDA既有之人力與資源，早已無法負擔如此大量的上市審查工作。另若考量諸多知名原廠藥之專利將在未來幾年陸續到期，如不增加新的資源，FDA的學名藥審查負擔將會持續惡化。使用者付費機制若能擴及學名藥，則FDA將可獲得額外資源，用來聘用更多的專業審查人員、取得更為豐富之資料，以保障病患之權益，使其可儘速近用便宜且有效之學名藥。 雖然PDUFA在改善新藥上市審查效率方面，確實達到了政府與產業界雙贏、民眾受惠的目的，不過這套制度要擴及學名藥產業，卻遭受到學名藥業界的反對。其中最主要的疑慮來自於，在現今的審查制度設計下，提高學名藥上市審查效率的目標是否能透過使用者付費達成，殊值懷疑。蓋根據美國法律規定，學名藥廠若以原開發藥廠之專利無效為理由申請上市，應將申請上市之事實通知原開發藥廠，一旦原開發藥廠認為學名藥廠侵害其專利並提起訴訟，FDA即必須停止學名藥之上市審查。據此，學名藥業界認為，在上述問題解決前，即使PDUFA擴及適用到學名藥產業，也並未能有助於改善學名藥上市審查之效率。 總而言之，PDUFA若欲擴及學名藥產業，仍需釐清前揭疑慮並有待國會立法通過，不過，一旦使用者付費機制擴及適用於學名藥產業，則學名藥廠之藥物開發成本將會提高，我國學名藥廠如欲經營美國市場，值得注意其發展。