美國商務部國家電信和資訊管理局呼籲透過第三方評測提高AI系統透明度
2024年3月27日，美國商務部國家電信和資訊管理局（National Telecommunications and Information Administration, NTIA）發布「人工智慧問責政策報告」（AI Accountability Policy Report），該報告呼籲對人工智慧系統進行獨立評估（Independent Evaluations）或是第三方評測，期待藉此提高人工智慧系統的透明度。
人工智慧問責政策報告就如何對人工智慧系統進行第三方評測提出八項建議作法，分別如下：
1.人工智慧稽核指引：聯邦政府應為稽核人員制定適合的人工智慧稽核指引，該指引須包含評估標準與合適的稽核員證書。
2.改善資訊揭露：人工智慧系統雖然已經應用在許多領域，但其運作模式尚缺乏透明度。NTIA認為未來可以透過類似營養標籤（Nutrition Label）的方式，使人工智慧模型的架構、訓練資料、限制與偏差等重要資訊更加透明。
3.責任標準（Liability Standards）：聯邦政府應盡快訂定相關責任歸屬標準，以解決現行制度下，人工智慧系統造成損害的法律責任問題。
4.增加第三方評測所需資源：聯邦政府應投入必要的資源，以滿足國家對人工智慧系統獨立評估的需求。相關必要資源如：
(1)資助美國人工智慧安全研究所（U.S. Artificial Intelligence Safety Institute）；
(2)嚴格評估所需的運算資源與雲端基礎設施（Cloud Infrastructure）；
(3)提供獎金和研究資源，以鼓勵參與紅隊測試的個人或團隊；
(4)培養第三方評測機構的專家人才。
5.開發及使用驗證工具：NTIA呼籲聯邦機關開發及使用可靠的評測工具，以評估人工智慧系統之使用情況，例如透明度工具（Transparency Tools）、認驗證工具（Verification and Validation Tools）等。
6.獨立評估：NTIA建議聯邦機關應針對高風險的人工智慧類別進行第三方評測與監管，特別是可能侵害權利或安全的模型，應在其發布或應用前進行評測。
7.提升聯邦機關風險管控能力：NTIA建議各機關應記錄人工智慧的不良事件、建立人工智慧系統稽核的登記冊，並根據需求提供評測、認證與文件紀錄。
8.契約：透過採購契約要求政府之供應商、承包商採用符合標準的人工智慧治理方式與實踐。
NTIA將持續與利害關係各方合作，以建立人工智慧風險的問責機制，並確保該問責報告之建議得以落實。
陳郁潔
副法律研究員 編譯整理
NATIONAL TELECOMMUNICATIONS AND INFORMATION ADMINISTRATION, NTIA calls for audits and investments in trustworthy AI systems (Mar. 27, 2024), https://www.ntia.gov/press-release/2024/ntia-calls-audits-and-investments-trustworthy-ai-systems (last visited April 26, 2024).
National Telecommunications and Information Administration, FACT SHEET: NTIA Urges Policy Changes to Boost Accountability and Trustworthiness in Artificial Intelligence Systems (Mar. 27, 2024), https://www.ntia.gov/other-publication/2024/fact-sheet-ntia-artificial-intelligency-policy-accountability (last visited April 26, 2024).
韓國產學合作技術控股公司制度說明 科技法律研究所 法律研究員 曾文怡 101年7月24日 壹、事件摘要 韓國於於2012年5月14日修正其「技術控股公司成立申請程序規定」最新修正係，將共同成立技術控股公司之主體擴大到「研究機構」。韓國技術控股公司 (technology holding company) 制度係於2007年8月3日「產業教育振興及產學研合作促進法（以下簡稱產學研合作促進法）」修法所新增之制度。為落實產學研合作促進法，韓國教育科學技術部於2008年6月組成「產學研合作技術控股公司成立許可諮詢委員會」，同年8月，並依據「產業教育振興及產學研合作促進法施行規則」第3條第5項，制訂公告「技術控股公司成立申請程序規定」。截至2012年5月止，韓國已成立技術控股公司之大學共有17間，其所成立之子公司計有58間。 貳、重點說明 一、韓國技術控股公司成立條件及流程 (一)技術控股公司成立主體及條件 依韓國產學研合作促進法第2條第8款規定，所謂「技術控股公司」，係指大學之產學合作團 ( 類似我國大學技術移轉中心 ) 或研究機構，擁有總統令所規定之技術[1]，並以技術事業化為目的而成立公司，並持有其它公司之股份，以支配該公司。依韓國產學研合作促進法第36條之2，成立技術控股公司之主體得為大學之產學合作團本身，或由各大學之產學合作團、學校法人[2]、研究機構共同成立。且技術控股公司應符合下列4項要件： 1.股份公司 2.公司幹部須未符合「國家公務員法」第33條第1項各款[3]規定之喪失資格事由 3.產學合作團 ( 包含共同成立技術控股公司之其它機關 ( 構 )) 以技術出資須超過資本額之30%，且擁有超過發行股份總數之50% 4.其它由總統令規定須具備之標準 ( 即全職專業人力1名以上及擁有專用空間 ) 具備上述條件後，應取得韓國教育科學技術部長之許可，始得成立。 (二)技術控股公司成立流程 欲成立技術控股公司之產學合作團，應向教育科學技術部提出「技術控股公司設立許可申請書」，若是兩個以上機關 ( 構 ) 共同成立技術控股公司之情形，則應選定一個代表機關 ( 構 ) 提出申請。除了提出申請書外，亦須提出「技術控股公司成立計畫書」以及「公司幹部之履歷」各1份，其中技術控股公司成立計畫書內應包含成立目的、出資內容及比例、事業計畫書 ( 包含技術控股公司擁有之人力及設施等相關事項 ) 。 教育科學技術部受理許可申請書後，須在30日內處理，並將結果通知申請人。若許可該技術控股公司之成立，則應發予申請人1份「技術控股公司成立許可書」；反之，則應告知申請人不予許可之事由。而 技術控股公司成立後，仍可另外成立子公司，但必須持有該子公司之20%以上股份；子公司得為「股份公司」或「有限公司」。 (三)技術控股公司業務範圍 技術控股公司除了負責公司營運業務外，亦包括其子公司之經營管理及其相關業務，此外亦可從事「產業教育振興及產學研合作促進法施行令」第43條規定之下列業務： 1.對子公司之技術及經營諮詢 2.支援子公司之企業公開 3.子公司和其它公司間之合併、子公司股份之全部或一部之賣出、子公司營業之全部或一部讓與、子公司之分割等相關業務 4.支援子公司之資金籌措 5.將技術控股公司本身擁有之技術移轉或事業化後給子公司，及協助子公司將其技術移轉、事業化 6.子公司之宣傳、教育訓練、行銷 7.與創業育成中心、實驗室、產學研合作促進法第37條第1項之合作研究所、產業技術園區或校區內設置營運之企業及研究所之相互合作 8.技術控股公司將其擁有之技術移轉予企業 9.為將技術控股公司擁有之技術或出資予子公司之技術事業化，組成投資基金 10.中介該產業教育機構或研究機構擁有之技術移轉至企業並事業化 11.對該產業教育機構和子公司以外之其它產業教育機構及其它公司之技術經營及教育訓練之支援 (四)利潤分配之使用限制 大學之產學合作團應將從技術控股公司接受之利潤或其他收入，使用在其固有業務以及大學研究活動上；又，若技術控股公司係大學之產學合作團與研究機構共同成立的話，研究機構自技術控股公司接受之利潤或其他收入，應再投資於其研究開發活動或技術控股公司等與研究開發相關用途上。 二、韓國技術控股公司成立現況 截至2012年5月止，韓國已成立技術控股公司之大學共有17間[4]，其所成立之子公司計有58間。據了解，目前尚有成均館大學、韓國科學技術院 (Korea Advanced Institute of Science & Technology, KAIST) 、加圖立大學、首爾市立大學等大學正著手進行設立技術控股公司的申請準備。 參、事件評析 一、技術控股公司制度目的在於促進技術移轉及商品化，以控股收益再投資大學研發活動 韓國於2007年修訂產學研合作促進法，新增「技術控股公司」制度，賦予大學直接成立技術控股公司的法律依據。相較於大學之產學合作團，主要係將其研發之技術移轉至企業，從企業獲得單純之收益 ( 技轉費用及權利金 ) ，有所差別。因為技術控股公司設立目的在於促使其積極利用所有之技術，不僅從事技術移轉業務，更得將技術予以商品化，以創造控股收益並再投資於研發活動，使既有技術得予以追加開發。如此一來，技術控股公司不僅提高大學的研發能力，亦增加大學資金來源，藉以促進創新技術之研發，提升研究人員之創新意願。 二、韓國大學之產學合作團具有獨立法人格，得成立技術控股公司 依韓國產學研合作促進法規定，得設立技術控股公司之主體為大學之「產學合作團」，且被賦予法人資格。所稱產學合作團，依韓國產學研合作促進法規定，主要負責促進技術移轉及商品化、智慧財產權取得與管理、與企業簽訂授權契約等業務，業務範圍與我國大學之技術移轉中心相當。 依我國公司法第128條第3項第2款規定，法人以其自行研發之專門技術或智慧財產權作價投資時，得為發起人。但我國國立大學目前法律定位仍屬三級行政機關，且性質上屬於公營造物，未若私立大學屬於財團法人，並無獨立法人人格，遑論大學所設之技術移轉中心，僅為學校內部專責單位，因此國立大學不符合公司法第128條第3項規定之以其自行研發之專門技術或智慧財產權作價投資之法人之條件，國立大學無法透過公司法第128條第3項規定為發起人，設立技術控股公司。故若未協助其突破法令限制，仍無法仿效韓國大學具備法人格之產學合作團，依法得成立技術控股公司。 資料來源： 1.韓國教育科學技術部，http://www.mest.go.kr/，最後瀏覽日：2012年5月25日 2.〈2010大學產學合作白皮書 (2011年版本) 〉，韓國教育科學技術部，2012年4月4日，http://www.mest.go.kr/web/1011/ko/board/view.do?bbsId=87&boardSeq=28984，最後瀏覽日：2012年6月13日 3.iusm每日新聞，2012年5月24日，http://www.iusm.co.kr/news/articleView.html?idxno=248734，最後瀏覽日：2012年6月13日 [1]依產業教育振興及產學研合作促進法施行令第3條規定，作為事業化對象的技術範圍，係指符合下列其中一款者。 1.依「專利法」、「新型專利法」、「設計保護法」登記或申請中之發明專利、新型專利、設計專利及其它智慧財產 2.第1款技術累積之資本財 3.第1款或第2款之技術資訊 4.具移轉、商品化可能性之技術性、科學性或產業性Know how [2]此處限於該學校無產學合作團之情形。 [3]韓國國家公務員法第33條：「符合下列其中一款者，不得任用為公務員。 1.禁治產者或限制治產者 2.受破產宣告且未恢復權利者 3.接受拘役以上徒刑之宣告且執行完畢，或確定後尚未執行，不超過5年者 4.接受拘役以上徒刑之宣告，刑之執行猶豫期間結束之日起，不超過2年者 5.接受拘役以上徒刑之宣告猶豫，尚在宣告猶豫期間者 6.依法院判決或其它法律規定喪失或中止權利者 6之2公務員在職期間，與其職務相關，犯『刑法』第355條及第356條之罪，受300萬元以上之罰金刑，且其刑確定不超過2年者 7.因懲戒受到罷免處分時起，不超過5年者 8.因懲戒受到解職處分時起，不超過3年者」。 [4]依技術控股公司成立時間順序分別為：漢陽大學、首爾大學、三育大學、西江大學、江原地區大學聯合、慶熙大學、高麗大學、仁川大學、釜山大學、東國大學、檀國大學、東新大學、朝鮮大學、全南大學、延世大學、全北地區大學聯合、東亞大學。
經濟合作與發展組織發布《促進AI可歸責性：在生命週期中治理與管理風險以實現可信賴的AI》經濟合作與發展組織（Organisation for Economic Co-operation and Development, OECD）於2023年2月23日發布《促進AI可歸責性：在生命週期中治理與管理風險以實現可信賴的AI》（Advancing accountability in AI: Governing and managing risks throughout the lifecycle for trustworthy AI）。本報告整合ISO 31000：2018風險管理框架（risk-management framework）、美國國家標準暨技術研究院（National Institute of Standards and Technology, NIST）人工智慧風險管理框架（Artificial Intelligence Risk Management Framework, AI RMF）與OECD負責任商業行為之盡職調查指南（OECD Due Diligence Guidance for Responsible Business Conduct）等文件，將AI風險管理分為「界定、評估、處理、治理」四個階段： 1.界定：範圍、背景、參與者和風險準則（Define: Scope, context, actors and criteria）。AI風險會因不同使用情境及環境而有差異，第一步應先界定AI系統生命週期中每個階段涉及之範圍、參與者與利害關係人，並就各角色適用適當的風險評估準則。 2.評估：識別並量測AI風險（Assess: Identify and measure AI risks）。透過識別與分析個人、整體及社會層面的問題，評估潛在風險與發生程度，並根據各項基本價值原則及評估標準進行風險量測。 3.處理：預防、減輕或停止AI風險（Treat: Prevent, mitigate, or cease AI risks）。風險處理考慮每個潛在風險的影響，並大致分為與流程相關（Process-related）及技術（Technical）之兩大處理策略。前者要求AI參與者建立系統設計開發之相關管理程序，後者則與系統技術規格相關，處理此類風險可能需重新訓練或重新評估AI模型。 4.治理：監控、紀錄、溝通、諮詢與融入（Govern: Monitor, document, communicate, consult and embed）。透過在組織中導入培養風險管理的文化，並持續監控、審查管理流程、溝通與諮詢，以及保存相關紀錄，以進行治理。治理之重要性在於能為AI風險管理流程進行外在監督，並能夠更廣泛地在不同類型的組織中建立相應機制。
基因改造食品標示問題有新進展加拿大目前對基因改造產品的政策是採取自願標示制度。然而魁北克省的消費者贊成應對含有機因改造成份之食品實施強制標示。本月初，該省農林廳長在一項會議中指出，基因改造產品可能存有環境方面的風險並且有消費者疑慮的問題，因此應嚴謹以對，改採取強制性標示制度，讓消費者可以自行選擇。雖然目前聯邦官員以及其他省份仍贊同現行的自願標示制度，首長們 ( 大部分反對強制標示的立法 ) 同意繼續討論此議題。 此外，目前近日美國阿拉斯加州亦通過 Bill 25 法案，強制對基因改造魚類及相關魚類產品作明顯標示。這項法案通過後，該州成為美國第一個針對基因改造食品標示問題作明確立法的一州，該法案更成為美國第一個要求標示基因改造食品的法案。有關觀察家預期這個法案將會帶動美國各州對基因改造食品之標示進行必要的規範。根據美國 Rutgers 大學於 2004 年 11 月所作的民調顯示，約有 89 ％的美國民眾希望基因改造食品應有明確的標示。
RFID應用與相關法制問題研析－個人資料在商業應用上的界限