近來國際間許多國家投入智慧商業及智慧消費之發展,為兼顧保障個人資料權利前提下,鼓勵產業界從事商業創新,英國商務創新技術部(Department for Business, Innovation & Skills)於2013年7月宣布促成「Midata創新實驗計畫平台」(midata innovation lab),由英國政府、企業界、消費者團體、監管機構和貿易機構共同組成,此為示範性自律性組織,參與之業者/機構於應消費者要求(consumer’s request)情形下,將所擁有消費者資料,特別是交易資料(transaction data),以電子形式及機器易讀取形式(electronic, machine readable format)對「我的資料」(Midata)體系公開(release);並且,將可更便利消費者利用這些資料瞭解自己的消費行為,在購買產品和服務時可以做出更為明智的選擇。
英國商務創新技術部係於2011年4月,開始提出所謂「Midata計畫」:於「更好選擇;更好交易環境;提昇消費者權力」政策(Providing better information and protection for consumers),宣示推動「Midata計畫」,作為提昇資訊力量(power of information)重要策略。為積極推動,「Midata計畫」,並協助產業界能有更詳細遵循指引,於2012年7月公告「Midata政府產業諮詢報告」(midata: government response to the 2012 consultation),同年12月出版「Midata隱私影響評估報告」 (midata: privacy impact assessment report)。
為配合上述政策施行,由產業界、組織、政府機構所共同組成的「Midata創新實驗計畫平台」(midata innovation lab),已開始展開運作。此平台認為,近來越來越多實務情形證明,個人資料對於企業而言已被視為日漸重要的資產,並且未來將成為提供更個人化、多元化之產品服務之重要基礎。倘若能在確保消費者個人資料相關權利之前提下,促成產業界積極投入發展,以「我的資料(Midata)創新實驗計畫」為運作平台,對於企業所持有個人資料,兼顧企業與消費者原則共同獲益,將可因應趨勢取得商業先機。
以英國商務創新技術部規劃政策,前期試行推動先以「核心產業」(core sectors)(金融產業、電信產業、能源產業)為導入適用,待實施具一定成效後,將延伸推廣至其他產業領域(non-core sectors),而後也將由現行初期以產業自律性參與計畫模式,進展至以法令規範強制實施的階段。
本文為「經濟部產業技術司科技專案成果」
英國教育部(Department for Education,以下簡稱DfE)於2026年7月7日更新《保障兒童在教育領域之安全2026》(Keeping children safe in education 2026,下稱KCSIE 2026),將「生成式AI」納入學校之兒少保護與網路安全體系,供英國幼稚園至大學等學校參考,以保障及促進18歲以下兒童及青少年之福祉。此文件性質為不具強制力之指引,自同年9月1日起生效。以下簡要介紹《KCSIE 2026》重點。 《KCSIE 2026》建議除有正當理由,否則校方應遵循以下: 1.政策面,學校應將網路安全管理方法列入校內既有兒少保護政策中,如當學生使用AI生成具傷害性之內容(AI深偽照片、影片等)時,校方應啟動關於影像濫用的兒少保護程序。 2.系統管理面,建議學校應建立適當的過濾與監控系統(filtering and monitoring systems),每年至少應審查一次過濾系統之功能是否正常運作。 由校內人員組成之高級管理團隊(Senior Leadership Team, SLT)成員主導審查,以及由校方指定的一名或多名安全保護主管(Designated Safeguarding Lead, DSL)與IT人員從旁協助。審查重點除應確保過濾功能正常,亦應確保工作人員理解相關規定並知道向上通報事件之方式,並應留存相關審查紀錄。 建議學校除此份文件外,亦應參考英國DfE發布之《生成式AI產品安全標準》(Generative AI: product safety standards),評估AI工具是否符合教育領域的過濾與監控需求。 3.人員面,建議教職員的入職培訓以及每年至少一次兒少保護新知培訓中,應考量網路安全與學校的兒少保護政策並加以整合。 關於前文提及英國DfE於2026年1月更新之《生成式AI產品安全標準》,此文件性質同為不具強制力之指引,其提出11項安全標準供教育科技開發商、學校及學院供應商規劃與評估其生成式AI產品,包含:智慧財產權、隱私與資料保護、認知發展、心理健康及過濾機制等項目。其中,「智慧財產權」,主要提到除取得著作權人同意,否則AI產品不應儲存「輸入的資料」,亦不應將「輸入的資料」用於任何商業用途,包含但不限於作為訓練資料、產品開發。「隱私與資料保護」包含如:AI生命週期中應進行資料保護影響評估,若未確認合法依據,不得蒐集、儲存、分享或使用個人資料於任何商業目的,包括用於訓練與微調模型。「過濾機制」係指學校應確保採購之AI產品具過濾功能,可有效防止使用者(學生)接觸不當的內容。 由前文可得知,學校導入AI工具,不宜只評估AI功能之便利性,也應確認是否二次利用輸入之資料、資料傳輸至何處、具資料存取權限的人員範圍,以及是否具備過濾機制,並採取因應措施,如教職員培訓等。 臺灣教育領域導入生成式AI時,可參考此思維,於採購及委外開發流程,要求供應商揭露資料流向、限制二次利用(如用於訓練與微調模型)並保留系統操作紀錄,再由校方建立權限設定、過濾機制及事件應變制度,使教育AI的創新應用奠基於可追溯、可管控的資料管理基礎。 本文為資策會科法所創智中心完成之著作,非經同意或授權,不得為轉載、公開播送、公開傳輸、改作或重製等利用行為。 本文同步刊登於TIPS網站(https://keid.nat.gov.tw/tips/)
美伊利諾最高法院判決:醫療服務提供者例外不受生物資訊隱私法保護美國伊利諾州伊利諾最高法院(Illinois Supreme Court)於2023年11月30日對Mosby v. The Ingalls Memorial Hospital et al.案做出判決:認定符合聯邦法規健康保險流通與責任法(Health Insurance Portability and Accountability Act, HIPAA)規定,基於「治療、付款或健康照護運作」之前提下,除病患外即使是醫療服務提供者的生物識別資訊被蒐集、利用或揭露,同樣不受伊利諾州生物資訊隱私法(Biometric Information Privacy Act, BIPA)的保護。 伊利諾州現行以BIPA對蒐集或保留任何個人的生物識別資訊(如虹膜、聲紋、指紋或生物樣本等)做了較為嚴格的限制,原則上這些資訊不能在未經當事人同意的情況下被蒐集、利用或揭露。除非是1.由醫療保健機構從患者身上蒐集的生物識別資訊;或2.根據HIPAA規定,基於進行治療、付款或健康照護運作的前提來蒐集、使用或儲存的生物識別資訊,才可例外免經當事人同意(biometric identifiers do not include information captured from a patient in a health care setting or information collected, used, or stored for health care treatment, payment, or operations under the federal HIPAA.)。然而,基於進行治療、付款或健康照護運作的前提,資料主體除接受治療或健康照護的病患外,是否涵蓋醫療服務提供者(如醫護人員),則有疑義。 本案因醫院的護理人員認為醫療院所未經同意,使用帶有指紋掃描功能的藥品櫃,來蒐集、使用或儲存了他們的生物識別資訊,因此提起訴訟。伊利諾州的地方法院和巡迴上訴法院於本案均支持原告提出的主張。然而,伊利諾州最高法院審理時則透過文義解釋以及條文結構分析之方式,認為立法者係有意於例外規定中重複使用「資訊」一詞,兩次「資訊」之內涵應有不同。故前段的資訊係指患者的資訊,而後段的資訊來源則應包含了醫療照護提供者,方符合立法者真意。 生物識別資訊風險較高,過去被認為需要取得當事人積極同意授權;於本案中伊利諾州最高法院權衡認為基於「治療、付款或健康照護運作」情境下,如本案情形係用來確保醫藥品被正確分配給需要的患者,因此對患者以外的醫療人員隱私權做出限制符合例外規定。本案揭示了個資隱私得為合理利用的情境之一,然而HIPAA對於資料傳輸較寬鬆的規範會否又與資料保護的趨勢有所違背,仍須持續關注相關案例發展。
澳洲通過智慧財產權法修正案,廢除創新專利制度澳洲通過智慧財產權法修正案,廢除創新專利制度 資訊工業策進會科技法律研究所 2020年6月10日 澳洲政府發布2020年《智慧財產權法修正案(生產力委員會回應第2部分及其他措施)》(Intellectual Property Laws Amendment (Productivity Commission Response Part 2 and Other Measures) Act 2020),針對澳洲2003年《設計專利法》、1990年《專利法》及1995年《商標法》進行修正,於2020年2月26日正式成為法律,而本次修法重點係自2021年8月26日起廢除創新專利制度,並開始啟動相關廢除程序。 壹、修法背景概述 澳洲原先的專利制度分為標準專利(standard patent)以及創新專利(innovation patent)兩種專利,兩者主要區別在於,創新專利類似我國新型專利,其適用門檻較低且保護期間較短。該制度政策目的係為了透過門檻較低的專利制度提供智慧財產權保護,以鼓勵澳洲中小企業進行研發創新。 然而,澳洲智慧財產局2015年所進行的研究資料顯示,創新專利雖然對於鼓勵中小企業研發創新具有一定積極作用,但仍遠遠不及標準專利更有影響力。大型企業甚至透過創新專利作為產業競爭的戰略工具,利用門檻低的優勢建立專利叢林(patent thickets),有效阻礙中小企業進行研發創新,造成中小企業無法在市場上競爭。此外,低門檻且未經審查的創新專利為中小企業經營自由產生不確定性,創新專利本身與中小企業的產品銷售並無關聯,也無法影響整體產業市場,更可能面臨外國專利不認可的窘境,由此可知創新專利長期下來實施效果不彰,並無法確實達成澳洲政府支持中小企業發展的政策目標[1]。 因此,澳洲政府決定廢除創新專利制度,在18個月的過渡期間也將啟動各種配套措施協助中小企業優化智慧財產權制度,例如提供中小企業快速審查服務(SME fast track),或是專案管理服務(SME case management),或是輔導推廣計畫等方式,以政府力量支持提供中小企業成長計畫與教育,協助中小企業更能輕鬆進行多元化智慧財產權策略布局,並符合澳洲智慧財產權法規範體系之要求[2]。 貳、主要修法內容 澳洲政府於2018年曾發布《智慧財產權法修正案(生產力委員會回應第1部分及其他措施)》(Intellectual Property Laws Amendment (Productivity Commission Response Part 1 and Other Measures) Act 2018),主要針對《商標法》及《著作權法》進行調整,例如明訂真品平行輸入不違反澳洲註冊商標權之規定;而本修正案主要針對《專利法》進行修正,於《專利法》加入目的條款[3](object clause),闡明專利制度之根本目的,係通過技術創新以及技術移轉等方式促進經濟福祉。專利制度會隨著時間的流逝平衡技術、生產者、擁有者以及公眾之間的利益,並減少因時代的演進所導致法規運作的不確定性,在法規條文有不確定概念的情況下,幫助法院進行法律解釋。目的條款不會改變法規的原意,也不會推翻現有的判例法和既定的先例,並對《專利法》立法目的提供明確指引及指導原則[4]。 另一個主要修正為頗受爭議的廢除創新專利修正條文,逐步淘汰的過渡期從12個月延長至18個月,自2021年8月26日起,澳洲智慧財產局即不再接受創新專利申請。此外,在創新專利制度廢除前所提交的申請案,也就是在2021年8月25日以前申請之創新專利案件,在持續繳納專利維護費用下,其效力至期滿為止,並保留提交分割或轉換為標準專利申請的權利,屆時所有已核准的澳洲創新專利將維持有效至專利期滿失效。 參、修法簡析 澳洲創新專利制度目的原為降低中小企業在專利申請與取得的門檻,因此費用較低、保護時間較短,由於費用便宜又可以快速取得專利,若由大型企業大量申請,反而造成中小企業創新研發動力薄弱。澳洲創新專利與我國新型專利雖同樣採取形式審查,但實質內容上仍有部分差異,澳洲創新專利目的在於降低中小企業創新研發成本,因此對於進步性要求較低,使得大型企業反而透過大量申請創新專利扼殺中小企業創新空間。反觀我國新型專利在制度配套措施較為完善,除設有舉發機制外,另設有新型專利技術報告之規範,以降低形式審查之新型專利權對公眾第三人的影響[5]。 澳洲廢除創新專利制度的政策目的,主要是為了解決中小企業在從事研發創新活動與大型企業市場競爭的困境,搭配廢除創新專利制度的因應措施,以降低中小企業經營自由產生不確定性。然而,以形式審查方式的專利制度究竟能否確實有效保障發明人權利,達到促進創新研發的政策目的,仍需以各國對於智慧財產權保護之態度,與政府在司法與行政資源的運作之間取得衡平。目前仍有不少國家仍保留類似的形式審查制度,而澳洲廢除創新專利實質效益仍有待持續觀察,未來將可供我國新型專利制度參考與評估,以利我國建立更有效益的智慧財產權體系。 [1]IP AUSTRALIA, The economic impact of innovation patents, IP Australia Economic Research Paper 05, https://www.ipaustralia.gov.au/sites/default/files/reports_publications/economic_impact_of_innovation_patents.pdf (last visited June 10, 2020) [2]IP AUSTRALIA, Innovation Patents Harm Small Business Innovation, https://www.ipaustralia.gov.au/sites/default/files/innovation_patent_fact_sheet_2019.pdf (last visited June 10, 2020) [3]Patents Act 1990 Article 2A: “The object of this Act is to provide a patent system in Australia that promotes economic wellbeing through technological innovation and the transfer and dissemination of technology. In doing so, the patent system balances over time the interests of producers, owners and users of technology and the public.” [4]IP AUSTRALIA, Intellectual Property Laws Amendment (Productivity Commission Response Part 2 and Other Measures) Act 2020, https://www.ipaustralia.gov.au/about-us/public-consultations/intellectual-property-laws-amendment-productivity-commission-response (last visited June 10, 2020) [5]周光宇,各國新型專利制度之比較與分析,智慧財產權月刊,第217期,2017年1月。
新加坡代理AI治理示範框架對我國人工智慧基本法落地的啟示新加坡代理AI治理示範框架對我國人工智慧基本法落地的啟示 資訊工業策進會科技法律研究所 2026年07月08日 新加坡資訊通信媒體發展局(Infocomm Media Development Authority,下稱IMDA)於2026年5月20日發布《代理式人工智慧治理示範框架》(Model AI Governance Framework for Agentic AI,下稱示範框架)第1.5版,以事前評估並框限風險、使人類負起有意義的當責、落實技術控制與流程、促成終端使用者盡責四大面向,同時提供真實部署案例,將代理式人工智慧(以下簡稱代理AI)治理的實務具體化[1]。 壹、事件摘要 相較於僅生成內容之生成式人工智慧,代理AI能自主規劃、跨多步驟採取行動,並與其他代理及外部系統互動,代替使用者完成任務。由於其可存取敏感資料並以行動變更所處環境,例如更新客戶資料庫或執行付款,風險型態明顯不同於僅可能產生錯誤輸出者。我國《人工智慧基本法》已於民國114年經立法院三讀通過,以風險為基礎、原則導向、由各主管機關落實之路徑[2]。惟我國現行治理之重心,仍落在AI應用與輸出風險,對於代理採取行動所生之系統性風險存在空缺。新加坡已關注此新興的AI工具發展,更新其代理AI治理框架,新增風險評估因素、代理AI價值鏈、防範自動化偏誤之作法與各類控制之概覽及其選用方式,為組織提供代理AI風險及其管理新興最佳實務的結構化概覽。 貳、重點說明 一、以行動空間與自主性為風險座標 示範框架提出各代理AI雖可能具備相同元件,但每一元件之設計皆可能顯著影響代理能力,故思考代理能做什麼時,應區分兩個概念:一為行動空間(action-space),指代理可採取之行動範圍,取決於其獲准使用之工具及該等工具上之權限;二為自主性(autonomy),指代理朝目標行動時可自行決定如何行動之程度,取決於其指令與人為介入之程度。此兩個要素是後續一切風險評估與控制設計之重要因素,不同的權限與自主程度,將會使性質同為代理AI,歸屬於截然不同之風險程度[3]。 二、風險會因代理功能出現系統性擴大效應 由於代理之風險本質上並非全新,真正變化在於這些風險因代理AI會在真實世界採取行動,速度與複雜度會進一步加劇。示範框架提醒決策的快速會使監督難以在造成危害前即時阻止,而要求人類持續監督又可能導致自動化偏誤與警示疲勞,致某一步驟之錯誤可能於後續步驟間傳播並放大。因此,當系統由多個代理構成,敏感資料被無意記錄、傳遞給安全性較低代理或遭提示注入揭露之可能,會產生無法透過個別測試去預測並防止之行為[4]。 三、代理AI的四大關鍵面向 示範框架就代理AI於下列四大面向,提供組織做為梳理治理重點的關鍵考量。這些面向同時構成一個循環,透過監測發現異常時,即應循環重新評估先前各面向[5]。 (一)事前評估並框限風險:組織可於規劃階段設計適當邊界,以限縮代理之影響範圍,例如限制其對工具與外部系統之存取。組織亦可透過代理身分管理與存取控制等措施,確保代理之行動可追溯、可控制。 (二)使人類負起有意義的當責:「人在迴路」(human-in-the-loop)須加以調整,以因應自動化偏誤,一旦代理AI之部署獲得放行,組織即應採取措施確保人為當責,並應迅速掌握新發展,隨技術演進更新其作法。 (三)落實技術控制與流程:組織應於代理生命週期全程實施技術措施,且由於代理與其環境動態互動、且非所有風險均能事前預見,爰建議逐步推出代理,並於部署後持續監測。 (四)促成終端使用者盡責:應告知使用者代理之行動範圍、資料存取情形,以及使用者自身之責任。組織並應考量另行提供教育訓練,使員工具備管理人機互動、行使有效監督所需之知識,同時維持其專業技藝與基礎技能。 四、風險控制的因應策略 示範框架以行動空間與自主性各對應嚴重程度與發生機率,嚴重程度考量部署領域、對敏感資料與外部系統之存取、行動範圍(讀取相對於寫入)及可回復性;發生機率則考量自主程度、任務複雜度、是否由外部方提供及系統複雜度,並主張以「威脅建模」(threat modeling)即系統化的預設可能的如記憶投毒、工具濫用、權限破壞、間接提示注入等威脅情境,推導出更有針對性的控制與分層防禦方式來強化評估[6]。 在風險控制策略上,示範框架主張系統層確定性控制優於提示層防護,亦即與其提示代理AI不得存取特定工具,不如施加存取控制使該工具根本無法被呼叫。除靜態防護外,框架另強調在設計之初就要納入控制措施,在執行過程中監測並介入,例如如限制防止工具使用過度,或以輸入驗證的方式,在有害動作執行前予以攔截[7]。 五、風險控制的實作技巧 對於風險控制實際方法,示範框架建議可於協定層就善用模型上下文協定(Model Context Protocol,MCP)過濾敏感資料、記錄所有互動或將受信任伺服器列入白名單。同時,該框架以事例建議組織可採取這些控制的技術手段,如:於提示代理AI反思計畫是否遵循指令、記錄計畫與推理供驗證;於執行時要求嚴格輸入格式、以最小權限限制可用工具、對敏感資料庫預設不給寫入權、於鍵入密碼時交還使用者控制;於連結時,將受信任伺服器列入白名單、將程式碼執行沙箱隔離[8]。 六、人為監督之具體化、代理身分治理 針對人為監督方式,該示範框架建議應先界定須經人為核准之查核點或行動界線,尤其在高風險、不可回復或離群行為之前。其次,設計核准之形式,使請求切合脈絡且易於理解、清楚呈現風險,並依情形選擇所需之人為輸入。但最關鍵的是,須將監督的有效性本身納入稽核,包括追蹤人為否定率偏低,或審查回應時間有過短情況時,即意味監督可能已流於形式。須注意自動化偏誤或審查疲勞,並辨識決策明顯偏離常態之「離群」人員,同時訓練監督者辨識代理AI可能出狀況的情況[9]。 而就多代理與跨組織互動帶來之系統性風險,示範框架建議的因應是將身分管理延伸至代理,但其亦指出現行授權系統多為預先定義之靜態範圍,難以因應代理依情境動態變化之細粒度權限;於過渡期間,建議代理AI身分應具備唯一、有所歸屬、依其行事身分加以區別、並建檔集中管理[10]。 七、部署前全流程測試、逐步部署並設計風險示警 框架認為可能透過工具採取不安全或非預期之動作,故應測試整體任務執行、政策遵循度與工具使用正確性,非僅測最終輸出;且應個別測試與合併測試,以掌握多代理協作時之湧現風險。就部署後,框架主張逐步推行,可依使用者、工具與協定、所暴露系統三個面向控制推行範圍並持續監測。在監測面,應決定記錄之內容、優先監測更新資料庫或金融交易等高風險活動、建立警示定義與設計與風險相稱之介入、確保日誌不可竄改以維持稽核軌跡,並建立將監測洞察回饋至訓練與評估之迴路[11]。 參、事件評析 新加坡的代理AI治理框架初版於二〇二六年一月發布,此次更新納入多個組織導入代理AI的實例回饋,擴充多代理系統之系統性風險,補強代理蔓生、協作失敗、串謀與湧現行為之情境。其核心價值在於指出傳統風險止於「內容」,而代理式治理之對象,則係能呼叫工具、寫入系統、執行交易之能行動系統,風險延伸至「行動」及其真實後果。因此,其建議應由單一之模型輸出品質,轉為行動空間與自主性之風險控制。由內容防護轉為系統確定性控制、執行期介入與協定治理;由事後審查轉為將推翻率、回應時間等監督的有效性予以指標與持續改善化。 我國AI基本法於第4條提及問責、人類自主及資料治理原則,適對應示範框架的人為當責、系統層控制與監督指標化建議。同時,依基本法第16條規定數位發展部應參考國際標準或規範,推動與國際介接之人工智慧風險分類框架,並應協助各目的事業主管機關訂定以風險為基礎之管理規範。各目的事業主管機關應視人工智慧應用風險管理之需要,循前項風險分類框架,訂定以風險為基礎之管理規範,並應協助相關產業自行訂定產業指引及行為規範。在代理AI已在生成式AI基礎上,跨入多任務自主執行的功能層次,風險的質與量已因代理功能出現系統性擴大效應的情況下,單純以生成式AI為標的治理規範或指引,顯然其可產生的規範管理或指引提醒的效果,已不足以因應AI的快速發展。 新加坡適時更新的代理AI治理框架,雖然亦表明代理AI的風險並非其所獨有,亦是來自於生成式AI的既有影響,但該框架進一步提醒代理AI將使風險控制更加困難,「人在迴路」(human-in-the-loop)須加以調整,一旦代理AI之部署獲得放行,組織即應採取明確課責、認知建立、訓練技能等措施確保人為當責的「有效性」,並應迅速掌握新發展,運用技術手段強化風險監測。其中喻意深遠的是,該框架就終端使用者所提基礎技藝維持之警示,即代理AI接手任務恐致技能退化與業務永續風險,或許將成為AI基本法下一個階段必須面臨的課題。 本文著作權屬財團法人資訊工業策進會科技法律研究所所有,如需引用或轉載,請註明出處。 本文同步刊登於TIPS網站(https://keid.nat.gov.tw/tips/) [1]新加坡資訊通信媒體發展局(Infocomm Media Development Authority, IMDA),《代理式人工智慧治理示範框架》(Model AI Governance Framework for Agentic AI)第一‧五版,二〇二六年五月二十日發布、同年六月五日更新,https://www.imda.gov.sg/-/media/imda/files/about/emerging-tech-and-research/artificial-intelligence/mgf-for-agentic-ai.pdf(最後瀏覽日:二〇二六年七月六日)。 [2]《人工智慧基本法》,民國一百十四年十二月二十三日經立法院三讀通過,全文二十條,二〇二六年一月公布施行,中央主管機關為國家科學及技術委員會。 [3] 前揭註1,頁8、15(分見「代理設計如何影響各代理之限制與能力」與「判定適合部署代理之使用案例」)。 [4] 同前註,頁11。 [5] 詳前註1,頁3~4。 [6] 同前註,頁15至18。 [7] 同前註,頁33至34。 [8] 同前註,頁30。 [9] 同前註,頁29至32。 [10] 同前註,頁23至24。 [11] 同前註,頁42至45。