德國聯邦資訊技術，電信和新媒體協會針對AI及自動決策技術利用提出建議指南
德國聯邦資訊技術，電信和新媒體協會於2018年2月6日在更安全的網路研討會中針對利用人工智慧及自動決策技術利用提出建議指南，旨在提升企業數位化與社會責任，並提升消費者權益保護。
德國司法及消費者保護部次長Gerd Billen於會議中指出，無論技術細節和具體應用如何發展，法律和消費者保護政策應確保人工智慧安全性，且不因此受歧視，以及盡可能確保技術利用透明度。而隨著人工智慧的發展，應設法解決使用人工智慧產生的法律問題。
例如，如何在製造商，供應商和消費者之間公平分配責任歸屬問題？在家庭，物流和手術室等領域已有越來越多具備自我學習的機器人被應用，相關權利是否會有所不同？如果機器出現不明原因故障，會發生什麼情況及如何處置？當機器透過在製造時尚未完全預定的環境感官認知做出具體決定時，該自動行為所生效力為何？
本份指南則提出六項建議：
- 促進企業內部及外部訂定相關準則
- 提升產品及服務透明度
- 使用相關技術應為全體利益著想
- 決策系統的可靠性仍取決資料的準確性。
- 重視並解決解決機器偏差問題
- 在特別需要負責的決策過程，應設計成由責任主體保留最終的決策權力，直到AI的控制品質已達到或高於所有參與者水平。
本文為「經濟部產業技術司科技專案成果」
澳洲通過智慧財產權法修正案，廢除創新專利制度 資訊工業策進會科技法律研究所 2020年6月10日 澳洲政府發布2020年《智慧財產權法修正案（生產力委員會回應第2部分及其他措施）》（Intellectual Property Laws Amendment (Productivity Commission Response Part 2 and Other Measures) Act 2020），針對澳洲2003年《設計專利法》、1990年《專利法》及1995年《商標法》進行修正，於2020年2月26日正式成為法律，而本次修法重點係自2021年8月26日起廢除創新專利制度，並開始啟動相關廢除程序。 壹、修法背景概述 澳洲原先的專利制度分為標準專利（standard patent）以及創新專利（innovation patent）兩種專利，兩者主要區別在於，創新專利類似我國新型專利，其適用門檻較低且保護期間較短。該制度政策目的係為了透過門檻較低的專利制度提供智慧財產權保護，以鼓勵澳洲中小企業進行研發創新。 然而，澳洲智慧財產局2015年所進行的研究資料顯示，創新專利雖然對於鼓勵中小企業研發創新具有一定積極作用，但仍遠遠不及標準專利更有影響力。大型企業甚至透過創新專利作為產業競爭的戰略工具，利用門檻低的優勢建立專利叢林（patent thickets），有效阻礙中小企業進行研發創新，造成中小企業無法在市場上競爭。此外，低門檻且未經審查的創新專利為中小企業經營自由產生不確定性，創新專利本身與中小企業的產品銷售並無關聯，也無法影響整體產業市場，更可能面臨外國專利不認可的窘境，由此可知創新專利長期下來實施效果不彰，並無法確實達成澳洲政府支持中小企業發展的政策目標[1]。 因此，澳洲政府決定廢除創新專利制度，在18個月的過渡期間也將啟動各種配套措施協助中小企業優化智慧財產權制度，例如提供中小企業快速審查服務（SME fast track），或是專案管理服務（SME case management），或是輔導推廣計畫等方式，以政府力量支持提供中小企業成長計畫與教育，協助中小企業更能輕鬆進行多元化智慧財產權策略布局，並符合澳洲智慧財產權法規範體系之要求[2]。 貳、主要修法內容 澳洲政府於2018年曾發布《智慧財產權法修正案（生產力委員會回應第1部分及其他措施）》（Intellectual Property Laws Amendment (Productivity Commission Response Part 1 and Other Measures) Act 2018），主要針對《商標法》及《著作權法》進行調整，例如明訂真品平行輸入不違反澳洲註冊商標權之規定；而本修正案主要針對《專利法》進行修正，於《專利法》加入目的條款[3]（object clause），闡明專利制度之根本目的，係通過技術創新以及技術移轉等方式促進經濟福祉。專利制度會隨著時間的流逝平衡技術、生產者、擁有者以及公眾之間的利益，並減少因時代的演進所導致法規運作的不確定性，在法規條文有不確定概念的情況下，幫助法院進行法律解釋。目的條款不會改變法規的原意，也不會推翻現有的判例法和既定的先例，並對《專利法》立法目的提供明確指引及指導原則[4]。 另一個主要修正為頗受爭議的廢除創新專利修正條文，逐步淘汰的過渡期從12個月延長至18個月，自2021年8月26日起，澳洲智慧財產局即不再接受創新專利申請。此外，在創新專利制度廢除前所提交的申請案，也就是在2021年8月25日以前申請之創新專利案件，在持續繳納專利維護費用下，其效力至期滿為止，並保留提交分割或轉換為標準專利申請的權利，屆時所有已核准的澳洲創新專利將維持有效至專利期滿失效。 參、修法簡析 澳洲創新專利制度目的原為降低中小企業在專利申請與取得的門檻，因此費用較低、保護時間較短，由於費用便宜又可以快速取得專利，若由大型企業大量申請，反而造成中小企業創新研發動力薄弱。澳洲創新專利與我國新型專利雖同樣採取形式審查，但實質內容上仍有部分差異，澳洲創新專利目的在於降低中小企業創新研發成本，因此對於進步性要求較低，使得大型企業反而透過大量申請創新專利扼殺中小企業創新空間。反觀我國新型專利在制度配套措施較為完善，除設有舉發機制外，另設有新型專利技術報告之規範，以降低形式審查之新型專利權對公眾第三人的影響[5]。 澳洲廢除創新專利制度的政策目的，主要是為了解決中小企業在從事研發創新活動與大型企業市場競爭的困境，搭配廢除創新專利制度的因應措施，以降低中小企業經營自由產生不確定性。然而，以形式審查方式的專利制度究竟能否確實有效保障發明人權利，達到促進創新研發的政策目的，仍需以各國對於智慧財產權保護之態度，與政府在司法與行政資源的運作之間取得衡平。目前仍有不少國家仍保留類似的形式審查制度，而澳洲廢除創新專利實質效益仍有待持續觀察，未來將可供我國新型專利制度參考與評估，以利我國建立更有效益的智慧財產權體系。 [1]IP AUSTRALIA, The economic impact of innovation patents, IP Australia Economic Research Paper 05, https://www.ipaustralia.gov.au/sites/default/files/reports_publications/economic_impact_of_innovation_patents.pdf (last visited June 10, 2020) [2]IP AUSTRALIA, Innovation Patents Harm Small Business Innovation, https://www.ipaustralia.gov.au/sites/default/files/innovation_patent_fact_sheet_2019.pdf (last visited June 10, 2020) [3]Patents Act 1990 Article 2A: “The object of this Act is to provide a patent system in Australia that promotes economic wellbeing through technological innovation and the transfer and dissemination of technology. In doing so, the patent system balances over time the interests of producers, owners and users of technology and the public.” [4]IP AUSTRALIA, Intellectual Property Laws Amendment (Productivity Commission Response Part 2 and Other Measures) Act 2020, https://www.ipaustralia.gov.au/about-us/public-consultations/intellectual-property-laws-amendment-productivity-commission-response (last visited June 10, 2020) [5]周光宇，各國新型專利制度之比較與分析，智慧財產權月刊，第217期，2017年1月。
英國公布包含爭議性斷網條款的數位經濟法案（Digital Economy Bill）持續引發反彈聲浪在眾多反對聲浪下，英國政府仍然發佈了包含爭議性斷網條款的數位經濟法案，該法案賦予國務大臣要求ISP業者對於疑似非法侵權檔案分享者斷網之權力，在沒有法院介入審查的前提下，得要求ISP業者對於涉嫌侵權的使用者斷網。法案公布後持續引發眾多反彈聲浪。 ISP業者如：TALK TALK以及BT等，都對於這項規定持續表達反對的立場。ISP業者認為此一作法不但有違無罪推定的原則，且對於ISP業者而言，也增加了行政與費用上的負擔；但相對的，音樂唱片業者則表現出樂見其成的態度，認為此一規定將有助於英國音樂產業的永續發展。 雖然法案內容大多來自於以振興英國數位經濟為目的Digital Britain報告，但斷網的作法並不是該報告所提出的建議。英國商務大臣Mandelson表示，此一條款將保護英國創意社群免於受到網路侵權的威脅，並獲得應有的報酬，同時也提供新的選擇給網路消費者。 歐盟希望透過電信產業規範的重整，禁止成員國通過未經法院審查的斷網條款，要求斷網必須要有先行程序，但給予成員國的卻是像設定三振條款作法的彈性，不見得是斷網法院審查前置的程序，因此，歐盟的相關指令對於英國的斷網規定未必會有阻擋的效果。
英國數位、文化、媒體暨體育部公布「家用智慧裝置消費者指引」英國數位、文化、媒體暨體育部於2018年10月14日公布「家用智慧裝置消費者指引」（Consumer guidance for smart devices in the home）。該指引之目的係因應家用之智慧及聯網設備（例如：智慧電視、音樂播放器、聯網玩具或智慧廚房等）日益普及，以及可能發生之侵害消費者個人資料之風險。 本指引提出以下方向，供消費者參考： 一. 智慧裝置之設定 (一) 應閱讀與遵循智慧設備之設定指示。 (二) 確認設備指示是否要求使用者須至製造商網站設定帳號。 (三) 若所設備預設之密碼過於簡單(例如，0000)，則應更換成較複雜之密碼。 二. 帳號管理 (一) 確保密碼複雜性。 (二) 若設備提供雙重驗證功能，消費者應使用之。 (三) 特定產品可能提供遠端存取功能，消費者應於不再家時考慮將該功能關閉。 三. 持續更新應用軟體與Apps (一) 消費者應檢查其設備是否可設定自動更新。 (二) 應安裝最新版本的軟體與Apps。 四. 若接到資安事件之通知，應採取行動 (一) 於接到資安事件通知後，應訪問製造商網站以確認其是否提供後續因應措施等資訊。 (二) 定時確認國家安全網路中心以及資訊保護委員會辦公室網站是否公布相關網路安全指引。
用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限 資訊工業策進會科技法律研究所 2023年09月08日 生成式AI是透過研究過去資料，以創造新內容和想法的AI技術，其應用領域包括文字、圖像及影音。以ChatGPT為例，OpenAI自2022年11月30日發布ChatGPT後，短短二個月內，全球月均用戶數即達到1億人，無疑成為民眾日常生活中最容易近用的AI科技。 惟，生成式AI大量使用後，其中的問題也逐漸浮現。例如，ChatGPT提供的回答僅是從所學習的資料中統整歸納，無法保證資料的正確性。Roberto Mata v. Avianca, Inc.案即是因律師利用ChatGPT撰寫訴狀，卻未重新審視其所提供判決之正確性，以致後續引發訴狀中所描述的判決不存在爭議。 壹、事件摘要 Roberto Mata v. Avianca, Inc.案[1]中，原告Roberto Mata於2019年8月搭乘哥倫比亞航空從薩爾瓦多飛往紐約，飛行過程中膝蓋遭空服員的推車撞傷，並於2022年2月向法院提起訴訟，要求哥倫比亞航空為空服員的疏失作出賠償；哥倫比亞航空則主張已超過《蒙特婁公約》（Montreal Convention）第35條所訂之航空器抵達日起兩年內向法院提出損害賠償之請求時效。 R然而，法院審理過程中發現原告訴狀內引用之六個判決無法從判決系統中查詢，進而質疑判決之真實性。原告律師Steven A. Schwartz因而坦承訴狀中引用的六個判決是ChatGPT所提供，並宣稱針對ChatGPT所提供的判決，曾多次向ChatGPT確認該判決之正確性[2]。 貳、生成式AI應用之潛在風險 雖然運用生成式AI技術並結合自身專業知識執行特定任務，可能有助於提升效率，惟，從前述Roberto Mata v. Avianca, Inc.案亦可看出，依目前生成式AI技術之發展，仍可能產生資訊正確性疑慮。以下彙整生成式AI應用之8大潛在風險[3]： 一、能源使用及對環境危害 相較於傳統機器學習，生成式AI模型訓練將耗費更多運算資源與能源。根據波士頓大學電腦科學系Kate Saenko副教授表示，OpenAI的GPT-3模型擁有1,750億個參數，約會消耗1,287兆瓦/時的電力，並排放552噸二氧化碳。亦即，每當向生成式AI下一個指令，其所消耗的能源量相較於一般搜尋引擎將可能高出4至5倍[4]。 二、能力超出預期（Capability Overhang） 運算系統的黑盒子可能發展出超乎開發人員或使用者想像的隱藏功能，此發展將會對人類帶來新的助力還是成為危險的阻力，則會隨著使用者之間的相互作用而定。 三、輸出結果有偏見 生成式AI通常是利用公開資料進行訓練，若輸入資料在訓練時未受監督，而帶有真實世界既存的刻板印象（如語言、種族、性別、性取向、能力、文化等），據此建立之AI模型輸出結果可能帶有偏見。 四、智慧財產權疑慮 生成式AI進行模型訓練時，需仰賴大量網路資料或從其他大型資料庫蒐集訓練資料。然而，若原始資料來源不明確，可能引發取得資料未經同意或違反授權條款之疑慮，導致生成的內容存在侵權風險。 五、缺乏驗證事實功能 生成式AI時常提供看似正確卻與實際情形不符的回覆，若使用者誤信該答案即可能帶來風險。另外，生成式AI屬於持續動態發展的資訊生態系統，當產出結果有偏誤時，若沒有大規模的人為干預恐難以有效解決此問題。 六、數位犯罪增加與資安攻擊 過去由人工產製的釣魚郵件或網站可能受限於技術限制而容易被識破，然而，生成式AI能夠快速建立具高度說服力的各種擬真資料，降低詐騙的進入門檻。又，駭客亦有可能在不熟悉技術的情況下，利用AI進一步找出資安弱點或攻擊方法，增加防禦難度。 七、敏感資料外洩 使用雲端服務提供商所建立的生成式AI時，由於輸入的資料存儲於外部伺服器，若要追蹤或刪除有一定難度，若遭有心人士利用而導致濫用、攻擊或竄改，將可能產生資料外洩的風險。 八、影子AI（Shadow AI） 影子AI係指開發者未知或無法控制之AI使用情境。隨著AI模型複雜性增加，若開發人員與使用者未進行充分溝通，或使用者在未經充分指導下使用 AI 工具，將可能產生無法預期之風險。 參、事件評析 在Roberto Mata v. Avianca, Inc.案中，法院關注的焦點在於律師的行為，而非對AI技術使用的批判。法院認為，隨著技術的進步，利用可信賴的AI工具作為協助用途並無不當，惟，律師應踐行其專業素養，確保所提交文件之正確性[5]。 當AI科技發展逐漸朝向自主與獨立的方向前進，仍需注意生成式AI使用上之侷限。當個人在使用生成式AI時，需具備獨立思考判斷的能力，並驗證產出結果之正確性，不宜全盤接受生成式AI提供之回答。針對企業或具高度專業領域人士使用生成式AI時，除確認結果正確性外，更需注意資料保護及治理議題，例如建立AI工具合理使用情境及加強員工使用相關工具之教育訓練。在成本能負擔的情況下，可選擇透過企業內部的基礎設施訓練AI模型，或是在訓練模型前確保敏感資料已經加密或匿名。並應注意自身行業領域相關法規之更新或頒布，以適時調整資料使用之方式。 雖目前生成式AI仍有其使用之侷限，仍應抱持開放的態度，在技術使用與風險預防之間取得平衡，以能夠在技術發展的同時，更好地學習新興科技工具之使用。 [1]Mata v. Avianca, Inc., 1:22-cv-01461, (S.D.N.Y.). [2]Benjamin Weiser, Here’s What Happens When Your Lawyer Uses ChatGPT, The New York Times, May 27, 2023, https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html (last visited Aug. 4, 2023). [3]Boston Consulting Group [BCG], The CEO’s Roadmap on Generative AI (Mar. 2023), https://media-publications.bcg.com/BCG-Executive-Perspectives-CEOs-Roadmap-on-Generative-AI.pdf (last visited Aug. 29, 2023). [4]Kate Saenko, Is generative AI bad for the environment? A computer scientist explains the carbon footprint of ChatGPT and its cousins, The Conversation (May 23, 2023.), https://theconversation.com/is-generative-ai-bad-for-the-environment-a-computer-scientist-explains-the-carbon-footprint-of-chatgpt-and-its-cousins-204096 (last visited Sep. 7, 2023). [5]Robert Lufrano, ChatGPT and the Limits of AI in Legal Research, National Law Review, Volume XIII, Number 195 (Mar. 2023), https://www.natlawreview.com/article/chatgpt-and-limits-ai-legal-research (last visited Aug. 29, 2023).