經濟合作與發展組織發布《促進AI可歸責性：在生命週期中治理與管理風險以實現可信賴的AI》
經濟合作與發展組織（Organisation for Economic Co-operation and Development, OECD）於2023年2月23日發布《促進AI可歸責性：在生命週期中治理與管理風險以實現可信賴的AI》（Advancing accountability in AI: Governing and managing risks throughout the lifecycle for trustworthy AI）。本報告整合ISO 31000：2018風險管理框架（risk-management framework）、美國國家標準暨技術研究院（National Institute of Standards and Technology, NIST）人工智慧風險管理框架（Artificial Intelligence Risk Management Framework, AI RMF）與OECD負責任商業行為之盡職調查指南（OECD Due Diligence Guidance for Responsible Business Conduct）等文件，將AI風險管理分為「界定、評估、處理、治理」四個階段：
1.界定：範圍、背景、參與者和風險準則（Define: Scope, context, actors and criteria）。AI風險會因不同使用情境及環境而有差異，第一步應先界定AI系統生命週期中每個階段涉及之範圍、參與者與利害關係人，並就各角色適用適當的風險評估準則。
2.評估：識別並量測AI風險（Assess: Identify and measure AI risks）。透過識別與分析個人、整體及社會層面的問題，評估潛在風險與發生程度，並根據各項基本價值原則及評估標準進行風險量測。
3.處理：預防、減輕或停止AI風險（Treat: Prevent, mitigate, or cease AI risks）。風險處理考慮每個潛在風險的影響，並大致分為與流程相關（Process-related）及技術（Technical）之兩大處理策略。前者要求AI參與者建立系統設計開發之相關管理程序，後者則與系統技術規格相關，處理此類風險可能需重新訓練或重新評估AI模型。
4.治理：監控、紀錄、溝通、諮詢與融入（Govern: Monitor, document, communicate, consult and embed）。透過在組織中導入培養風險管理的文化，並持續監控、審查管理流程、溝通與諮詢，以及保存相關紀錄，以進行治理。治理之重要性在於能為AI風險管理流程進行外在監督，並能夠更廣泛地在不同類型的組織中建立相應機制。
許嘉芳
法律研究員 編譯整理
Organisation for Economic Co-operation and Development [OECD], Advancing accountability in AI: Governing and managing risks throughout the lifecycle for trustworthy AI (Feb. 23, 2023), https://www.oecd-ilibrary.org/docserver/2448f04b-en.pdf?expires=1683078463&id=id&accname=guest&checksum=030F1E26850085E4A7AC6B1EB60266A1 (last visited May 3, 2023).
Advancing accountability in AI, Organisation for Economic Co-operation and Development, https://oecd.ai/en/accountability (last visited May 3, 2023).
陳箴，〈美國國家標準與技術研究院公布人工智慧風險管理框架（AI RMF 1.0）〉，2023年2月，https://stli.iii.org.tw/article-detail.aspx?no=64&tp=1&d=8974（最後瀏覽日：2023/05/03）。
張瀠心，〈歐盟執委會通過關於《人工智慧責任指令》之立法提案〉，2023年1月，https://stli.iii.org.tw/article-detail.aspx?no=64&tp=1&d=8958（最後瀏覽日：2023/05/03）。
2021年10月13日G20第4次財長會議正式批准了數位經濟課稅最終政策協議，確立了136個國家和司法管轄區，應於2023年底前實施跨國企業利潤再分配制及全球最低稅賦制的改革計畫。 有關跨國企業利潤再分配制，以跨國公司平均收入達200億歐元且高於10%利潤率的量化特徵，打破了過往國際稅法以業務型態為依據的課稅權分配基礎。根據協議公報，200億歐元的課稅門檻將在未來8年內下修至100億歐元，以逐步實現公平的數位經濟課稅環境；至於跨國企業母國所在地、子公司所在地之分配比例，將於2022年初公布。 新的全球最低稅賦制，係以全球（相對於境內）為課稅範圍設定15%的標準稅率，針對年收入達7.5億歐元之跨國公司，衡量所在地國之有效稅率與標準稅率，補足稅率之差額以打擊跨國租稅套利。根據協議公報，制度預設8%有形資產與10%工資的扣除額，將於10年內逐步調降，以符合數位經濟低邊際成本的特性；至於有效稅率的計算，預計將於2021年11月公布。 此次最終政策協議的批准，不僅是取得愛爾蘭等原先反對國家的共識，同時確立了新制度計算公式與配套措施的提出時程，顯示出疫情後數位經濟課稅的急迫性再度受到重視。而我國雖積極發展數位經濟，然因目前尚未透過多邊協定框架加入改革計畫，因此在此數位經濟課稅方案確定前，我國如何接軌和因應國際制度將是重要課題。
用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限 資訊工業策進會科技法律研究所 2023年09月08日 生成式AI是透過研究過去資料，以創造新內容和想法的AI技術，其應用領域包括文字、圖像及影音。以ChatGPT為例，OpenAI自2022年11月30日發布ChatGPT後，短短二個月內，全球月均用戶數即達到1億人，無疑成為民眾日常生活中最容易近用的AI科技。 惟，生成式AI大量使用後，其中的問題也逐漸浮現。例如，ChatGPT提供的回答僅是從所學習的資料中統整歸納，無法保證資料的正確性。Roberto Mata v. Avianca, Inc.案即是因律師利用ChatGPT撰寫訴狀，卻未重新審視其所提供判決之正確性，以致後續引發訴狀中所描述的判決不存在爭議。 壹、事件摘要 Roberto Mata v. Avianca, Inc.案[1]中，原告Roberto Mata於2019年8月搭乘哥倫比亞航空從薩爾瓦多飛往紐約，飛行過程中膝蓋遭空服員的推車撞傷，並於2022年2月向法院提起訴訟，要求哥倫比亞航空為空服員的疏失作出賠償；哥倫比亞航空則主張已超過《蒙特婁公約》（Montreal Convention）第35條所訂之航空器抵達日起兩年內向法院提出損害賠償之請求時效。 R然而，法院審理過程中發現原告訴狀內引用之六個判決無法從判決系統中查詢，進而質疑判決之真實性。原告律師Steven A. Schwartz因而坦承訴狀中引用的六個判決是ChatGPT所提供，並宣稱針對ChatGPT所提供的判決，曾多次向ChatGPT確認該判決之正確性[2]。 貳、生成式AI應用之潛在風險 雖然運用生成式AI技術並結合自身專業知識執行特定任務，可能有助於提升效率，惟，從前述Roberto Mata v. Avianca, Inc.案亦可看出，依目前生成式AI技術之發展，仍可能產生資訊正確性疑慮。以下彙整生成式AI應用之8大潛在風險[3]： 一、能源使用及對環境危害 相較於傳統機器學習，生成式AI模型訓練將耗費更多運算資源與能源。根據波士頓大學電腦科學系Kate Saenko副教授表示，OpenAI的GPT-3模型擁有1,750億個參數，約會消耗1,287兆瓦/時的電力，並排放552噸二氧化碳。亦即，每當向生成式AI下一個指令，其所消耗的能源量相較於一般搜尋引擎將可能高出4至5倍[4]。 二、能力超出預期（Capability Overhang） 運算系統的黑盒子可能發展出超乎開發人員或使用者想像的隱藏功能，此發展將會對人類帶來新的助力還是成為危險的阻力，則會隨著使用者之間的相互作用而定。 三、輸出結果有偏見 生成式AI通常是利用公開資料進行訓練，若輸入資料在訓練時未受監督，而帶有真實世界既存的刻板印象（如語言、種族、性別、性取向、能力、文化等），據此建立之AI模型輸出結果可能帶有偏見。 四、智慧財產權疑慮 生成式AI進行模型訓練時，需仰賴大量網路資料或從其他大型資料庫蒐集訓練資料。然而，若原始資料來源不明確，可能引發取得資料未經同意或違反授權條款之疑慮，導致生成的內容存在侵權風險。 五、缺乏驗證事實功能 生成式AI時常提供看似正確卻與實際情形不符的回覆，若使用者誤信該答案即可能帶來風險。另外，生成式AI屬於持續動態發展的資訊生態系統，當產出結果有偏誤時，若沒有大規模的人為干預恐難以有效解決此問題。 六、數位犯罪增加與資安攻擊 過去由人工產製的釣魚郵件或網站可能受限於技術限制而容易被識破，然而，生成式AI能夠快速建立具高度說服力的各種擬真資料，降低詐騙的進入門檻。又，駭客亦有可能在不熟悉技術的情況下，利用AI進一步找出資安弱點或攻擊方法，增加防禦難度。 七、敏感資料外洩 使用雲端服務提供商所建立的生成式AI時，由於輸入的資料存儲於外部伺服器，若要追蹤或刪除有一定難度，若遭有心人士利用而導致濫用、攻擊或竄改，將可能產生資料外洩的風險。 八、影子AI（Shadow AI） 影子AI係指開發者未知或無法控制之AI使用情境。隨著AI模型複雜性增加，若開發人員與使用者未進行充分溝通，或使用者在未經充分指導下使用 AI 工具，將可能產生無法預期之風險。 參、事件評析 在Roberto Mata v. Avianca, Inc.案中，法院關注的焦點在於律師的行為，而非對AI技術使用的批判。法院認為，隨著技術的進步，利用可信賴的AI工具作為協助用途並無不當，惟，律師應踐行其專業素養，確保所提交文件之正確性[5]。 當AI科技發展逐漸朝向自主與獨立的方向前進，仍需注意生成式AI使用上之侷限。當個人在使用生成式AI時，需具備獨立思考判斷的能力，並驗證產出結果之正確性，不宜全盤接受生成式AI提供之回答。針對企業或具高度專業領域人士使用生成式AI時，除確認結果正確性外，更需注意資料保護及治理議題，例如建立AI工具合理使用情境及加強員工使用相關工具之教育訓練。在成本能負擔的情況下，可選擇透過企業內部的基礎設施訓練AI模型，或是在訓練模型前確保敏感資料已經加密或匿名。並應注意自身行業領域相關法規之更新或頒布，以適時調整資料使用之方式。 雖目前生成式AI仍有其使用之侷限，仍應抱持開放的態度，在技術使用與風險預防之間取得平衡，以能夠在技術發展的同時，更好地學習新興科技工具之使用。 [1]Mata v. Avianca, Inc., 1:22-cv-01461, (S.D.N.Y.). [2]Benjamin Weiser, Here’s What Happens When Your Lawyer Uses ChatGPT, The New York Times, May 27, 2023, https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html (last visited Aug. 4, 2023). [3]Boston Consulting Group [BCG], The CEO’s Roadmap on Generative AI (Mar. 2023), https://media-publications.bcg.com/BCG-Executive-Perspectives-CEOs-Roadmap-on-Generative-AI.pdf (last visited Aug. 29, 2023). [4]Kate Saenko, Is generative AI bad for the environment? A computer scientist explains the carbon footprint of ChatGPT and its cousins, The Conversation (May 23, 2023.), https://theconversation.com/is-generative-ai-bad-for-the-environment-a-computer-scientist-explains-the-carbon-footprint-of-chatgpt-and-its-cousins-204096 (last visited Sep. 7, 2023). [5]Robert Lufrano, ChatGPT and the Limits of AI in Legal Research, National Law Review, Volume XIII, Number 195 (Mar. 2023), https://www.natlawreview.com/article/chatgpt-and-limits-ai-legal-research (last visited Aug. 29, 2023).
德國與愛爾蘭對於個人資料處理是否須明示同意之見解不同德國與愛爾蘭資料保護局對於資料保護指令所規定個人資料（以下簡稱個資）的處理（process），是否須取得資料當事人明示同意，表示不同的見解。德國資料保護局認為臉書網站所提供之人臉辨識（預設加入）選擇退出（opt out consent）的設定，並不符合資料保護指令（Data Protection Directive）對於同意（consent）的規範，且有違資訊自主權（self-determination）；然而，愛爾蘭資料保護局則認為選擇退出的機制並未牴觸資料保護指令。 德國資料保護局委員Johannes Caspar教授表示，預設同意蒐集、使用與揭露，再讓資料當事人可選擇取消預設的作法，其實已經違反資訊自主權（self-determination）。並主張當以當事人同意作為個人資料處理之法律依據時，必須取得資料當事人對其個資處理（processing）之明示同意（explicit consent）。對於部長理事會（Council of Ministers）認同倘資料當事人未表達歧見（unambiguous），則企業或組織即可處理其個人資料的見解，Caspar教授亦無法予以苟同。他認為部長理事會的建議，不但與目前正在修訂的歐盟資料保護規則草案不符，更是有違現行個資保護指令的規定。 有學者認為「同意」一詞雖然不是非常抽象的法律概念，但也不是絕對客觀的概念，尤其是將「同意」單獨分開來看的時候，結果可能不太一樣；對於「同意」的理解，可能受到其他因素，特別文化和社會整體，的影響，上述德國和愛爾蘭資料保護局之意見分歧即為最好案例。 對於同意（consent）的落實是否總是須由資料當事人之明示同意，為近來資料保護規則草案（The Proposed EU General Data Protection Regulation）增修時受熱烈討論的核心議題。資料保護規則草案即將成為歐盟會員國一致適用的規則，應減少分歧，然而對於企業來說，仍需要正視即將實施的規則有解釋不一致的情況，這也是目前討論資料保護規則草案時所面臨的難題之一。
論複數決標之廠商競爭關係論複數決標之廠商競爭關係 資訊工業策進會科技法律研究所 108年5月3日 壹、事件摘要 甲機關為共同供應契約採購的訂約機關，負責辦理某財物共同供應契約採購招標事宜。考量廠商供貨能力不同，甲機關將供貨區域區分「全國各公部門」及「特定縣市公部門」，由廠商依其供貨能力擇一型式投標，並在同一採購案之招標程序分為兩個期程辦理。該採購案投標須知重點說明如下： 一、第一期程： 本期程先由供貨予「全國各公部門」的廠商投標，廠商如選擇投標本期程，則不得參與第二期程。由於本採購案採最低標及複數決標，由最低價廠商得標，其餘廠商可選擇是否跟進該最低標併列得標，惟本期程可跟進之廠商有家數限制，依廠商報價由低到高排列，取前80%。 二、第二期程： 本期程待第一期程決標後，再由有意願供貨予「特定縣市公部門」的廠商參與，廠商至多可選擇五個縣市供貨。第一期程之決標品項及該品項的決標金額，為本期程的採購品項及決標金額，故參與本期程之廠商無庸提出報價，選擇欲跟進併列得標之品項即可。廠商如選擇參與本期程，則不得參與第一期程。本期程可跟進之廠商無家數限制。 A廠商及B廠商分別參與本採購案第一期程、第二期程之投標，甲機關審查彼等遞交之投標文件時，發現其上所載聯絡人、傳真、電話號碼相同，投標區域與品項亦有重複，似為同一廠商備標，遂請兩家廠商說明。A廠商及B廠商均表示，兩家廠商為多年合作夥伴，B廠商因廠址遷移致人手不足，而委請A廠商作為聯繫窗口，故記載相同的聯絡資訊。甲機關認為A、B廠商之說明，無法澄清為同一廠商備標疑慮，爰依政府採購法(以下簡稱採購法)第31條第2項第8款、第50條第1項第5款及本案投標須知規定，不決標予A、B廠商，且不予發還押標金。 A、B廠商不服，提起異議及申訴。是本案應探究者為，於同一採購案參與不同期程投標的相異廠商，彼等投標文件所載之聯絡人、傳真、電話號碼相同，甲機關是否可認定屬採購法第50條第1項第5款所訂「不同投標廠商間之投標文件內容有重大異常關聯者」？又，因本案係同一採購案區分兩期程投標，且投標須知規定(1)廠商僅得選擇一個期程投標；(2)第二期程的決標金額係依第一期程決標之結果；(3)未限制第二期程可跟進之廠商家數，則本案廠商無法釐清非屬同一廠商備標時，甲機關之處理是否會有不同？ 貳、重點說明 行政院公共工程委員會(以下簡稱工程會)民國91年11月27日工程企字第09100516820號令[1]曾就前述採購法第50條第1項第5款所稱「重大異常關聯」，說明「機關辦理採購有下列情形之一者，得依政府採購法第五十條第一項第五款『不同投標廠商間之投標文件內容有重大異常關聯者』處理：……四、廠商地址、電話號碼、傳真機號碼、聯絡人或電子郵件網址相同者。五、其他顯係同一人或同一廠商所為之情形者。」故不同投標廠商間之投標文件倘有聯絡資訊相同，顯係同一人或同一廠商所為之情形，即構成投標文件內容有重大異常關聯，屬影響採購公正之違反法令行為。 本案A、B廠商之投標文件有聯絡人、傳真、電話號碼記載相同情形，且該等廠商未能合理說明其緣由，似已符合「重大異常關聯」要件。然採購申訴審議委員會指出本案無採購法第50條第1項第5款規定之適用，其理由為： 一、投標廠商間未有競爭情形存在時，無適用採購法第50條第1項第5款之餘。 採購法第50條第1項第5款規定「投標廠商有下列情形之一，經機關於開標前發現者，其所投之標應不予開標；於開標後發現者，應不決標予該廠商：……五、不同投標廠商間之投標文件內容有重大異常關聯者。」該條款係91年2月6日增訂，依立法院交通委員會審查會通過送院會二讀之條文對照表說明欄記載「第1項增訂第5款，以防止假性競爭行為，例如不同廠商間之投標文件內容筆跡相同、押標金由同一人繳納、掛號信連號、地址相同、電話號碼相同之情形……」，復參工程會96年6月25日96工程企傳字第F961354號函(以下簡稱工程會96年函)揭示「關於政府採購法50條第1項第5款規定，係為防止假性競爭之情形。依來函所述個案採分項決標，且地址、傳真、電話相同之二家廠商各投不同項目，尚非彼此互相競爭，自無上開條款之適用」[2]，是採購申訴審議委員會認為，採購法第50條第1項第5款立法目的係為防止假性競爭之行為，倘投標廠商間無須有競爭情形存在時，即無條款之適用。 二、本案第一期程與第二期程之廠商間，以及第二期程之廠商間無須競爭，故無採購法第50條第1項第5款適用。 採購申訴審議委員會指出，本採購案採二期程招標方式辦理，投標須知規定：「第二期程之招標於第一期程採購決標後再公告」、「曾參加第一期程投標之廠商，不論是否合格或得標或併列得標，均不得參加第二期程之投標」、「第一期程決標品項即為第二期程之採購項目。第一期程採購各項之決標金額即為第二期程採購之決標金額，廠商僅得就招標機關……公告第一期程決標金額及對應之品項中選擇適合者投標(跟進)，不得報列公告之決標金額以外之價格及非屬第一期程所公告之決標品項」、「第一期程決標項目之決標價格及合格品項，俟決標後本局將另行於第二期程之招標文件公告」、「本案競標機制，……以投標廠商最低價者得標並採複數決標，得跟進最低價併列得標之廠商家數依第一期程全區廠商依報價由低至高排列取前80%為上限，第二期程單區廠商不設上限」。 是以，A廠商係參加本案第一期程投標之廠商，不論其是否合格或得標或併列最低標得標，均不得參加第二期程之投標，而參與第二期程之B廠商，係按甲機關公告之第一期程決標品項及金額跟進，且第二期程得標廠商之家數並無限制，故參與第二期程與參與第一期程之廠商彼此間，以及參與第二期程之廠商彼此間，均無須競爭，爰本案無採購法第50條第1項第5款之適用。 參、事件評析 就本案申訴審議委員會提出之理由及所為之結論，筆者以為有下述二點得再為細部討論： 一、本案第二期程雖可跟進最低標併列得標廠商之家數未設上限，惟廠商於履約階段與相同供貨區域之其他得標廠商仍具有競爭關係，自有適用採購法第50條第1項第5款規定必要。 查，採購申訴審議委員會以採購法第50條第1項第5款立法理由，以及工程會96年函內容，認為廠商間有競爭情形始得適用該條款，此見解固屬正確，然採購申訴審議委員會認為B廠商不適用採購法第50條第1項第5款規定，係因第二期程之廠商彼此間無須競爭，實有討論空間。蓋本案爭議應為參與不同期程之廠商間，如彼等投標文件有聯絡資訊記載相同情形，甲機關得否以採購法第50條為處理。故採購申訴審議委員會就本案B廠商不適用上開法條所提理由，似未解決本案爭執之點。 次查，採購申訴審議委員會以採購法第50條第1項第5款立法理由，以及工程會96年函文，似認為僅在投標階段始禁止廠商彼此間假性競爭，而本案投標須知既然未限制第二期程之得標廠商家數，第二期程之廠商彼此間自無競爭問題。惟本案第二期程之廠商間，是否確無競爭關係，以及是否僅需於投標階段討論競爭關係，筆者均認有待商榷。 觀諸採購申訴審議委員會援引之採購法第50條第1項第5款立法理由及工程會96年函文，並未排除履約階段之適用。甚且，由政府採購法第1條規定「為建立政府採購制度，依公平、公開之採購程序，提升採購效率與功能，確保採購品質，爰制定本法」，以及採購法施行細則第33條第1項前段規定「同一投標廠商就同一採購之投標，以一標為限」可知，政府採購各程序均應維持公平、公正之秩序，故無論於投標、開標、決標乃至履約階段，自應防止廠商間有假性競爭可能，廠商不得利用人頭在同一採購案分別投標，以維護各個投標廠商及得標廠商間之平等，始為恰當。 經查，因本案第二期程可跟進最低標併列得標廠商之家數未設上限，當同一採購項目之得標廠商愈多，各廠商於該項目獲得訂單之機會將被稀釋。則某一廠商為了使其有更多適用機關之訂單，而利用多數人頭參與第二期程投標，且均跟進成為得標廠商，自難謂未牴觸政府採購要求之公平及公正。而此競爭關係存在於履約階段，如將之排除於採購法第50條第1項第5款之適用範圍，即可能成為法規漏洞而導致廠商有投機行為，自非採購法所允許。 準此，尚不得以本案可跟進最低標併列得標廠商之家數未設上限，即可逕認第二期程投標廠商間無須競爭，蓋本案第二期程廠商之競爭關係存在於履約階段，為確保採購程序公平、公正秩序，本案第二期程仍應適用採購法第50條第1項第5款規定。 二、參與本案第一期程及第二期程投標廠商間有競爭關係，適用採購法第50條第1項第5款規定。 本案雖區分二種投標型式，然均屬同一採購案；無論是第一期程之「全國各公部門」或第二期程之「特定縣市公部門」，皆允許有二家以上之得標廠商；參與第一期程「全國各公部門」之得標廠商可供貨至全國各縣市，自會與第二期程「特定縣市公部門」之供貨區域重疊，是若第一期程之廠商與第二期程之廠商於本案之投標品項重複時，於彼此相同供貨區域即屬相互競爭關係。 再者，本案針對第一期程「全國各公部門」設有跟進廠商家數上限，復規定參與第一期程投標之廠商不得參與第二期程，是參與第一期程之廠商如為避免無法跟進，或為增加取得適用機關訂單之機會，自有可能與第二期程廠商透過共謀投標文件而營造假性競爭之可能，確保其能進入本採購案。 準此，本案第一期程之A廠商與第二期程之B廠商因供貨區域及投標品項有重複情形，故A、B廠商於履約階段具有競爭關係，倘彼等無正當理由釐清投標文件何以所載聯絡人、傳真、電話號碼相同，投標區域均相同，甲機關自得依採購法第50條第1項第5款規定處理。末查，前述採購法施行細則第33條第1項前段規定同一投標廠商就同一採購以投一標為限，依此法理，自須禁止參與第一期程廠商以人頭方式再參與第二期程投標，以迂迴手法規避上揭規定而於同一採購案投標二次，併此敘明。 [1] 〈行政院公共工程委員會令 工程企字第○九一○○五一六八二○號〉，政府採購法規解釋函令及相關函文，http://plan3.pcc.gov.tw/gplet/mixac.asp?num=1673（最後瀏覽日：2019/04/11）。 [2] 〈行政院公共工程委員會令 96工程企傳字第F961354號〉，政府採購法規解釋函令及相關函文，http://plan3.pcc.gov.tw/gplet/mixac.asp?num=2516（最後瀏覽日：2019/04/11）。