用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限
資訊工業策進會科技法律研究所
2023年09月08日
生成式AI是透過研究過去資料，以創造新內容和想法的AI技術，其應用領域包括文字、圖像及影音。以ChatGPT為例，OpenAI自2022年11月30日發布ChatGPT後，短短二個月內，全球月均用戶數即達到1億人，無疑成為民眾日常生活中最容易近用的AI科技。
惟，生成式AI大量使用後，其中的問題也逐漸浮現。例如，ChatGPT提供的回答僅是從所學習的資料中統整歸納，無法保證資料的正確性。Roberto Mata v. Avianca, Inc.案即是因律師利用ChatGPT撰寫訴狀，卻未重新審視其所提供判決之正確性，以致後續引發訴狀中所描述的判決不存在爭議。
壹、事件摘要
Roberto Mata v. Avianca, Inc.案[1]中，原告Roberto Mata於2019年8月搭乘哥倫比亞航空從薩爾瓦多飛往紐約，飛行過程中膝蓋遭空服員的推車撞傷，並於2022年2月向法院提起訴訟，要求哥倫比亞航空為空服員的疏失作出賠償；哥倫比亞航空則主張已超過《蒙特婁公約》（Montreal Convention）第35條所訂之航空器抵達日起兩年內向法院提出損害賠償之請求時效。
R然而，法院審理過程中發現原告訴狀內引用之六個判決無法從判決系統中查詢，進而質疑判決之真實性。原告律師Steven A. Schwartz因而坦承訴狀中引用的六個判決是ChatGPT所提供，並宣稱針對ChatGPT所提供的判決，曾多次向ChatGPT確認該判決之正確性[2]。
貳、生成式AI應用之潛在風險
雖然運用生成式AI技術並結合自身專業知識執行特定任務，可能有助於提升效率，惟，從前述Roberto Mata v. Avianca, Inc.案亦可看出，依目前生成式AI技術之發展，仍可能產生資訊正確性疑慮。以下彙整生成式AI應用之8大潛在風險[3]：
一、能源使用及對環境危害
相較於傳統機器學習，生成式AI模型訓練將耗費更多運算資源與能源。根據波士頓大學電腦科學系Kate Saenko副教授表示，OpenAI的GPT-3模型擁有1,750億個參數，約會消耗1,287兆瓦/時的電力，並排放552噸二氧化碳。亦即，每當向生成式AI下一個指令，其所消耗的能源量相較於一般搜尋引擎將可能高出4至5倍[4]。
二、能力超出預期（Capability Overhang）
運算系統的黑盒子可能發展出超乎開發人員或使用者想像的隱藏功能，此發展將會對人類帶來新的助力還是成為危險的阻力，則會隨著使用者之間的相互作用而定。
三、輸出結果有偏見
生成式AI通常是利用公開資料進行訓練，若輸入資料在訓練時未受監督，而帶有真實世界既存的刻板印象（如語言、種族、性別、性取向、能力、文化等），據此建立之AI模型輸出結果可能帶有偏見。
四、智慧財產權疑慮
生成式AI進行模型訓練時，需仰賴大量網路資料或從其他大型資料庫蒐集訓練資料。然而，若原始資料來源不明確，可能引發取得資料未經同意或違反授權條款之疑慮，導致生成的內容存在侵權風險。
五、缺乏驗證事實功能
生成式AI時常提供看似正確卻與實際情形不符的回覆，若使用者誤信該答案即可能帶來風險。另外，生成式AI屬於持續動態發展的資訊生態系統，當產出結果有偏誤時，若沒有大規模的人為干預恐難以有效解決此問題。
六、數位犯罪增加與資安攻擊
過去由人工產製的釣魚郵件或網站可能受限於技術限制而容易被識破，然而，生成式AI能夠快速建立具高度說服力的各種擬真資料，降低詐騙的進入門檻。又，駭客亦有可能在不熟悉技術的情況下，利用AI進一步找出資安弱點或攻擊方法，增加防禦難度。
七、敏感資料外洩
使用雲端服務提供商所建立的生成式AI時，由於輸入的資料存儲於外部伺服器，若要追蹤或刪除有一定難度，若遭有心人士利用而導致濫用、攻擊或竄改，將可能產生資料外洩的風險。
八、影子AI（Shadow AI）
影子AI係指開發者未知或無法控制之AI使用情境。隨著AI模型複雜性增加，若開發人員與使用者未進行充分溝通，或使用者在未經充分指導下使用 AI 工具，將可能產生無法預期之風險。
參、事件評析
在Roberto Mata v. Avianca, Inc.案中，法院關注的焦點在於律師的行為，而非對AI技術使用的批判。法院認為，隨著技術的進步，利用可信賴的AI工具作為協助用途並無不當，惟，律師應踐行其專業素養，確保所提交文件之正確性[5]。
當AI科技發展逐漸朝向自主與獨立的方向前進，仍需注意生成式AI使用上之侷限。當個人在使用生成式AI時，需具備獨立思考判斷的能力，並驗證產出結果之正確性，不宜全盤接受生成式AI提供之回答。針對企業或具高度專業領域人士使用生成式AI時，除確認結果正確性外，更需注意資料保護及治理議題，例如建立AI工具合理使用情境及加強員工使用相關工具之教育訓練。在成本能負擔的情況下，可選擇透過企業內部的基礎設施訓練AI模型，或是在訓練模型前確保敏感資料已經加密或匿名。並應注意自身行業領域相關法規之更新或頒布，以適時調整資料使用之方式。
雖目前生成式AI仍有其使用之侷限，仍應抱持開放的態度，在技術使用與風險預防之間取得平衡，以能夠在技術發展的同時，更好地學習新興科技工具之使用。
[1] Mata v. Avianca, Inc., 1:22-cv-01461, (S.D.N.Y.).
[2] Benjamin Weiser, Here’s What Happens When Your Lawyer Uses ChatGPT, The New York Times, May 27, 2023, https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html (last visited Aug. 4, 2023).
[3] Boston Consulting Group [BCG], The CEO’s Roadmap on Generative AI (Mar. 2023), https://media-publications.bcg.com/BCG-Executive-Perspectives-CEOs-Roadmap-on-Generative-AI.pdf (last visited Aug. 29, 2023).
[4] Kate Saenko, Is generative AI bad for the environment? A computer scientist explains the carbon footprint of ChatGPT and its cousins, The Conversation (May 23, 2023.), https://theconversation.com/is-generative-ai-bad-for-the-environment-a-computer-scientist-explains-the-carbon-footprint-of-chatgpt-and-its-cousins-204096 (last visited Sep. 7, 2023).
[5] Robert Lufrano, ChatGPT and the Limits of AI in Legal Research, National Law Review, Volume XIII, Number 195 (Mar. 2023), https://www.natlawreview.com/article/chatgpt-and-limits-ai-legal-research (last visited Aug. 29, 2023).
中國大陸知識產權海關保護措施與因應對策 資策會科技法律研究所 法律研究員 林宜臻 104年12月30日 中國大陸是仿冒品的產銷大國，仿冒品除了於中國大陸盛行之外，更有可能於中國大陸製造後出口至海外銷售。若仿冒品不慎從中國大陸市場擴散至海外市場，將增加企業監控打擊仿冒品的成本。中國大陸為因應仿冒品的進出口，設置了知識產權(台灣稱為智慧財產權，以下同)海關保護規範和配套措施。企業可透過海關保護的行政力量，達到監控、扣留(台灣稱為查扣，以下同)仿冒品進出口的效果。甚至當仿冒品案件的損害達到一定金額時，海關會主動將案件移送刑事公安部門，權利人可利用公安部門介入調查仿冒案件的契機，找出整個仿冒製假鏈，進而從製假源頭開始打擊仿冒品。建議企業可妥善利用知識產權海關保護措施，以達成降低仿冒品擴散海外的風險。 壹、事件摘要 企業啟動知識產權海關保護措施有兩種方式，其一為事先將欲受保護之知識產權於「知識產權海關保護系統」中備案，其二為由企業自行監控仿冒品進出口情形，針對個案提出扣留申請。 第一種方式，權利人將知識產權在海關備案系統中登錄後，海關在日常監控進出口貨物時會依照權利人的備案內容檢查進出口貨物。當海關發現有疑似侵權的產品欲通關時，會主動將貨物扣留並通報權利人，權利人可立即知悉有仿冒品欲進出口並派員處理。若確認貨物的確有侵權疑慮，再向海關申請扣留該批貨物。扣留後海關即會調查貨物是否構成侵權，若發現案件侵害情節重大，即會將案件移送公安部門進行刑事立案。 第二種方式，若企業未事先於知識產權海關保護系統中備案，則可於發現仿冒貨品進出口的資訊後，個案向海關提出扣留申請[1]。權利人申請海關扣留，應繳納與貨物等值的擔保金[2]，提出申請書、證明文件[3]及足以證明侵權事實明顯存在的證據，證明貨物即將進出口且未經許可使用了其知識產權，始可向海關申請扣留貨物。海關依權利人的申請而扣留貨物後，不會調查該批貨品究竟侵權與否，而是留待權利人自行調查並該批仿冒品的相關業者起訴。若權利人在一定期限內沒有在法院起訴，則海關將放行貨物。 對企業而言，自行花時間成本監控是否有仿冒貨物進出口是較為困難且成效有限的。中國大陸各地關口甚多，可能因無法確切掌握仿冒品進出口的口岸和貨物進出口資訊而錯失申請查處的良機。根據中國海關總署的統計，查獲仿冒品的方式中，經權利人登錄備案而海關依職權扣留仿冒品的比例為99%，大幅超過依申請扣留的1%[4]。由此可知，有備案而海關主動依職權查緝扣留仿冒品的成效，遠超過企業自行查緝仿冒品進出口後申請扣留的成效。而若為海關依職權扣留，更有可能由海關移送公安部門而啟動刑事調查，降低企業自行蒐證調查的困難。 建議企業可積極執行知識產權海關備案，讓海關主動依職權查扣仿冒品，為企業減少日常監控所花費的人力資源等成本，並有效提升查扣成效。另外，即使於系統中完成備案，亦應於企業內部建立備案的相關因應機制，避免因未及達成海關扣留程序上的要求，而讓海關放行仿冒品，無法達成海關備案的目的。本文以下介紹企業執行備案採取知識產權海關保護措施時，企業內部應注意的事項及應建立的因應流程。 貳、重點說明 一、備案啟動海關知識產保護 在中國大陸註冊取得的商標權、專利權或符合著作權法中的著作權皆可登錄備案，有權登錄備案者為知識產權權利人。目前海關總署不接受知識產權的被許可人(台灣稱為被授權人，以下同)提出的備案申請，但是被許可人可以作為代理人代表權利人申請備案。中國大陸地區以外的權利人，則必須委託境內的自然人、法人或者其他組織（例如境外權利人在境內設立的辦事機構）向海關總署申請備案。備案系統為線上申請，於系統註冊成功後根據欄位填入對應資料[5]並隨附權利證明[6]，填寫並上傳完成相關證明文件後，系統即會提交至海關總署審核。海關總署將在收到申請後的30個工作日內作出准駁決定。備案申請費用一案為人民幣800元[7]，備案有效期為十年，於知識產權權利有效期限內可續展備案，每次續展十年。知識產權失效者或無續展者，海關備案失效。 因海關查緝仿冒品係依據備案內容審核進出口貨物，故備案時提供的資料與仿冒品查緝成效有相當程度的關聯，例如若備案時未詳細填寫合法授權人名單，將可能會導致合法經銷授權人進出口貨物遭海關扣留，延誤通關時間，或可能遭仿冒業者假冒為經銷授權人的名義進出口貨物，使海關誤認而放行。是故企業於備案系統中填寫資料時應力求詳盡完備，備案完成後若相關資料有所變更(例如經銷/代理商等授權名單變動)，應及時於備案系統中更新。 二、扣留流程中的注意事項 海關在監控進出口貨物時，若發現貨物有侵犯備案知識產權疑慮者，將書面通知備案權利人。權利人自通知送達日起3個工作日內需提出確認扣留申請並繳納擔保金，始可扣留該批貨物。申請扣留需出具扣留申請書、侵權鑑定書，並繳納擔保金。易言之，自收到海關扣留通知起只有3個工作天的時間可準備申請書、鑑定書和籌措擔保金，假設企業內部事先未建立相關處理流程，很容易因時間延誤而無法提出扣留申請，平白喪失扣留仿冒品的機會。建議企業在收到海關通知後，盡快派員前往海關現場處理侵權鑑定事宜，並應事先作成鑑定侵權貨物時的侵權檢視要點，避免人員特地到現場鑑定卻無功而返，反而浪費寶貴的時間。有備案的情形下，扣留所需的擔保金上限為十萬元[8]，建議企業可事先編列經費支付申請海關扣留擔保金的來源，避免無法在期限內籌措擔保金而錯過扣留機會。權利人逾期未提出申請或未提供擔保者，海關不得扣留貨物[9]。 海關扣留貨物後，自扣留之日起30個工作日內完成貨物侵權調查認定，不能認定是否侵權者亦會書面通知權利人[10]。海關調查時，若認定仿冒案件侵害情節重大[11]，會將案件移送公安部門刑事立案，立案成功後公安即介入以刑事案件調查仿冒貨物。若仿冒貨物可藉由海關刑事移送而轉以刑事案件調查，將可藉由公安部門的刑事力量降低企業自行蒐證上的困難。故在海關調查的階段，建議企業可積極提供侵權事證給海關，並確認海關核算的侵害金額是否合理，以確保可達刑事移送的標準。海關扣留的同時，權利人應積極向法院起訴，否則若海關調查完畢認定不侵權或無法認定是否侵權，且又未收到法院發出的協助執行通知，即會放行該批貨物[12]。另外，待案件結束後可向海關請求返還擔保金，返還的金額應為繳納的擔保金金額扣除處理仿冒貨物所發生的倉儲或侵權貨物銷毀等費用。但因擔保金返還的時程並未明文規定於知識產權海關保護相關條文中，故建議企業在案件結束後可積極向海關跟催擔保金返還進度，以免因延宕過久而不了了之。 參、小結 企業妥善利用知識產權海關保護措施，可更及時地阻止仿冒品進出口，避免仿冒侵權損失進一步擴大至其他市場。啟動知識產權海關保護措施可分為事先備案，和企業自行監控發現仿冒品欲進出口後向海關個案申請扣留兩種方式。若企業有執行海關備案，不需自行監控仿冒品的進出口，海關即會根據備案資料針對進出口貨物進行侵權與否的比對，發現有疑似侵權的貨品欲通關，即會扣留該批貨品並通知權利人處理，確認扣留後海關更會主動調查貨物的侵權情形。而透過知識產權海關保護措施的執行，企業更有機會藉由海關行政查處或移送刑事部門立案後的調查，取得更多仿冒品的相關資訊和證據，進而有效且徹底的打擊整個仿冒產業鏈，降低仿冒再發的風險。 除了事先於海關備案系統登錄備案外，企業亦應於企業內部建立海關扣留仿冒品的因應流程，以確保知識產權海關保護措施可發揮最大的效益。權利人在海關備案系統登錄欲受保護的知識產權後，海關即會於日常審閱報關單時依據權利人在備案系統中登錄的資料扣留有侵權疑慮的貨品。建議企業應盡可能詳盡填寫備案系統中的欄位並提供相關佐證資料，若備案完成後資料有任何更動也應即時在系統中更新，以提升海關查緝扣留仿冒品的機率。收到海關扣留通知後因提出確認扣留申請的時間很短，建議應事先做成侵權檢視要點清單，提高現場人員的鑑定效率，並預先編列支付擔保金的預算，以免超過支付期限而無法扣留。海關調查期間則應積極提供仿冒貨物的侵權證據給海關，並確保仿冒貨品的侵害金額計算無誤，以促成海關將案件移送刑事公安部門立案。同時建議企業應盡快向法院提起訴訟，避免海關因誤判貨物未侵權而放行。案件結束後應注意積極跟催擔保金返還進度，以免擔保金石沉大海。除此之外，因從收到海關通知到企業提出扣留申請的期限很短，建議企業應提早在企業內部建立海關扣留應對處理流程(包含權責主管及人員、處理時限、經費來源、外部合作顧問單位等)，以及時因應侵權案件的處理，使知識產權海關保護措施發揮最大效益，盡可能降低仿冒品擴散到海外市場的風險。 [1]中華人民共和國知識產權海關保護條例第12條：「知識產權權利人發現侵權嫌疑貨物即將進出口的，可以向貨物進出境地海關提出扣留侵權嫌疑貨物的申請。」 [2]中華人民共和國知識產權海關保護條例第14條：「知識產權權利人請求海關扣留侵權嫌疑貨物的，應當向海關提供不超過貨物等值的擔保，用於賠償可能因申請不當給收貨人、發貨人造成的損失，以及支付貨物由海關扣留後的倉儲、保管和處置等費用。」 未備案而依申請扣押的情形中，企業需負擔與貨物等值的擔保金金額，亦即擔保金金額無上限。而若有備案而依職權扣押，則擔保金支付最高上限為十萬元，大幅限縮了企業的負擔，是故此亦為建議企業事先備案的原因之一。 [3]中華人民共和國知識產權海關保護條例第13條：「知識產權權利人請求海關扣留侵權嫌疑貨物的，應當提交申請書及相關證明文件，並提供足以證明侵權事實明顯存在的證據。 申請書應當包括下列主要內容： （一）知識產權權利人的名稱或者姓名、註冊地或者國籍等； （二）知識產權的名稱、內容及其相關資訊； （三）侵權嫌疑貨物收貨人和發貨人的名稱； （四）侵權嫌疑貨物名稱、規格等； （五）侵權嫌疑貨物可能進出境的口岸、時間、運輸工具等。」 [4]海關總署政策法規司(2013)，《中國海關知識產權保護狀況及備案名錄(2013)》，北京：中國海關出版社 [5]中華人民共和國知識產權海關保護條例實施辦法第6條：「知識產權權利人向海關總署申請知識產權海關保護備案的，應當向海關總署提交申請書。申請書應當包括以下內容： （一） 知識產權權利人的名稱或者姓名、註冊地或者國籍、通信地址、連絡人姓名、電話和傳真號碼、電子郵箱位址等。 （二） 註冊商標的名稱、核定使用商品的類別和商品名稱、商標圖形、註冊有效期、註冊商標的轉讓、變更、續展情況等；作品的名稱、創作完成的時間、作品的類別、作品圖片、作品轉讓、變更情況等；專利權的名稱、類型、申請日期、專利權轉讓、變更情況等。 （三）被許可人的名稱、許可使用商品、許可期限等。 （四）知識產權權利人合法行使知識產權的貨物的名稱、產地、進出境地海關、進出口商、主要特徵、價格等。 （五）已知的侵犯知識產權貨物的製造商、進出口商、進出境地海關、主要特徵、價格等。 知識產權權利人應當就其申請備案的每一項知識產權單獨提交一份申請書。知識產權權利人申請國際註冊商標備案的，應當就其申請的每一類商品單獨提交一份申請書。」 [6] 權利證明文件如商標註冊證、著作權自願登記證明或可證明為著作權人的資料、專利證書等。其他文件如授權他人使用的合約、權利人合法行使知識產權的貨物及包裝照片、已知侵權貨物進出口資訊等。 [7]費用以「權利」計案。例如，五個專利使用在一個商品上，需提出五件備案申請；一個專利用在五種商品上，只需提出一件備案申請。 [8]中華人民共和國知識產權海關保護條例實施辦法第23條：「有事先備案之知識產權權利人請求海關扣留侵權嫌疑貨物的，應當按照以下規定向海關提供擔保： （一）貨物價值不足人民幣2萬元的，提供相當於貨物價值的擔保； （二）貨物價值為人民幣2萬至20萬元的，提供相當於貨物價值50％的擔保，但擔保金額不得少於人民幣2萬元； （三）貨物價值超過人民幣20萬元的，提供人民幣10萬元的擔保。」 [9]中華人民共和國知識產權海關保護條例第16條 [10]中華人民共和國知識產權海關保護條例第20條 [11] 例如侵害金額達十五萬元以上、著作權盜版光碟達五百片以上者。 [12]中華人民共和國知識產權海關保護條例第24條：「有下列情形之一的，海關應當放行被扣留的侵權嫌疑貨物： （一）海關依照本條例第十五條的規定扣留侵權嫌疑貨物，自扣留之日起20個工作日內未收到人民法院協助執行通知的； （二）海關依照本條例第十六條的規定扣留侵權嫌疑貨物，自扣留之日起50個工作日內未收到人民法院協助執行通知，並且經調查不能認定被扣留的侵權嫌疑貨物侵犯知識產權的； （三）涉嫌侵犯專利權貨物的收貨人或者發貨人在向海關提供與貨物等值的擔保金後，請求海關放行其貨物的； （四）海關認為收貨人或者發貨人有充分的證據證明其貨物未侵犯知識產權權利人的知識產權的； （五）在海關認定被扣留的侵權嫌疑貨物為侵權貨物之前，知識產權權利人撤回扣留侵權嫌疑貨物的申請的。」
日本農林省研議農業AI契約指引日本為提高農產品品質及附加價值，近年積極推動智慧農業，鼓勵利用AI等新技術研發農業產品和相關服務，惟技術研發需要使用大量資料訓練AI模型，部分農業工作者擔心自身經驗及知識等資料在研發過程中外洩，為避免上述狀況發生，農林水產省於2019年7月9日召開「農業AI利用契約指引檢討會」（農業分野におけるAIの利用に関する契約ガイドライン検討会），研議「農業AI利用契約指引」，防止在進行AI相關應用研發時，農業工作者提供之資料不慎外洩或遭到不當利用，導致其權益受損。 「農業AI利用契約指引檢討會」於2019年12月19日舉辦第3次會議，公布農業AI利用契約指引草案，草案內容包括(1)總論︰說明本指引之制定目的、農業與AI的關係，以及本指引與其他類似指引之差異和適用範圍；(2)農業AI產品、服務契約基本事項︰說明利用AI研發之農業產品和服務相關之智慧財產權，契約要件（契約目的及契約當事人等）及農業AI模型研發流程等基本概念；(3)農業AI產品、服務契約注意事項︰說明AI產品和服務契約之特徵和注意事項，以及利用AI等新技術進行研發之當事人訂定契約時應注意的問題，如農業工作者所提供之資料的重要性、以及個人資料的處理方式等；(4)契約範本︰針對農業AI研發契約、農業AI產品和服務利用契約，以及向第三方提供農業資料之契約，說明契約內容重點及提供範本供作參考。
新加坡就智慧國家方案提出策略性國家計畫新加坡政府科技局（Government Technology Agency of Singapore, 下稱 GovTech）在2017年8月21號提出智慧國家的5個策略性國家計畫，指出為了建立數位國家，政府將會更加注重基礎建設的整合途徑，未來將聚焦5項計畫： 國家數位身分（National Digital Identity）系統，使市民和工商業可以更加安全與便利的方式進行交易。未來的六個月，在現有的SingPass交易系統上， GovTech將會進行關於行動軟體代碼（software-token）試驗，並在五年後大量適用此種服務。 增進數位支付（e-Payments）功能。新加坡金融管理局（Monetary Authority of Singapore, MAS）將會與銀行和私部門合作，建立各種數位支付管道。例如簡化數位支付並布建統一銷售終端（Unified-Point-of-Sales, UPOS），預計將於18個月內設置25000個終端，使多種銷售方式可透過單一終端進行。 智慧國家感測器平台（Smart Nation Sensor Platform），加速感應器與其他物聯網的布建，使城市更加易居住與安全。GovTech將會建立智慧國家感測器平台，並增進基礎建設與分析能力，並與LTA合作目在未來18個月測試智慧聯網路燈站於選定的區域進行布建，五年內讓蒐集之數據提供工商業發展產品與服務供公眾使用。 建立智慧城市移動（Smart Urban Mobility）交通系統，包含已在2017年中建立的共通車隊管理系統（Common Fleet Management System），將使用數據和數位科技，包含AI和自駕車來增進公眾運輸系統。 生活的時刻（Moments of Life）服務，透過政府間數據共享，跨部門和各種政府相關的數位服務結合，提供市民個人化的數位服務。
英國資訊委員辦公室推出資料分析工具箱協助組織檢視資料保護情形英國資訊委員辦公室(Information Commissioner's Office, ICO)於今（2021）年2月17日推出資料分析工具箱（data analytics toolkit）供所有考慮對個人資料進行資料分析的組織使用，旨在幫助組織駕馭人工智慧（Artificial Intelligence, AI）系統對個人權利所可能帶來的挑戰。 ICO表示，越來越多的組織使用AI來完成特定任務，例如使用軟體自動發現資料集（data sets）的模式，並藉此進行預測（predictions）、分類（classifications）或風險評分（risk scores），組織在使用個人資料進行資料分析時，納入資料保護的概念是至關重要的，除符合法律要求外，也能增強民眾對技術的信任與信心。 使用ICO的資料分析工具箱時，首先會詢問組織所適用的法律，並引導至相對應的頁面，並透過合法性（lawfulness）、問責與治理（accountability and governance）、資料保護原則（data protection principles）以及資料主體權利（data subject rights）等一系列的問題瞭解組織的資料保護情形，在回答所有問題之後，工具箱將產生一份報告，提供組織關於資料保護的建議，提高組織資料保護的法令遵循程度。 ICO強調，組織應該要在個人資料處理的過程中考量報告中所提及的建議，並向組織的資料保護長（Data Protection Officer, DPO）徵詢其意見，在組織委託、設計與實施資料分析時落實個人權利與自由的保障。