新加坡國家研究基金會推出AI.SG計畫，促進人工智慧技術發展
新加坡國家研究基金會（National Research Foundation，以下簡稱NRF）於2017年5月3日宣布AI.SG倡議，並將啟動國家級AI計畫。NRF將於五年內投資新加坡幣1.5億元，整合NRF，智慧國家與數位政府辦公室（Smart Nation and Digital Government），經濟發展委會（Economic Development Board），資通訊媒體發展局（Infocomm Media Development Authority），新加坡創新機構（SGInnovate）及整合健康資訊系統（Integrated Health Information Systems）等數個政府部門，以及位於新加坡的研究機構、AI新創公司與發展AI產品的企業等共同投入。計畫三大目標如下：
- 利用人工智慧來解決影響社會和產業的重大挑戰
這些應用包括利用人工智慧解決交通尖峰時段壅塞問題，或應付人口老齡化帶來的醫療保健挑戰。IHiS執行長兼衛生部資訊長Mr.Bruce Liang表示：「醫療照護是需要高度知識及人性化的行業。多年來從新加坡在醫療照護數位化的發展中，可預見AI未來對於提升新加坡人民健康有很大幫助。例如在疾病預防、診斷、治療計畫、藥物治療、精準醫療、藥品開發等方面皆可發揮作用。醫護人員再加上AI工具，可以更完善解決未來對於醫療照護需求的增加。」 - 投入並深化技術能力，以掌握下一波科技創新
其中包括可展現更多人類學習能力的下一代「可解釋的人工智慧」 (Explainable Artificial Intelligence，XAI），以及相關技術，例如電腦系統架構（軟體、韌體、硬體整合）和認知科學(Cognitive Science）。NRF獎助金和研究計畫將會支持相關科學活動。當地人才也將透過參與AI深度功能的開發進行培訓。 - 擴大產業對於AI和機器學習的使用
AI.SG將與公司合作，利用AI來提高生產力，創造新產品，並輔導相關解決方案從實驗室進入市場。目標將支持100個AI研發項目和概念驗證，以利用戶能快速解決實際問題。並預計針對金融，醫療照護和城市管理解決方案領域具有特殊的潛力者先著手進行。
AI.SG計畫此項推動工作，未來不僅將可激發新加坡的研究人員和用戶利用AI解決社會重大問題，也將影響全世界渴望利用人工智慧技術帶來更便利的生活，值得我國相關機關推動政策之參考依據。
本文為「經濟部產業技術司科技專案成果」
潘俊良
高級法律研究員 編譯整理
1. National Research Foundation, AI.SG: new national programme to catalyse, synergise and boost singapore’s artificial intelligence capabilities，https://www.nrf.gov.sg/Data/PressRelease/Files/201705031442082191-Press%20Release%20(AI.SG)%20(FINAL)%20-web.pdf（最後瀏覽日期︰2017/06/14）。
2. National Research Foundation Home Page， https://www.nrf.gov.sg/home（最後瀏覽日期︰2017/06/14）。
日本國會於2021年2月9日正式提出「數位社會形成基本法草案」（デジタル社会形成基本法案），立法目的為提升國家競爭力、國民生活便利性，以建置一個「數位社會」，基本原則為降低數位落差，而降低數位落差之重要手段即包括日本印章制度之改革。 日本政府對印章制度之改革，可分為「取消蓋章制度」及「增加電子簽章使用率」二條路線。由於新冠疫情（COVID-19）影響全球工作型態，日本政府為推動電子化服務，考慮取消印章使用，因為其徒增商業活動成本，亦可能提升染疫風險。日本行政改革大臣河野太郎在2020年11月13日內閣會議後之記者會上即表示，約1萬5000種需要使用印章的行政服務中，絕大多數將取消蓋章制度。「數位社會形成基本法草案」亦預告將修改48部要求使用印章之法律，本草案及相關修法將於2021年9月正式通過施行。 電子簽章使用方面，日本在野黨聯盟於2020年6月提出「電子署名及認證業務法一部修正草案」（電子署名及び認証業務に関する法律の一部を改正する法律案）。依照現行規定，電子簽章須本人以一定方式簽署始可推定為真正，推定真正之條件過度嚴苛，便利性未優於實體蓋章，致使電子簽章使用普及度低落。本草案則降低推定門檻，僅須以特定電子方式簽署即有推定真正效力，使電子簽章簽署人身分驗證更為容易。目前法案仍在眾議院提案階段，尚未經國會表決通過，後續發展值得關注。
美國通過「智慧財產資源及機構優先法案」，強化打擊侵權力道2008年9月26日美國國會通過「智慧財產資源及機構優先法案」（the Prioritizing Resources and Organization for Intellectual Property Act, PRO-IP Act），該法案的內容將加強跨單位合作與國際間打擊仿冒、盜版之動作，例如增加主管機關可沒收或扣押侵害著作權相關物品的權力等，以遏止日益增加之侵權案件。 在10月13日的時候，美國總統布希終於簽署PRO-IP法案。其中特別的是，該法案增設一個行政部門：「智慧財產執行協調官」（Intellectual Property Enforcement Coordinator, IPEC），IPEC可掌控與管理美國境內各行政機關之智慧財產保護措施，並直接向總統報告。一般預料布希總統雖簽署該法案，但應該不會在其任內發布任何命令，而會將IPEC之人事任命權留給下一任總統。 許多人對PRO-IP法案的通過仍存有疑慮，例如：設立IPEC的功能不明，且有疊床架屋之嫌。但美國唱片業協會（RIAA）卻十分支持該法案，其認為有助於保護美國的智慧財產，RIAA引用最近的調查報告指出，全球智慧財產仿冒、盜版等行為讓美國一年損失580億美元及37萬份以上的工作機會，並讓美國勞工損失160億美元的收入，故RIAA認為通過該法案可以減緩此一損害。
論美國公務機關就一般公務機密核密狀態爭議之處理論美國公務機關就一般公務機密核密狀態爭議之處理 科技法律研究所 2013年07月16日 壹、前言 對於公務機密是否具機密核定適當性的問題，從近來公務機關內部所爆發的許多爭議案件中，已經逐漸引起社會大眾的關注。所謂公務機密，一般來說係包含國家機密與一般公務機密。有關於國家機密的核定權責機關、核解密方式，抑或是國家機密維護等事宜，主要係規範在國家機密保護法內；至於攸關一般公務機密的所有事宜，則主要是由行政院祕書處所頒布的文書處理手冊來作規範。 觀察國家機密保護法與文書處理手冊就機密核定狀態爭議的處理，依據國家機密保護法第十條第一項規定，原核定機關或其上級機關有核定權責人員得依職權或依申請，就實際狀況適時註銷、解除機密或變更機密等級，並通知有關機關。其乃賦予原核定機關或其上級機關，對於國家機密的機密核定或機密等級是否適當之問題，有主動行使機密狀態註銷、解除或變更的權限。然而，針對一般公務機密機密核定是否適當與其爭議處理，文書處理手冊並未為相關的機制設計，因此也引發一般公務機密的核定機關，當其認為機密核定有不適當之情形時，無相關管道可針對此項爭議提出異議。 是以，本文欲從美國公務機關解決公務機密狀態爭議（包含國家機密與一般公務機密）的機制出發，來觀察我國未來針對一般公務機密狀態爭議的機制建立，所必須著重與思考的面向，以作為未來主管機關增修相關法規範的參考。 貳、美國公務機關如何解決公務機密核密狀態之爭議 一、行政命令第13526號（Executive Order 13526） 為了在政府資訊公開與國家資訊保護兩者間界定完善的平衡點，美國歐巴馬政府於 2009 年頒布第 13526 號行政命令（ Classified National Security Information ）[1]，該行政命令主要係規範涉及公務機密（包含國家機密與一般公務機密）之密等核定、機密維護與機密解密或降密等事宜。本號行政命令可視為是美國聯邦政府機關在其職責內涉及公務機密之公務資訊，如何就前述資訊建立其內部公務機密管理機制的範本。 在本號行政命令第一部分，主要針對機密分類規範（ Classification Standards ）[2]、機密分類層級（ Classification Levels ）[3]、機密分類權限（ Classification Authority ）[4]、機密分類種類（ Classification Categories ）[5]、機密存續期間（ Duration of Classification ）[6]、機密識別與標示（ Identification and Markings ）[7]、機密分類禁止與限制（ Classification Prohibitions and Limitations ）[8]、機密分類爭議（ Classification Challenges ）[9]，以及基本分類指導複查等事項（ Fundamental Classification Guidance Review ）[10]，來提供聯邦政府機關制定內部規範的基準。其中，在機密分類爭議部分，若經授權持有公務機密之人善意且相信該機密的分類狀態（ status ）屬不適當時，其可依循所屬聯邦政府機關內部程序來就該機密的分類狀態提出異議 [11]。有關於該程序的建立，各聯邦政府機關首長或資深機關職員必須就該程序確保（ 1 ）該提出機密分類異議之人（包含經授權持有機密之機關內外部人員）不會因該異議的提出而遭受報復；（ 2 ）提供公正之官方人員或專門審查小組就機密分類異議有複查機會；（ 3 ）該提出機密分類異議之人若不滿聯邦政府機關內部所為之決定時，可向跨機關安全分類事務上訴委員會（ Interagency Security Classification Appeals Panel, ISCAP ）提出上訴。然，若公文因不揭露協議（ Non-Disclosure Agreement, NDA ）而需作發佈前審查（ prepublication review ）或依其他行政程序而需先行提出時，則不適用本項之規定。 在第二部分，係規範使用派生機密分類（ Use of Derivative Classification ）[12]的情形與要求各聯邦政府機關需就該派生機密的使用制定指導手冊（ Classification Guides ） [13]；在第三部分，主要規範解密的權責機關（ Authority of Declassification ）[14]、被移轉機密紀錄（ Transferred Records ）[15]、機密自動解密（ Automatic Declassification ）[16]、機密系統性解密複查（ Systematic Declassification Review ）[17]、機密強制性解密複查（ Mandatory Declassification Review ）[18]、處理機密請求與複查（ Processing Requests and Reviews ）[19]與建立國家資訊解密中心（ National Declassification Center ）[20]等事項。 在第四部分中，則規範一般使用限制（ General Restrictions on Access ）[21]、機密散佈控管（ Distribution Controls ）[22]、特殊使用程序（ Special Access Programs ）[23]，以及針對過去有使用機密紀錄之研究者與某些前政府人員使用資訊（ Access by Historic Researchers and Certain Former Government Personnel ）[24]的情形。在第五部分，其謂資訊安全監督辦公室主任（ The Director of the Information Security Oversight Office ），在檔案保管員（ Archivist ）的指示且諮詢國家安全顧問（ National Security Advisor ）後，應發佈可落實本行政命令且拘束各聯邦政府機關的指令[25]。同時，也針對資訊安全監督辦公室與 ISCAP 的設立、權責、功能、規則與程序作逐一說明[26]。此外，亦對各聯邦政府機關首長就其機關內部所建立之機密分類機制所應負的責任與若違法時所應遭受的裁罰另作完整規範[27]。 最後，在第六部分，係針對名詞定義[28]、一般事項[29]、有效日期[30]與發佈[31]等行政事宜作完整說明。 二、美國國防部（ Department of Defense ）公務機密管理機制 （一）美國國防部公務機密管理機制介紹 為遵循美國行政命令第 13526 號，美國國防部對於其業內公務機密（包含國家機密與一般公務機密），亦建立自身公務機密管理機制來防止該資訊受到外國或恐怖分子的刺探或取得。美國國防部公務機密管理機制主要分成六個部分[32]，第一部分為參照（ References ）；第二部分為責任（ Responsibilities ）；第三部分為資訊安全工作概觀（ DoD Information Security Program Overview ）；第四部分為分類資訊（ Classifying Information ），其就機密分類政策、機密分類等級、機密最初分類與派生分類的規定與流程、機密分類期限與機密分類爭議等事項作敘明；第五部分為解密與分類變更（ Declassification and Changes in Classification ），其涉及機密解密程序、機密自動解密、機密強制解密複查、機密解密系統性複查等其他攸關解密或變更機密等事宜；最後，第六部分為安全分類指導（ Security Classification Guides ），其內容乃就前述涉及安全分類內容、資料編輯考量、安全分類複查、安全分類取消或安全分類變更報告等程序或細部事項提供內部權責人員在處理相關事務時的參考。 （二）美國國防部就涉及機密分類爭議的處理方式 如前所述，美國國防部公務機密管理機制第四部分針對機密分類爭議設有明確的處理原則與程序，在分類爭議處理原則中[33]，假若機密持有人有足夠理由相信其持有機密的分類是不適宜或不必要時，該持有人應該就此確信向資訊安全管理者或最初分類權責機關（ Original Classified Authority, OCA ）提出任何必要矯正建議。前述矯正建議可藉由非正式（ informal ）或正式（ formal ）方式提出。以正式提出而言，機密持有人應聯絡原始文件或資料分類者（ the classifier of the source document or material ）來解決機密分類的爭議；同時，其必須就該爭議機密提出足夠描述來容許原分類者盡合理努力來發現是否有不合宜或不適當的機密分類情況，且應提出理由來說明為何他（她）相信該機密是被不合宜或不適當分類的依據。此外，本規範亦要求美國國防部內部主事者（ Heads ）應確保對提出機密分類狀態質疑或就機密分類爭議以正式方式提出之任何人，不得對其行使報復行為或採取類似行動；同時，就受質疑的機密應確保其保密狀態且亦受到保護，除非且直到原核定人員已經作出解密之決定。然而，有關於可受機密分類爭議的客體，將不會擴及因同意不揭露協議而需受發佈前審查或依其他行政程序而需先行提出的資訊。 至於處理機密分類爭議的程序[34]，美國國防部內部主事者應就分類爭議建立完善的處理程序，該程序需就以正式方式提出機密分類質疑的處理情形、追縱情況與記錄均建構完整的流程（其中包含就持有機密者因不滿決定所提出的上訴程序）；同時，就機密分類爭議的審查，也必須賦予公正的官方人員或委員會就該爭議機密有再次複查的機會。有關於處理流程，審查機密分類爭議的權責人員必須於收受案件後 60 日內以書面方式回覆處理情形，假若未於 60 日內作出完整回覆，則美國國防部應轉而接受處理該機密分類爭議並提供預期的回應日期。前述美國國防部收受確認回覆之聲明，應包含假若對機密分類提出質疑之人於提出後 120 日內未收到任何回應，則該質疑者有權將該案件轉交 ISCAP 。此外，當美國國防部於收受上訴申請後 90 日內未對上訴進行回應時，則該質疑者也可將該爭議案件轉交 ISCAP 來作裁處。 三、美國國土安全部（ Department of Homeland Security ）公務機密管理機制 （一）美國國防部公務機密管理機制介紹 為了落實第 13526 號行政命令，美國國土安全部就其業內公務機密（包含國家機密與一般公務機密），對於機密分類機制的履行、管理與監督亦建制自身的公務機密管理規範。美國國土安全部公務機密管理機制主要區分為六章[35]，第一章為制定目的（ Purpose ）；第二章為適用範圍（ Scope ）；第三章為制定權限授與（ Authority ）；第四章為名詞定義（ Definitions ）；第五章為掌管公務機密安全之權責機關責任（ Responsibilities ）；第六章為公務機密安全的政策與流程（ Policy & Procedures ）。在第六章中，其規範內容包含最初分類、派生分類、機密分類考量（其中亦涉及機密分類爭議處理程序）、機密解密、機密解密之強制複查、資訊自由法（ Freedom of Information Act ）與隱私法（ Privacy Act ）之法規要求、機密解密之系統性複查、機密分類降級與升級事項等事項。 （二）美國國土安全部就涉及機密分類爭議的處理方式 對於美國國土安全部機密分類爭議處理[36]，假若經授權之機密持有者善意相信其所持有的機密分類狀態係屬不適當時，其可對該機密分類狀態提出質疑。該機密分類爭議應該向機密核定者（ the classifier of the information ）提出，當有必要性時，對於機密分類狀態有質疑者可以透過美國國土安全部安全工作室（ the DHS Office of Security ）來就相關程序尋求協助與 / 或以匿名的方式來進行機密分類爭議流程。 至於機密分類爭議的提出方式，美國國土安全部公務機密管理機制將其區分為正式提出與非正式提出而異其流程。先以正式提出而論，對於機密分類狀態有疑問者，應先以書面方式向該機密的最初分類權責機關提出機密分類爭議，且此程序相互往來之書面文件應保持在不核密（ unclassified ）的狀態。然而，假若該機密分類爭議案件包含其他經核密的資訊時，則該爭議案件應該為保密標示且作任何必要的保護措施[37]。 有關於書面撰寫內容，對機密分類狀態有質疑者應對爭議機密有足夠的描述，且僅可包含為何該機密被核密或為何該機密被核定為某等級機密的問題[38]。同時，對機密分類質疑者不得就其提出行為進行任何類型的報復，且美國國土安全部安全工作室亦可要求該爭議程序需以匿名的方式來進行處理。若以匿名方式進行時，美國國土安全部安全工作室必須對機密分類質疑者承諾其匿名性，並作為該質疑者在相關爭議案件程序的代理人（ agent ）[39]。 當爭議機密的最初分類權責機關在收受該爭議案件後，其應於 60 日內以書面方式對該機密分類質疑者作出是否仍維持該機密核密狀態或進行解密程序的決定[40]。若機密分類質疑者不滿最初分類權責機關之決定時，其可就該決定上訴至 ISCAP[41]。有必要時，美國國土安全部安全工作室就上訴程序需提供機密分類質疑者各式相關的協助[42]。至於爭議機密的狀態，在最初分類權責機關作出最後決定前，應該確保該機密在爭議案件程序中仍然維持其核密狀態並提供其最高程度的保護[43]。 相反的，以非正式提出而言，經授權之機密持有者可直接聯繫該機密的最初分類權責機關來獲得質疑內容的所有澄清[44]。假若該爭議機密已經由非正式提出方式獲得分類狀態的解決時，該機密分類質疑者應確保作出分類狀態改變之機關係有權責來作出此項決定，且應確保變更過程中的各式相關紀錄（包含機關人員姓名、職位、服務機關、日期）有影印之副本存[45]。茲以下表來比較美國國防部與美國國土安全部所建立之公務機密狀態爭議處理機制。 參、代結論 考量美國公務機關針對公務機密（包含國家機密與一般公務機密）狀態爭議設有完整的處理程序，來供公務機密持有者當就手邊的公務機密狀態有所質疑時可提出異議。由於該處理機制對涉及國家機密或一般公務機密狀態爭議有一體適用的特性，也因此讓人思考是否在機制設計上有偏重國家機密，而在以相同機制處理一般公務機密的面向上，存有處理方式失衡的可能性。為了避免發生如同美國公務機關，以相同機制處理國家機密與一般公務機密所致生的權重失衡問題，未來我國公務機關在設計一般公務機密爭議處理程序時，除應考慮一般公務機密與國家機密有本質與特性的差異外，也須考量現行我國行政機關處理一般公務機密的實際運作環境，來制定出切合行政機關需求的一般公務機密爭議處理機制。 然而，相較於美國公務機關對於公務機密狀態爭議訂有完整的處理方式，作為我國一般公務機密處理準則的文書處理手冊，僅要求對於納入檔案管理之機密文書，若有變更機密或解密者，應即按規定辦理變更或解密手續[46]，但對於何人可提出解除機密或機密變更的聲請、提出解除機密或機密變更的方式、一般公務機密原核定機關對於解除機密或機密變更的處理期限、提出一般公務機密狀態是否適當之質疑者的人身或職位安全保障，抑或是對原核定機關解除機密或機密變更之決定有不服者如何提出複查之聲請，均未有完整的規範。 由於文書處理手冊的規範，現行我國公務機關就一般公務資訊或有可能發生不當核密（或解密）的情況，其緣由可能因核定人員為防止不確定是否為機密之公務資訊有外洩之虞，抑或是因機關內部缺乏合適的諮詢單位，而導致核定人員誤將非機密之公務資訊以機密文書方式處理。因而，如何在一般公務機密核密狀態遭受質疑時，能提供原核定機關或持有一般公務機密者有適當管道或機制來作相應處理，乃是我國公務機關遲早必須面對的議題。 [1] The White House （ 2013 ） ‧ Exec. Order No. 13526 ‧Retrieved from http://www.whitehouse.gov/the-press-office/executive-order-classified-national-security-information (last accessed July. 16, 2013) [2]id . Sec. 1.1. [3]id . Sec. 1.2. [4]id . Sec. 1.3. [5]id . Sec. 1.4. [6]id . Sec. 1.5. [7]id . Sec. 1.6. [8]id . Sec. 1.7. [9]id . Sec. 1.8. [10]id . Sec. 1.9. [11] id. Sec. 1.8(a). [12]id. Sec. 2.1. [13]id. Sec. 2.2. [14]id. Sec. 3.1. [15]id. Sec. 3.2. [16]id. Sec. 3.3. [17]id. Sec. 3.4. [18]id. Sec. 3.5. [19]id. Sec. 3.6. [20]id. Sec. 3.7. [22]id. Sec. 4.1. [22]id. Sec. 4.2. [23]id. Sec. 4.3. [24]id. Sec. 4.4. [25]id. Sec. 5.1(a). [26]id. Sec. 5.2 & 5.3. [27]id. Sec. 5.4 & 5.5. [28]id. Sec. 6.1. [29]id. Sec. 6.2. [30]id. Sec. 6.3. [31]id. Sec. 6.4. [32]Department of Defense ‧ DoD Information Security Program: Overview, Classification, and Declassification ‧ Retrieved from http://www.dtic.mil/whs/directives/corres/pdf/520001_vol1.pdf (last accessed July. 16, 2013) [33]id. Sec. 22(a). [34]id. Sec. 22(b). [35]Department of Homeland Security Management Directive System ‧ Protection of Classification National Security Information Classification Management ‧ Retrieved from http://www.fas.org/sgp/othergov/dhs/md11044.pdf (last accessed July. 16, 2013) [36]id. Chapter IV, E, 3. [37]id . at 3(a)(1). [38]id. [39]id . at 3(a)(2). [40]id . at 3(a)(3). [41]id . at 3(a)(4). [42]id . [43]id . at 3(a)(5). [44]id . at 3(b). [45]id . [46]文書處理手冊第 71 點。
用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限用ChatGPT找法院判決？從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限 資訊工業策進會科技法律研究所 2023年09月08日 生成式AI是透過研究過去資料，以創造新內容和想法的AI技術，其應用領域包括文字、圖像及影音。以ChatGPT為例，OpenAI自2022年11月30日發布ChatGPT後，短短二個月內，全球月均用戶數即達到1億人，無疑成為民眾日常生活中最容易近用的AI科技。 惟，生成式AI大量使用後，其中的問題也逐漸浮現。例如，ChatGPT提供的回答僅是從所學習的資料中統整歸納，無法保證資料的正確性。Roberto Mata v. Avianca, Inc.案即是因律師利用ChatGPT撰寫訴狀，卻未重新審視其所提供判決之正確性，以致後續引發訴狀中所描述的判決不存在爭議。 壹、事件摘要 Roberto Mata v. Avianca, Inc.案[1]中，原告Roberto Mata於2019年8月搭乘哥倫比亞航空從薩爾瓦多飛往紐約，飛行過程中膝蓋遭空服員的推車撞傷，並於2022年2月向法院提起訴訟，要求哥倫比亞航空為空服員的疏失作出賠償；哥倫比亞航空則主張已超過《蒙特婁公約》（Montreal Convention）第35條所訂之航空器抵達日起兩年內向法院提出損害賠償之請求時效。 R然而，法院審理過程中發現原告訴狀內引用之六個判決無法從判決系統中查詢，進而質疑判決之真實性。原告律師Steven A. Schwartz因而坦承訴狀中引用的六個判決是ChatGPT所提供，並宣稱針對ChatGPT所提供的判決，曾多次向ChatGPT確認該判決之正確性[2]。 貳、生成式AI應用之潛在風險 雖然運用生成式AI技術並結合自身專業知識執行特定任務，可能有助於提升效率，惟，從前述Roberto Mata v. Avianca, Inc.案亦可看出，依目前生成式AI技術之發展，仍可能產生資訊正確性疑慮。以下彙整生成式AI應用之8大潛在風險[3]： 一、能源使用及對環境危害 相較於傳統機器學習，生成式AI模型訓練將耗費更多運算資源與能源。根據波士頓大學電腦科學系Kate Saenko副教授表示，OpenAI的GPT-3模型擁有1,750億個參數，約會消耗1,287兆瓦/時的電力，並排放552噸二氧化碳。亦即，每當向生成式AI下一個指令，其所消耗的能源量相較於一般搜尋引擎將可能高出4至5倍[4]。 二、能力超出預期（Capability Overhang） 運算系統的黑盒子可能發展出超乎開發人員或使用者想像的隱藏功能，此發展將會對人類帶來新的助力還是成為危險的阻力，則會隨著使用者之間的相互作用而定。 三、輸出結果有偏見 生成式AI通常是利用公開資料進行訓練，若輸入資料在訓練時未受監督，而帶有真實世界既存的刻板印象（如語言、種族、性別、性取向、能力、文化等），據此建立之AI模型輸出結果可能帶有偏見。 四、智慧財產權疑慮 生成式AI進行模型訓練時，需仰賴大量網路資料或從其他大型資料庫蒐集訓練資料。然而，若原始資料來源不明確，可能引發取得資料未經同意或違反授權條款之疑慮，導致生成的內容存在侵權風險。 五、缺乏驗證事實功能 生成式AI時常提供看似正確卻與實際情形不符的回覆，若使用者誤信該答案即可能帶來風險。另外，生成式AI屬於持續動態發展的資訊生態系統，當產出結果有偏誤時，若沒有大規模的人為干預恐難以有效解決此問題。 六、數位犯罪增加與資安攻擊 過去由人工產製的釣魚郵件或網站可能受限於技術限制而容易被識破，然而，生成式AI能夠快速建立具高度說服力的各種擬真資料，降低詐騙的進入門檻。又，駭客亦有可能在不熟悉技術的情況下，利用AI進一步找出資安弱點或攻擊方法，增加防禦難度。 七、敏感資料外洩 使用雲端服務提供商所建立的生成式AI時，由於輸入的資料存儲於外部伺服器，若要追蹤或刪除有一定難度，若遭有心人士利用而導致濫用、攻擊或竄改，將可能產生資料外洩的風險。 八、影子AI（Shadow AI） 影子AI係指開發者未知或無法控制之AI使用情境。隨著AI模型複雜性增加，若開發人員與使用者未進行充分溝通，或使用者在未經充分指導下使用 AI 工具，將可能產生無法預期之風險。 參、事件評析 在Roberto Mata v. Avianca, Inc.案中，法院關注的焦點在於律師的行為，而非對AI技術使用的批判。法院認為，隨著技術的進步，利用可信賴的AI工具作為協助用途並無不當，惟，律師應踐行其專業素養，確保所提交文件之正確性[5]。 當AI科技發展逐漸朝向自主與獨立的方向前進，仍需注意生成式AI使用上之侷限。當個人在使用生成式AI時，需具備獨立思考判斷的能力，並驗證產出結果之正確性，不宜全盤接受生成式AI提供之回答。針對企業或具高度專業領域人士使用生成式AI時，除確認結果正確性外，更需注意資料保護及治理議題，例如建立AI工具合理使用情境及加強員工使用相關工具之教育訓練。在成本能負擔的情況下，可選擇透過企業內部的基礎設施訓練AI模型，或是在訓練模型前確保敏感資料已經加密或匿名。並應注意自身行業領域相關法規之更新或頒布，以適時調整資料使用之方式。 雖目前生成式AI仍有其使用之侷限，仍應抱持開放的態度，在技術使用與風險預防之間取得平衡，以能夠在技術發展的同時，更好地學習新興科技工具之使用。 [1]Mata v. Avianca, Inc., 1:22-cv-01461, (S.D.N.Y.). [2]Benjamin Weiser, Here’s What Happens When Your Lawyer Uses ChatGPT, The New York Times, May 27, 2023, https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html (last visited Aug. 4, 2023). [3]Boston Consulting Group [BCG], The CEO’s Roadmap on Generative AI (Mar. 2023), https://media-publications.bcg.com/BCG-Executive-Perspectives-CEOs-Roadmap-on-Generative-AI.pdf (last visited Aug. 29, 2023). [4]Kate Saenko, Is generative AI bad for the environment? A computer scientist explains the carbon footprint of ChatGPT and its cousins, The Conversation (May 23, 2023.), https://theconversation.com/is-generative-ai-bad-for-the-environment-a-computer-scientist-explains-the-carbon-footprint-of-chatgpt-and-its-cousins-204096 (last visited Sep. 7, 2023). [5]Robert Lufrano, ChatGPT and the Limits of AI in Legal Research, National Law Review, Volume XIII, Number 195 (Mar. 2023), https://www.natlawreview.com/article/chatgpt-and-limits-ai-legal-research (last visited Aug. 29, 2023).