聯合國人權高級專員辦公室發布《數位時代隱私權》調查報告

  聯合國人權高級專員辦公室(Office of the United Nations High Commissioner for Human Rights, OHCHR)於2021年9月15日發布《數位時代隱私權》(The Right to Privacy in The Digital Age)調查報告,分析各種人工智慧技術,例如側寫(profiling)、自動化決策及機器學習,將如何影響人民之隱私或其他權利,包括健康權、教育權、行動自由、言論自由或集會結社自由等,並提出對國家與企業應如何因應之具體建議。

一、針對國家與企業使用人工智慧之共同建議:在整個人工智慧系統生命週期中,包括設計、開發、部署、銷售、取得(obtain)或運營,應定期進行全面的人權影響評估(comprehensive human rights impact assessments),提高系統使用透明度與可解釋性,並應充分通知公眾與受影響之個人其正在使用人工智慧進行決策。

二、針對國家使用人工智慧之建議:應確保所有人工智慧的使用符合人權,明確禁止並停止販售不符合國際人權法運作之人工智慧應用程序。在證明使用該人工智慧系統能遵守隱私及資料保護標準,且不存在重大準確性問題及產生歧視影響之前,應暫停在公共場所使用遠端生物識別技術。並盡速立法及建立監管框架,以充分預防和減輕使用人工智慧可能造成不利人權的影響,以及確保在侵犯人權時能夠有相關之補救措施。

三、針對企業使用人工智慧之建議:應盡力履行維護人權之責任,建議實施商業與人權指導原則(Guiding Principles on Business and Human Rights),並打擊(combat)人工智慧系統開發、銷售或運營相關的歧視,進行系統評估與監測,以及設計有效的申訴機制。

相關連結
※ 聯合國人權高級專員辦公室發布《數位時代隱私權》調查報告, 資訊工業策進會科技法律研究所, https://stli.iii.org.tw/article-detail.aspx?d=8737&no=0&tp=1 (最後瀏覽日:2026/05/06)
引註此篇文章
你可能還會想看
用ChatGPT找法院判決?從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限

用ChatGPT找法院判決?從Roberto Mata v. Avianca, Inc.案淺析生成式AI之侷限 資訊工業策進會科技法律研究所 2023年09月08日 生成式AI是透過研究過去資料,以創造新內容和想法的AI技術,其應用領域包括文字、圖像及影音。以ChatGPT為例,OpenAI自2022年11月30日發布ChatGPT後,短短二個月內,全球月均用戶數即達到1億人,無疑成為民眾日常生活中最容易近用的AI科技。 惟,生成式AI大量使用後,其中的問題也逐漸浮現。例如,ChatGPT提供的回答僅是從所學習的資料中統整歸納,無法保證資料的正確性。Roberto Mata v. Avianca, Inc.案即是因律師利用ChatGPT撰寫訴狀,卻未重新審視其所提供判決之正確性,以致後續引發訴狀中所描述的判決不存在爭議。 壹、事件摘要 Roberto Mata v. Avianca, Inc.案[1]中,原告Roberto Mata於2019年8月搭乘哥倫比亞航空從薩爾瓦多飛往紐約,飛行過程中膝蓋遭空服員的推車撞傷,並於2022年2月向法院提起訴訟,要求哥倫比亞航空為空服員的疏失作出賠償;哥倫比亞航空則主張已超過《蒙特婁公約》(Montreal Convention)第35條所訂之航空器抵達日起兩年內向法院提出損害賠償之請求時效。 R然而,法院審理過程中發現原告訴狀內引用之六個判決無法從判決系統中查詢,進而質疑判決之真實性。原告律師Steven A. Schwartz因而坦承訴狀中引用的六個判決是ChatGPT所提供,並宣稱針對ChatGPT所提供的判決,曾多次向ChatGPT確認該判決之正確性[2]。 貳、生成式AI應用之潛在風險 雖然運用生成式AI技術並結合自身專業知識執行特定任務,可能有助於提升效率,惟,從前述Roberto Mata v. Avianca, Inc.案亦可看出,依目前生成式AI技術之發展,仍可能產生資訊正確性疑慮。以下彙整生成式AI應用之8大潛在風險[3]: 一、能源使用及對環境危害 相較於傳統機器學習,生成式AI模型訓練將耗費更多運算資源與能源。根據波士頓大學電腦科學系Kate Saenko副教授表示,OpenAI的GPT-3模型擁有1,750億個參數,約會消耗1,287兆瓦/時的電力,並排放552噸二氧化碳。亦即,每當向生成式AI下一個指令,其所消耗的能源量相較於一般搜尋引擎將可能高出4至5倍[4]。 二、能力超出預期(Capability Overhang) 運算系統的黑盒子可能發展出超乎開發人員或使用者想像的隱藏功能,此發展將會對人類帶來新的助力還是成為危險的阻力,則會隨著使用者之間的相互作用而定。 三、輸出結果有偏見 生成式AI通常是利用公開資料進行訓練,若輸入資料在訓練時未受監督,而帶有真實世界既存的刻板印象(如語言、種族、性別、性取向、能力、文化等),據此建立之AI模型輸出結果可能帶有偏見。 四、智慧財產權疑慮 生成式AI進行模型訓練時,需仰賴大量網路資料或從其他大型資料庫蒐集訓練資料。然而,若原始資料來源不明確,可能引發取得資料未經同意或違反授權條款之疑慮,導致生成的內容存在侵權風險。 五、缺乏驗證事實功能 生成式AI時常提供看似正確卻與實際情形不符的回覆,若使用者誤信該答案即可能帶來風險。另外,生成式AI屬於持續動態發展的資訊生態系統,當產出結果有偏誤時,若沒有大規模的人為干預恐難以有效解決此問題。 六、數位犯罪增加與資安攻擊 過去由人工產製的釣魚郵件或網站可能受限於技術限制而容易被識破,然而,生成式AI能夠快速建立具高度說服力的各種擬真資料,降低詐騙的進入門檻。又,駭客亦有可能在不熟悉技術的情況下,利用AI進一步找出資安弱點或攻擊方法,增加防禦難度。 七、敏感資料外洩 使用雲端服務提供商所建立的生成式AI時,由於輸入的資料存儲於外部伺服器,若要追蹤或刪除有一定難度,若遭有心人士利用而導致濫用、攻擊或竄改,將可能產生資料外洩的風險。 八、影子AI(Shadow AI) 影子AI係指開發者未知或無法控制之AI使用情境。隨著AI模型複雜性增加,若開發人員與使用者未進行充分溝通,或使用者在未經充分指導下使用 AI 工具,將可能產生無法預期之風險。 參、事件評析 在Roberto Mata v. Avianca, Inc.案中,法院關注的焦點在於律師的行為,而非對AI技術使用的批判。法院認為,隨著技術的進步,利用可信賴的AI工具作為協助用途並無不當,惟,律師應踐行其專業素養,確保所提交文件之正確性[5]。 當AI科技發展逐漸朝向自主與獨立的方向前進,仍需注意生成式AI使用上之侷限。當個人在使用生成式AI時,需具備獨立思考判斷的能力,並驗證產出結果之正確性,不宜全盤接受生成式AI提供之回答。針對企業或具高度專業領域人士使用生成式AI時,除確認結果正確性外,更需注意資料保護及治理議題,例如建立AI工具合理使用情境及加強員工使用相關工具之教育訓練。在成本能負擔的情況下,可選擇透過企業內部的基礎設施訓練AI模型,或是在訓練模型前確保敏感資料已經加密或匿名。並應注意自身行業領域相關法規之更新或頒布,以適時調整資料使用之方式。 雖目前生成式AI仍有其使用之侷限,仍應抱持開放的態度,在技術使用與風險預防之間取得平衡,以能夠在技術發展的同時,更好地學習新興科技工具之使用。 [1]Mata v. Avianca, Inc., 1:22-cv-01461, (S.D.N.Y.). [2]Benjamin Weiser, Here’s What Happens When Your Lawyer Uses ChatGPT, The New York Times, May 27, 2023, https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html (last visited Aug. 4, 2023). [3]Boston Consulting Group [BCG], The CEO’s Roadmap on Generative AI (Mar. 2023), https://media-publications.bcg.com/BCG-Executive-Perspectives-CEOs-Roadmap-on-Generative-AI.pdf (last visited Aug. 29, 2023). [4]Kate Saenko, Is generative AI bad for the environment? A computer scientist explains the carbon footprint of ChatGPT and its cousins, The Conversation (May 23, 2023.), https://theconversation.com/is-generative-ai-bad-for-the-environment-a-computer-scientist-explains-the-carbon-footprint-of-chatgpt-and-its-cousins-204096 (last visited Sep. 7, 2023). [5]Robert Lufrano, ChatGPT and the Limits of AI in Legal Research, National Law Review, Volume XIII, Number 195 (Mar. 2023), https://www.natlawreview.com/article/chatgpt-and-limits-ai-legal-research (last visited Aug. 29, 2023).

加拿大安大略省通過修正健康資訊保護法

  加拿大安大略省議會於2016年5月三讀通過修正健康資訊保護法(Health Information Protection Act, HIPA)。該法案藉由一連串措施,包括增加隱私保護、問責制與提升透明度,以提高病人地位。 1.在符合指令定義內,將違反隱私之行為強制性地通報與資訊與隱私專員; 2.強化違反個人健康資訊保護法之起訴流程,刪除必須於犯罪發生之六個月內起訴之規定; 3.個人犯罪最高額罰款提升到50,000元至100,000元,組織則為250,000元至500,000元。   而健康資訊保護法也將更新照護品質資訊保護法(Quality of Care Information Protection Act, QCIPA),有助於提升透明度,以保持醫療系統的品質,更新內容包括: 1.確認病患有權得知其醫療相關資料; 2.釐清不得對關於受影響的病患與家屬保留重要事項之資訊與事實; 3.要求健康與長照部(Minister of Health and Long-Term Care)每五年定期審查照護品質資訊保護法。   安大略省亦正著手研究由專家委員會提出,所有關於提升照護品質資訊保護法所稱重大事故透明度之建議。   藉著透過該目標,將可提供病患更快的醫療,更好的家庭與社區照顧,安大略政府希望可以透過上開手段以保護病患隱私以及加強其資訊透明度。

Google就隱私權議題與美國FTC達成初步和解,消費者團體呼籲FTC採取更嚴厲的手段

  今年三月底,Google與美國聯邦貿易委員會(Federal Trade Commission, FTC)就Buzz案達成和解。2010年時FTC控告Google Buzz未確實保護消費者的個人資料,侵犯了消費者的隱私權,違反「聯邦貿易委員會法」(FTC Act)以及美國與歐盟所訂定之「安全港架構協議」(U.S.-EU Safe Harbor Framework)。FTC表示,Google搭配在其Gmail中的網路社交服務Buzz,讓Gmail使用者誤以為其可以自主決定是否加入該社群,但事實上縱使Gmail使用者選擇不加入,也無法完全移除此項服務。甚者,選擇加入Buzz的消費者,亦無法找到明確的方式,控制其分享的個人資料。FTC控告Google未取得消費者的同意,將Gmail的資料(通訊錄名單)供社交網路使用,構成目的範圍外的使用。     依據Google與FTC和解內容,Google必須執行一套更為嚴謹的隱私權制度,不得再有誤導消費者其個人資料開放程度的行為,並且在爾後二十年都需接受獨立機構的隱私審查。初步和解內容開放30天(至2011年5月2日 )供社會大眾提供意見,之後FTC將提出最終和解內容。迄今為止,消費者團體提出的意見,包括要求FTC限制Google持有個人資料的時間,將隱私權保護制度適用到其所有的產品,對其儲存於雲端系統的個人資料進行加密動作,以及在進行個人資料蒐集前,應彈跳出視窗取得消費者同意等     值得注意的是,FTC在和解案中關於隱私權政策的客體所使用的語彙為「涵蓋資料」(covered information )而非「個人資料」(personal information),「涵蓋資料」所包含的範圍除了傳統的「個人資料」,尚包含IP位址、個人實體位址,以及通訊名單等等。     本案是FTC首度依職權要求業者採取更為嚴謹的隱私權保護制度以保障消費者權益,亦是FTC初次依「安全港架構協議」所採取的行動。本案對於線上服務的隱私權保護無疑是一大進展,但亦有論者擔心嚴苛的隱私權保護制度,反將造成小公司或新業者市場參進的障礙,愈發壯大Google的市場地位。     除此之外,Google的Buzz服務亦被消費者以集團訴訟提起告訴,最終和解金為850萬美元。     隨著Google成為搜尋引擎界的龍頭,其近年的一舉一動皆備受美國以及歐洲管理當局嚴密注意,今年二月份時,Google即時街景服務亦因不當蒐集個人資料而被法國裁罰14萬美元。

創投有限合夥依產創草案第23條之1適用前後差異

創投有限合夥依產創草案第23條之1適用前後差異 資策會科技法律研究所 法律研究員 盧藝汎 106年05月22日 壹、背景說明   因創投業、電影、舞台劇等非採行永續經營模式的產業,不適宜採現行公司組織,為鼓勵資金得以挹注前開事業[1],立法院於104年6月三讀通過「有限合夥法」[2]。惟法案通過後至今,查經濟部有限合夥資料查詢網站,目前僅有九間有限合夥,其中「德商達佐有限合夥台灣分支機構」及「德商斯德博傳動技術有限合夥台灣分支機構」為外國有限合夥於台灣設立之分支機構,其餘七間公司有影音產業或資訊服務業,並無任何創業投資事業採用,實屬可惜[3]。   事實上,國外針對有限合夥組織此種型態組織,稅制上設有相關配套措施,如美國法採取稅捐轉付(pass through,另有稱此為單層課稅)、德國則稱穿透原則(Transparenzprinzip),其二者名稱雖有異,惟核心思想均係將有限合夥營利所得歸屬於合夥人之所得[4]。然我國在有限合夥法通過後,財政部發布函釋指出,因現行法制賦予有限合夥組織獨立法人格,應比照營利事業課徵營利事業所得稅[5]。爰此,為落實有限合夥法鼓勵新創之立法目的,行政院提出產業創新條例第23條之1草案(下稱草案),引進外國法「穿透課稅原則」,即不對有限合夥組織課徵營利事業所得稅,待有限合夥組織營利所得各合夥人時,對各合夥人課徵所得稅,期待鼓勵創業投資事業採用有限合夥組織,加強對新創事業之投資。 貳、新設立有限合夥組織之創業投資事業適用穿透課稅原則 一、要件及其適用效果  (一)要件   依照草案第23條之1第3項之規定新設立有限合夥組織之創業投資事業適用「穿透課稅原則」應具備下列要件: 自中華民國一百零六年一月一日起至一百零八年十二月三十一日止設立之有限合夥組織之創業投資事業。 設立起五年度約定出資總額、實收出資總額、累積投資新創事業公司之金額限制。 合夥契約約定出資總額 實收出資總額 累積投資新創公司金額 設立當年度 3億元 ✕ ✕ 第二年度 ✕ ✕ 第三年度 1億元 ✕ 第四年度 2億元 達該事業當年度實收出資總額百分之三十或新臺幣三億元。 第五年度 3億元 資金運用於我國境內及投資於實際營運活動在我國境內之外國公司金額合計達其當年度實收出資總額50%。 符合政府政策。 中央主管機關逐年核定。  (二)效果   依照草案第23條之1第3項規定適用之效果如下: 有限合夥組織之創業投資事業免納營利事業所得稅。 有限合夥組織之合夥人獲盈餘分配時依下列方式課稅: (1) 國內外之個人合夥人及營利事業合夥人盈餘分配比例依所得稅法徵免。 (2) 個人合夥人及國外營利事業合夥人就有限合夥分配證券交易所得部分免納所得稅。 二、採穿透課稅原則後與原稅捐制度之效益分析   A國內個人、B國內營利事業、C國外營利事業共同設立甲有限合夥組織之創業投資事業,三人的盈餘分配分別為10%、80%及10%,而甲結算之盈餘為100萬元(屬證券交易所得為80萬及非屬證券交易所得為20萬)。試問甲與A、B、C應繳多少所得稅?  (一)草案修正前適用所得稅法 甲有限合夥之創業投資事業 應繳納營利事業所得稅=(100萬元(盈餘)-50萬[6])×12%(稅率)[7]=6萬 A國內個人 應申報綜所稅營利所得=(100萬元-6萬)×10%(甲開立憑單淨額予A)+6萬÷2×10% (可扣抵稅額)=9.7萬元 營利所得應納稅額=9.15萬元×5%(稅率)=0.485萬元 實際繳的所得稅=0.485萬-6萬÷2×10% (可扣抵稅額) =0.1485萬元 B國內營利事業 所得稅法第42條,獲配之股利淨額或盈餘淨額,不計入所得額課稅。 C國外營利事業 就源扣繳=(100萬元-6萬元)×10%(盈餘分配率)×20%(就源扣繳率)=1.88萬元  (二)草案修正後採行穿透課稅 甲有限合夥之創業投資事業 不計入所得稅。 A國內個人 應納之稅額=80萬元(非屬證券交易所得之分配)×10%(盈餘配率)×5%(綜合所得稅率)=0.1萬元 B國內營利事業 所得稅法第42條,獲配之股利淨額或盈餘淨額,不計入所得額課稅。 C國外營利事業 就源扣繳=80萬元(非屬證券交易所得之分配)×10%(盈餘配率)×20%(就源扣繳率)=0.4萬元   依照上面的案例,新設立有限合夥組織之創業投資事業在盈餘分配條件相同且同一課稅主體稅率相同之情形下,有限合夥組織及期股東採穿透課稅原則享受的稅捐較為優惠: 修正前 修正後 創投有限合夥組織 6萬 不計入 股 東 國內個人 0.185萬 0.1萬 國內營利事業 不計入 不計入 國外營利事業 1.88萬 0.4萬 小     計 8.065萬 0.5萬 參、結論   有限合夥採行穿透課稅原則後,相較採行公司制之課稅,可大幅減少稅捐負擔。同時,考慮到美國稅法(IRC)針對公司稅負,要求符合S章之公司,便可採行「稅捐轉付」即直接歸戶,以股東所得為課稅客體[8];德國則針對人合性商業組織之營利事業,採取「穿透原則」,得逕自認定屬組織成員所得[9]等立法例下,產創草案第23條之1使創投事業有限合夥組織得採取穿透課稅,與外國法接軌並突破現行所得稅之稅制,殊值肯定。 [1] 立法院公報第104卷第51期,頁325。網址:http://misq.ly.gov.tw/MISQ//IQuery/misq5000Action.action [2] 新制商業組織與有限合夥立法週年的觀察,《月旦民商法雜誌》第54期,廖大穎,頁42,’ [3] 經濟部-有限合夥登記資料查詢。網址:http://gcis.nat.gov.tw/lmpub/lms/dir.jsp?showgcislocation=true&agencycode=allbf [4] 同前揭註2,頁51~頁52。 [5] 參財政部104年12月18日台財稅字第10400636640號函釋。 [6] 基本稅額條例第8條第1項前段。 [7] 基本稅額條例第8條第1項後段。 [8] 有限合夥立法之研究,東吳大學法學院碩士論文,吳宗曄,頁95~頁96。 [9] 參前揭註2,頁52。

TOP