隨著人工智慧快速發,各界開始意識到人工智慧系統應用、發展過程所涉及的倫理議題,應該建構出相應的規範。IBM於2018年9月02日提出了「人工智慧日常倫理」(Everyday Ethics for Artificial Intelligence)手冊,其以明確、具體的指引做為系統設計師以及開發人員間之共同範本。作為可明確操作的規範,該手冊提供了問責制度、價值協同、可理解性等關注點,以促進社會對人工智慧的信任。 一、問責制度(Accountability) 由於人工智慧的決策將作為人們判斷的重要依據,在看似客觀的演算系統中,編寫演算法、定義失敗或成功的程式設計人員,將影響到人工智慧的演算結果。因此,系統的設計和開發團隊,應詳細記錄系統之設計與決策流程,確保設計、開發階段的責任歸屬,以及程序的可檢驗性。 二、價值協同(Value Alignment) 人工智慧在協助人們做出判斷時,應充分考量到事件的背景因素,其中包括經驗、記憶、文化規範等廣泛知識的借鑑。因此系統設計和開發人員,應協同應用領域之價值體系與經驗,並確保演算時對於跨領域的文化規範與價值觀之敏感性。同時,設計師和開發人員應使人工智慧系統得以「了解並認知」用戶的價值觀,使演算系統與使用者之行為準則相符。 三、可理解性(Explainability) 人工智慧系統的設計,應盡可能地讓人們理解,甚至檢測、審視它決策的過程。隨著人工智慧應用範圍的擴大,其演算決策的過程必須以人們得以理解的方式解釋。此係讓用戶與人工智慧系統交互了解,並針對人工智慧結論或建議,進而有所反饋的重要關鍵;並使用戶面對高度敏感決策時,得以據之檢視系統之背景數據、演算邏輯、推理及建議等。 該手冊提醒,倫理考量應在人工智慧設計之初嵌入,以最小化演算的歧視,並使決策過程透明,使用戶始終能意識到他們正在與人工智慧進行互動。而作為人工智慧系統設計人員和開發團隊,應視為影響數百萬人甚至社會生態的核心角色,應負有義務設計以人為本,並與社會價值觀和道德觀一致的智慧系統。
日本資訊信託功能認定指引第二版日本於2018年6月公布「資料信託功能認定指引第一版」(情報信託機能の認定に係る指針ver1.0),期待藉此推動資料銀行發展,促進資料流通和利用。第一版指引係以資料銀行應具備之功能為中心,惟伴隨資料銀行業務發展,指引內除資料銀行基本功能外,亦應規範個人資料管理及向第三方提供資料之條件等內容,加上有論者認為第一版內有關資料銀行定義過於偏重功能描述,故總務省和經濟產業省於2019年1月起召開檢討會,重新檢討上開指引,最終於2019年10月8日公布「資料信託功能認定指引第二版」(情報信託機能の認定に係る指針ver2.0)。 第二版指引更新重點包括︰(1)修正資料銀行定義︰第一版指引僅強調資料銀行之功能,第二版則增加資料銀行之目的和資料銀行與個人間關係等內容;(2)重新定義並詳細說明資料種類和蒐集方法;(3)修正資料信託功能認定基準︰新增複數業者共同經營資料銀行,隱私保護對策以及確保資料銀行透明性和個人資料之自主控制等規定;(4)新增資料信託功能模範條款之應記載事項︰包括與限制行為能力人締結契約之程序,以及向第三方提供資料之條件等規定。為確保資料銀行透明性和個人資料之自主控制,第二版指引新增資料倫理審查會規定,要求資料銀行設置資料倫理審查會並定期向其報告,審查會則應就個人與資料銀行間契約、個資利用目的、向第三方提供資料之條件等事項提供建議。
金融穩定委員會報告指出金融領域採用AI之模型、資料品質與治理風險.Pindent{text-indent: 2em;} .Noindent{margin-left: 2em;} .NoPindent{text-indent: 2em; margin-left: 2em;} .No2indent{margin-left: 3em;} .No2Pindent{text-indent: 2em; margin-left: 3em} .No3indent{margin-left: 4em;} .No3Pindent{text-indent: 2em; margin-left: 4em} 金融穩定委員會(Financial Stability Board, FSB)於2024年11月14日發布《人工智慧對金融穩定的影響》報告,探討人工智慧(Artificial Intelligence, AI)在金融領域的應用進展及對全球金融穩定的影響,分析相關風險並提出建議。 報告指出AI具有提升效率、加強法規遵循、提供個人化金融產品及進階資料分析等益處,但同時可能加劇某些金融部門的脆弱性(Vulnerability),進而構成金融穩定風險。報告特別提出之脆弱性包括:「第三方依賴及服務供應商集中化」、「市場相關性」、「資安風險」,以及「模型風險、資料品質和治理」。 在模型風險、資料品質與治理中,廣泛應用AI可能導致模型風險上升,因某些模型難以驗證、監控及修正,且模型的複雜性與透明性不足將增加尋找具獨立性和專業知識的驗證者的挑戰。此外,在大型語言模型(Large Language Model, LLM),大規模非結構化資料的使用及訓練資料來源的不透明性,使資料品質評估更加困難。特別是在預訓練模型(Pre-trained Model)中,金融機構對眾多資料來源的評估方式不熟悉,進一步增加管理難度。 若金融機構未建立健全的治理架構以審查AI的使用及其資料來源,模型風險與資料品質問題將難以控制。金融機構有責任應對與AI相關的模型風險和資料品質挑戰,包含對模型進行驗證、持續監控、執行結果分析和評估資料品質的預期要求。 報告呼籲各國金融主管機關加強對AI發展的監測,評估現行金融政策框架是否充分,並增強監管能力。建議可定期或不定期調查AI應用情形,並透過報告及公開揭露制度獲取相關資訊。此外,主管機關可考慮利用監督科技(SupTech)及監管科技(RegTech)等AI驅動工具強化監管效能,以應對AI在金融領域帶來的挑戰與風險。
新加坡智財融資計畫介紹新加坡智財融資計畫介紹 科技法律研究所 法律研究員 羅育如 2014年12月23日 壹、前言 新加坡政府於2013年3月份提出IP (Intellectual Property) Hub Master Plan 10年期計畫[1],目標是成為亞洲智慧產權匯流中心。本文針對其中的智財融資計畫(IP Financing Scheme;IPFS)進行觀察,目的在於了解新加坡政府如何運用政府資源,協助建構智財交易市場。 貳、重點說明 新加坡政府2014年4月18日公布總值為1億新元(約24億新台幣)的智財權融資計畫,以協助新加坡本地的企業通過所持有的智財權獲得銀行的融資。 根據這項計畫,新加坡智財局將委託新加坡三家智財鑑價機構,為那些擁有智財權的企業進行鑑價,而相關企業則可以智財權為抵押,向參與本計畫的三家當地銀行—星展銀行(DBS Bank Ltd)、華僑銀行(Oversea-Chinese Banking Corporation (OCBC) Ltd)和大華銀行(United Overseas Bank (UOB) Ltd)申請企業貸款,用以擴展企業業務。 而新加坡智財局將依據不同企業貸款的申請情況,以計畫經費承擔部分違約風險,對於企業的智財資產融資負擔連帶責任(the Government partially underwrites the value of IP used as collateral)。須強調的是,該項計畫的申請資格需符合兩個標準:1.必須是新加坡企業;2.擔保品必須包含已獲證的專利。其餘具體推動作法,介紹如下: 一、申請流程 智財權融資計畫的申請流程分為三個步驟[2],首先必須向任選三家融資銀行的其中一家提出初步評估申請。接著則從三家合格之專門鑑價服務公司中,挑選適合的IP鑑價師,針對要作為擔保品的已獲證專利,進行價值評估。最後,該申請企業再將專業鑑價報告以及融資申請書,提交給融資銀行作審查。 二、合格之專業鑑價機構 如欲成為融資銀行可接受之合格智財權鑑價服務公司,必須通過新加坡智財局的評選機制,參加評選的公司必須符合以下四個條件: 1.在專利鑑價領域至少五年經驗。 2.過去曾替營業額500萬新元(約一億兩千萬台幣)的企業進行過智財鑑價。 3.曾經評鑑過至少100萬新元(約2400萬台幣)智財價值的案件。 4.每年的營業額最少為100萬新元(約2400萬台幣)。 目前通過評選之合格鑑價服務公司包括American Appraisal Singapore Pte Ltd(地點在新加坡)、Consor Intellectual Asset Management(地點在美國)以及Deloitte & Touche Financial Advisory Services Pte Ltd(地點在新加坡)。換言之,除上述三家公司外,融資銀行將不接受其他公司提供之智財權鑑價報告。 三、智財鑑價費用補助 新加坡智財局會補助欲申請智財權融資計畫之企業智財鑑價費用,但前提條件是,申請企業必須獲得通過融資審查,並提取100%獲准貸款之後,政府才會補助智財鑑價費用,而補助費用計算方式有三種選擇,政府從中選擇較低金額作為補助費用,包括: 1.50%智財鑑價費用。 2.該項智財價值2%。 3.新幣2.5萬(約60萬台幣)。 參、事件評析 一般而言,銀行不接受智財資產作為企業融資的擔保品,因為智財資產無明確的交易以及流通市場,當企業無法依約償還貸款時,銀行無法買賣智財擔保品,取回資金。 為了解決這個根本性的問題,新加坡政府透過智財融資計畫,直接提供資金挹注,協助銀行承擔智財融資風險,使企業可透過智財資產實質的取得資金,一方面讓企業更加願意投注智財相關費用,因為智財產出除了可用於內部製造與創新之外,還可以成為融資擔保品,協助企業取得資金。另一方面則可活絡智財交易市場,因為雖然政府承擔部份銀行風險,但智財交易市場還是會因為有需求而慢慢浮現。 [1] IP STEERING COMMITTEE, Intellectual Property (IP) Hub Master Plan─Developing Singapore as a Global IP Hub in Asia (2013) http://www.ipos.gov.sg/Portals/0/Press%20Release/IP%20HUB%20MASTER%20PLAN%20REPORT%202%20APR%202013.pdf(最後瀏覽日2014/10/15) [2] Intellectual Property Financing Scheme, ipos.gov, http://www.ipos.gov.sg/IPforYou/IPforBusinesses/IPFinancingScheme.aspx(last visited Oct. 15, 2014).