IBM提出「人工智慧日常倫理」手冊作為研發人員指引

  隨著人工智慧快速發,各界開始意識到人工智慧系統應用、發展過程所涉及的倫理議題,應該建構出相應的規範。IBM於2018年9月02日提出了「人工智慧日常倫理」(Everyday Ethics for Artificial Intelligence)手冊,其以明確、具體的指引做為系統設計師以及開發人員間之共同範本。作為可明確操作的規範,該手冊提供了問責制度、價值協同、可理解性等關注點,以促進社會對人工智慧的信任。

一、問責制度(Accountability)
  由於人工智慧的決策將作為人們判斷的重要依據,在看似客觀的演算系統中,編寫演算法、定義失敗或成功的程式設計人員,將影響到人工智慧的演算結果。因此,系統的設計和開發團隊,應詳細記錄系統之設計與決策流程,確保設計、開發階段的責任歸屬,以及程序的可檢驗性。

二、價值協同(Value Alignment)
  人工智慧在協助人們做出判斷時,應充分考量到事件的背景因素,其中包括經驗、記憶、文化規範等廣泛知識的借鑑。因此系統設計和開發人員,應協同應用領域之價值體系與經驗,並確保演算時對於跨領域的文化規範與價值觀之敏感性。同時,設計師和開發人員應使人工智慧系統得以「了解並認知」用戶的價值觀,使演算系統與使用者之行為準則相符。

三、可理解性(Explainability)
  人工智慧系統的設計,應盡可能地讓人們理解,甚至檢測、審視它決策的過程。隨著人工智慧應用範圍的擴大,其演算決策的過程必須以人們得以理解的方式解釋。此係讓用戶與人工智慧系統交互了解,並針對人工智慧結論或建議,進而有所反饋的重要關鍵;並使用戶面對高度敏感決策時,得以據之檢視系統之背景數據、演算邏輯、推理及建議等。

  該手冊提醒,倫理考量應在人工智慧設計之初嵌入,以最小化演算的歧視,並使決策過程透明,使用戶始終能意識到他們正在與人工智慧進行互動。而作為人工智慧系統設計人員和開發團隊,應視為影響數百萬人甚至社會生態的核心角色,應負有義務設計以人為本,並與社會價值觀和道德觀一致的智慧系統。

相關連結
相關附件
※ IBM提出「人工智慧日常倫理」手冊作為研發人員指引, 資訊工業策進會科技法律研究所, https://stli.iii.org.tw/article-detail.aspx?d=8195&no=64&tp=1 (最後瀏覽日:2026/02/27)
引註此篇文章
你可能還會想看
美國財政部投資安全辦公室發布有關對外投資審查議題的法規預告

美國財政部投資安全辦公室發布有關對外投資審查議題的法規預告 資訊工業策進會科技法律研究所 2024年09月16日 隨著地緣政治局勢升溫,國際主要國家為強化技術保護,並防止資源持續流入國族國家敵對勢力(Nation-state adversaries),有研議新增「對外投資審查」為監管工具的趨勢,例如歐盟執委會(European Commission)於2024年1月發布「對外投資白皮書」(White Paper on Outbound Investments),以及美國總統拜登於2023年8月9日發布《第14105號行政命令》(Executive Order 14105,以下簡稱《對外投資命令》),確立美國應增設對外投資審查制度之目標。 壹、事件摘要 為了落實《對外投資命令》,美國財政部(Department of the Treasury)投資安全辦公室(Office of Investment Security)於2024年7月5日發布「有關美國於關切國家投資特定國家安全技術與產品」的法規預告(Notice of Proposed Rulemaking:Provisions Pertaining to U.S. Investments in Certain National Security Technologies and Products in Countries of Concern,以下簡稱法規預告),將半導體與微電子、量子資訊技術以及人工智慧列為三大目標監控領域。 依據法規預告,未來「美國人」(U.S. Person)若從事涉及「特定外國人」(Covered Foreign Person)的三大「特定領域活動」(Covered Activity)投資交易,除合乎例外交易(Excepted Transactions)情形外,皆屬未來對外投資審查法規的管轄範圍。 貳、重點說明 以下簡介法規預告的重點規範內容: 一、三大特定領域活動:包含半導體與微電子、量子資訊技術以及人工智慧三個領域。 二、美國人:指美國公民、美國法定永久居留權人、任何依照美國法律設立或受美國管轄的法人實體(Entity),及任何在美國境內的自然人。 三、關切國家:指中國大陸,並包含香港及澳門地區。 四、特定外國人:指「屬於關切國家的個人或法人實體,並從事三大特定領域活動者」,具體而言包含關切國家公民或法定永久居留權人、政府單位或人員、依關切國家法律設立的法人實體、總部位於關切國家的法人實體等。 五、雙軌制:法規預告將對外投資分為兩大交易類別,即「禁止交易」(Prohibited Transactions)及「通報交易」(Notifiable Transactions)。原則上投資若涉及三大特定領域活動且屬於法規預告指定之「先進技術項目」者,為禁止交易;未涉及先進技術項目,則屬通報交易。 六、半導體領域之禁止交易: 鑒於半導體產業對於我國影響重大,且亦為我國管制重點項目,以下簡要說明半導體領域之禁止交易: (一)先進設計:禁止任何涉及超出美國《出口管制規則》(Export Administration Regulation, EAR)的「出口管制分類代碼」(Export Control Classification Number, ECCN)3A090.a技術參數,或可於4.5克耳文(Kelvin)以下溫度運作的半導體先進設計相關投資。ECCN 3A090.a技術參數係指半導體「總處理效能」(Total Processing Performance, TPP)為4800以上;或TPP為1600以上且「性能密度」(Performance Density, PD)為5.92以上者。 (二)先進製造: 禁止涉及以下項目的先進半導體製造相關投資: 1.使用非平面晶體管架構(non-planar transistor architecture)或16奈米、14奈米或以下製程技術的邏輯晶片。 2.具有128層以上的快閃(NOT-AND)記憶半導體。 3.使用18奈米以下半週距製程技術的動態隨機存取記憶體(dynamic random-access memory)晶片。 4.使用鎵化合物(gallium-based compound)的化合物半導體。 5.使用石墨稀電晶體(graphene transistors)或奈米碳管(carbon nanotubes)的半導體。 6.能於4.5克耳文以下溫度運行的半導體。 (三) 先進封裝:法規預告禁止任何使用先進封裝技術的半導體封裝相關投資。先進封裝係指「以2.5D及3D進行半導體封裝」,例如透過矽穿孔(through-silicon vias)、黏晶或鍵合技術(die or wafer bonding)、異質整合等先進技術進行半導體封裝。 (四) 電子設計自動化軟體(electronic design automation software,以下簡稱EDA軟體):禁止開發、生產用於先進半導體設計或先進封裝的任何EDA軟體。 七、不採取逐案審查模式:法規預告不採取逐案審查模式,而係由美國人自行判斷投資類型為禁止或通報交易。 八、通報程序:原則採取「事後通報」模式,美國人應於通報交易完成日(completion date)後的30個日曆天(calendars day)內,透過財政部對外投資安全計畫(Department of the Treasury’s Outbound Investment Security Program)網站進行通報,並應將相關需求文件提供予財政部,如投資交易雙方的交易後組織結構圖(post-transaction organizational chart)、交易總價值及其計算方式、交易對價描述、交易後對特定外國人的控制狀況等。 九、例外交易: 法規預告的例外交易主要包含兩大類別,分述如下: (一) 技術不當外流風險較低的例外交易:某些交易類型的技術不當移轉風險較低,若實質上亦未賦予美國人超出「標準少數股東保護範圍之權限」(rights beyond standard minority shareholder protections),則此種投資即可排除於法規預告外,例如於公開交易市場的證券買賣、買斷關切國家法人實體的所有權,以及不取得管理決策權或出資金額低於100萬美元的有限合夥投資等。 (二) 基於其他外交、政治因素的例外交易:若交易發生於美國境外,且經財政部部長認為該國或地區已具備足以應對國安威脅的措施,或經財政部認定為對國家安全有利的交易,皆可排除於法規預告的管轄之外。 參、事件評析 美國財政部發布對外投資的法規預告,顯示出美國政府認為既有技術管制措施,如出口管制、營業秘密及對內投資審查等,已不足以涵蓋對外投資所生之技術外流風險,且對外投資若涉及關鍵領域的先進技術,所帶來的無形技術移轉利益,可能遠大於投資資金本身。 我國基於兩岸情勢及國安考量,自1992年以來即透過《臺灣地區與大陸地區人民關係條例》第35條,就赴中國大陸之投資進行審查。隨著地緣政治複雜化,加諸我國處於半導體等關鍵產業供應鏈的重要地位,我國應持續關注及研析美國等國家之對外投資審查制度發展,以利定期檢視相關機制的妥適性,並達到維護產業競爭力及防範先進技術遭到不當外流之目標。

生命科學領域的企業應透過營業秘密保護其部分創新

近期由於營業秘密議題受到重視,引起廣泛討論,美國實務界律師於彭博社法律專欄(Bloomberg Law Practical Guidance)指出生命科學領域的企業不應僅尋求專利的保護,而應考慮透過營業秘密來保護其部分創新,比如:製造技術、分析工具及方法、配方等,並指出保護營業秘密所應採取的具體措施。 在Mayo Collaborative Servs. v. Prometheus Labs一案中,美國最高法院認為診斷方法並非真正的應用,因此不符合可取得專利的資格;在Ass'n for Molecular Pathology v. Myriad Genetics一案中,美國最高法院認為將天然基因分離的技術不符合可取得專利的資格。由上述判決可以發現,生命科學領域的公司能取得專利的範圍被限縮了,因此該領域的企業應考慮透過營業秘密來保護其創新。 營業秘密相對於專利的優勢在於,專利有保護期限,但營業秘密若未公開揭露則能持續受到保護。另外,根據美國專利法(Patent Act),專利保護之客體限於有用且新穎的發明,但營業秘密保護之客體不僅限於此。不過,以營業秘密保護創新同樣存在風險,比如可能面臨前員工、現任員工將其洩露或是由於合作案導致其被竊取的情況等。 為避免上述情況之發生,企業應採取下列措施,包括: 1. 要求員工簽署保密協議,並於協議中具體說明營業秘密之範圍、保密期限,同時確保員工離職時歸還與營業秘密有關的資訊及設備; 2. 將涉及營業秘密的文件標示為機密; 3. 將機密文件及檔案儲存於上鎖的櫃子或受密碼保護的電腦中; 4. 根據員工的職責,僅允許必要的員工存取營業秘密資訊; 5. 對員工進行教育訓練,使其了解哪些資訊被視為營業秘密而不應洩露; 6. 透過監視設備監控保存營業秘密的位置; 7. 與合作單位簽署合作協議時,確保協議中有明確規定哪些資訊被視為營業秘密、分享營業秘密的方式、保密期限、授權的範圍等。 綜上所述,由於可取得專利的範圍被限縮,生命科學領域的企業應考慮透過營業秘密來保護其部分創新。在以營業秘密保護其創新時,應確保有採取與員工簽署保密協議、識別機密、權限控管、教育訓練、與合作單位簽署合作協議等措施。關於前述營業秘密管理措施之重要內容,企業可以參考資策會科法所創意智財中心發布的「營業秘密保護管理規範」,並進一步了解該如何管理,以降低自身營業秘密外洩之風險,並提升其競爭優勢。 本文同步刊登於TIPS網站(https://www.tips.org.tw)

美國政府於2015年10月公告美國創新戰略最新版本

  美國創新戰略(A Strategy for American Innovation)於2009年9月首次提出,後於2011年2月配合時事及產業發展增補內容。隨著政策的逐步推行,美國國家經濟委員會及白宮科技政策辦公室於2015年10月公布最新版本之美國創新戰略,在原有的框架增補更多內容成為六大重要施政要項,在策略佈局上又大致可分為創新資源整合的三大創新基礎以及三大策略發展方向,前者包括:(1)投資創新基石;(2)刺激私部門進行創新活動;(3)營造一個創新者國度。後者的三大策略發展方向則包括國家產業重要優先發展領域的技術突破,其影響意味著確定重點投資領域能夠取得變革性結果,以滿足國家和世界所即將面臨的社會議題挑戰。其中諸如精準醫療(precise medicine)、加速發展新型神經技術、推動衛生保健的突破性創新、採用先進車輛減少死亡事故、建設智慧城市、推動再生能源技術提高能源效率、開發先進教育技術、發展太空科技等。   其次,係藉由投資未來產業,建設包容性創新經濟,加強美國先進制造的領先地位,創造工作機會和經濟的持續成長。最後,借助於人才、創新思維及技術工具的適當組合,建設創新型政府,為民眾提供更好的行政服務。

國際能源總署發布「二氧化碳封存資源及其開發」手冊,協助能源部門及利害關係人了解地質封存效益、風險及社會經濟相關考量

國際能源總署(International Energy Agency, IEA)於2022年12月發布「二氧化碳封存資源及其開發」手冊(CO2 storage resources and their development: An IEA CCUS Handbook),概述地質封存之效益、風險與社會經濟相關考量,並補充2022年度7月份的碳捕捉、利用及封存(Carbon Capture, Utilization and Storage, CCUS)法律和監管框架。該手冊架構可分為九個章節,重要章節包含:碳封存資源概述、碳封存開發生命週期、評估階段開發、風險管理、商業化、以及提供具體建議予決策者或私營部門。 由於CCUS涉及複雜管理及營運模式,IEA為決策者確立五個總體行動,簡述如下:(1)識別封存資源並提供必要資料:現有的地質資料是寶貴的起點,政府可以將現有資料數位化並建置資料庫,便於私部門獲取資訊。(2)確保法律與管制框架符合CCUS需求:政府應全面盤點既有法制體系是否到位,並應解決下列幾個關鍵問題:碳封存特定責任與風險、建立明確與適當的許可流程、地下孔隙空間的所有權、案場管理要求(如監控、關閉等)。(3)制定支持碳封存的政策:如將CCUS納入國家能源及氣候計畫、制定CCUS路線圖以協調發展策略、進行全面資源評估、制定獎勵措施(如獎勵資金、稅收抵免、可交易的憑證、鼓勵降低成本的創新計畫、風險緩解措施、碳定價等)。(4)支持先驅者並促進投資:產業先驅者時常面臨發展尚未成熟的開發環境或法制體系,因此建議政府得給予先驅者特定的獎勵措施。(5)支持發展CCUS的技術、專業能力:鼓勵石化與天然氣產業朝向CCUS轉型,如提供相關知識並培養相關技術,支持持續就業並避免人才流失等。

TOP