IBM提出「人工智慧日常倫理」手冊作為研發人員指引

  隨著人工智慧快速發,各界開始意識到人工智慧系統應用、發展過程所涉及的倫理議題,應該建構出相應的規範。IBM於2018年9月02日提出了「人工智慧日常倫理」(Everyday Ethics for Artificial Intelligence)手冊,其以明確、具體的指引做為系統設計師以及開發人員間之共同範本。作為可明確操作的規範,該手冊提供了問責制度、價值協同、可理解性等關注點,以促進社會對人工智慧的信任。

一、問責制度(Accountability)
  由於人工智慧的決策將作為人們判斷的重要依據,在看似客觀的演算系統中,編寫演算法、定義失敗或成功的程式設計人員,將影響到人工智慧的演算結果。因此,系統的設計和開發團隊,應詳細記錄系統之設計與決策流程,確保設計、開發階段的責任歸屬,以及程序的可檢驗性。

二、價值協同(Value Alignment)
  人工智慧在協助人們做出判斷時,應充分考量到事件的背景因素,其中包括經驗、記憶、文化規範等廣泛知識的借鑑。因此系統設計和開發人員,應協同應用領域之價值體系與經驗,並確保演算時對於跨領域的文化規範與價值觀之敏感性。同時,設計師和開發人員應使人工智慧系統得以「了解並認知」用戶的價值觀,使演算系統與使用者之行為準則相符。

三、可理解性(Explainability)
  人工智慧系統的設計,應盡可能地讓人們理解,甚至檢測、審視它決策的過程。隨著人工智慧應用範圍的擴大,其演算決策的過程必須以人們得以理解的方式解釋。此係讓用戶與人工智慧系統交互了解,並針對人工智慧結論或建議,進而有所反饋的重要關鍵;並使用戶面對高度敏感決策時,得以據之檢視系統之背景數據、演算邏輯、推理及建議等。

  該手冊提醒,倫理考量應在人工智慧設計之初嵌入,以最小化演算的歧視,並使決策過程透明,使用戶始終能意識到他們正在與人工智慧進行互動。而作為人工智慧系統設計人員和開發團隊,應視為影響數百萬人甚至社會生態的核心角色,應負有義務設計以人為本,並與社會價值觀和道德觀一致的智慧系統。

相關連結
相關附件
※ IBM提出「人工智慧日常倫理」手冊作為研發人員指引, 資訊工業策進會科技法律研究所, https://stli.iii.org.tw/article-detail.aspx?d=8195&no=55&tp=1 (最後瀏覽日:2026/03/13)
引註此篇文章
你可能還會想看
「數位藥丸(digital pill)」新運用

  英國航空公司(British Airways)近來對數位藥丸申請了專利,並且調查乘客是否願意吞食數位藥丸,使空服員得對其提供更好的服務。   該數位藥丸以主要是一個可食用的偵測系統,藉此航空公司得以知悉乘客的身理狀況,包含偵測乘客的心跳、體溫、或是否處於睡眠等生理反應,航空公司便可據此調整基上的的燈光、用餐時間以及機上娛樂設施等等。這一整套「為了提升乘客旅遊品質」的系統現在被寫成專利申請書,並於2016年提出英國航空公司表示利用不同的資料可以幫助機員了解乘客是醒或睡、是否緊張、冷熱或感到不舒適,並通知機員。依據其專利申請書,英國航空希望創造一個App,協助乘客改善整體旅遊品質,不僅是在機上,而是乘客從踏出家門開始到旅程結束,均能享受此科技之便利。

什麼是瑞士「創業實驗室」(Venture Lab) ?

  科技與創新委員會(Commission of Technology & Innovation,以下簡稱CTI)係瑞士重要之創新推進機構,成立於1943年,2011年新修正之研究與創新促進法實施後,CTI正式從經濟部聯邦職業教育及科技局(Federal Office for Professional Education and Technology, OEPT)獨立出來,成為一個具決策權的獨立機關,直接隸屬於聯邦經濟事務部(Federal Department of Economic Affairs, FDEA)。   CTI為擴大高科技創業並創造研發成果商品化之效益推動創業家計畫。該計畫主要係由CTI出資成立的「創業實驗室」(Venture Lab)來執行。創業實驗室針對大學生及創業家推出了一系列創業推廣及訓練課程,從單日的工作坊、五日之創業實務密集課程到在大學開設的創業學期課程,每一個訓練課程都有專家評審,針對創新構想及商業模式給予參與課程者具有建設性的建議。 資料來源:Venture Lab網站 圖 Venturelab 創業課程

聯邦選委會研議規制網路選舉活動

  日前(美國時間 3 月 24 日 ),美國聯邦選舉委員會( the Federal Election Commission; FEC )就擴張聯邦選舉法令適用範圍及於網際網路一事,提出最新版本草案。   草案認為,諸如網頁之橫幅廣告或搜尋網站贊助商之廣告連結等,須支付對價始能刊登之網路廣告,應與利用其他種類媒體刊登或播送之廣告接受相同處遇。此外,於網誌(部落格)支持特定候選人或發表政治性質言論者,則應與吾人向來使用之傳統媒體享有同等言論自由。最後,收件人數 500 以下之電子郵件,性質並非付費廣告之影音宣傳品,選民自發進行之線上宣傳活動等,均應排除於法令規制範圍之外。   去年該委員會即曾就此議題提出規制較為嚴格的版本,而遭部分網誌作家及國會議員強烈批判;其後委員會之法律專家就此重加研議,明確釐清適用範圍,改採較為寬鬆之規制取向。雖然目前之版本尚難謂完全明確,不過言論自由人士對於目前發展仍表樂觀其成。

美國「2009年經濟復甦暨再投資法」大幅度修正HIPAA隱私權條款

  2009年02月17日美國總統簽署通過「2009年經濟復甦暨再投資法」(America Recovery and Reinvestment Act, ARRA),將醫療產業列為重點發展項目之ㄧ,擬由政府預算進行醫療資訊科技化計畫,俾使電子病歷的傳輸與交換得兼顧效率及安全。而以規範醫療資訊安全為主的「醫療保險可攜及責任法」之隱私權條款(HIPAA, Privacy Rule),亦因此有重大修正。   其中,最主要的變革在於擴充HIPAA的責任主體,由原有的健康照護業者、健康計畫業者及健康照護資訊交換業者,擴充至凡因業務關係而可能接觸個人健康資訊的個人或業者,包含藥劑給付管理公司、代理人及保險業者等,這些機構或個人原本與醫療院所或病患間係依據契約關係進行責任規範,但被納入HIPAA的責任主體範圍後,則需依此負擔民、刑事責任。   而於加強資訊自主權部份,亦有數個重要變革如下:(一)責任主體之通知義務:依據新規定,資料未經授權被取得、使用或揭露,或有受侵害之虞時,責任主體應即早以適切管道通知資訊主體有關被害之情事,以防備後續可能發生的損害。(二)資訊主體之紀錄調閱權:以往資料保管單位得拒絕個人調閱健康資料運用紀錄之請求,有鑒於病歷電子化後,保存及揭露相關紀錄已不會造成過重負擔;依據新規定,資訊主體有權調閱近三年內個人健康資料被使用次數及目的等紀錄。(三)資訊主體資料揭露之拒絕權:以往責任主體得逕行提供個人醫療資訊作為治療、計費及照護相關目的之使用,無論資訊主體曾表達拒絕之意與否;依據新規定,資訊主體得禁止其向保險人揭露相關資訊,除非保險人已全額支付醫療費用。   以上HIPAA之新增規範,預計於2010年02月17日正式施行。

TOP