美國國家標準暨技術研究院規劃建立「人工智慧風險管理框架」，並徵詢公眾對於該框架之意見
美國國家標準暨技術研究院（National Institute of Standards and Technology, NIST）為管理人工智慧對於個人、組織以及社會所帶來之風險，於2021年7月29日提出將建立「人工智慧風險管理框架」（Artificial Intelligence Risk Management Framework, AI RMF）之規畫並徵詢公眾意見，截止日為9月15日，並預計於10月發布正式報告。
依照NIST說明，公眾所建議之人工智慧風險管理框架，可促進人工智慧之可信賴性，其中包含如何應對並解決人工智慧於設計、發展及使用過程中所遭遇之「精確度」（accuracy）、「可解釋性」（explainability）、「偏見」（bias）等議題。此外，上開管理框架預計為非強制性、供企業自願性使用於人工智慧設計、發展、使用、衡量及評估之人工智慧標準。
依現有公眾意見徵詢結果，其中DeepMind公司建議於人工智慧設計初期，必須預先構思整體系統之假設是否符合真正社會因果關係。舉例言之，當設計一套可預測民眾健保需求程度之系統時，如輸入參數僅考量民眾於醫療上的花費，將使僅有可負擔較高醫療費用之民眾被歸類為健保需求程度較高者，從而導致健保制度排擠經濟負擔程度較差之公民，故在設計系統時，應從預先設定之假設事實反面（counter-factual）思考並驗證是否會產生誤差或公平性之問題（例如預先思考並驗證「醫療費用支出較低之民眾是否即可被正確歸類為健保需求度低之民眾」）。惟進行上述驗證需要大量社會資料，因此DeepMind也建議NIST應建立相關機制，使這些社會資料可以被蒐集、使用。
此外，亦有民眾建議管理框架應有明確之衡量方法以及數值指標，以供工程界遵循。同時鑒於人工智慧發展極為快速，未來可能有不同於以往之人工智慧類型出現，故亦建議NIST應思考如何在「建構一套完整且詳細之人工智慧治理框架」與「保持人工智慧治理框架之彈性與靈活性」之間取得平衡。
最後，目前也有許多徵詢意見指出，許多人工智慧治理之目標會相互衝突。舉例言之，當NIST要求人工智慧系統應符合可解釋性，則人工智慧公司勢必需要經常抽取人工智慧系統中之「數據軌跡」（audit logs），惟數據軌跡可能被認為是使用者之個人資料，因此如何平衡或完善不同治理框架下之目標，為未來應持續關注之議題。
本文為「經濟部產業技術司科技專案成果」
王柏霳
法律研究員 編譯整理
National Security Commission on Artificial Intelligence, Final Report, https://www.nscai.gov/wp-content/uploads/2021/03/Full-Report-Digital-1.pdf (last visited, Sep. 28, 2021).
DeepMind, Request for Information: Artificial Intelligence Risk Management Framework, https://www.nist.gov/system/files/documents/2021/09/17/ai-rmf-rfi-0105.pdf (last visited, Sep. 28, 2021).
Comments Received for RFI on Artificial Intelligence Risk Management Framework, NIST, https://www.nist.gov/itl/ai-risk-management-framework/comments-received-rfi-artificial-intelligence-risk-management (last visited, Sep. 28, 2021).
AI RMF Development & Request for Information, NIST, https://www.nist.gov/itl/ai-risk-management-framework (last visited, Sep. 28, 2021).
〈歐盟提出人工智慧法律調和規則草案〉，資訊工業策進會科技法律研究所，https://stli.iii.org.tw/article-detail.aspx?no=55&tp=1&d=8674（最後瀏覽日期：2021/09/28）。
一名美國德州男子由於服用止痛藥偉克適 (Vioxx) 不幸喪命後，其遺孀向法院控告全美第三大藥廠默克 (Merck & Co.) 並要求索賠。美國德州地方法院本 (8) 月 19 日判決默克應賠償 2.53 億美元，默克決定提出上訴。 根據醫學研究報告顯示，長期使用偉克適的病人發生心臟病、中風的機會將相對提高一倍， 2004 年 9 月默克藥廠已宣布回收全球市場的偉克適藥品。 59 歲德州男子 Robert Ernst 原為馬拉松選手，因肌腱炎問題服用偉克適長達 8 個月後， 2001 年心臟病死亡，經解剖後發現死因為心律不整。其遺孀向法院控告默克藥廠，認為導致其丈夫死亡主要因素，是藥廠隱瞞偉克適有致命危險性此點過失，並指出默克為了與勁敵輝瑞 (Pfizer Inc.) 的同類產品 Celebrex 競爭，急於推出偉克適上市，卻未先進行適當的安全測試，對於該藥品可能引發的心臟問題，也以輕描淡寫方式處理，因此藥廠應該負擔全責。 德州法院陪審團做出判決，認為默克藥廠應對 Ernst 死亡負擔責任，給付 2400 萬美元的損害賠償，以及 2.29 億美元的懲罰性賠償。默克藥廠的委任律師表示，將繼續提出上訴。 Miller Tabak & Co. 醫療保健類股策略師 LesFuntleyder 表示，這項判決會鼓勵更多人提出控告，時間將長達 10 年。
澳洲規劃研修「國家重型車輛法」並探討科技設備檢測疲勞駕駛相關規範澳洲國家交通委員會（National Transport Commission）與警覺、安全、生產力合作研究中心（Cooperative Research Centre for Alertness, Safety and Productivity ，Alertness CRC）於2016年12月攜手研究重型車輛駕駛員之疲勞駕駛影響，並特別探討科技設備檢測及因應的可行性，並著手研析重型車輛疲勞駕駛管理相關規範之評估規劃。 依據澳洲國家重型車輛法（Heavy Vehicle National Law，HVNL）規定，設有國家重型車輛管理獨立機構（The National Heavy Vehicle Regulator，NHVR）針對總重4.5噸之重型車輛進行規範監管。依國家重型車輛疲勞管理規則【Heavy Vehicle （Fatigue Management） National Regulation】規定針對1.超過12噸總重額（Gross Vehicle Mass，GVM）之重型車輛2. 車輛及聯結物超過12噸者3.超過4.5噸可乘載12名成人（包含司機）之巴士4.超過12噸總重額定值之卡車及聯結車，其附接工具或機械者，必須進行疲勞管制，其他對於有軌電車、工具機械車輛（例如：推土機、拖拉機）、露營車等則不在此管制對象。該法針對重型車輛工作和休息時間、工作及休息時間之紀錄、疲勞管理豁免（Fatigue management exemptions），及公司、負責人、合夥人、經理等的連帶責任，訂有相關規範。疲勞管理規則的規範核心在於駕駛員不能在疲勞的情況下行駛重型車輛，故即使符合工作和休息限制，駕駛員也可能因疲勞而受影響。 目前，因有限的證據表明工作安排對於重型車輛駕駛員疲勞的影響程度，亦很少有研究使用客觀和預測技術測量駕駛員的警覺性和疲勞，另對於駕駛員睡眠的質量和時間最低要求的資訊亦不足。因此，現行法律規範對重型車輛駕駛員疲勞的影響將受到挑戰。故警覺、安全、生產力合作研究中心將採取更精準的警報檢測方法和睡眠監測設備，進行相關研究測試，以作為未來國家重型車輛疲勞管理規則修訂之依據。 駕駛疲勞所引發的交通事故時有耳聞，往往造成重大危害與耗費社會成本。目前實務上已有利用科技設備偵測是否有疲勞駕駛情形，然而更重要的是，應落實行車前的疲勞管制，及相對應的解決方案，並加強公司及相關管理者之監督義務及連帶責任，才能有效降低疲勞駕駛肇事率，確保道路安全。
歐盟執委會提出「2050低碳經濟策略規劃藍圖」為邁向低碳經濟時代，建立歐洲成為具競爭力之低碳經濟體，歐盟執委會（European Commission）於2011年3月8日向歐洲議會（European Parliament）提出「2050低碳經濟策略規劃（A Roadmap for Moving to a Competitive Low-Carbon Economy in 2050）」，並設定2050年低碳總目標，宣示將透過加強低碳技術研究發展、推動能源效率使用等方式，降低對石化燃料依賴，並提昇區域內更多就業機會。 隨著近期中東與北非地區石油危機，原油價格節節高升，已嚴重影響歐洲國家每年能源支出經費，並降低未來各國經濟成長率。歐盟執委會認為，必須積極促進歐洲國家，經由投入科技研發、提昇能源效率，有效抑制不斷提昇的能源成本，推動歐盟邁向低碳經濟社會；並且，所設定目標及推動措施，倘若有所遲緩或推延，越晚投入將導致日後所需投入經費成本更為昂貴，悔不當初。「2050低碳經濟策略規劃」所設定之目標為，規劃透過各種符合成本效率（Cost-Efficient）措施及方法，推動歐盟區域內溫室氣體排放量至2030年降低40％、至2040年降低60％、至2050年降低80％（以1990年排放量為基準），達成低碳經濟願景目標。 歐盟執委會表示，未來應強化推動低碳技術之研究發展，促進未來更廣泛運用，並強調應更全面加強推動策略性能源科技研究計畫（Strategic Energy Technology Plan , SET-Plan），未來10年內歐盟將再額外增加50 billion歐元投資，加強推動能源科技相關研發工作，及未來可供運用之工具措施。 「2050低碳經濟策略規劃」中，詳細規劃推動步驟，並區分各大領域分別施行。以電力部門（Power Sector）領域為例，運用低碳技術、潔淨技術設備所產製電力，至2020年將達到降低45％--60％比例之排放量，到2050年，所有發電技術之溫室氣體排放量更將降低至可接近於0；而對於「工業部門」所設定目標，2050年達成降低80％之目標，對於「家庭及辦公建築」部份，設定2050年可降低90％之目標，而「運輸部門」則設定於2050年達成降低60％之目標。此外，歐盟執委會更指出投資「智慧電網（Smart Grid）」的重要性，將可促使「需求端（Demand-Side）」更具效率性，更廣泛且分散之電力調配中心，以及啟動運輸系統電力化之時代。 低碳經濟社會所帶來福祉，並可降低歐盟每年能源支出，及對於石化燃料進口依賴程度，也促成轉變改以低碳技術產製電力能源，作為可行的替代因應方案；以及，低碳經濟社會型塑推動，除了投入經費研發技術外，相關運用更須透過教育、訓練、推廣，廣泛使大眾接受且樂於使用新興技術，如此未來將可衍生種類與數量均會更多之就業機會，也有助益於經濟成長；此外，推動低碳經濟亦可改善生活品質及健康生活，未來實際效應可改善公共健康、減少醫療費用支出、及降低對生態環境消耗破壞，均屬良善效益。 然而，歐盟執委會這些推動措施，亦傳出有反對聲音。「歐洲商業（Business Europe）」團體就對外表示，他們反對「2050低碳經濟策略規劃」所設定的這些超高標準，他們認為相關推動措施，未來將會嚴重傷害歐盟境內企業發展，因為主要競爭者如中國、日本及美國，相較而言，均未設定這麼高的推動目標。未來歐盟執委會這些規劃藍圖是否落實達成，值得後續觀察。
因應使用「生成式AI（Generative AI）」工具的營業秘密管理強化建議2024年7月1日，美國實務界律師撰文針對使用生成式AI（Generative AI）工具可能導致的營業秘密外洩風險提出營業秘密保護管理的強化建議，其表示有研究指出約56%的工作者已經嘗試將生成式AI工具用於工作中，而員工輸入該工具的資訊中約有11%可能包含公司具有競爭力的敏感性資訊或客戶的敏感資訊，以Chat GPT為例，原始碼（Source Code）可能是第二多被提供給Chat GPT的機密資訊類型。系爭機密資訊可能被生成式AI工具提供者（AI Provider）用於訓練生成式AI模型等，進而導致洩漏；或生成式AI工具提供者可能會監控和存取公司輸入之資訊以檢查是否有不當使用，此時營業秘密可能在人工審查階段洩漏。 該篇文章提到，以法律要件而論，生成式AI有產生營業秘密之可能，因為營業秘密與著作權和專利不同之處在於「發明者不必是人類」；因此，由生成式 AI 工具協助產出的內容可能被視為營業秘密，其範圍可能包括：公司的內部 AI 平台、基礎的訓練算法和模型、輸入參數和輸出結果等。惟基於目前實務上尚未有相關案例，故生成式AI輸出結果在法律上受保護的範圍與條件仍需待後續的判例來加以明確。 實務專家提出，即使訴訟上尚未明確，企業仍可透過事前的管理措施來保護或避免營業秘密洩露，以下綜整成「人員」與「技術」兩個面向分述之： 一、人員面： 1.員工（教育訓練、合約） 在員工管理上，建議透過教育訓練使員工了解到營業秘密之定義及保護措施，並告知向生成式AI工具提供敏感資訊的風險與潛在後果；培訓後，亦可進一步限制能夠使用AI工具的員工範圍，如只有經過培訓及授權之員工才能夠存取這些AI工具。 在合約方面，建議公司可與員工簽訂或更新保密契約，納入使用生成式AI的指導方針，例如：明確規定禁止向生成式AI工具輸入公司營業秘密、客戶數據、財務信息、未公開的產品計劃等機密資訊；亦可增加相關限制或聲明條款，如「在生成式AI工具中揭露之資訊只屬於公司」、「限制公司資訊僅能存儲於公司的私有雲上」等條款。 2.生成式AI工具提供者（合約） 針對外部管理時，公司亦可透過「終端使用者授權合約（End User License Agreement，簡稱EULA）」來限制生成式AI工具提供者對於公司在該工具上「輸入內容」之使用，如輸入內容不可以被用於訓練基礎模型，或者該訓練之模型只能用在資訊提供的公司。 二、技術方面： 建議公司購買或開發自有的生成式AI工具，並將一切使用行為限縮在公司的私有雲或私有伺服器中；或透過加密、防火牆或多種編碼指令（Programmed）來避免揭露特定類型的資訊或限制上傳文件的大小或類型，防止機密資訊被誤輸入，其舉出三星公司（Samsung）公司為例，三星已限制使用Chat GPT的用戶的上傳容量為1024位元組（Bytes），以防止輸入大型文件。 綜上所述，實務界對於使用生成式AI工具可能的營業秘密風險，相對於尚未可知的訴訟攻防，律師更推薦企業透過訴訟前積極的管理來避免風險。本文建議企業可將前述建議之作法融入資策會科法所創意智財中心於2023年發布「營業秘密保護管理規範」中，換言之，企業可透過「營業秘密保護管理規範」十個單元（包括從最高管理階層角色開始的整體規劃建議、營業秘密範圍確定、營業秘密使用行為管理、員工管理、網路與環境設備管理、外部活動管理，甚至是後端的爭議處理機制，如何監督與改善等）的PDCA管理循環建立基礎的營業秘密管理，更可以透過上述建議的做法（對單元5.使用管理、單元6.1保密約定、單元6.4教育訓練、單元7.網路與環境設備管理等單元）加強針對生成式AI工具之管理。 本文同步刊登於TIPS網站（https://www.tips.org.tw）