美國國家標準暨技術研究院發布「人工智慧風險管理框架:生成式AI概況」

  美國國家標準暨技術研究院(National Institute of Standard and Technology, NIST)2024年7月26日發布「人工智慧風險管理框架:生成式AI概況」(Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile),補充2023年1月發布的AI風險管理框架,協助組織識別生成式AI(Generative AI, GAI)可能引發的風險,並提出風險管理行動。GAI特有或加劇的12項主要風險包括:

1.化學、生物、放射性物質或核武器(chemical, biological, radiological and nuclear materials and agents, CBRN)之資訊或能力:GAI可能使惡意行為者更容易取得CBRN相關資訊、知識、材料或技術,以設計、開發、生產、使用CBRN。

2.虛假內容:GAI在回應輸入內容時,常自信地呈現錯誤或虛假內容,包括在同一情境下產出自相矛盾的內容。

3.危險、暴力或仇恨內容:GAI比其他技術能更輕易產生大規模煽動性、激進或威脅性內容,或美化暴力內容。

4.資料隱私:GAI訓練時需要大量資料,包括個人資料,可能產生透明度、個人資料自主權、資料違法目的外利用等風險。

5.環境影響:訓練、維護和運行GAI系統需使用大量能源而影響碳排放。

6.偏見或同質化(homogenization):GAI可能加劇對個人、群體或社會的偏見或刻板印象,例如要求生成醫生、律師或CEO圖像時,產出女性、少數族群或身障人士的比例較低。

7.人機互動:可能涉及系統與人類互動不良的風險,包括過度依賴GAI系統,或誤認GAI內容品質比其他來源內容品質更佳。

8.資訊完整性:GAI可能無意間擴大傳播虛假、不準確或誤導性內容,從而破壞資訊完整性,降低公眾對真實或有效資訊的信任。

9.資訊安全:可能降低攻擊門檻、更輕易實現自動化攻擊,或幫助發現新的資安風險,擴大可攻擊範圍。

10.智慧財產權:若GAI訓練資料中含有受著作權保護的資料,可能導致侵權,或在未經授權的情況下使用或假冒個人身分、肖像或聲音。

11.淫穢、貶低或虐待性內容:可能導致非法或非自願性的成人私密影像或兒童性虐待素材增加,進而造成隱私、心理、情感,甚至身體上傷害。

12.價值鏈和組件整合(component integration):購買資料集、訓練模型和軟體庫等第三方零組件時,若零組件未從適當途徑取得或未經妥善審查,可能導致下游使用者資訊不透明或難以問責。

  為解決前述12項風險,本報告亦從「治理、映射、量測、管理」四大面向提出約200項行動建議,期能有助組織緩解並降低GAI的潛在危害。

相關連結
你可能會想參加
※ 美國國家標準暨技術研究院發布「人工智慧風險管理框架:生成式AI概況」, 資訊工業策進會科技法律研究所, https://stli.iii.org.tw/article-detail.aspx?d=9263&no=645&tp=1 (最後瀏覽日:2026/10/26)
引註此篇文章
你可能還會想看
臉書改名Meta,宣告元宇宙的時代來臨

  Facebook宣布改名為「Meta」,決心投入巨額資金發展虛擬實境並研發相關app提供用戶社交會面和辦公場所,藉此定位自己為元宇宙(Metaverse)公司。臉書創辦人Mark Zuckerberg在今(2021)年10月28日宣告將「Facebook」改名為「Meta」的公開信中提及,在元宇宙中,您幾乎能做到所有能想像到的事情,與朋友和家人聚會、工作、學習、購物等行為。   元宇宙這名詞是如此新穎,以至於沒有一個被普遍接受的定義。它被認為是網路的未來。由臉書創辦人上述的公開信可以得知,元宇宙是個讓使用者能身歷其境且包羅萬象的世界,將超脫電玩與娛樂而進入工作和商業的領域。現實生活中一切的行為幾乎都可以在元宇宙中進行,也因此,現實世界的法律問題,也可能發生在元宇宙中,進而影響法律秩序。   隨著區塊鏈和加密貨幣這類科技被廣泛採用,在元宇宙或Web3.0這樣的虛擬空間經營公司、買賣持有商品將順勢發展而來。財產的標記化(tokenization)也意味著任何實體或虛擬物的所有權可以被認證,也在無法竄改的帳本擁有權限碼,使得虛擬世界的交易更可靠。   非同質化代幣(Non-Fungible Tokens,下稱NFTs)是近來彰顯所有權的新興表現方式,這將會在元宇宙的經濟體系中扮演重要角色。所有因契約、租約而來的財產將被標記化,使人們有可能在Opensea這樣的平台購買數位土地、數位房產或者任何其他的數位虛擬物品,且一樣能證明所有權。可以說,數位財產標記化將對法律業產生最大影響。元宇宙將很有可能發展出一個數位城市,使消費者們能在數位世界購買土地,在土地上面建造房屋且將透過NFTs把房子放滿藝術品。消費者們可以好好裝扮自己在元宇宙內的分身,買電影院或者演唱會的票。所有的商品和服務可以透過NFTs標示所有權的方式跟企業購買。   在元宇宙裡,交易行為將與現實世界一模一樣。財產可以被交易、關係可以被建立,也可以成立公司,更會創造出智慧財產,也會產生著作權的爭端,或者發生利用數位資產洗錢、逃漏稅等新型態的犯罪,但元宇宙中的行為人與現實世界行為人不一定有明確連結,使得執法機關更難以追查,甚至產生管轄權之衝突。在元宇宙中存在和營運的公司也如同現實世界一樣,需要法律專家和保險制度降低他們的風險。   元宇宙對法律產業和監管機構帶來的影響是多方面的。Facebook,或者說改名後的Meta,有意激發世人對元宇宙的討論以及關注元宇宙的發展,而律師們和法律事務所也必須熟稔於這個領域,以應付那些即將要投入這項產業的客戶們。

歐洲執委會公布安全,清潔,聯網式交通行動議程

  歐盟執委員會於2018年5月17日公布第三套安全,清潔和聯網式行動議程,該套行動也是最後一套實現歐洲運輸系統現代化的措施。   在2017年9月的國情咨文中,歐盟主席容克提出歐盟產業成為創新,數位化和低碳化均能領先於全球地位的目標。基於此原因,在交通領域執委會2017年5月和11月的提出兩套歐洲行動措施,其目標係讓所有歐洲人都能從享受更安全的交通,更少污染的車輛和更先進的技術解決方案,並同時加強歐盟產業業的競爭力。為此,本次議程聚焦包括未來車輛和基礎設施安全措施綜合政策;重型車輛的二氧化碳標準; 歐洲發展和製造電池的戰略行動計畫以及關於車聯網和自駕車的前瞻性戰略。   而歐洲能源聯盟表示:交通正到跨越一個新的技術前沿,透過能源聯盟的最終提案,將可幫助我們相關產業保持領先地位,並透過大規模研發關鍵技術解決方案,包括潔淨能源之電池技術和建置相關充電基礎設施,以解決碳排放,行車擁堵和降低事故發生。   歐盟氣候行動與能源專員亦表示:所有部門都必須為實現巴黎協議之氣候承諾做出貢獻,這就是為什麼歐盟在有史以來第一次訂定提提高燃油效率標轉和減少碳排放的標準,也為歐洲工業鞏固當前在創新技術領域的領導地位。   歐盟交通運輸專員亦表示:過去一年,執委會在通領域提出許多重大舉措,以提升未來交通安全、乾淨及聯網性。所有措施皆以乾淨且智慧的交通工具目標前進,並尋求各成員國和歐洲議會能支持該雄心壯志。   歐盟內部市場,產業,創業和中小企業專員表示:90%的道路交通事故係出於人為錯誤,目前提出新的強制性安全功能將減少事故的數量,並有利車聯網及自駕車技術發展。   本次議程內容簡介如下 交通安全 從2001年至今道路死亡人數減少已了一半以上,然2017年歐盟境內仍有25,300人交通事故身亡,及13.5 萬人受重傷。因此,歐盟執委會建議新型車輛應配備先進的安全功能,例如用於汽車的先進緊急煞車和車距保持輔助系統或卡車對於周遭行人和用路人之檢測系統。此外,委員會將幫助成員國能在危險路段進行系統性改善建設投資。預計將可挽救多達10,500人的生命,並在2020-2030年期間避免接近6萬人的嚴重受傷,從而為歐盟實現2050年接近零死亡和重傷的長期目標做出貢獻。 交通能源清潔性 歐盟執委會將提出有史以來第一個重型車輛的二氧化碳排放標準來完成低排放交通系統的計畫。此外,2025年,新卡車的二氧化碳平均排放量必須比2019年低15%。2030年,新卡車與2019年相比,必須達到至少30%的減排目標。該目標符合可協助歐盟於巴黎協議所作的承諾,並將使運輸公司(主要是中小企業)透過降低油耗(5年25,000歐元)節省大量成本。為了進一步減少二氧化碳排放,委員將會促進更多的先進低汙染的車輛(例如:改善汽車動力學、輪胎等零件)。此外,委員會將提出一個全面的行動計畫,將有助於在歐洲建立一個具有競爭力和永續性發展的電池生態系統。 車聯網及自駕車 目前越來越多地車輛已配備駕駛員輔助系統,並朝完全自動駕駛車輛目標邁進。因此,該戰略將著眼於道路使用者之間的新協同操作,此將為整個交通系統帶來巨大的利益。運輸將變得更安全,更清潔,更便宜,並使老年人和行動不便的人更方便。此外,執委會建議建立一個全數位化的貨運資訊交換環境,以促進物流運作的數位資訊流。

檢視《科學園區設置管理條例》暨相關規範對新創產業之租稅優惠

檢視《科學園區設置管理條例》暨相關規範對新創產業之租稅優惠 資訊工業策進會科技法律研究所 蔡立亭 法律研究員 2019年12月23日   《科學園區設置管理條例》於1979年訂立,並於2018年5月15日全文修正,同年6月6日公布。規範名稱由原先之《科學「工業」園區設置管理條例》更訂為《科學園區設置管理條例》(以下簡稱本條例),由傳統製造業為主體的思維,轉化為引進多元科學技術。   為鼓勵多元科技產業進入園區,本條例設有租稅優惠之規定,若自國外進口機器、設備、材料等,則可免徵進口稅、貨物稅、營業稅;外銷產品或勞務時,不僅營業稅的稅率為零,亦免徵貨物稅。[1]另外,尚有承租土地租金之減免;[2]以及輸出入貨品,若申請簽證、核准,則可免辦輸出入許可證。[3]在子法上,亦有園區進出口貨品保稅之規範。[4]申言之,進入園區的事業,仍須有實體的物件產出,方能適用本條例中的優惠。此仍偏屬於以工業的思維,規範園區內的產業,針對無實體產出的業者,如以大數據分析、服務為導向的新創事業,則不適用目前相關的租稅優惠。   在其他規範,[5]亦有輔助產業發展之租稅優惠。立於推動產業創新的基礎,針對遵守環境保護、勞工、食品安全衛生規範的企業;[6]或投資之全新智慧機械係供自行使用;[7]或於其自行研發之智慧財產權取得之收益範圍內讓與、授權,[8]均得抵減課徵所得稅。另,學術或研究機構自行研發,[9]或員工取得獎酬股份的基礎給付,[10]亦均得選擇免課徵所得稅。創業投資事業,[11]亦享有相關之租稅優惠。並尚有為生技新藥產業的升級,而在人才培訓、研究、發展的投資,可抵減營利事業所得稅。[12]針對中小企業對土地之使用、研發實驗、以智慧財產作價的股票、保留盈餘、增僱員工,[13]亦設有租稅優惠。現行的稅務規範,已不再侷限於空間或實體物,而有以鼓勵「研發」為主體。換言之,新創產業研發的各個階段,仍須以各自的技術、資金、人力形成研發成果,若能以政府的資源協助產品開發的過程,應可強化新創產業既有的研發基礎。   提供新創產業稅務上的支持,不僅可以直接補助新創業者的方式,亦可藉由鼓勵新創業者接受輔導,加速達成科技發展的目標。此可觀察美國《紐約洲商業孵化器與新創熱點支持法案》,[14]受孵化器輔導的新創公司,在個人所得稅、銷售與使用稅務、公司特許經營權的稅務上,具有利益。另,中國大陸對於重點發展的產業和專案,亦設有減稅、免稅等規定,[15]以提升科技發展。稅務上的優惠,已不再限於研發,而擴大及於「整體研發的過程」。   綜上所論,台灣政府為推動新創產業的發展,提供稅務上的優惠,以提升研發成果市場競爭力。若為加速科學研究的效率,或可參考美國、中國大陸以孵化器協助新創公司達成研發目標,制訂稅務優惠規範與接受輔導的要件等。 [1] 本條例第23條。 [2] 本條例第24條。 [3] 本條例第25條。 [4] 科學園區保稅業務管理辦法。 [5] 如中小企業發展條例、產業創新條例、生技新藥產業發展條例。 [6] 產業創新條例第10條。 [7] 產業創新條例第10條之1。 [8] 產業創新條例第12條之1。 [9] 產業創新條例第12條之2。 [10] 產業創新條例第19條之1。 [11] 產業創新條例第23條之1、第23條之2、第23條之3。 [12] 生技新藥產業發展條例第5條、第6條、第7條。 [13] 中小企業發展條例第4章:第33條至第36條之3。 [14] New York State Department of Taxation and Finance Taxpayer Guidance Division, New York State Business Incubator and Innovation Hot Spot Support Act, Technical Memorandum TSB-M-14(1)C, (1)I, (2)S, at 1-6 (March 7, 2014), URL:http://www.wnyincubators.com/content/Innovation%20Hot%20Spot%20Technical%20Memorandum.pdf (last visited:December 18, 2019). [15] 《中華人民共和國企業所得稅法》第4章「稅收優惠」:第25條至第36條(2008年修正)。

德國聯網車輛駕駛策略

  德國聯邦政府目標擬定於2020年實現高度自動化駕駛,為達成自動駕駛目標,車聯網(Connected driving)及智慧交通系統(Intelligent transport systems)技術成為必要發展工作項目。車聯網即透過無線通訊技術,使車輛間(Vehicle-to-Vehicle, V2V)或車輛對基礎設施 (Vehicle-to-Infrastructure, V2I)等彼此交換訊息,或是將行車資訊傳輸到伺服器,並透過資訊網路平臺將資料整合利用,並依不同功能需求進行有效監控管理和提供綜合服務。未來,可預見道路使用者的個別交通資訊的質與量將大幅提升,無論是部份自動駕駛或高度自動駕駛,將產生龐大資料量,故系統需要即時迅速的運算能力。例如,前方一旦發生車禍事故,必須通知後方自動模式駕駛車輛即時減緩速度,並適時轉由駕駛人員介入操控。   自動化及車聯網駕駛發展係為跨領域之問題,聯邦政府即針對五大領域問題:基礎設施、法規、創新研發、聯網化、資訊安全及資料保護,提出一連串作法及措施,確保德國汽車產業能保持領先地位。   我國資通訊及汽車零件產業具備技術相對優勢,然應就適合我國車聯網之實際需求發展,促進相關產業創新應用,並利用我國產業優勢與國際接軌,讓台灣在車聯網的發展中取得先機。

TOP