德國資料保護會議通過「哈姆巴爾宣言」，針對人工智慧之運用提出七大個資保護要求
德國聯邦及各邦獨立資料保護監督機關（unabhängige Datenschutzaufsichtsbehörden）共同於2019年4月3日，召開第97屆資料保護會議通過哈姆巴爾宣言（Hambacher Erklärung，以下簡稱「Hambacher宣言」）。該宣言指出人工智慧雖然為人類帶來福祉，但同時對法律秩序內自由及民主體制造成巨大的威脅，特別是人工智慧系統可以透過自主學習不斷蒐集、處理與利用大量個人資料，並且透過自動化的演算系統，干預個人的權利與自由。
諸如人工智慧系統被運用於判讀應徵者履歷，其篩選結果給予女性較不利的評價時，則暴露出人工智慧處理大量資料時所產生的性別歧視，且該歧視結果無法藉由修正資料予以去除，否則將無法呈現原始資料之真實性。由於保護人民基本權利屬於國家之重要任務，國家有義務使人工智慧的發展與應用，符合民主法治國之制度框架。Hambacher宣言認為透過人工智慧系統運用個人資料時，應符合歐盟一般資料保護規則（The General Data Protection Regulation，以下簡稱GDPR）第5條個人資料蒐集、處理與利用之原則，並基於該原則針對人工智慧提出以下七點個資保護之要求：
（1）人工智慧不應使個人成為客體：依據德國基本法第1條第1項人性尊嚴之保障，資料主體得不受自動化利用後所做成，具有法律效果或類似重大不利影響之決策拘束。
（2）人工智慧應符合目的限制原則：透過人工智慧系統蒐集、處理與利用個人資料時，即使後續擴張利用亦應與原始目的具有一致性。
（3）人工智慧運用處理須透明、易於理解及具有可解釋性：人工智慧在蒐集、處理與利用個人資料時，其過程應保持透明且決策結果易於理解及可解釋，以利於追溯及識別決策流程與結果。
（4）人工智慧應避免產生歧視結果：人工智慧應避免蒐集資料不足或錯誤資料等原因，而產生具有歧視性之決策結果，控管者或處理者使用人工智慧前，應評估對人的權利或自由之風險並控管之。
（5）應遵循資料最少蒐集原則：人工智慧系統通常會蒐集大量資料，蒐集或處理個人資料應於必要範圍內為之，且不得逾越特定目的之必要範圍，並應檢查個人資料是否完全匿名化。
（6）人工智慧須設置問責機關進行監督：依據GDPR第12條、第32條及第35條規定，人工智慧系統內的控管者或處理者應識別風險、溝通責任及採取必要防範措施，以確保蒐集、處理與利用個人資料之安全性。
（7）人工智慧應採取適當技術與組織上的措施管理之：為了符合GDPR第24條及第25條規定，聯邦資料保護監督機關應確認，控管者或處理者採用適當的現有技術及組織措施予以保障個人資料。
綜上所述，Hambacher宣言內容旨在要求，人工智慧在蒐集、處理及利用個人資料時，除遵守歐盟一般資料保護規則之規範外，亦應遵守上述提出之七點原則，以避免其運用結果干預資料主體之基本權利。
- 數位經濟時代的隱私保護與商機－CBPR跨境隱私規則體系解析
- 2025科技研發法制推廣活動— 科專個資及反詐騙實務講座(實體)
- 2025科技研發法制推廣活動— 科專個資及反詐騙實務講座(直播)
- 零售業個資安全宣導暨安全維護計畫說明會（高雄場）
- 零售業個資安全宣導暨安全維護計畫說明會（台中場）
- 【台北場1】通訊傳播事業個資法遵教育訓練
- 【台中場】通訊傳播事業個資法遵教育訓練
- 【新北場】通訊傳播事業個資法遵教育訓練
- 【高雄場】通訊傳播事業個資法遵教育訓練
- 【台北場2】通訊傳播事業個資法遵教育訓練
- 零售業個資法遵實務與資訊安全說明會
- 114年資訊服務業者個資安維辦法宣導說明會
- 【線上】資訊服務業個資安維計畫說明會
- 【實體】資訊服務業個資安維計畫說明會暨交流工作坊
- 零售業個資法遵實務與資訊安全說明會（台中場）
- 【台北場1】通訊傳播事業個資保護實務專題講座
- 【台北場2】通訊傳播事業個資保護實務專題講座
- 【台北場3】通訊傳播事業個資保護實務專題講座
- 金融相關資服業者線上個資安維宣導說明會
- 【上午場】探索科技法律最前線：資策會科法所「114年成果」分享會暨簡報票選
- 商業服務業個資管理與資訊安全實務宣導說明會（高雄場）
- 商業服務業個資管理與資訊安全實務宣導說明會（台南場）
- 商業服務業個資管理與資訊安全實務宣導說明會（台中場）
- 商業服務業個資管理與資訊安全實務宣導說明會（台北場）
陳咸蓁
法律研究員 編譯整理
Datenschutzkonferenz [DSK], Hambacher Erklärung zur Künstlichen Intelligenz, https://www.datenschutzkonferenz-online.de/media/en/20190405_hambacher_erklaerung.pdf (last visited May 20, 2019).
European Commission Page, https://ec.europa.eu/futurium/en/ai-alliance-consultation/guidelines (last visited May 20, 2019).
為促進美國境內個人化診斷醫療器材發展並進一步實現個人化醫療之理想與目標，於今(2011)年7月14日時，FDA於各界期盼下，正式對外公布了一份「個人化診斷醫療器材管理指引文件草案」(Draft Guidance on In Vitro Companion Diagnostic Devices)。而於此份新指引文件草案內容中，FDA除將體外個人化診斷醫療器材定義為：「一種提供可使用相對應之安全且有效治療產品資訊之體外診斷儀器」外，亦明確指出，將視此類個人化檢測醫療器材產品為具第三風險等級之醫療器材，並採「以風險為基礎」(Risk-Based)之管理方式。 依據上述新指引文件草案內容，FDA對於此類產品之管理，除明訂其基本管理原則外，於其中，亦另列出兩項較具重要性之例外核准條件。第一項，是關於「新治療方法」(new therapeutics)部分，FDA認為，於後述情況下，例如：(1)該項新治療方法係針對「嚴重」或「威脅病患生命」、(2)「無其他可替代該新治療方法存在」、或(3)將某治療產品與未經核准(或未釐清)安全或功效之體外個人化診斷醫療器材並用時，其為病患所帶來之利益，明顯高於使用該項未經許可或未釐清之體外個人化診斷醫療器材所將產生之風險等前提下，FDA或將例外核准該項新治療方法。其二，是關於「已上市治療產品」部分，依據新指引文件草案，於下列各條件下，或將例外核准製造商以補充方式所提出之「新標示」產品之上市申請案，包括：(1)該新標示產品乃係一項已通過主管機關審查之醫療產品，且已修正並可滿足主管機關於安全方面之要求；(2)該產品所進行之改良須仰賴使用此類診斷試劑(尚未取得核准或未釐清安全功效)；(3)將此項已上市治療產品與未經核准或未查驗釐清安全(或功效)之體外個人化診斷醫療器材並用時，其為病患所帶來之利益，明顯高於使用該項未經許可或查驗釐清之體外個人化診斷醫療器材所具之風險等。 此外，FDA方面還強調，若針對某項個人化診斷醫療器材之試驗結果顯示，其具較顯著之風險時，將進一步要求業者進行醫療器材臨床試驗(Investigational Device Exemption，簡稱IDE)。而截至目前為止，此項新指引文件草案自公布日起算，將開放60天供外界提供建議，其後FDA將參考各界回應，於修正後，再提出最終修正版本指引文件；然而，究竟FDA目前所擬採取之規範方式與態度，究否能符合境內業者及公眾之期待與需求？則有待後續之觀察，方得揭曉。
川普簽署行政命令以促進美國AI領域的發展美國總統川普於2019年2月11日簽署一項行政命令，發布「美國AI倡議」（American AI Initiative），旨在確保美國在AI領域的領導地位，川普並說道：「美國在AI領域的領導地位對於維護美國的經濟和國家安全至關重要」。「美國AI倡議」從五大方面來促進美國在AI領域的領導地位，包括： （一） 投資AI的開發 指示聯邦機構在研發任務及編排預算時，將AI作為優先投資項，確保美國對於AI基礎研發的長遠重視，此外，政府機構並應說明如何將預算用於AI研發開支，以增進對於AI投資的評估。 （二） 數據和資源共享 將聯邦政府中所擁有的統計數據資料、運算模型及運算資源提供給AI研發人員，促進交通和醫療保健等領域的AI發展。 （三） 建立政府標準及監管 白宮科技政策辦公室和美國國家與技術研究院（NIST）制定標準，以提升AI系統的「可靠、穩健、值得信賴、安全、可移轉和具協同性」。透過為不同技術和產業的AI制定使用指南，確保AI的使用安全和適當監管。 （四） 人才培訓 要求各機構為AI進步形成的就業市場變化做好準備，並考慮透過技能培訓課程、獎學金和學徒制度，因應市場人力產生之變化。 （五） 國際參與 與其他國家制定合作策略，協同AI技術的開發，同時確保AI領域之開發符合和不損及美國人的價值觀和利益。 此項倡議雖提及許多面向之發展，但仍然缺少發展細節，亦未提及計畫新資金的投入，因此，許多人對此倡議皆提出質疑。曾協助歐巴馬政府制定AI報告的哈佛大學教授Jason Furman即表示，此「倡議」雖令人鼓舞，但僅是邁出第一步，關鍵的考驗將在於是否能以強而有力的方式確實貫徹執行倡議中的內容，此倡議仍欠缺細節及執行面之部分。
OECD 發布2015年科學、科技與產業計分板，建議各國政府應增加對於創新研發之投資於2015年10月19日，經濟合作與發展組織(OECD)發布最新2015年OECD科學、科技與產業計分板(OECD Science, Technology and Industry Scoreboard 2015)，此份報告指出，各國政府應增加對於創新研發的投資，以發展工業、醫療、資通訊產業的新領域科技，也將為氣候變化等全球性挑戰提供急需的解決措施。該報告數據顯示，美國、日本和韓國在新一代突破性科技方面具領先地位，即智慧製造材料、健康、資通訊技術這些有潛力改變現有進程的領域，尤其是韓國，最近在這些領域獲得了重大進展。自2000年以來，韓國的公共研發支出增加二倍之多，2014年GDP佔比達1.2%。反觀，許多發達經濟體的公共研發支出卻停滯不前，2014年OECD經濟體公共研發GDP佔比平均水平低於0.7%。 於2010-12年間，在智慧製造材料、健康和新一代資通訊技術領域，在歐洲和美國申請專利家族(patent families)中，美國、日本和韓國共佔到65%以上，接著是德國、法國與中國。2005-07年，韓國在這三個領域的專利家族申請數表現出最為強勁。在資通訊技術領域，韓國正致力於推動智慧聯網技術，歐盟是量子計算，中國則是巨量資料。於2013年OECD國家總研發支出實際增長了2.7%，達1.1萬億美元，但其GDP佔比與2012年相同，為2.4%。這一增長主要來自企業研發投入，而政府研發投入受到了預算合併等措施的影響。創新不止依靠研發上的投入，也依靠互補性資產，如軟體、設計和人力資本，即知識資本（knowledge-based capital, KBC）。知識資本投入已證實可抵抗經濟危機的衝擊，且2013年的數據表明各個經濟行業都增加了對知識資本的投入。但自2010年以來，許多發達國家政府資助或實施的研發減少或停滯不前。OECD警示，研發支出的減少對許多發達經濟體科技研發系統的穩定產生了威脅。鑑於OECD國家70%的研發來自企業部門，也傾向於關注特定應用程序的開發，從而改進先前的OECD計分版本，此份報告強調政府有必要保持對更具開放性的“基礎研究”的投入，始能激發與一些潛在用戶相關的新發現與新發明。
FDA發佈人工智慧/機器學習行動計畫美國食品藥物管理署（U.S. Food & Drug Administration, FDA）在2021年1月12日發布有關人工智慧醫療器材上市管理的「人工智慧/機器學習行動計畫」（Artificial Intelligence/Machine Learning (AI/ML)-Based Software as a Medical Device (SaMD) Action Plan）。該行動計畫的制定背景係FDA認為上市後持續不斷更新演算法的機器學習醫療器材軟體（Software as Medical Device, SaMD），具有極高的診療潛力，將可有效改善醫療品質與病患福祉，因此自2019年以來，FDA嘗試提出新的上市後的監管框架構想，以突破現有醫療器材軟體需要「上市前鎖定演算法、上市後不得任意變更」的監管規定。 2019年4月，FDA發表了「使用人工智慧/機器學習演算法之醫療器材軟體變更之管理架構—討論文件」（Proposed Regulatory Framework for Modifications to Artificial Intelligence/Machine earning (AI/ML)-Based Software as a Medical Device (SaMD) - Discussion Paper and Request for Feedback）。此一諮詢性質的文件當中提出，將來廠商可在上市前審查階段提交「事先訂定之變更控制計畫」（pre-determined change control plan），闡明以下內容：(1)SaMD預先規範（SaMD Pre-Specification, SPS）：包含此產品未來可能的變更類型（如：輸入資料、性能、適應症）、變更範圍；(2)演算法變更程序（Algorithm Change Protocol, ACP）：包含變更對應之處理流程、風險控制措施，以及如何確保軟體變更後之安全及有效性。 根據「人工智慧/機器學習行動計畫」內容所述，「事先訂定之變更控制計畫」構想被多數（包含病患團體在內）的利害關係人肯認，並於相關諮詢會議當中提出完善的細部建言。FDA將根據收到的反饋意見，於2021年以前正式提出有關人工智慧/機器學習上市後監管的指引草案（Draft Guidance），並持續研究提高演算法透明度、避免演算法偏見的方法。