壹、緒論︰AI醫療的蓬勃發展伴隨全球性的倫理與治理問題

人工智慧（artifical intelligence, AI）在醫療保健領域的快速發展和日益廣泛的應用，普遍被認為將會對醫學與臨床醫療照護帶來許多改變，從疾病預測、診斷到提供治療建議，以及公共衛生監測與疫情控制，都可看到AI技術的實際應用與進一步發展的潛力。人工智慧醫療被期待將可大幅提高醫療服務的效率、準確性和醫療服務的可及性。而在產業規模及市場方面，預計全球醫療保健領域的AI市場將從2023年的224億美元增長到2030年的超過2,082億美元，從2024年到2030年的年均複合增長率將達37.5%。

但AI在醫療領域的應用，也引發了倫理、法律和社會方面的許多爭議及重大問題。例如︰AI醫療領域的重要先驅產品之一，IBM公司的「華生腫瘤學系統」（Watson for Oncology）使用AI演算法來評估病患病歷中的訊息並建議醫師治療選項，但於2018年時卻發現︰該公司的專家於內部文件中承認該系統經常給出「不安全、不正確」的癌症治療建議，很可能是由於該系統的訓練資料有所偏誤。又例如︰研究發現美國許多醫院普遍使用的一個AI演算法，該演算法用來預測哪些病患可能需要額外的醫療照護，但由於其測量偏差（measurement bias），其演算結果出現系統性的偏誤，使得少數族裔經常被認為毋需如同白人病患同樣的額外醫療照護，造成系統性的歧視。此外，COVID-19新冠肺炎疫情期間，世界各地許多國家及醫療系統迅速採用AI工具進行接觸者追蹤、疾病監測，甚至評估哪些病人應得到優先治療，或呼吸器與疫苗不足時的優先分配計算，但它們未必充分考慮到隱私保護或其對於平等權的影響，造成社會大眾難以信任以及許多人權與法律爭議。

另外一個例子是關於將AI技術運用於心理健康或心理治療領域的問題。2023年的一篇研究顯示︰數據資料處理不當，可能會導致偏差、對結果的不準確解釋以及對AI系統性能的過度樂觀。該研究發現，此領域的AI應用對於統計資料的處理方法經常存在重大瑕疵，對於資料的驗證不足，關於偏差的風險評估也做得相當少。而且由於AI模型的不透明，也破壞了它的可重現性（replicability）與可驗證性。上述問題影響了AI應用的安全性以及實際上的有效性，該研究指出︰新的AI模型往往在還沒有完成評估其在現實世界中是否可行與能否可靠應用的情況下，就被提早過度加速了對於它們的推廣與使用。此外，近年來極為熱門的生成式AI聊天機器人，其對於使用民眾的心理健康或精神疾病症狀的影響，也有嚴肅的風險問題。例如，2025年2月知名的科技媒體報導了相當多位民眾的實際經驗︰在他們與AI聊天機器人對話、表述自己的心情苦悶及生活不如意後，AI建議他們可以去自殺，甚至詳細提供了自殺方法的可能選擇，以及具體實踐步驟。

誠如以上所述，將AI應用於醫療領域一方面有相當大的現實應用價值與潛力，但另一方面它面臨一些已知或未知的風險，以及倫理、法律與社會疑慮，因此，如何平衡這兩者之間的可能衝突，使它既能夠促進公共利益，又能夠減輕潛在危害和意外後果，並取得社會信賴與支持使用，便成為AI醫療產品的研發設計者及廠商、部署採用者（如醫療機構）、醫事人員、病人或大眾，以及尤其政府主管機關都需要認真加以考慮並試圖解決的挑戰。有哪些議題與挑戰是原本的相關規範及傳統醫學倫理原則不足以完全因應，需要有額外的規範架構，甚至需要全新的治理理念，而傳統的醫學倫理原則要如何含括、延伸甚至修正，以處理AI醫療帶來新的或程度有異以往的醫學理論與臨床實務問題，是亟需加以釐清並論證的重要問題。考量到AI醫療技術與產品經常跨國使用，甚至發展之始便希望以全球為推廣市場，而且開發AI技術與產品的公司通常是高資本密集、高技術密集的跨國大型公司（如Google、Meta、IBM、OpenAI），上述倫理、法律與社會議題其實是世界各國政府與社會同時都要面對的挑戰，需要有全球性觀點與可能協調一致的治理觀點與原則。

世界衛生組織（World Health Organization, WHO）是國際上最大的政府間公共衛生與健康政策組織，為聯合國下的專門機構之一，COVID-19新冠肺炎疫情更加證明了它在跨國醫療問題與政策上面的重要性。即使它經常受到批評質疑，但即使是批評它的人恐怕也難以否認︰它的確是目前全世界最具權威性與重要性的國際醫療政策與公衛治理機構。WHO對於AI用於醫療領域是否有公布任何國際性的倫理治理或規範架構的建議與指引，無疑應該是前述議題與挑戰最具參考性的重要指標之一。我國政府及民間近30年來，不論執政黨為何，皆曾將臺灣參與WHO列為重要的外交與衛生政策，積極推動不遺餘力。然而推動臺灣加入WHO不能僅將之視為一種國際政治或外交上的訴求，而忽略了重要的實質內涵與價值︰我國政府是否真的深入研究並依照WHO的重要建議與指引來擬定相關政策與規範，是否推動符合WHO希望各國可以具協調一致性的倫理與治理準則。不過似乎有些遺憾，雖然我國政府已將積極推動人工智慧醫療列為國家重要衛生政策，但是在WHO自2021年起便已陸續公布數份具有前瞻性，且兼顧理論與應用性、相當完整並縝密的人工智慧醫療倫理與治理指引的情形下，至今沒有看到我國政府在對之加以深入研析之後，參照WHO的AI醫療國際倫理與治理指引，訂定屬於我國的較為完整且明晰的AI醫療倫理指引與治理架構。這對於臺灣的AI醫療研發設計者及廠商、部署採用機構、醫事人員、病人或大眾來說，一方面可能落入某種不確定性或遊戲規則不明的狀態中；另一方面對於相關產業與產品可能未來會有國際接軌的議題，實在必須認真並審慎地加以考量。

在世界衛生組織已公布的AI醫療倫理與治理指引當中，最詳盡且重要的基礎文件，是2021年6月公布的「世界衛生組織人工智慧醫療倫理與治理指引」（Ethics and Governance of Artificial Intelligence for Health: WHO Guidance）。該國際指引長達160餘頁，不但十分完整詳盡，而且相當具有前瞻性，例如當時生成式AI尚未掀起全球AI浪潮與各界矚目，這份指引便已提出相關可能的倫理與治理問題。但或許也是因為其詳密程度與分量長度，臺灣、甚至中文文獻至今似乎除了對之加以簡介的文章，還沒有足夠完整詳盡的評析文獻。本文因此不揣淺陋，希望針對這份在AI醫療領域極重要的國際倫理與治理指引做較為深入並完整的評析，從其目的、脈絡、架構到重要內容加以評釋，以提供AI業者、醫療機構、醫事人員、社會大眾以及更重要的是政府主管機關，在發展與使用AI醫療時能有與國際接軌的倫理與治理思考，追求可負責的與可信賴的人工智慧醫療發展。

貳、「世界衛生組織人工智慧醫療倫理與治理指引」之目的、脈絡與架構

對於公布AI醫療倫理與治理指引的目的，WHO首先指出︰為了讓AI對公共衛生和醫學產生有益影響，必須將倫理考量和人權思考置於醫療AI技術的設計、開發和部署使用的中心。要充分發揮人工智慧的益處，就必須解決醫療衛生系統、從業人員以及醫療和公共衛生服務受益者面臨的倫理挑戰。AI的機遇和挑戰，兩者是不可分割的。設計開發與部署使用AI醫療時，應該確保病人和社會大眾他們的權利和利益，使之不會從屬於AI技術公司的強大商業利益，或是從屬於政府在監視人民和社會控制方面的利益。將AI納入醫療衛生系統的目的是用來促進「人」的自主性和尊嚴，不能反而將「人」排除在醫療決策的中心之外。

對於AI醫療可能引起了跨國的倫理、法律、商業和社會問題，WHO指出︰這已經對傳統的醫療管理及醫學倫理帶來了額外的、新穎的倫理與治理挑戰，而這些挑戰已超出了傳統監管機構和醫療衛生系統成員有辦法處理的範圍。倘若希望將AI廣泛應用於改善人類健康、維護人類自主性並確保這些技術能夠被公平獲取，就必須正面且充分地去應對這些倫理挑戰，而且不能夠採取「技術樂觀主義」（techno-optimism）的思維，因為這種思維可能會讓問題變得更糟。所謂的「技術樂觀主義」是指一種相信科技可以解決各種問題的思考方式，不但認為科技可以帶來創新進步，且認為即使科技自身所帶來的風險或問題也可以再用更多的科技來予以解決。批評這種思考方式的論者會認為︰很多風險或問題，涉及人的態度或行為、人性或慣性、情境脈絡、社會文化與政經條件等因素，並不是科技都能夠事先充分預測或事中事後做控制，更遑論總是能夠解決。關於AI醫療的倫理與治理問題，WHO明顯是採取對於「技術樂觀主義」較為批判或保留的立場。

WHO的此一倫理與治理指引歷經兩年的討論與研擬過程，由20位醫學、公共衛生、法律、人權、科技、倫理等領域的專家組成工作小組。經過廣泛與深入分析各項相關資料，他們指出︰國際上一直都還沒有基於倫理規範和人權標準訂定的全面性的AI醫療指引。大多數國家亦欠缺法律或規則來規範人工智慧技術於醫療領域中的使用，即使有予以規範亦往往不充分或不夠具體。WHO指出︰一份對於開發、使用或監督此類技術的不同實體的共同觀點的倫理指引，對於建立對這些技術的信任、防範負面或慢性毀壞的影響，以及避免各國間矛盾準則的擴散至關重要。因此WHO認為有必要訂定一個全球視角的關於AI醫療設計與實行，使之可能具有協調一致性的倫理指導原則。而且訂定時應該將整個醫療衛生系統中所有利益相關者都納入考量，尤其應該包括病人，因為使用這些技術雖然可能賦予生病的人權力，但也可能使他們變得脆弱，反而獲得更少的服務和保護。WHO指引希望標定出AI醫療引發的各種倫理問題，並提供相關的倫理與治理框架來解決這些問題，以促使AI醫療能夠在全球範圍內被負責任地使用。

對於AI的定義，WHO指引參考經濟合作暨發展組織（Organization for Economic Co-operation and Development, OECD）的定義︰人工智慧系統是一種基於機器的系統，能夠針對人類設定的目標，進行預測、建議、或者決策，以影響真實或虛擬的外界環境。人工智慧系統被設計為具有不同程度的自主性運作。不同類型的AI技術，包括機器學習應用，如模式識別、自然語言處理、信號處理和專家系統，皆可含括在此定義中。在這裡，本文認為值得一提的是︰絕大部分目前已經在市場上應用的AI醫療產品，仍然是鑑別式AI（discriminative AI）的產品，而非近兩年來廣受媒體與社會大眾矚目的生成式AI（generative AI）的產品，我們不能因為近兩年來生成式AI極為熱門就誤以為生成式AI是人工智慧技術的代表，或誤以為生成式AI已經在醫療領域獲得廣泛應用。

針對AI醫療的現況，WHO的專家經過調查後發現︰雖然人工智慧已應用於診斷，但很少有這樣的系統在前瞻性臨床試驗（prospective clinical trials）中被做過評估。很少有研究提供外部驗證的結果或使用相同樣本，來比較深度學習模型和醫療專業人員的表現。另一個問題是︰AI的性能是否可以推廣到臨床實踐中做實施，以及在一個背景下訓練的AI是否可以在不同的地理區域或背景條件下仍然準確和安全地使用，其實並不確定。許多AI系統開發的原型在測試中表現良好，但它們經常無法轉化至較大規模的施行、商業化或部署使用。另一個問題是電腦和資訊技術會持續不斷變化，系統會變得過時或時間久了變得不穩定，而原先開發系統的公司或團隊可能會消失，無法再維護或更新。

WHO指出︰AI醫療應用的增加，醫療專業工作者將不得不大幅調整他們的臨床實踐方式。雖然理論上AI可以自動化許多任務，讓醫生可以空出時間聽取病患的意見，並安撫他們的恐懼和擔憂，詢問與疾病沒有直接相關的社會或家庭因素。但是醫師也將因此不得不培養自己的新能力，必須理解AI醫療的原理才能與病患溝通風險，解釋AI的建議，並與病患討論風險效益等權衡取捨，且醫師需要關注AI醫療技術的倫理與法律問題。WHO並特別警示︰臨床醫師不能落入「自動化偏差」（automation bias）中，讓AI取代自己的臨床上盡職診察，否則很容易會不再關注技術的實施是否真的能符合自己醫療專業及病患的需求。這裡所說的「自動化偏差」是指一種不加省思地接受電腦或自動化設備生成的結果的傾向。自動化偏差的可能原因是對於自動化結果基於依賴或習慣而不再去思索或審查，也有可能是因為自己對於自動化系統如何生成結果不知如何或無從審查，或是自動化結果並沒有給自己選擇的可能性。AI系統比傳統的自動化設備可能更複雜難以理解或解釋，或更令人感到神奇，因此更容易加深自動化偏差的問題。

除了對於醫師及其臨床實務的影響，WHO觀察到AI醫療將可能大幅改變病患於醫療照護中的角色，以及其接受醫療照護的場域、方式與權益。AI可能改變病患自我管理自身健康與疾病治療狀況的方式，並在慢性病的情形尤為明顯。雖然轉向以病患自己為中心的照護，可能被認為是一種對於病患的賦權、對其有益，但它也可能讓病患承擔額外的責任而令其感到壓力，形同被轉嫁負擔，甚至可能會縮限某些人原本獲取正規醫療照護服務的機會。而且某些行動裝置的「健康應用程式」（Apps）雖然涉及病患的健康與醫療照護，但是卻處於灰色地帶主張自己並非醫療器材軟體因此不須受到衛生主管機關較為嚴格的監管審查，WHO認為這可能對某些病患帶來風險，尤其發展與提供這些應用程式的實體經常並非醫療機構，而是不屬於正式醫療照護系統的科技業者，這將會使這方面的擔憂更為加劇。

尤其值得注意的是︰這種病患角色的轉變，與藉由AI技術來自我照護醫療狀況的方式，將不再需要依賴傳統醫療體系，也可以不需要前往醫療機構場域，但它意味著可能需要對人們進行近乎持續性的監測，即使他們沒有生病、並不是 「病患」。它允許對過去本應保持未知或不會蒐集的過多健康數據，透過穿戴裝置等方法進行近乎持續的監視和蒐集，形成一種不斷擴張的「生物監視」（biosurveillance）。這造成了重大的倫理和法律問題，例如這些資料可能被用於未明確取得同意的醫療或非醫療目的，或者政府或公司可能將這些資料用於非健康目的（譬如刑事司法或移民系統）。WHO認為這一類的資料，應該與在正式臨床照護環境中蒐集的個人資料，受到相同等級的個資保護和安全性的拘束。

在以上的背景脈絡中，WHO認為︰AI醫療是否能夠超越過往尚屬狹隘的適用範圍，取決於AI科學技術狀態之外的許多因素，以及醫療服務提供機構、病人和醫療專業人員對於AI技術的信賴。之所以討論技術、法律、安全和倫理上面臨的挑戰問題，並非要阻礙AI於醫療領域的進一步應用，反而恰恰相反是希望確保AI能夠實現其巨大的潛力與前景。在論述WHO訂定本指引的目的、AI醫療的現況及問題等背景脈絡之後，本指引在架構上首先檢視現有的國際上相關規範與政策，並指出其零散、欠缺一致及不足等問題；接著WHO論述AI醫療在理念價值上應該追求與遵循的關鍵倫理原則；然後，進而討論若要實現這些倫理原則，於現實上必須面對與因應的具體挑戰；接著，WHO論述於因應上述挑戰時，應該採取哪些較明確的方法與途徑；再接下來，WHO以專章討論使用AI醫療技術若是對病人造成傷害，其賠償責任歸屬制度的問題；最後，綜合上述討論，WHO提出一套AI醫療的治理架構應含括的項目與子架構，並提出一份AI醫療於設計、部署及使用時應具體考量的項目清單。整份指引的架構與論述邏輯十分完整且清晰，從目的與背景脈絡、抽象理念與原則，到需要因應的具體問題以及對之可採取的具體方法，再到未來建置一套治理架構時的應有建制內容。這不是一份僅是宣示原則的指引，而是一份堪稱AI醫療之倫理治理使用手冊的具體指導與建議準則。

WHO表示本指引的主要訴求對象雖然為各國衛生主管機關，但它也適用於其他政府機構（如監管AI或個資保護的部門）、使用AI醫療技術的機構（如醫院）或人（如醫師及病人），以及設計或投資發展AI醫療技術的人員與實體。

而且本指引的落實需要所有利害相關者的集體行動。包括病人、民間組織和公民社會也應該能夠要求政府和業者承擔責任，並讓他們共同參與技術和規則的設計，參與制定新的標準和方法，要求和尋求AI醫療技術的透明度，以滿足他們自己、社區和醫療衛生系統的需求。

由於此一WHO指引的內容十分詳實深入且篇幅極長，本文以下主要針對WHO基於人性尊嚴及健康人權視角所提出的AI醫療關鍵倫理原則，來進行詳細分析並做評釋，最後並說明WHO建議的AI醫療於設計、部署及使用時應具體考量的項目清單。至於WHO提出的AI醫療於實務上面臨的具體倫理挑戰、因應這些挑戰做治理的具體方法與取徑、AI醫療賠償責任歸屬及治理架構建制等議題，作者日後將再以專文做深入評析......