陳怡君 編譯

壹、引言

人工智慧（artificial intelligence, AI）（特別是其下的機器學習（machine learning, ML）分支）具有改善全球醫療系統的潛力，舉例而言，藉由優化醫院的工作流程、提供更準確的診斷，從而為患者提供更好的醫療服務，然而，醫療型人工智慧也為我們的社會——尤其是美國食品藥物管理局（U.S. Foodand Drug Administration, FDA）——帶許多新挑戰，例如：哪種類型的AI/ML產品需要通過主管機關的審查？主管機關在批准AI/ML醫材軟體上市前，應要求軟體製造商提交哪些證據作為開放銷售的先決條件？在保障其安全性及有效性的同時，如何確保人工智慧能以醫材軟體的實時表現來不斷進步？

一些使用AI/ML的醫材軟體已經在美國獲得了上市許可，其中包括2018年的IDx-DR，作為第一個為糖尿病視網膜病變提供掃描決策的診斷型AI/ML，其製造商宣稱是「史上第一個由FDA批准的自主AI診斷決策系統」，而許多患者與醫師都特別關注這所謂「自主」的設備。因目前通過上市許可的AI/ML醫材軟體都是使用FDA所謂的「鎖定式」演算法，這類演算法不會隨著時間而演化，也不會使用新數據來改變其性能。倘若如醫材軟體一般，其演算法會因運算而改變，則必須由FDA進行另一輪的審查工作。因此AI/ML的製造商可能傾向於不更新他們的醫材軟體，既是為了降低成本與工作量外，同時，因更新必然存在風險（從而表明原先的產品可能存在瑕疵），或是FDA不批准更新而造成銷售上的重大延遲。基於上述這些理由，AI/ML最大的優點——實時透過數據來學習檢討——可能無法被充分利用。

此外，我們將討論FDA最近如何試圖解決這所謂的「更新問題」以及針對「鎖定式」與「自適應式」演算法的處理，我們也為FDA近期的提案提出建議，例如：透過持續監測AI/ML可能帶來的特定風險。在本文中，我們將提及更加基本的一個觀點：FDA及其他國家的主管機關主要是「產品」監管機構，他們審查並最終批准或否決藥品或醫療器材等醫療產品，而未來將AI/ML醫材軟體或其他使用AI/ML的醫療產品納入審查時，可能需要主管機關將審查面向轉為「系統」觀點。即使IDx-DR作為通過FDA審查、是目前最「自主」的AI/ML產品，也不應該成為一個單獨的個案。這些作為涉及各種人類參與的、更大的系統的一部分—從醫療團隊輸入數據到醫師針對AI的建議做出判斷、再到保險公司決定是否報銷特定治療方案，這些步驟應該作為一個整體的概念，而我們將此概念稱之為「系統性研究法」（system approach）。我們將討論像FDA這類的主管機關應如何系統性地審查AI/ML，特別是當前FDA對相關醫療實踐沒有相關規範時，我們應對一些傳統的觀念（例如：限制FDA的監管範圍）施壓。雖說目前的主管機關尚無法全面採用系統性規範，但我們將會討論對他們如何朝著這個方向有進一步的措施，從而提高大眾對人工智慧應用於醫療服務的信心。

貳、什麼是使用AI/ML的醫材軟體？

許多使用AI/ML的產品都需要經過主管機關的審查，舉例而言，在美國，根據聯邦食品、藥品和化妝品法案第201條(h)中對於醫療器材的規定，如果作為「一種儀器、裝置、器具、機器、設計、植入物、體外試劑或其他類似或相關的物品，包括任何組件、零件或附件⋯⋯用於疾病的診斷或其他情況，或在治癒、緩解、治療或預防疾病⋯⋯中，不能透過人體內或人體內的化學作用達到其主要預期目的⋯⋯而且不是依賴於代謝以實現其主要預期目的。」

依據美國法律規定，有些使用AI/ML的軟體功能可能並不被包括在器材的定義範圍（例如：聯邦食品、藥品和化妝品法案第520條(o)(1)(E)規定了特定臨床決策軟體），但有些軟體的功能則符合器材的定義，尤其是「作為醫療器材的軟體」（SaMD）的這一用詞就是指稱軟體本身即是醫療器材，而非「硬體醫療器材的一部分」。即使並非所有人都支持醫材軟體的構造概念，但既然FDA已經決定開始此領域的規範，接下來我們將試著找出如何用超出產品本身的視角來讓它更豐富多元.....