AI正在以前所未有的規(guī)模改變健康和醫(yī)療保健。
越來越多的AI嵌入臨床實踐中，包括醫(yī)療運營、醫(yī)療器械以及健康的APP。
盡管潛在的好處是巨大的，但風險也是巨大的。
人工智能開發(fā)和傳播的最佳路徑仍不清楚。
與藥物或更傳統(tǒng)的醫(yī)療設備相比，幾乎沒有手段確保對AI工具和技術進行安全、透明和標準化的評估和監(jiān)管。
AI將如何改變我們的求醫(yī)問藥？我們又該如何確保它安全、有效地為我們服務？
近日，美國醫(yī)學會雜志（JAMA）聯合斯坦福共同發(fā)布了一份報告，試圖回答這一問題。
該報告由斯坦福大學法學院醫(yī)學院法律和衛(wèi)生政策教授Michelle Mello、以及醫(yī)學Tina Hernandez-Boussard 博士和Nigam Shah博士共同撰寫。
除開探討AI醫(yī)療領域巨大的機會以及現狀外，報告還給出了一份更安全、更有效的醫(yī)療AI路線圖。
AI在醫(yī)療中的“多重身份”
在斯坦福教授看來，AI在醫(yī)療領域的應用遠超我們的想象，它正以不同的角色融入這個生態(tài)系統(tǒng)。
大致可以分為：臨床工具、面向消費者（DTC）的工具、醫(yī)療保健業(yè)務運營工具以及混合工具。
臨床工具
醫(yī)學文獻中的大多數人工智能工具都屬于臨床工具，即直接支持醫(yī)療保健專業(yè)人員臨床活動的工具。
包括用于自動篩查糖尿病視網膜病變的AI軟件、便攜式超聲心動圖設備以提供自動診斷的人工智能軟件等。
人工智能改變了醫(yī)學成像，目前FDA已經批準1200 多種器械，其中大部分用于醫(yī)學影像。90% 的美國醫(yī)療保健系統(tǒng)采用了某種類型的AI模型。
嵌入在EHR中的AI工具也廣泛使用，但有些工具不受FDA的監(jiān)督，并且因為醫(yī)療保健系統(tǒng)打開該工具的成本可能被認為是適度的。而在醫(yī)學成像和EHR 嵌入式應用程序之外，臨床人工智能工具的傳播速度較慢。
直接面向消費者（DTC）工具
公眾對DTC人工智能工具有相當大的熱情。
這些工具包括通過手機攝像頭以幫助個人自我診斷皮膚病的應用程序、AI心理聊天機器人以及使用智能手表的生物傳感器數據來檢測跌倒或心律失常的算法。
目前有超過35萬個移動健康應用程序，人工智能經常嵌入軟件中。全球十分之三的成年人使用過移動健康應用程序，市場每年已經超過700億美元。
不過，市場對這部分工具也有各種擔憂，包括缺乏關于健康益處的高質量證據；對信任、可用性和隱私的擔憂;與醫(yī)療保健系統(tǒng)整合；以及正確商業(yè)模式的不確定性。
然而，隨著這些障礙被克服或規(guī)避，這些工具由于繞過了傳統(tǒng)醫(yī)療保健的大部分現有基礎設施，可能代表真正的顛覆性創(chuàng)新。
醫(yī)療保健業(yè)務運營工具
醫(yī)療保健系統(tǒng)正在引入人工智能工具，以提升運營效率并增加利潤。這些AI軟件廣泛應用于優(yōu)化床位資源、收入周期管理、醫(yī)患排班、供應鏈管理以及報表生成等環(huán)節(jié)。
一個典型案例是，醫(yī)療機構開始利用人工智能自動生成向保險公司提交的事先授權申請，而保險公司也同樣借助人工智能工具來審核這些申請。
利用人工智能優(yōu)化業(yè)務流程的做法已在多個行業(yè)中得到普遍應用。然而，當醫(yī)療保健機構采納這類工具時，其對患者產生的實際影響仍不明確。
盡管AI工具的使用可能會改變醫(yī)療服務流程，進而影響醫(yī)院的質量評估結果，但由于這類工具與其他常規(guī)醫(yī)療運營策略類似，通常無需經過專門評估或監(jiān)管審查，其具體影響往往難以被準確識別和歸因。
混合工具
許多人工智能工具在醫(yī)療領域的應用具有雙重價值：它們既能優(yōu)化醫(yī)院的業(yè)務運營，也能直接提升臨床護理水平和患者就醫(yī)體驗。
例如，被稱為“AI醫(yī)療抄寫員”的工具，它一方面通過自動生成診療筆記和結算單據來減輕文書負擔，從而支持運營效率；另一方面，它也能提供臨床輔助，例如給出可能的診斷意見或治療方案建議，供醫(yī)生參考和確認。
同樣，基于人工智能的患者導航工具，可以通過網絡平臺發(fā)揮作用。目前，這類人工智能工具正被醫(yī)療機構快速采納。
繁榮背后的隱憂：三大核心挑戰(zhàn)
盡管AI應用如火如荼，但我們不能盲目樂觀。目前主要面臨三大挑戰(zhàn)：
AI工具，究竟有效還是無效？
如今，絕大多數AI工具都缺乏評估。盡管FDA會批準各類應用于臨床評估的工具，但許多AI工具，尤其是健康APP和運營管理系統(tǒng)，對健康到底有何影響（是好是壞？效果多大？）常常缺乏嚴謹的評估。
部分原因是它們可能不受藥監(jiān)局監(jiān)管，且進行全面評估成本高昂、難度極大。一個AI工具在A醫(yī)院效果顯著，到了B醫(yī)院卻可能因為人員培訓、工作流程的不同而表現迥異。
監(jiān)管的灰色地帶
傳統(tǒng)的醫(yī)療產品監(jiān)管路徑，難以跟上AI尤其是“生成式AI”的快速迭代。許多直接影響我們健康的AI工具，因法律界定模糊而處于監(jiān)管真空地帶，其安全性和公平性難以得到保障。
落地之難與公平之慮
即使是最好的AI工具，也需要正確的使用環(huán)境和訓練有素的人員。醫(yī)院是否具備相應的基礎設施和專業(yè)知識來用好它？此外，新技術往往首先惠及資源豐富的群體，如何確保AI不會加劇醫(yī)療不平等，也是一個嚴峻考驗。
尤其是運營工具對健康的影響，有強烈的意見，但很少有同行評審的評估。
例如，許多美國醫(yī)生認為，保險公司使用人工智能工具拒絕事先授權正在對患者產生廣泛的負面影響，但沒有研究檢查使用人工智能工具是否以及如何影響拒絕率。
更安全、更有效的醫(yī)療AI路線圖
為了駕馭這股變革力量，確保AI真正造福于社會，專家們指出了四個關鍵方向：
路徑一：讓利益相關者參與整體產品生命周期管理
AI的開發(fā)不能再是開發(fā)者閉門造車。從設計、開發(fā)到使用、監(jiān)控，患者、醫(yī)生、醫(yī)院、開發(fā)者和監(jiān)管機構必須全程攜手，形成一個持續(xù)改進的閉環(huán)。
例如，在人工智能工具的設計和開發(fā)階段，患者和臨床醫(yī)生與開發(fā)人員的更多接觸可以提高其透明度和可信度。 同樣，開發(fā)人員可以幫助醫(yī)療保健系統(tǒng)部署、監(jiān)控和修復模型幻覺等問題。
這些多利益相關方合作伙伴關系超越了傳統(tǒng)的賣方-客戶或開發(fā)商-監(jiān)管機構關系，而是成功實現產品全生命周期管理的關鍵。
路徑二：開發(fā)新的評估標準
我們需要開發(fā)更快、更便宜、更穩(wěn)健的方法來評估AI對健康結果的實際影響，而不僅僅是監(jiān)測其技術安全性。這就像不僅要知道一輛車會不會拋錨，更要知道它能否安全高效地把我們送到目的地。
路徑三：構建國家級的數據基礎設施
建立覆蓋全國、代表不同人群的醫(yī)療數據基礎設施（嚴格保護隱私前提下），使得研究人員和醫(yī)療機構能夠快速分析AI工具在各種真實場景下的表現，加速生成可靠的知識。
路徑四：用政策和市場引導正向激勵
通過政府資金、研究資助和合理的市場規(guī)則，激勵各方開發(fā)和使用那些能真正改善健康、促進公平的AI工具，最終讓患者和企業(yè)都獲益。
特別聲明：智慧醫(yī)療網轉載其他網站內容，出于傳遞更多信息而非盈利之目的，同時并不代表贊成其觀點或證實其描述，內容僅供參考。版權歸原作者所有，若有侵權，請聯系我們刪除。
凡來源注明智慧醫(yī)療網的內容為智慧醫(yī)療網原創(chuàng)，轉載需獲授權。
