AI正在以前所未有的規(guī)模改變健康和醫(yī)療保健。
越來越多的AI嵌入臨床實(shí)踐中，包括醫(yī)療運(yùn)營、醫(yī)療器械以及健康的APP。
盡管潛在的好處是巨大的，但風(fēng)險(xiǎn)也是巨大的。
人工智能開發(fā)和傳播的最佳路徑仍不清楚。
與藥物或更傳統(tǒng)的醫(yī)療設(shè)備相比，幾乎沒有手段確保對(duì)AI工具和技術(shù)進(jìn)行安全、透明和標(biāo)準(zhǔn)化的評(píng)估和監(jiān)管。
AI將如何改變我們的求醫(yī)問藥？我們又該如何確保它安全、有效地為我們服務(wù)？
近日，美國醫(yī)學(xué)會(huì)雜志（JAMA）聯(lián)合斯坦福共同發(fā)布了一份報(bào)告，試圖回答這一問題。
該報(bào)告由斯坦福大學(xué)法學(xué)院醫(yī)學(xué)院法律和衛(wèi)生政策教授Michelle Mello、以及醫(yī)學(xué)Tina Hernandez-Boussard 博士和Nigam Shah博士共同撰寫。
除開探討AI醫(yī)療領(lǐng)域巨大的機(jī)會(huì)以及現(xiàn)狀外，報(bào)告還給出了一份更安全、更有效的醫(yī)療AI路線圖。
AI在醫(yī)療中的“多重身份”
在斯坦福教授看來，AI在醫(yī)療領(lǐng)域的應(yīng)用遠(yuǎn)超我們的想象，它正以不同的角色融入這個(gè)生態(tài)系統(tǒng)。
大致可以分為：臨床工具、面向消費(fèi)者（DTC）的工具、醫(yī)療保健業(yè)務(wù)運(yùn)營工具以及混合工具。
臨床工具
醫(yī)學(xué)文獻(xiàn)中的大多數(shù)人工智能工具都屬于臨床工具，即直接支持醫(yī)療保健專業(yè)人員臨床活動(dòng)的工具。
包括用于自動(dòng)篩查糖尿病視網(wǎng)膜病變的AI軟件、便攜式超聲心動(dòng)圖設(shè)備以提供自動(dòng)診斷的人工智能軟件等。
人工智能改變了醫(yī)學(xué)成像，目前FDA已經(jīng)批準(zhǔn)1200 多種器械，其中大部分用于醫(yī)學(xué)影像。90% 的美國醫(yī)療保健系統(tǒng)采用了某種類型的AI模型。
嵌入在EHR中的AI工具也廣泛使用，但有些工具不受FDA的監(jiān)督，并且因?yàn)獒t(yī)療保健系統(tǒng)打開該工具的成本可能被認(rèn)為是適度的。而在醫(yī)學(xué)成像和EHR 嵌入式應(yīng)用程序之外，臨床人工智能工具的傳播速度較慢。
直接面向消費(fèi)者（DTC）工具
公眾對(duì)DTC人工智能工具有相當(dāng)大的熱情。
這些工具包括通過手機(jī)攝像頭以幫助個(gè)人自我診斷皮膚病的應(yīng)用程序、AI心理聊天機(jī)器人以及使用智能手表的生物傳感器數(shù)據(jù)來檢測跌倒或心律失常的算法。
目前有超過35萬個(gè)移動(dòng)健康應(yīng)用程序，人工智能經(jīng)常嵌入軟件中。全球十分之三的成年人使用過移動(dòng)健康應(yīng)用程序，市場每年已經(jīng)超過700億美元。
不過，市場對(duì)這部分工具也有各種擔(dān)憂，包括缺乏關(guān)于健康益處的高質(zhì)量證據(jù)；對(duì)信任、可用性和隱私的擔(dān)憂;與醫(yī)療保健系統(tǒng)整合；以及正確商業(yè)模式的不確定性。
然而，隨著這些障礙被克服或規(guī)避，這些工具由于繞過了傳統(tǒng)醫(yī)療保健的大部分現(xiàn)有基礎(chǔ)設(shè)施，可能代表真正的顛覆性創(chuàng)新。
醫(yī)療保健業(yè)務(wù)運(yùn)營工具
醫(yī)療保健系統(tǒng)正在引入人工智能工具，以提升運(yùn)營效率并增加利潤。這些AI軟件廣泛應(yīng)用于優(yōu)化床位資源、收入周期管理、醫(yī)患排班、供應(yīng)鏈管理以及報(bào)表生成等環(huán)節(jié)。
一個(gè)典型案例是，醫(yī)療機(jī)構(gòu)開始利用人工智能自動(dòng)生成向保險(xiǎn)公司提交的事先授權(quán)申請(qǐng)，而保險(xiǎn)公司也同樣借助人工智能工具來審核這些申請(qǐng)。
利用人工智能優(yōu)化業(yè)務(wù)流程的做法已在多個(gè)行業(yè)中得到普遍應(yīng)用。然而，當(dāng)醫(yī)療保健機(jī)構(gòu)采納這類工具時(shí)，其對(duì)患者產(chǎn)生的實(shí)際影響仍不明確。
盡管AI工具的使用可能會(huì)改變醫(yī)療服務(wù)流程，進(jìn)而影響醫(yī)院的質(zhì)量評(píng)估結(jié)果，但由于這類工具與其他常規(guī)醫(yī)療運(yùn)營策略類似，通常無需經(jīng)過專門評(píng)估或監(jiān)管審查，其具體影響往往難以被準(zhǔn)確識(shí)別和歸因。
混合工具
許多人工智能工具在醫(yī)療領(lǐng)域的應(yīng)用具有雙重價(jià)值：它們既能優(yōu)化醫(yī)院的業(yè)務(wù)運(yùn)營，也能直接提升臨床護(hù)理水平和患者就醫(yī)體驗(yàn)。
例如，被稱為“AI醫(yī)療抄寫員”的工具，它一方面通過自動(dòng)生成診療筆記和結(jié)算單據(jù)來減輕文書負(fù)擔(dān)，從而支持運(yùn)營效率；另一方面，它也能提供臨床輔助，例如給出可能的診斷意見或治療方案建議，供醫(yī)生參考和確認(rèn)。
同樣，基于人工智能的患者導(dǎo)航工具，可以通過網(wǎng)絡(luò)平臺(tái)發(fā)揮作用。目前，這類人工智能工具正被醫(yī)療機(jī)構(gòu)快速采納。
繁榮背后的隱憂：三大核心挑戰(zhàn)
盡管AI應(yīng)用如火如荼，但我們不能盲目樂觀。目前主要面臨三大挑戰(zhàn)：
AI工具，究竟有效還是無效？
如今，絕大多數(shù)AI工具都缺乏評(píng)估。盡管FDA會(huì)批準(zhǔn)各類應(yīng)用于臨床評(píng)估的工具，但許多AI工具，尤其是健康A(chǔ)PP和運(yùn)營管理系統(tǒng)，對(duì)健康到底有何影響（是好是壞？效果多大？）常常缺乏嚴(yán)謹(jǐn)?shù)脑u(píng)估。
部分原因是它們可能不受藥監(jiān)局監(jiān)管，且進(jìn)行全面評(píng)估成本高昂、難度極大。一個(gè)AI工具在A醫(yī)院效果顯著，到了B醫(yī)院卻可能因?yàn)槿藛T培訓(xùn)、工作流程的不同而表現(xiàn)迥異。
監(jiān)管的灰色地帶
傳統(tǒng)的醫(yī)療產(chǎn)品監(jiān)管路徑，難以跟上AI尤其是“生成式AI”的快速迭代。許多直接影響我們健康的AI工具，因法律界定模糊而處于監(jiān)管真空地帶，其安全性和公平性難以得到保障。
落地之難與公平之慮
即使是最好的AI工具，也需要正確的使用環(huán)境和訓(xùn)練有素的人員。醫(yī)院是否具備相應(yīng)的基礎(chǔ)設(shè)施和專業(yè)知識(shí)來用好它？此外，新技術(shù)往往首先惠及資源豐富的群體，如何確保AI不會(huì)加劇醫(yī)療不平等，也是一個(gè)嚴(yán)峻考驗(yàn)。
尤其是運(yùn)營工具對(duì)健康的影響，有強(qiáng)烈的意見，但很少有同行評(píng)審的評(píng)估。
例如，許多美國醫(yī)生認(rèn)為，保險(xiǎn)公司使用人工智能工具拒絕事先授權(quán)正在對(duì)患者產(chǎn)生廣泛的負(fù)面影響，但沒有研究檢查使用人工智能工具是否以及如何影響拒絕率。
更安全、更有效的醫(yī)療AI路線圖
為了駕馭這股變革力量，確保AI真正造福于社會(huì)，專家們指出了四個(gè)關(guān)鍵方向：
路徑一：讓利益相關(guān)者參與整體產(chǎn)品生命周期管理
AI的開發(fā)不能再是開發(fā)者閉門造車。從設(shè)計(jì)、開發(fā)到使用、監(jiān)控，患者、醫(yī)生、醫(yī)院、開發(fā)者和監(jiān)管機(jī)構(gòu)必須全程攜手，形成一個(gè)持續(xù)改進(jìn)的閉環(huán)。
例如，在人工智能工具的設(shè)計(jì)和開發(fā)階段，患者和臨床醫(yī)生與開發(fā)人員的更多接觸可以提高其透明度和可信度。 同樣，開發(fā)人員可以幫助醫(yī)療保健系統(tǒng)部署、監(jiān)控和修復(fù)模型幻覺等問題。
這些多利益相關(guān)方合作伙伴關(guān)系超越了傳統(tǒng)的賣方-客戶或開發(fā)商-監(jiān)管機(jī)構(gòu)關(guān)系，而是成功實(shí)現(xiàn)產(chǎn)品全生命周期管理的關(guān)鍵。
路徑二：開發(fā)新的評(píng)估標(biāo)準(zhǔn)
我們需要開發(fā)更快、更便宜、更穩(wěn)健的方法來評(píng)估AI對(duì)健康結(jié)果的實(shí)際影響，而不僅僅是監(jiān)測其技術(shù)安全性。這就像不僅要知道一輛車會(huì)不會(huì)拋錨，更要知道它能否安全高效地把我們送到目的地。
路徑三：構(gòu)建國家級(jí)的數(shù)據(jù)基礎(chǔ)設(shè)施
建立覆蓋全國、代表不同人群的醫(yī)療數(shù)據(jù)基礎(chǔ)設(shè)施（嚴(yán)格保護(hù)隱私前提下），使得研究人員和醫(yī)療機(jī)構(gòu)能夠快速分析AI工具在各種真實(shí)場景下的表現(xiàn)，加速生成可靠的知識(shí)。
路徑四：用政策和市場引導(dǎo)正向激勵(lì)
通過政府資金、研究資助和合理的市場規(guī)則，激勵(lì)各方開發(fā)和使用那些能真正改善健康、促進(jìn)公平的AI工具，最終讓患者和企業(yè)都獲益。
特別聲明：智慧醫(yī)療網(wǎng)轉(zhuǎn)載其他網(wǎng)站內(nèi)容，出于傳遞更多信息而非盈利之目的，同時(shí)并不代表贊成其觀點(diǎn)或證實(shí)其描述，內(nèi)容僅供參考。版權(quán)歸原作者所有，若有侵權(quán)，請(qǐng)聯(lián)系我們刪除。
凡來源注明智慧醫(yī)療網(wǎng)的內(nèi)容為智慧醫(yī)療網(wǎng)原創(chuàng)，轉(zhuǎn)載需獲授權(quán)。
智慧醫(yī)療網(wǎng) ? 2022 版權(quán)所有 ICP備案號(hào)：滬ICP備17004559號(hào)-5
