DeepSeek在中國的實踐,本質(zhì)是一場關(guān)于“技術(shù)普惠”與“安全底線”的全球預(yù)演。
4月,國際頂級醫(yī)學(xué)期刊JAMA首次發(fā)表了關(guān)于中國自主研發(fā)大模型DeepSeek在醫(yī)療領(lǐng)域應(yīng)用的觀點文章。
論文網(wǎng)站截圖
文章由清華大學(xué)副教務(wù)長、醫(yī)學(xué)院院長黃天蔭教授領(lǐng)銜,聯(lián)合清華大學(xué)醫(yī)學(xué)院曾典博士、秦義明博士,以及上海交通大學(xué)計算機科學(xué)與工程系盛斌教授共同撰寫。 該文章深入分析了DeepSeek在中國醫(yī)療場景中的迅速應(yīng)用,探討了“低成本開源AI創(chuàng)新”與“多元醫(yī)療需求”交匯下催生的技術(shù)熱潮,并關(guān)注由此帶來的監(jiān)管體系建設(shè)滯后問題。 作者指出,以DeepSeek為代表的國產(chǎn)大模型在醫(yī)療領(lǐng)域的探索,標(biāo)志著全球數(shù)字醫(yī)療轉(zhuǎn)型進程中的一項重要里程碑。文章強調(diào),中國在醫(yī)療AI領(lǐng)域展現(xiàn)出的創(chuàng)新速度,正在促使全球重新思考如何在加速創(chuàng)新的同時,確保醫(yī)療AI的安全落地與可持續(xù)發(fā)展。 文章圍繞醫(yī)療領(lǐng)域中人工智能的安全應(yīng)用,呼吁加快建立多維度、體系化的治理框架,強調(diào)在推動技術(shù)創(chuàng)新的同時,必須同步提升法律規(guī)范、倫理審查與風(fēng)險管理能力,確保AI技術(shù)在醫(yī)療實踐中實現(xiàn)安全、可靠、可控的落地。這一倡議不僅回應(yīng)了國家對人工智能發(fā)展提出的新要求,也為全球醫(yī)療AI治理探索提供了中國經(jīng)驗與中國方案。 國產(chǎn)大模型在醫(yī)療場景中的爆發(fā)式應(yīng)用 文章指出,以DeepSeek為代表的中國大模型在醫(yī)療領(lǐng)域的應(yīng)用潛力正呈現(xiàn)爆發(fā)式增長,這主要歸功于中國在人工智能領(lǐng)域的創(chuàng)新,以及對政策和技術(shù)雙重壁壘的突破。過去,ChatGPT等海外大模型受限于跨境政策和技術(shù)環(huán)境的制約,而以DeepSeek為代表的國產(chǎn)大模型則在知識儲備和推理能力方面不斷取得進步。特別是這些國產(chǎn)大模型基于開源協(xié)議(允許免費商用)以及本地化部署的創(chuàng)新應(yīng)用范式,成功填補了國內(nèi)醫(yī)院在私有化部署大模型方面的長期缺口,尤其能夠滿足中國及其他中低收入國家和地區(qū)的基層醫(yī)院對低成本解決方案的迫切需求。 文章提到,在醫(yī)療領(lǐng)域應(yīng)用AI大模型時,應(yīng)高度警惕因社會壓力而產(chǎn)生的技術(shù)焦慮。比如互聯(lián)網(wǎng)上關(guān)于“AI已達頂級醫(yī)院水平”的熱議引發(fā)了“技術(shù)落后恐懼癥”,促使部分醫(yī)療機構(gòu)在缺乏充分評估的情況下匆忙部署AI系統(tǒng)。此外,中國還面臨老齡化與數(shù)字化疊加的獨特挑戰(zhàn)。60歲以上人口已超過20%,而這部分人群的智能手機普及率高達80%,形成了“銀發(fā)群體依賴AI健康建議”的特殊場景。這一趨勢進一步放大了模型“幻覺”(如錯誤用藥指導(dǎo))所帶來的潛在危害,甚至于出現(xiàn)患者持AI建議質(zhì)疑醫(yī)生診斷的案例。 文章警示,當(dāng)AI創(chuàng)新技術(shù)以“近零成本”迅速滲透至大量基層醫(yī)院時,若缺乏成熟的臨床安全評估體系,容易導(dǎo)致“技術(shù)采用曲線”與“監(jiān)管成熟度曲線”的危險錯位,加劇潛在風(fēng)險。 破局之道:構(gòu)建三位一體的人機共治新框架 針對上述新情況和新問題,文章提出,應(yīng)從“單一技術(shù)評估”轉(zhuǎn)向“生態(tài)系統(tǒng)治理”,構(gòu)建以技術(shù)-臨床-政策三位一體的人機共治醫(yī)療AI安全框架:將醫(yī)療AI應(yīng)用分為“臨床決策支持”、“患者管理”、“科研教學(xué)”三大領(lǐng)域,并針對性設(shè)計評估指標(biāo),借鑒國際MedHELM臨床任務(wù)細分法,避免“一刀切”的監(jiān)管方式。 文章特別提到,應(yīng)探索建立以“多方協(xié)同共治網(wǎng)絡(luò)”為核心的醫(yī)療AI治理新模式,推動產(chǎn)學(xué)研醫(yī)各方深度聯(lián)動。例如,AI企業(yè)需主動開放模型訓(xùn)練數(shù)據(jù)清單,提升技術(shù)透明度;醫(yī)院需建立AI臨床效果日志,確保應(yīng)用留痕可溯;監(jiān)管部門應(yīng)動態(tài)更新醫(yī)療大模型白名單,形成“技術(shù)透明—使用留痕—風(fēng)險預(yù)警”的迭代閉環(huán)。 中國經(jīng)驗:全球醫(yī)療AI治理的重要前沿探索 文章認(rèn)為,DeepSeek在中國的實踐,本質(zhì)是一場關(guān)于“技術(shù)普惠”與“安全底線”的全球預(yù)演。當(dāng)開源技術(shù)打破了“AI 貴族化”壁壘,當(dāng)醫(yī)療場景的復(fù)雜性又倒逼技術(shù)加速迭代,中國案例清晰地揭示:醫(yī)療大模型的安全治理,不能停留在“避免明顯錯誤”的初級階段,而必須構(gòu)建涵蓋“技術(shù)可靠性、臨床適配性、社會接受度”等多維度的綜合評估體系。 正如文章所強調(diào),唯有讓“創(chuàng)新速度”與“治理精度”形成良性共振,才能真正實現(xiàn)希波克拉底誓言與算法代碼的深度融合。這不僅是中國醫(yī)療AI發(fā)展的必答題,也是全球數(shù)字醫(yī)療轉(zhuǎn)型的共同挑戰(zhàn)。 展望未來:以共建全球治理為目標(biāo) 以DeepSeek為代表的國產(chǎn)大模型在醫(yī)療領(lǐng)域的應(yīng)用實踐,是全球數(shù)字醫(yī)療轉(zhuǎn)型進程中的重要探索。這一實踐不僅展現(xiàn)了技術(shù)創(chuàng)新為醫(yī)療行業(yè)帶來的巨大潛力,也提醒全球醫(yī)療界,在快速發(fā)展的過程中,必須同步構(gòu)建科學(xué)、透明、可持續(xù)的治理體系。中國經(jīng)驗表明,只有在技術(shù)可靠性、臨床適配性與社會接受度之間實現(xiàn)動態(tài)平衡,醫(yī)療AI技術(shù)才能真正成為提升醫(yī)療服務(wù)質(zhì)量、保障人民健康的有力工具,助推全球醫(yī)療事業(yè)的可持續(xù)發(fā)展。 文章撰寫過程得到了新加坡國立大學(xué)醫(yī)學(xué)院覃宇宗教授、英國UCL的Pearse Keane教授以及清華萬科公共衛(wèi)生學(xué)院紀(jì)思翰教授等學(xué)者的支持幫助。此次在JAMA發(fā)表的觀點文章,不僅是對中國醫(yī)療AI應(yīng)用現(xiàn)狀的總結(jié),也為全球醫(yī)療AI治理提供了重要啟示。未來,隨著國際間在AI治理領(lǐng)域的深入合作,我們有理由相信,醫(yī)療人工智能將在全球范圍內(nèi)為人類健康福祉貢獻更大力量。
特別聲明:智慧醫(yī)療網(wǎng)轉(zhuǎn)載其他網(wǎng)站內(nèi)容,出于傳遞更多信息而非盈利之目的,同時并不代表贊成其觀點或證實其描述,內(nèi)容僅供參考。版權(quán)歸原作者所有,若有侵權(quán),請聯(lián)系我們刪除。
凡來源注明智慧醫(yī)療網(wǎng)的內(nèi)容為智慧醫(yī)療網(wǎng)原創(chuàng),轉(zhuǎn)載需獲授權(quán)。
智慧醫(yī)療網(wǎng) ? 2022 版權(quán)所有 ICP備案號:滬ICP備17004559號-5