打開手機(jī)掃描二維碼
即可在手機(jī)端查看
DeepSeek在中國(guó)的實(shí)踐,本質(zhì)是一場(chǎng)關(guān)于“技術(shù)普惠”與“安全底線”的全球預(yù)演。
4月,國(guó)際頂級(jí)醫(yī)學(xué)期刊JAMA首次發(fā)表了關(guān)于中國(guó)自主研發(fā)大模型DeepSeek在醫(yī)療領(lǐng)域應(yīng)用的觀點(diǎn)文章。
論文網(wǎng)站截圖
文章由清華大學(xué)副教務(wù)長(zhǎng)、醫(yī)學(xué)院院長(zhǎng)黃天蔭教授領(lǐng)銜,聯(lián)合清華大學(xué)醫(yī)學(xué)院曾典博士、秦義明博士,以及上海交通大學(xué)計(jì)算機(jī)科學(xué)與工程系盛斌教授共同撰寫。 該文章深入分析了DeepSeek在中國(guó)醫(yī)療場(chǎng)景中的迅速應(yīng)用,探討了“低成本開源AI創(chuàng)新”與“多元醫(yī)療需求”交匯下催生的技術(shù)熱潮,并關(guān)注由此帶來的監(jiān)管體系建設(shè)滯后問題。 作者指出,以DeepSeek為代表的國(guó)產(chǎn)大模型在醫(yī)療領(lǐng)域的探索,標(biāo)志著全球數(shù)字醫(yī)療轉(zhuǎn)型進(jìn)程中的一項(xiàng)重要里程碑。文章強(qiáng)調(diào),中國(guó)在醫(yī)療AI領(lǐng)域展現(xiàn)出的創(chuàng)新速度,正在促使全球重新思考如何在加速創(chuàng)新的同時(shí),確保醫(yī)療AI的安全落地與可持續(xù)發(fā)展。 文章圍繞醫(yī)療領(lǐng)域中人工智能的安全應(yīng)用,呼吁加快建立多維度、體系化的治理框架,強(qiáng)調(diào)在推動(dòng)技術(shù)創(chuàng)新的同時(shí),必須同步提升法律規(guī)范、倫理審查與風(fēng)險(xiǎn)管理能力,確保AI技術(shù)在醫(yī)療實(shí)踐中實(shí)現(xiàn)安全、可靠、可控的落地。這一倡議不僅回應(yīng)了國(guó)家對(duì)人工智能發(fā)展提出的新要求,也為全球醫(yī)療AI治理探索提供了中國(guó)經(jīng)驗(yàn)與中國(guó)方案。 國(guó)產(chǎn)大模型在醫(yī)療場(chǎng)景中的爆發(fā)式應(yīng)用 文章指出,以DeepSeek為代表的中國(guó)大模型在醫(yī)療領(lǐng)域的應(yīng)用潛力正呈現(xiàn)爆發(fā)式增長(zhǎng),這主要?dú)w功于中國(guó)在人工智能領(lǐng)域的創(chuàng)新,以及對(duì)政策和技術(shù)雙重壁壘的突破。過去,ChatGPT等海外大模型受限于跨境政策和技術(shù)環(huán)境的制約,而以DeepSeek為代表的國(guó)產(chǎn)大模型則在知識(shí)儲(chǔ)備和推理能力方面不斷取得進(jìn)步。特別是這些國(guó)產(chǎn)大模型基于開源協(xié)議(允許免費(fèi)商用)以及本地化部署的創(chuàng)新應(yīng)用范式,成功填補(bǔ)了國(guó)內(nèi)醫(yī)院在私有化部署大模型方面的長(zhǎng)期缺口,尤其能夠滿足中國(guó)及其他中低收入國(guó)家和地區(qū)的基層醫(yī)院對(duì)低成本解決方案的迫切需求。 文章提到,在醫(yī)療領(lǐng)域應(yīng)用AI大模型時(shí),應(yīng)高度警惕因社會(huì)壓力而產(chǎn)生的技術(shù)焦慮。比如互聯(lián)網(wǎng)上關(guān)于“AI已達(dá)頂級(jí)醫(yī)院水平”的熱議引發(fā)了“技術(shù)落后恐懼癥”,促使部分醫(yī)療機(jī)構(gòu)在缺乏充分評(píng)估的情況下匆忙部署AI系統(tǒng)。此外,中國(guó)還面臨老齡化與數(shù)字化疊加的獨(dú)特挑戰(zhàn)。60歲以上人口已超過20%,而這部分人群的智能手機(jī)普及率高達(dá)80%,形成了“銀發(fā)群體依賴AI健康建議”的特殊場(chǎng)景。這一趨勢(shì)進(jìn)一步放大了模型“幻覺”(如錯(cuò)誤用藥指導(dǎo))所帶來的潛在危害,甚至于出現(xiàn)患者持AI建議質(zhì)疑醫(yī)生診斷的案例。 文章警示,當(dāng)AI創(chuàng)新技術(shù)以“近零成本”迅速滲透至大量基層醫(yī)院時(shí),若缺乏成熟的臨床安全評(píng)估體系,容易導(dǎo)致“技術(shù)采用曲線”與“監(jiān)管成熟度曲線”的危險(xiǎn)錯(cuò)位,加劇潛在風(fēng)險(xiǎn)。 破局之道:構(gòu)建三位一體的人機(jī)共治新框架 針對(duì)上述新情況和新問題,文章提出,應(yīng)從“單一技術(shù)評(píng)估”轉(zhuǎn)向“生態(tài)系統(tǒng)治理”,構(gòu)建以技術(shù)-臨床-政策三位一體的人機(jī)共治醫(yī)療AI安全框架:將醫(yī)療AI應(yīng)用分為“臨床決策支持”、“患者管理”、“科研教學(xué)”三大領(lǐng)域,并針對(duì)性設(shè)計(jì)評(píng)估指標(biāo),借鑒國(guó)際MedHELM臨床任務(wù)細(xì)分法,避免“一刀切”的監(jiān)管方式。 文章特別提到,應(yīng)探索建立以“多方協(xié)同共治網(wǎng)絡(luò)”為核心的醫(yī)療AI治理新模式,推動(dòng)產(chǎn)學(xué)研醫(yī)各方深度聯(lián)動(dòng)。例如,AI企業(yè)需主動(dòng)開放模型訓(xùn)練數(shù)據(jù)清單,提升技術(shù)透明度;醫(yī)院需建立AI臨床效果日志,確保應(yīng)用留痕可溯;監(jiān)管部門應(yīng)動(dòng)態(tài)更新醫(yī)療大模型白名單,形成“技術(shù)透明—使用留痕—風(fēng)險(xiǎn)預(yù)警”的迭代閉環(huán)。 中國(guó)經(jīng)驗(yàn):全球醫(yī)療AI治理的重要前沿探索 文章認(rèn)為,DeepSeek在中國(guó)的實(shí)踐,本質(zhì)是一場(chǎng)關(guān)于“技術(shù)普惠”與“安全底線”的全球預(yù)演。當(dāng)開源技術(shù)打破了“AI 貴族化”壁壘,當(dāng)醫(yī)療場(chǎng)景的復(fù)雜性又倒逼技術(shù)加速迭代,中國(guó)案例清晰地揭示:醫(yī)療大模型的安全治理,不能停留在“避免明顯錯(cuò)誤”的初級(jí)階段,而必須構(gòu)建涵蓋“技術(shù)可靠性、臨床適配性、社會(huì)接受度”等多維度的綜合評(píng)估體系。 正如文章所強(qiáng)調(diào),唯有讓“創(chuàng)新速度”與“治理精度”形成良性共振,才能真正實(shí)現(xiàn)希波克拉底誓言與算法代碼的深度融合。這不僅是中國(guó)醫(yī)療AI發(fā)展的必答題,也是全球數(shù)字醫(yī)療轉(zhuǎn)型的共同挑戰(zhàn)。 展望未來:以共建全球治理為目標(biāo) 以DeepSeek為代表的國(guó)產(chǎn)大模型在醫(yī)療領(lǐng)域的應(yīng)用實(shí)踐,是全球數(shù)字醫(yī)療轉(zhuǎn)型進(jìn)程中的重要探索。這一實(shí)踐不僅展現(xiàn)了技術(shù)創(chuàng)新為醫(yī)療行業(yè)帶來的巨大潛力,也提醒全球醫(yī)療界,在快速發(fā)展的過程中,必須同步構(gòu)建科學(xué)、透明、可持續(xù)的治理體系。中國(guó)經(jīng)驗(yàn)表明,只有在技術(shù)可靠性、臨床適配性與社會(huì)接受度之間實(shí)現(xiàn)動(dòng)態(tài)平衡,醫(yī)療AI技術(shù)才能真正成為提升醫(yī)療服務(wù)質(zhì)量、保障人民健康的有力工具,助推全球醫(yī)療事業(yè)的可持續(xù)發(fā)展。 文章撰寫過程得到了新加坡國(guó)立大學(xué)醫(yī)學(xué)院覃宇宗教授、英國(guó)UCL的Pearse Keane教授以及清華萬科公共衛(wèi)生學(xué)院紀(jì)思翰教授等學(xué)者的支持幫助。此次在JAMA發(fā)表的觀點(diǎn)文章,不僅是對(duì)中國(guó)醫(yī)療AI應(yīng)用現(xiàn)狀的總結(jié),也為全球醫(yī)療AI治理提供了重要啟示。未來,隨著國(guó)際間在AI治理領(lǐng)域的深入合作,我們有理由相信,醫(yī)療人工智能將在全球范圍內(nèi)為人類健康福祉貢獻(xiàn)更大力量。
特別聲明:智慧醫(yī)療網(wǎng)轉(zhuǎn)載其他網(wǎng)站內(nèi)容,出于傳遞更多信息而非盈利之目的,同時(shí)并不代表贊成其觀點(diǎn)或證實(shí)其描述,內(nèi)容僅供參考。版權(quán)歸原作者所有,若有侵權(quán),請(qǐng)聯(lián)系我們刪除。
凡來源注明智慧醫(yī)療網(wǎng)的內(nèi)容為智慧醫(yī)療網(wǎng)原創(chuàng),轉(zhuǎn)載需獲授權(quán)。
智慧醫(yī)療網(wǎng) ? 2022 版權(quán)所有 ICP備案號(hào):滬ICP備17004559號(hào)-5