當下，以DeepSeek大模型為代表的人工智能（AI）技術(shù)正在加速重構(gòu)醫(yī)療生態(tài)。在今年全國兩會上，如何推動人工智能技術(shù)在醫(yī)療領(lǐng)域穩(wěn)健落地、如何有效防范潛在風(fēng)險等成為代表委員們關(guān)注的話題。筆者認為，在推動大模型賦能醫(yī)療智能決策中，需要研究和解決面臨的倫理風(fēng)險。
2024年11月，國家衛(wèi)生健康委、國家中醫(yī)藥局、國家疾控局聯(lián)合印發(fā)《衛(wèi)生健康行業(yè)人工智能應(yīng)用場景參考指引》，對醫(yī)學(xué)影像智能輔助診斷、臨床專病智能輔助決策等領(lǐng)域提出了分場景、分層次的應(yīng)用規(guī)范。各大醫(yī)院正在加速部署人工智能大模型。其中，DeepSeek作為國產(chǎn)大模型的代表，憑借多模態(tài)分析和大規(guī)模數(shù)據(jù)處理能力，被應(yīng)用于醫(yī)學(xué)影像閱片、病歷質(zhì)控、臨床輔助決策等多個環(huán)節(jié)。據(jù)不完全統(tǒng)計，全國已有20多個省份的100多家醫(yī)院實現(xiàn)DeepSeek本地化部署。
在推動大模型賦能醫(yī)療智能決策過程中，面臨的倫理風(fēng)險需要厘清和解決。
其一，數(shù)據(jù)安全與患者隱私保護壓力持續(xù)上升。大模型需要運用大量患者信息進行訓(xùn)練與推斷，這些數(shù)據(jù)往往來源于電子病歷、檢驗檢測報告及醫(yī)學(xué)影像，一旦在傳輸或存儲環(huán)節(jié)監(jiān)管不力，就可能帶來隱私泄露風(fēng)險。
其二，大模型在醫(yī)療領(lǐng)域具有較強的“黑箱”特征。雖然DeepSeek等人工智能在診斷速度與準確率上取得進步，但它們常常無法向醫(yī)生或患者詳細展示推斷過程。一旦遇到疑難病例或出現(xiàn)偏差，臨床醫(yī)生若難以追溯模型決策的邏輯基礎(chǔ)，就會影響最終的診療效果，并且給醫(yī)患溝通帶來障礙。
其三，責(zé)任歸屬與風(fēng)險分擔問題依舊模糊。人工智能在現(xiàn)階段常以輔助決策形式介入醫(yī)療流程，理論上并非獨立診療主體。若對其建議過于倚重，一旦出現(xiàn)漏診或誤診情況，究竟由醫(yī)院、臨床醫(yī)生還是技術(shù)提供方承擔責(zé)任，缺乏明確的法律框架予以指引。
其四，行業(yè)監(jiān)管與持續(xù)評價不足也為醫(yī)療智能決策埋下隱患。盡管多項場景化要求已經(jīng)在《衛(wèi)生健康行業(yè)人工智能應(yīng)用場景參考指引》中提出，但不同地區(qū)、不同醫(yī)療機構(gòu)的具體落地標準存在較大差異。國家藥監(jiān)局對人工智能醫(yī)療器械上市前審批嚴格，但對于人工智能模型上線后的更新迭代、適應(yīng)證擴展等環(huán)節(jié)尚缺乏細化監(jiān)管。
針對這些問題，應(yīng)構(gòu)建明確的倫理標準，厘清醫(yī)療智能決策的倫理邊界。應(yīng)按照科技部等10個部門于2023年9月聯(lián)合印發(fā)的《科技倫理審查辦法（試行）》的相關(guān)要求，參考世界衛(wèi)生組織于2024年發(fā)布的《衛(wèi)生領(lǐng)域人工智能的倫理與治理：多模態(tài)大模型指南》的建議，制定大模型驅(qū)動的醫(yī)療智能決策倫理指南，由醫(yī)生、法律專家、生成式人工智能開發(fā)人員等共同組成的倫理委員會對其進行審查。
為確?；颊叱浞至私馊斯ぶ悄茉\療方案，應(yīng)建立明確的患者知情同意機制。在應(yīng)用DeepSeek等大模型進行診療之前，醫(yī)務(wù)人員應(yīng)當事先告知患者人工智能輔助決策的方式、診斷依據(jù)及可能存在的不確定性。同時，應(yīng)當允許患者參與決策制定過程，并有權(quán)選擇是否接受決策結(jié)果。
在界定醫(yī)療智能決策出現(xiàn)事故時的責(zé)任時，需要結(jié)合我國現(xiàn)有的醫(yī)療損害責(zé)任體系。若醫(yī)療機構(gòu)或醫(yī)務(wù)人員在使用人工智能過程中操作或管理不當導(dǎo)致患者受損害，應(yīng)由醫(yī)療機構(gòu)承擔過錯責(zé)任；如果損害是由醫(yī)療智能自身程序瑕疵或設(shè)計缺陷引起的，設(shè)計者和生產(chǎn)者應(yīng)承擔無過錯的產(chǎn)品瑕疵責(zé)任。在司法實踐中，可以傾向于責(zé)任的證明分配，將缺陷的存在、缺陷與損害之間的因果關(guān)系的證明責(zé)任分配給設(shè)計者、生產(chǎn)者或醫(yī)療機構(gòu)。
此外，為保障患者合法權(quán)益，可考慮推行“智能醫(yī)療保險”制度，以分散醫(yī)療損害賠償風(fēng)險，并及時補償受害人損失。開發(fā)者、制造商、所有者（醫(yī)療機構(gòu)）等通過多種方式支付費用，確保醫(yī)療智能決策法律責(zé)任的支付來源。
針對智能決策中可能出現(xiàn)的醫(yī)療數(shù)據(jù)泄露，需進一步加強對患者信息保護。涉及患者個人信息的數(shù)據(jù)披露必須經(jīng)過患者同意和匿名化處理，并確保數(shù)據(jù)傳輸和處理在受控環(huán)境中進行。
另外，要促進醫(yī)療智能決策的可持續(xù)性。監(jiān)管機構(gòu)需加強對大模型在醫(yī)療決策中應(yīng)用過程的監(jiān)督，定期抽查診斷精準度，并要求醫(yī)療機構(gòu)展開定期自查，及時化解出現(xiàn)的新風(fēng)險。應(yīng)幫助醫(yī)生了解醫(yī)療智能決策的基本原理、方法、實際應(yīng)用場景，并加強倫理教育，防止醫(yī)生對人工智能形成過度依賴。
良術(shù)需要善治，良器需有“良芯”。人工智能與醫(yī)生不是取代關(guān)系，而是共同守護“治病救人”的醫(yī)療初心。對于大模型在醫(yī)療決策中給出的新證據(jù)、新論斷要持“審慎驗證、充分研判”的態(tài)度，方能使其行穩(wěn)致遠，助力健康中國建設(shè)再上新臺階。
特別聲明：智慧醫(yī)療網(wǎng)轉(zhuǎn)載其他網(wǎng)站內(nèi)容，出于傳遞更多信息而非盈利之目的，同時并不代表贊成其觀點或證實其描述，內(nèi)容僅供參考。版權(quán)歸原作者所有，若有侵權(quán)，請聯(lián)系我們刪除。
凡來源注明智慧醫(yī)療網(wǎng)的內(nèi)容為智慧醫(yī)療網(wǎng)原創(chuàng)，轉(zhuǎn)載需獲授權(quán)。
智慧醫(yī)療網(wǎng) ? 2022 版權(quán)所有 ICP備案號：滬ICP備17004559號-5
