“生病了問(wèn)AI”，出錯(cuò)了怎么辦？
AI醫(yī)療現(xiàn)狀調(diào)查
今年3月，一名“95后”新手家長(zhǎng)面對(duì)孩子反復(fù)咳嗽發(fā)熱的癥狀，在手機(jī)端用AI問(wèn)診判定孩子為“普通呼吸道感染”，并參考網(wǎng)絡(luò)建議居家用藥，致病情延誤。最終，孩子被醫(yī)院確診為病毒感染肺炎。醫(yī)生指出AI問(wèn)診存在一定風(fēng)險(xiǎn)，應(yīng)以專業(yè)醫(yī)療意見(jiàn)為準(zhǔn)。
此事引發(fā)網(wǎng)絡(luò)熱議。AI癌癥早篩、AI肺結(jié)核診斷、AI手術(shù)機(jī)器人、AI導(dǎo)診機(jī)器人……近年來(lái)，AI技術(shù)已在門(mén)診導(dǎo)診、臨床輔助診斷、疾病管理等環(huán)節(jié)廣泛應(yīng)用，尤其是今年年初DeepSeek的問(wèn)世，更是掀起了一股“生病了問(wèn)AI”的熱潮。但也有不少人反映，AI醫(yī)療并沒(méi)有想象中那么靠譜，看錯(cuò)病、看不出病的情況時(shí)有發(fā)生。
對(duì)于AI醫(yī)療，輿論場(chǎng)也涌現(xiàn)出更多的追問(wèn)，比如：AI醫(yī)療是否會(huì)影響到醫(yī)生的地位？如果AI診斷錯(cuò)誤，誰(shuí)來(lái)負(fù)責(zé)？如何保護(hù)普通人的醫(yī)療數(shù)據(jù)隱私？如何讓AI醫(yī)療發(fā)展更快、應(yīng)用更廣？
AI醫(yī)療只是輔助手段
“AI醫(yī)療可以提升醫(yī)療服務(wù)的效率，已經(jīng)在疾病預(yù)測(cè)、健康管理、影像識(shí)別等領(lǐng)域表現(xiàn)出色，能夠?yàn)榛颊咛峁┹^為精準(zhǔn)的醫(yī)療服務(wù)?！敝袊?guó)衛(wèi)生法學(xué)會(huì)副會(huì)長(zhǎng)鄭雪倩向記者介紹，在基層或缺乏專家資源的邊遠(yuǎn)貧困地區(qū)，可以通過(guò)AI進(jìn)行初步篩查，并為醫(yī)生提供提示或診斷參考，從而優(yōu)化醫(yī)療資源分配、推動(dòng)分級(jí)診療政策落地、提升基層醫(yī)療服務(wù)能力。
正因AI醫(yī)療彰顯出諸多優(yōu)勢(shì)和巨大潛力，“AI會(huì)不會(huì)搶醫(yī)生飯碗？”“AI醫(yī)生看病爆火”“AI看病比三甲醫(yī)院醫(yī)生還準(zhǔn)”……在最近關(guān)于AI醫(yī)療的網(wǎng)絡(luò)討論中，相關(guān)話題頻繁出圈?！爱?dāng)DeepSeek給出了和主任醫(yī)師一樣的診斷，以后是否還有必要去醫(yī)院？”近期，這樣的疑問(wèn)也出現(xiàn)在了醫(yī)患對(duì)話中。
記者采訪了多位一線醫(yī)務(wù)工作者，他們均不反對(duì)患者使用“AI問(wèn)診”。但對(duì)“‘AI問(wèn)診’的結(jié)果是否靠譜”“能否作為診療依據(jù)”等問(wèn)題，受訪醫(yī)生都抱著謹(jǐn)慎態(tài)度。他們普遍認(rèn)為，“AI問(wèn)診”存在局限，只能作為一種輔助手段，并不能替代醫(yī)生。
北京市某社區(qū)衛(wèi)生服務(wù)中心的全科大夫周醫(yī)生坦言，在基層醫(yī)療機(jī)構(gòu)平日里遇到疑難雜癥的情況不多，更多的是高血壓、糖尿病、心臟病等慢性病的老年患者，AI在慢性病隨訪、慢性病管理上還缺少些“人情味兒”。
“以預(yù)問(wèn)診AI為例，有老年患者反映，他有幾個(gè)晚上睡不好覺(jué)導(dǎo)致頭疼、心慌，AI就有可能把所有有頭疼癥狀的病都列給醫(yī)生，其中絕大多數(shù)是無(wú)效信息?！敝茚t(yī)生說(shuō)，疾病的診斷是一個(gè)模糊決策，尤其是在社區(qū)這種基層醫(yī)療機(jī)構(gòu)，看病的基本是“老熟人”，往往需要醫(yī)生綜合病史、癥狀等多種信息、根據(jù)經(jīng)驗(yàn)縮小范圍下診斷，AI目前在這方面還不夠成熟。
“AI醫(yī)療是人工智能在醫(yī)療領(lǐng)域的應(yīng)用，即通過(guò)大數(shù)據(jù)的分析學(xué)習(xí)，建模，來(lái)輔助或優(yōu)化醫(yī)生在看病治療以及健康管理環(huán)節(jié)的一項(xiàng)技術(shù)應(yīng)用?！痹谥袊?guó)衛(wèi)生法學(xué)會(huì)常務(wù)理事、北京市華衛(wèi)律師事務(wù)所副主任鄧?yán)麖?qiáng)看來(lái)，AI醫(yī)療通過(guò)機(jī)器的學(xué)習(xí)建模進(jìn)行數(shù)據(jù)的分析，讓AI反復(fù)學(xué)習(xí)的確可以幫助識(shí)別病癥，但這種建模本身有數(shù)據(jù)庫(kù)的問(wèn)題，再加上無(wú)法把醫(yī)生的診療經(jīng)驗(yàn)揉到建模里，所以這種智能診斷不可能完全取代醫(yī)生。
“AI問(wèn)診缺乏人文情感交流，AI開(kāi)方無(wú)人審核，還可能出現(xiàn)誤診、誤治和AI醫(yī)療的法律主體不明確等問(wèn)題。因此，AI醫(yī)療應(yīng)當(dāng)始終定位于醫(yī)生的輔助工具。”鄭雪倩說(shuō)。
持謹(jǐn)慎態(tài)度劃定紅線
隨著AI醫(yī)療在全國(guó)逐步落地，一場(chǎng)醫(yī)療領(lǐng)域的巨大變革正在發(fā)生。僅今年2月以來(lái)，就有不少醫(yī)院發(fā)布其最新應(yīng)用成果。
比如，上海瑞金醫(yī)院發(fā)布瑞智病理大模型，AI僅需數(shù)秒就能精準(zhǔn)識(shí)別病理切片中的病灶區(qū)域；北京協(xié)和醫(yī)院研發(fā)的“協(xié)和·太初”罕見(jiàn)病大模型已進(jìn)入臨床應(yīng)用階段；上海市肺科醫(yī)院參與研發(fā)的肺部智能手術(shù)規(guī)劃系統(tǒng)，將實(shí)際手術(shù)規(guī)劃時(shí)間從數(shù)天縮短至2到5分鐘……
雖然有多項(xiàng)成果問(wèn)世，但對(duì)于AI醫(yī)療，不僅是醫(yī)生，相關(guān)部門(mén)也保持謹(jǐn)慎態(tài)度。記者梳理公開(kāi)資料發(fā)現(xiàn)，目前針對(duì)AI醫(yī)療已出臺(tái)多項(xiàng)限制性措施：湖南省醫(yī)保局發(fā)布通知，禁止使用AI自動(dòng)生成處方，以維護(hù)醫(yī)?；鸢踩突颊邫?quán)益；北京禁用AI自動(dòng)生成處方，并成立了互聯(lián)網(wǎng)診療監(jiān)管平臺(tái)；國(guó)家衛(wèi)健委和國(guó)家中醫(yī)藥局聯(lián)合發(fā)布的《互聯(lián)網(wǎng)診療監(jiān)管細(xì)則(試行)》明確規(guī)定，人工智能不得替代醫(yī)師本人提供診療服務(wù)……
“這些政策和規(guī)定表明，我國(guó)在AI醫(yī)療領(lǐng)域已經(jīng)開(kāi)始劃定紅線，以確保技術(shù)應(yīng)用的安全性和倫理性?！编嵮┵徽f(shuō)，醫(yī)療安全底線包括：處方紅線，即AI不得自動(dòng)生成處方，醫(yī)生必須對(duì)診療行為負(fù)責(zé)；倫理紅線，即AI應(yīng)用需遵循醫(yī)學(xué)倫理，確保患者隱私保護(hù)、數(shù)據(jù)安全和公平性；技術(shù)紅線即AI技術(shù)需經(jīng)過(guò)嚴(yán)格的臨床驗(yàn)證，確保其在實(shí)際醫(yī)療環(huán)境中的有效性和安全性。
受訪專家明確，即便有AI的輔助，醫(yī)生仍是最后把關(guān)人，如果醫(yī)生利用AI診療出現(xiàn)誤診、漏診等醫(yī)療事故，最終還是由醫(yī)生承擔(dān)責(zé)任。
鄧?yán)麖?qiáng)認(rèn)為，由于AI醫(yī)療存在較多法律風(fēng)險(xiǎn)和合規(guī)挑戰(zhàn)，這才讓相關(guān)部門(mén)對(duì)AI醫(yī)療的態(tài)度如此謹(jǐn)慎。
“醫(yī)療數(shù)據(jù)涉及患者的個(gè)人隱私，哪些數(shù)據(jù)可以向研發(fā)AI醫(yī)療的企業(yè)開(kāi)放并未有明確規(guī)定，而且直接針對(duì)醫(yī)療數(shù)據(jù)開(kāi)放的法律法規(guī)尚未出臺(tái)，無(wú)法對(duì)數(shù)據(jù)按照統(tǒng)一技術(shù)標(biāo)準(zhǔn)進(jìn)行清洗處理；對(duì)AI誤診的責(zé)任界定和相應(yīng)法律糾紛的處理辦法同樣存在爭(zhēng)議；目前國(guó)內(nèi)醫(yī)療數(shù)據(jù)共享不足且缺乏標(biāo)準(zhǔn)規(guī)范，制約著AI醫(yī)療產(chǎn)業(yè)的發(fā)展……”鄧?yán)麖?qiáng)說(shuō)，正因有諸多問(wèn)題亟待解決，所以醫(yī)療保守絕不是落后，恰恰是對(duì)生命的負(fù)責(zé)。
應(yīng)平衡創(chuàng)新加強(qiáng)監(jiān)管
AI醫(yī)療，今后如何才能更好地發(fā)展？
鄧?yán)麖?qiáng)說(shuō)，應(yīng)平衡AI醫(yī)療技術(shù)創(chuàng)新與合規(guī)監(jiān)管關(guān)系。要強(qiáng)化全流程的資質(zhì)審查機(jī)制，即針對(duì)AI醫(yī)療和AI處方各個(gè)環(huán)節(jié)的主體都必須有診療的資質(zhì)，這是不能突破的底線。應(yīng)強(qiáng)化企業(yè)的自律與誠(chéng)信機(jī)制的建立，開(kāi)發(fā)和使用AI醫(yī)療的企業(yè)都必須依法合規(guī)。需要明確AI醫(yī)療產(chǎn)品的注冊(cè)、審批、使用和退出流程，并加強(qiáng)對(duì)算法透明度、公平性、隱私保護(hù)等關(guān)鍵維度的評(píng)估與監(jiān)管。
鄭雪倩建議，應(yīng)建立倫理審查機(jī)制，確保AI技術(shù)在醫(yī)療領(lǐng)域的應(yīng)用符合倫理道德要求。還要鼓勵(lì)社會(huì)各界對(duì)AI醫(yī)療技術(shù)進(jìn)行監(jiān)督和評(píng)價(jià)，形成全社會(huì)共同參與的監(jiān)管格局。加大處罰力度，提高違法成本，構(gòu)建更有效的法律威懾體系。加大正向宣傳引導(dǎo)，提高醫(yī)生和患者對(duì)AI技術(shù)的接受度是實(shí)現(xiàn)技術(shù)普及的關(guān)鍵。
2025中關(guān)村論壇年會(huì)期間，AI醫(yī)療成為與會(huì)專家熱議話題。與會(huì)專家建議，加強(qiáng)監(jiān)管與倫理指導(dǎo)，制定嚴(yán)格的數(shù)據(jù)安全和隱私保護(hù)政策，設(shè)立醫(yī)療AI倫理委員會(huì)。同時(shí)，提高模型透明度，發(fā)展可解釋AI技術(shù)，使大語(yǔ)言模型在醫(yī)療決策時(shí)能夠提供推理過(guò)程。例如在腫瘤診斷中，AI需指出影像特征依據(jù)，而不是只給結(jié)論，還要設(shè)定合理的使用范圍。大語(yǔ)言模型適用于醫(yī)學(xué)教育、輔助決策和信息檢索，但不應(yīng)直接用于關(guān)鍵診斷或治療決策，最終決策仍需由專業(yè)醫(yī)生作出。
“醫(yī)療從業(yè)人員的確應(yīng)該積極擁抱發(fā)達(dá)的技術(shù)，但技術(shù)對(duì)行業(yè)本身的沖擊以及它是否能實(shí)現(xiàn)有溫度的醫(yī)療，也是我們行業(yè)的引領(lǐng)者所需要思考的。我們期待的是，行業(yè)參與者冷靜思考的心和職業(yè)情懷，可以讓技術(shù)成為幫手，而不是讓患者的醫(yī)療安全受到影響。”鄧?yán)麖?qiáng)說(shuō)。
本報(bào)記者 趙麗
本報(bào)實(shí)習(xí)生 陳穎