圖/視覺中國

面對非醫(yī)療信息“會(huì)越聊越歪”

醫(yī)生們對AI早已不陌生。2017年，國內(nèi)首批醫(yī)療AI產(chǎn)品以科研合作的方式進(jìn)入醫(yī)院，2018年起，這些產(chǎn)品陸續(xù)獲得國家藥監(jiān)局審批。截至今年5月底，國家藥監(jiān)局已批準(zhǔn)59個(gè)醫(yī)療AI輔診軟件上市。上海長征醫(yī)院放射診斷科主任劉士遠(yuǎn)曾表示，發(fā)展最為成熟的是肺結(jié)節(jié)和冠脈影像輔診兩類，骨科、腦科等AI輔診軟件還未被常規(guī)使用。

以心臟冠狀動(dòng)脈CT血管造影，即冠脈CTA為例，一名患者做一次檢查產(chǎn)生上百張圖片，醫(yī)生需要在其中找出血管是否出現(xiàn)狹窄、斑塊。AI能將每例圖像的處理時(shí)間從45分鐘縮短到5分鐘。

在引入臨床決策支持系統(tǒng)（以下簡稱CDSS）的醫(yī)院里，AI還能幫醫(yī)護(hù)作臨床決策。CDSS是一種綜合分析醫(yī)學(xué)知識(shí)和患者信息，為醫(yī)務(wù)人員臨床診療提供多種幫助的計(jì)算機(jī)輔助信息系統(tǒng)。2020年4至5月期間，國家衛(wèi)健委醫(yī)院管理研究所對全國31個(gè)省份的1013所醫(yī)療機(jī)構(gòu)調(diào)研，其中19.6％的醫(yī)院有CDSS。

但這些產(chǎn)品并未對提升醫(yī)生的診斷水平有太多幫助。多位受訪醫(yī)生、規(guī)培醫(yī)師告訴《中國新聞周刊》，由于科室收治病人種類相對固定，處理流程成熟，基本不會(huì)使用CDSS作參考，遇到不確定的問題會(huì)直接咨詢上級醫(yī)生或科室討論。并且，現(xiàn)在的CDSS還很“死板”，在自動(dòng)審查醫(yī)囑時(shí)，會(huì)對超說明書用藥“糾錯(cuò)”?！暗覀儠?huì)堅(jiān)持用藥?！币幻揍t(yī)院規(guī)培醫(yī)師說。

國家衛(wèi)健委衛(wèi)生發(fā)展研究中心副主任游茂7月在全國醫(yī)療器械安全宣傳周暨人工智能標(biāo)準(zhǔn)宣貫會(huì)上表示，當(dāng)前AI醫(yī)療領(lǐng)域的困境之一，在于技術(shù)發(fā)展同質(zhì)化嚴(yán)重，數(shù)據(jù)、算法的優(yōu)勢尚未得到體現(xiàn)。中國AI醫(yī)療器械95％的研究或產(chǎn)出都在醫(yī)學(xué)影像類，在“醫(yī)療機(jī)器人”“知識(shí)庫”“自然語言處理”等領(lǐng)域研究相對不足，關(guān)于“決策規(guī)則”的研究幾近空白。

“其實(shí)不是研究空白，是落地成產(chǎn)品有很多限制?！?一位研究醫(yī)療領(lǐng)域自然語言處理十年的高校學(xué)者告訴《中國新聞周刊》。她表示， X光機(jī)、CT設(shè)備、磁共振儀等影像類醫(yī)療器械是醫(yī)療機(jī)構(gòu)的硬需求，AI輔診軟件可搭載在影像設(shè)備上，相比處理文本數(shù)據(jù)的軟件更易進(jìn)入醫(yī)療機(jī)構(gòu)。另外，影像數(shù)據(jù)較診療文本數(shù)據(jù)更獨(dú)立，更易脫敏，且公開的圖像數(shù)據(jù)庫更多，而公開的高質(zhì)量診療文本數(shù)據(jù)十分有限，這使得在“自然語言處理”等領(lǐng)域研究不足。

ChatGPT的出現(xiàn)，讓企業(yè)看到大語言模型給AI問診帶來的新機(jī)會(huì)。

醫(yī)聯(lián)創(chuàng)始人兼CEO王仕銳表示，醫(yī)聯(lián)此前也開發(fā)了包括口腔影像識(shí)別、精神科DTx數(shù)字療法等醫(yī)療AI類產(chǎn)品，但無法實(shí)現(xiàn)AI全流程診療?！爱?dāng)時(shí)遇到一個(gè)無法逾越的鴻溝——自然語義的識(shí)別?！蓖跏虽J說，大語言模型推出前，雖然知識(shí)圖譜等技術(shù)也能實(shí)現(xiàn)人機(jī)對話，但對話機(jī)器人的推理、上下文理解能力還不足，并難以做到普通人語言與醫(yī)學(xué)術(shù)語間的語義轉(zhuǎn)換。

MedGPT從今年1月開始研發(fā)，5月推出，參數(shù)達(dá)千億級別，定位是突破“人問機(jī)答”模式，能像真人醫(yī)生一樣主動(dòng)多輪詢問患者癥狀等信息，推斷患者可能患病的類型，并開具檢驗(yàn)檢查單?；颊咻斎霗z查數(shù)據(jù)后，AI可繼續(xù)讀取數(shù)據(jù)，并給出治療方案。

目前，MedGPT還未對公眾開放。參與內(nèi)測的凌肯用了一小時(shí)和MedGPT互動(dòng)，拋出的問題包括麻醉是否會(huì)影響患者智商，甲狀腺功能亢進(jìn)患者的完整診斷等。凌肯告訴《中國新聞周刊》，MedGPT問得很詳細(xì)，回復(fù)也較真人醫(yī)生更加親和，“但遠(yuǎn)遠(yuǎn)沒到取代醫(yī)生的地步”。

他解釋道，體驗(yàn)過程中最突出的問題是，MedGPT不能很好地接收非醫(yī)療信息。若模擬真實(shí)看診過程中患者向醫(yī)生傾訴家庭情況等非醫(yī)療信息， MedGPT還做不到提煉其中的核心信息，“會(huì)越聊越歪”。王仕銳表示，患者的語言可以不夠簡潔，但只有回答AI提出的醫(yī)療問題，AI才能給出準(zhǔn)確回應(yīng)。

相比之下，春雨醫(yī)生布局更謹(jǐn)慎。5月，春雨醫(yī)生將大模型在線問診產(chǎn)品春雨慧問開放。不同于MedGPT開檢查單、給診斷，慧問在較少輪次問詢后會(huì)告知患者癥狀可能對應(yīng)的多種疾病及對策，之后，以“如果您情況比較嚴(yán)重，建議您及時(shí)就醫(yī)，尋求專業(yè)醫(yī)生的幫助”為結(jié)束語。

“就像自動(dòng)駕駛，很難一上來就做到完全自動(dòng)駕駛，但我們是不是可以有自動(dòng)停車、輔助倒車功能？這些功能本身也很好用，研發(fā)難度會(huì)低很多，對使用安全性的要求也會(huì)低很多。”對于暫時(shí)不做精準(zhǔn)診斷和治療方案的原因，春雨CTO曾柏毅解釋說。

曾柏毅坦言，慧問更像是春雨在探索大模型運(yùn)用場景過程中的一個(gè)實(shí)驗(yàn)品，定位并不明確，“我們也想看市場里面用戶到底想要什么，愿意怎樣使用AI問診產(chǎn)品，會(huì)對AI提什么樣的問題?！焙笈_(tái)數(shù)據(jù)顯示，從5月上線到7月底，共有5000多人使用慧問，其中5％左右在使用過程中轉(zhuǎn)向了向真人醫(yī)生求助。曾柏毅稱，春雨在開發(fā)詢問過程更加詳細(xì)的AI問診產(chǎn)品，計(jì)劃用于真人醫(yī)生問診場景。

醫(yī)療大語言模型的另一落地模式是直接與醫(yī)院合作，和線下診療過程相結(jié)合。商湯智能產(chǎn)業(yè)研究院院長田豐對《中國新聞周刊》介紹，商湯與鄭州大學(xué)第一附屬醫(yī)院、上海交通大學(xué)醫(yī)學(xué)院附屬新華醫(yī)院合作，醫(yī)療大語言模型“大醫(yī)”的參數(shù)從十億到千億不等，已使用在一些醫(yī)院的隨訪過程中。田豐表示，基于大模型的隨訪系統(tǒng)比傳統(tǒng)的AI電話隨訪機(jī)器人，有更強(qiáng)理解力、更人性化的交互和更全面的信息收集能力。

7月6日，上海世博展覽館，2023世界人工智能大會(huì)上的中山眼科中心AI+醫(yī)療展區(qū)。圖/視覺中國

最難獲取的是真實(shí)的問診數(shù)據(jù)

如何讓問診AI少出錯(cuò)甚至不出錯(cuò)，是所有研發(fā)團(tuán)隊(duì)要解決的首要難題。

大語言模型的本質(zhì)是通過統(tǒng)計(jì)分析預(yù)測對話中可能的下一個(gè)詞，存在生成不準(zhǔn)確或誤導(dǎo)信息的可能性，但在嚴(yán)格要求準(zhǔn)確性的醫(yī)療領(lǐng)域，AI的錯(cuò)誤也意味著患者將承受風(fēng)險(xiǎn)。

2021年，密歇根大學(xué)醫(yī)學(xué)院研究人員發(fā)現(xiàn)，由美國電子健康記錄公司Epic Systems 研發(fā)的敗血癥AI預(yù)警系統(tǒng)沒能識(shí)別出67％的敗血癥住院患者，只識(shí)別出7％被醫(yī)生遺漏的敗血癥患者。Epic公司稱，漏檢與系統(tǒng)閾值有關(guān)，需要設(shè)置一個(gè)平衡患者假陰性與假陽性的警報(bào)閾值。

高質(zhì)量數(shù)據(jù)是保證準(zhǔn)確性的基礎(chǔ)。醫(yī)療大語言模型會(huì)被額外“投喂”醫(yī)學(xué)書籍、臨床診療指南、醫(yī)學(xué)論文等專業(yè)知識(shí)。其中最重要、也最難獲取的是優(yōu)秀的真實(shí)問診數(shù)據(jù)，既包括頂級專家對該疾病的診斷記錄，也包括患者身體特征、檢測數(shù)據(jù)、家族史、環(huán)境信息等多維度的信息，同時(shí)，還需要覆蓋各年齡層、性別、地域的患者。

多位受訪專家和從業(yè)者表示，已有問診數(shù)據(jù)尚不能完全滿足研發(fā)需求。國家遠(yuǎn)程醫(yī)療與互聯(lián)網(wǎng)醫(yī)學(xué)中心醫(yī)學(xué)人工智能專家委員會(huì)主任委員、呼吸病學(xué)專家劉國梁告訴《中國新聞周刊》，即使能收集到目前醫(yī)院的臨床數(shù)據(jù)，其質(zhì)量也未達(dá)到能夠用于AI訓(xùn)練的水平，需要專門去生產(chǎn)符合AI訓(xùn)練標(biāo)準(zhǔn)的臨床問診數(shù)據(jù)。

更多的臨床經(jīng)驗(yàn)可能未被記錄成文本?！疤貏e是疑難病領(lǐng)域，很多知識(shí)是在醫(yī)生腦子里，甚至醫(yī)院里面可能也沒有，都是口口相傳?！痹匾阏f。

王仕銳介紹說，醫(yī)聯(lián)共使用三類真實(shí)問診數(shù)據(jù)，包括公開數(shù)據(jù)、醫(yī)聯(lián)獨(dú)有的問診數(shù)據(jù)，以及通過搭建專門的數(shù)據(jù)平臺(tái)收集的數(shù)據(jù)。對于第三類數(shù)據(jù)，醫(yī)聯(lián)從協(xié)會(huì)、醫(yī)院、專家處采集，“這一過程好像將石油從地底勘察并最終加工運(yùn)輸?shù)接拖?，中間有漫長且復(fù)雜的工序?！?/p>

前述高校學(xué)者強(qiáng)調(diào)，數(shù)據(jù)質(zhì)量對研究非常重要，但前提是要保障數(shù)據(jù)安全。對數(shù)據(jù)的采集、篩選必須建立在保護(hù)數(shù)據(jù)安全的基礎(chǔ)上，個(gè)人信息脫敏，保護(hù)患者隱私是首要步驟。醫(yī)聯(lián)、春雨醫(yī)生和商湯均表示對數(shù)據(jù)進(jìn)行了脫敏處理，并在使用前取得了患者同意。

除了數(shù)據(jù)，模型設(shè)計(jì)也能提升醫(yī)療AI的準(zhǔn)確率。田豐說，商湯成立了一支近百人的醫(yī)學(xué)專家團(tuán)隊(duì)，參與數(shù)據(jù)標(biāo)注、模型訓(xùn)練及測試，保證AI能夠完成多輪問診、不回答患者非醫(yī)療問題等。商湯還訓(xùn)練了一套“智能評判系統(tǒng)”，對大語言模型輸出的答案進(jìn)行評判，讓模型輸出更符合臨床專業(yè)要求以及人類價(jià)值觀的回答。

不過，再怎樣調(diào)試醫(yī)療AI，其本身存在一定局限性。劉國梁認(rèn)為AI與真人醫(yī)生最根本的差異在于，二者在診療過程中的原則可能不相同。目前尚不能確定AI在診斷時(shí)，是以患者生命長度為重要衡量，還是以更好的生命質(zhì)量為先，抑或根本與人類福祉無關(guān)。一名優(yōu)秀的醫(yī)生能夠在關(guān)注患者治療方案的同時(shí)，照顧其情緒、花費(fèi)、家庭情況，目前醫(yī)療AI還難以做到。

另外，醫(yī)療AI主要依靠患者的問診數(shù)據(jù)，缺少查體過程。一方面，軀體類疾病可能會(huì)影響患者的感覺，使其表述出來的感受與病情嚴(yán)重程度不相符；另一方面，不同疾病也有相似癥狀，只靠詢問很難得到準(zhǔn)確結(jié)果。

北京大學(xué)人民醫(yī)院骨科主任醫(yī)師薛峰告訴《中國新聞周刊》，很多醫(yī)學(xué)問題尚未有明確答案，許多醫(yī)生也是依靠經(jīng)驗(yàn)，達(dá)不到100％的準(zhǔn)確率，更何況依靠人類經(jīng)驗(yàn)來進(jìn)行推理的AI，“現(xiàn)階段讓它來看病只是作為一種咨詢、一種輔助，最后判斷還是要交給真人醫(yī)生，AI還需持續(xù)學(xué)習(xí)和調(diào)優(yōu)”。

多位受訪從業(yè)者、專家均表示，AI并不可以、也不可能取代醫(yī)生，不應(yīng)有處方權(quán)。一旦涉及診斷、開處方，必須有真人醫(yī)生參與其中，否則就會(huì)面對“AI看病看錯(cuò)了，到底是AI負(fù)責(zé)，還是AI開發(fā)公司負(fù)責(zé)，抑或是購入AI產(chǎn)品的醫(yī)院或醫(yī)生負(fù)責(zé)”的難題。當(dāng)AI與醫(yī)生意見不符合，比如患者希望按照AI建議做非常昂貴，但醫(yī)保不報(bào)銷的檢查，醫(yī)生覺得沒有必要時(shí)，也可能出現(xiàn)倫理問題。

據(jù)《華爾街日報(bào)》今年6月報(bào)道，在加州大學(xué)戴維斯分校醫(yī)學(xué)中心腫瘤科，護(hù)士梅麗莎·畢比和癌癥患者打了15年交道。當(dāng)AI預(yù)警系統(tǒng)提示她的一名患者有敗血癥時(shí)，她確信警報(bào)是錯(cuò)的——因?yàn)锳I不知道，白血病患者也會(huì)表現(xiàn)出類似敗血癥的癥狀。

按照醫(yī)院規(guī)定，畢比可以在獲得醫(yī)生批準(zhǔn)后推翻AI的診斷，但如果她錯(cuò)了，她將面臨處分。最后，她只好按照AI的診斷給病人抽血檢查，即使這可能會(huì)讓病人進(jìn)一步感染，也會(huì)讓其治療費(fèi)用更高。

未來臨床實(shí)踐將怎樣保證醫(yī)生參與監(jiān)管AI？薛峰表示有兩種設(shè)想：一是仍然由醫(yī)生負(fù)責(zé)開處方，AI只負(fù)責(zé)前期詢問及信息收集；二是由AI開處方，但醫(yī)生需要審核治療方案，至少保證藥物無害并簽字，若出現(xiàn)問題，仍由簽字醫(yī)生負(fù)責(zé)。

全新的三方關(guān)系

6月末，醫(yī)聯(lián)在成都舉行了一場“雙盲實(shí)驗(yàn)”，讓MedGPT與10位四川華西醫(yī)院的主治醫(yī)生一起對120余位患者進(jìn)行診斷，來評測AI與真人醫(yī)生的一致性，最后由多位專家對91份有效病例審核。劉國梁與薛峰都參與了此次審核，二人表示MedGPT的效果比預(yù)期稍高，沒有出現(xiàn)太大錯(cuò)誤，但也存在一些問題。

薛峰表示，MedGPT在面對復(fù)雜病情時(shí)的問診邏輯還很簡單。他解釋說，每一種疾病往往會(huì)有一組癥狀，單一癥狀對應(yīng)的疾病可能有幾十種、上百種，而患者在表達(dá)主訴時(shí)往往只會(huì)說到其中一兩個(gè)最嚴(yán)重的癥狀。做排除診斷時(shí)，真人醫(yī)生能夠不斷就可能的關(guān)聯(lián)癥狀進(jìn)行提問，最后根據(jù)患者回答作甄別，而MedGPT在關(guān)聯(lián)不同癥狀的全面性上還有不足。

王仕銳稱，醫(yī)聯(lián)的下一步除了提高準(zhǔn)確率，還會(huì)整合多模態(tài)能力，彌補(bǔ)不能進(jìn)行查體的缺陷。比如給MedGPT“裝眼睛”，以視頻方式做運(yùn)動(dòng)軌跡識(shí)別，解決骨科查體難題。谷歌在7月末推出新的通用生物醫(yī)療AI模型Med-PalM M，除了回答醫(yī)療問題，Med-PalM M還可檢查X光圖像，甚至掃描 DNA 序列是否存在突變。

擺在問診AI面前的問題，還有監(jiān)管。此前，國家藥監(jiān)局器審中心發(fā)布的《人工智能醫(yī)療器械注冊審查指導(dǎo)原則(征求意見稿)》等文件規(guī)定，基于醫(yī)療器械數(shù)據(jù)、使用人工智能技術(shù)實(shí)現(xiàn)其預(yù)期用途的醫(yī)療器械，需要經(jīng)藥監(jiān)局審批上市。醫(yī)療器械數(shù)據(jù)包含圖像數(shù)據(jù)、生理參數(shù)、體外診斷數(shù)據(jù)等，電子病歷、醫(yī)學(xué)檢查報(bào)告的結(jié)果文本等屬于非醫(yī)療器械數(shù)據(jù)。

以MedGPT為例，雖然主要依靠患者主訴信息，但是也會(huì)給患者開檢查報(bào)告，基于血糖、血壓等數(shù)據(jù)來推薦治療方案。王仕銳表示，在當(dāng)下的監(jiān)管體系中難以界定其是否屬于醫(yī)療器械，對此類新型產(chǎn)品，相關(guān)部門可能會(huì)有新的監(jiān)管框架。

7月13日，國家聯(lián)合六部門公布《生成式人工智能服務(wù)管理暫行辦法》（下稱《辦法》）?！掇k法》自2023年8月15日起施行，其中提到鼓勵(lì)生成式AI創(chuàng)新發(fā)展，并要求“具有輿論屬性或者社會(huì)動(dòng)員能力”的產(chǎn)品，向公眾提供服務(wù)前，需開展安全評估，并履行算法備案?；谏墒紸I的問診產(chǎn)品是否要申請安全評估和算法備案，多家企業(yè)說法不一。前述學(xué)者表示，該《辦法》為醫(yī)療AI設(shè)定了合法合規(guī)的框架，但針對醫(yī)療AI的監(jiān)管如何實(shí)施，標(biāo)準(zhǔn)如何制定，《辦法》還未明確。

“標(biāo)準(zhǔn)化最關(guān)鍵的、最本質(zhì)的目的就是建立最佳秩序。”該學(xué)者說，為創(chuàng)新產(chǎn)品制定標(biāo)準(zhǔn)是一個(gè)緩慢的過程，到底怎么定、定多高需要不斷摸索。多位受訪從業(yè)者都表示從研發(fā)到進(jìn)入臨床，醫(yī)療大語言模型還有很長一段路走，但也都認(rèn)可AI一定是未來醫(yī)療格局的一分子。

AI可以使醫(yī)療模式轉(zhuǎn)向社區(qū)化、家庭醫(yī)生化。薛峰表示，門診中90％以上都是常見病，可以通過家庭醫(yī)生來解決，但目前醫(yī)療資源并不均衡，三甲醫(yī)院與基層醫(yī)院醫(yī)療水平相差過大，導(dǎo)致患者對社區(qū)醫(yī)院不信任。

薛峰說，若AI成為面向患者的家庭醫(yī)生，患者通過預(yù)先咨詢AI，可為醫(yī)療機(jī)構(gòu)減輕負(fù)擔(dān)，同時(shí)也增加對病情的初步了解，找準(zhǔn)看病方向?！斑@樣的醫(yī)療模式有助于醫(yī)療規(guī)范化，減少過度醫(yī)療或醫(yī)療欺騙?！毖Ψ逭f。

在面向醫(yī)生的場景中，AI的作用可以更多。多位受訪專家表示，AI可以成為助手，幫助醫(yī)生學(xué)習(xí)疑難雜癥的前沿治療方案，減少誤診率，亦可參與醫(yī)學(xué)培訓(xùn)，幫助年輕醫(yī)生及醫(yī)學(xué)能力不足的基層醫(yī)生成長。美國波士頓的一家醫(yī)療機(jī)構(gòu)已開始使用ChatGPT來培訓(xùn)規(guī)培生。“因?yàn)獒t(yī)學(xué)訓(xùn)練有時(shí)候不存在對錯(cuò)，而是鍛煉醫(yī)生的思維方式、結(jié)果解讀、溝通等，可以（用AI）單獨(dú)去訓(xùn)練這些能力。”劉國梁說。

更直接的可能性是AI能使醫(yī)生從文書的工作中獲得解放。浙江某三甲醫(yī)院的一名規(guī)培醫(yī)師告訴《中國新聞周刊》，接收新病人時(shí)會(huì)花費(fèi)不少時(shí)間寫首程診斷。今年2月開始，他嘗試讓ChatGPT幫他寫鑒別診斷，“因?yàn)橛袝r(shí)候診斷都很明確了，還要絞盡腦汁去想鑒別診斷也挺煩。我會(huì)直接把問題拋給ChatGPT，告訴它我想寫某兩種疾病的簡潔診斷，它會(huì)給我列出好幾點(diǎn)?！?/p>

未來醫(yī)療到底會(huì)怎樣，微軟全球資深副總裁彼得·李與兩位合著者在《超越想象的GPT醫(yī)療》中描繪了一種新的醫(yī)患關(guān)系：傳統(tǒng)醫(yī)學(xué)中醫(yī)生與患者是一對雙向關(guān)系，但現(xiàn)在我們應(yīng)該轉(zhuǎn)向一種全新的三方關(guān)系，而AI是這個(gè)三角關(guān)系的第三支柱。

作者：董慧