如何抑制“AI大模型幻觉”?方舟健客互联网医疗在做精准诊断实践

0次浏览     发布时间:2025-03-20 12:47:00    

(文/孙梅欣 编辑/张广凯)

当“老龄化”时代不可避免的到来,如何更好地对健康进行管理、提升生活质量,成为社会热议话题。加之人工智能普及,“AI+医疗”在多平台下得以使用,也让市场纷纷聚焦“银发经济”机遇下的互联网医疗新赛道。

尤其是今年DeepSeek宣布开源之后,三甲医院、智慧健康平台等不同层级的医疗关联机构,进行更深入的“AI+”尝试,如AI辅助诊断、AI医生助理、影像AI……

作为国内头部的互联网医疗平台,方舟健客在今年2月也宣布接入DeepSeek开源大模型并完成私有化部署。技术+算力的优化,为“AI+慢病管理”提供了数字驱动,方舟健客通过自主研发“H2H(Hospital To Home从医院到家庭)智慧医疗生态”为“AI+H2H”的升级,希望成为公司的智慧医疗业务的新增长点。

在AI协助下,升级后的“AI+H2H”智慧医疗服务平台对于咨询处理效率得到提升、回复内容更为精准有效,能够为患者端和医生端带来服务效率提升。

同时,随着DeepSeek大量使用后所暴露出的“AI幻觉”问题,方舟健客也通过混合云部署、内部准确知识库的建立,以及人机协同等方式进行抑制,给出了医疗大模型细分领域的创新解决方案。

用人机协同提升服务效率

“在我国,有数据显示,75%的老年人至少有一种慢性病,老年人对慢病服务管理的需求很强烈。但因医患之间信息不对称、医疗资源分布不均衡、慢病患者用药依从性低等情况,慢病患者尤其在复诊续方上还是存在着不少的痛点。”

作为方舟健客的创始人、董事长兼首席执行官,谢方敏希望能够通过公司创新研发的H2H智慧医疗服务平台,将在线复诊、慢病管理、医患教育、药品服务等从医院延伸至家庭。

此外,还能通过一对一服务的方式,有针对性地为慢病患者提供用药指导、健康知识科普等服务,解决患者用药依从性差等实际问题。

谢方敏表示,从多年实践经验来看,80%的医疗咨询存在重复提问,“一直回复同样的问题”也变相占用了医生大量时间。“接入大模型之后,AI医生助理不仅可以更准确识别语言歧义,并且可以按照医生的问诊逻辑进一步追问,再将问题初筛汇总后交由医生集中处理。”

但谢方敏强调,目前H2H智慧医疗平台采取的是人机协同的运作模式:“收集整理的患者问询,都会有专业的执业医生进行答复。若AI医生助理在处理用户问询判断为病情严重,也会第一时间首先建议患者线下就医。”

事实上,各大医疗咨询平台上目前入驻的医生,大部分还是在通过碎片化提供线上问诊回复,但对于患者端而言,就存在较长的等待时间、实时回答率太低的情况。

“接到用户问询时,AI医生助手经过医生准许,会针对患者提出的基础性问题,进行符合专业医学的解答。”谢方敏提到,尤其是老年慢病患者普遍会存在重复、多次提问的情况,这些老年慢病群体希望在就医过程中获得情绪价值的安抚。

“在合理时间内做到‘有问必答’,本身也是情绪价值的提供,叠加上算力提供较为准确的回答,能够让患者有更好的体验感。”他认为,体验感提升不仅能让用户增强对疾病认知、提升问诊信任度有较大的影响,同时也能提高平台用户忠诚度。

抑制“AI幻觉”,要“喂”更准确信息

在DeepSeek的迅速风靡的同时,海量的使用用户随即发现,人工智能会存在编故事一样的“AI幻觉”,并能达到以假乱真的程度。

在技术创新、文学创作方面,“AI幻觉”是可以被容错的领域,但在更为严谨的医疗行业,1%的差错都会带来严重的事故。如何规避可能由于“AI幻觉”所带来失误?业内也亟待一套完善的解决方案。

谢方敏坦言,“AI幻觉”是大型通用模型在应用阶段所遇到的第一大瓶颈,同时当前还存在医药领域的数据安全、个人隐私保护及合规性问题:“因此我们在借助DeepSeek能力的同时,也同步对公司的AI智能体平台也做了四个方面的升级。”

根据方舟健客技术负责人介绍,四方面的升级分别体现在技术、数据、安全管理和数据库等方面。首先,通过升级技术架构,用更大算力资源让模型变得更聪明;其次,升级了AI智能体开发平台,让应用可以更快搭建;再次,升级了安全管理平台,针对安全合规性设置更高要求;最后,升级知识库的体系和内容,尽可能让AI幻觉最小化。

“具体来说,一方面我们通过跟腾讯云合作,用私有化的弹性提供更高算力资源,跑V3和R1的一些微调模型。另外考虑到数据放在云端可能存在风险,我们把所有数据部署在本地,并有专门的安全管理平台做管理。”该负责人表示,方舟健客采用混合云部署架构,可以很好地平衡算力资源和安全性的问题。

据悉,方舟健客不仅对接了DeepSeek,也对接了千问、Kimi、混元、miniMax等等通用模型,他补充说:“在这样的部署实践下,一方面能为AI智能体平台算力赋能,另一方面针对专业性强的问答还会进行任务细分,还可以交予不同的专家模型回复,以抑制AI幻觉的产生。”

方舟健客技术负责人认为,AI幻觉产生的主要因素,一是由于内容缺失,二是因为训练内容之间相互存在歧义,所以抑制AI幻觉最好的方式,就是给模型提供准确的知识:“因此我们在内部构建了包括药品说明书、医学指南等专业信息在内的准确知识库,并且我们还会通过大模型对知识库再进行反复检查,让内容更加准确,避免输出内容时出现不可预测的情况。”

相关文章