我是一名急诊医生：以下是AI初创企业在“远程医疗聊天机器人”方面所犯的错误。

由Josh Tamayo-Sarver博士讲解

远程健康爆炸增长似乎是人工智能的一个巨大机遇。但同时也是一个巨大风险。（原文发表于FastCompany。）

作为一名实践中的急诊医生，我对类似ChatGPT这样的语言模型在医疗保健方面的潜力感到非常兴奋。我已经将它用作我某些患者的沟通工具，并有时通过给ChatGPT提供详细的患者症状提示，生成一些我尚未考虑到的可能的诊断。

作为一家卫生科技初创企业的兼职顾问，然而，我越来越担心硅谷的许多人将LLM的能力与医学实践相混淆，特别是远程医疗方面。

拜登总统于去年一月签署了一项综合预算法案，延长了患者预约和保险覆盖的远程医疗灵活性，有效期至2024年12月31日。假设保险公司继续遵循相同政策，我们还有大约一年的时间来实现远程医疗的承诺。

这对于像ChatGPT这样的程序来说，可能看起来是一个光辉的机会。由于疫情的原因，远程护理/远程医疗现在已经成为标准程序，大约有四分之一的患者预约是通过远程方式进行的。那么，为什么不将一个智能语言模型（LLM）整合到远程治疗过程中，作为一个通过文本与患者交流的虚拟护士执业医师呢？事实上，已经有一些初创企业基本上以这个使用案例为基础。

在COVID时代远程治疗了成千上万的患者后，我应该详细而生动地解释远程治疗是多么糟糕的主意。

往往情况是如此，我经常为病人提供远程医疗时感觉他们把这个预约看作是UberEats外卖，期望立即得到特定的治疗结果。而且情况变得越来越糟：病人正在积极推动增加更多的虚拟医疗选择，系统也在做出响应。

患者们更倾向于远程预约是可以理解的。然而，对他们来说，这种极为便捷的方式可能会导致医患关系的普遍贬值，甚至滥用，尽管对于我们医生和我们的员工来说并非如此。

仅举几个最近的远程卫生体验为例：

• 我在电话中见过几个明显患心脏病发作的远程医疗病人 — 出汗，呼吸困难，抱怨胸口疼痛 — 但仍然希望我能以某种方式远程照顾他们。
• 一个父母曾经与我安排了一次远程健康咨询，目的是检查她那位正在尖叫的2岁孩子，因为她把一锅沸水倾倒在自己头上，导致严重烧伤。当我为她启动911急救服务时，她感到非常愤怒。
• 无法数清我进行过多少次远程医疗约诊，患者们都希望我们缺乏稳定的关系能够让他们说服我，比如说他们的狗真的把所有的芬太尼贴片都吃掉了，他们只是需要补充。

现在想象一下，如果像ChatGPT这样的程序被注入到这样的患者情境中，随之而来的滥用将会是如何的。

在我的患者中，绝大部分人通过远程医疗预约来解决真实的需求。核心问题在于，当我只能远程看到他们时，很容易解决患者所陈述的需求，但通常很难找出问题的根源，并实现从交易到治疗的转变。

很多与LLM相关的初创企业常常忽略了这个区别。如果一个应用程序使用了由GPT驱动的聊天机器人来订购披萨，消费者的要求是明确无误的；“我想要一份有绿椒的大号意大利辣香肠披萨，其中一半加了绿椒”就是指这个意思。

相反，如果远程健康患者告诉我他们因为突发的背痛而需要止痛药，因为这让他们头晕，他们实际上可能需要紧急进行血管外科手术来修补腹主动脉瘤。或者他们可能需要泌尿科医生治疗肾结石。或者他们可能需要肿瘤科医生治疗由癌症引起的病理性脊椎骨折。或者他们可能需要戒毒辅导。或者他们可能只需要止痛药。

除了将LLM（Legal Language Model）融入医疗护理关系所面临的挑战之外，我还担心远程医疗的交易性质已经在削弱医生对希波克拉底誓言及其承诺的忠诚，即对待整个患者而不仅仅是治疗特定疾病。在人类医生的工作主要是检查由人工智能给出的诊断的未来中，这个历经千年的誓言是否能生存下来？

我们正在与时间赛跑，以便再次正确回答这些问题 - 同样，针对远程医疗访问的账单灵活性将在2024年底到期。

我相信这足够的时间来反复研究如何最好地将人工智能应用到流程中。一个非常有前途的可能性是利用由LLM驱动的聊天机器人，在患者预约开始之前与他们互动。如果经过适当的培训，这将是一个非常宝贵的时间节省者，可以收集相关的患者信息，同时标记潜在的问题。

如果我们可以证明以LLM为动力的远程医疗对患者更好，并对医务提供者更具成本效益，那么很可能会看到国会呼吁延长这些远程医疗账单灵活性的要求。

为了我的同行医生们，我衷心希望这一切能够发生。经过三年努力，通过模糊的视频通话来辨认我们患者真正的需求，我们迫切需要一种更好的方法。

阅读他的之前的帖子关于大型语言模型/ChatGPT。

• 作为紧急科医生，当我请ChatGPT为患者进行诊断时，以下是我发现的情况。
• 我认为LLMs可能塑造医学的未来，好的或坏的都有可能。
• 这里是我已经在如何使用ChatGPT来帮助治疗病人。