危险！男子让AI看病，中毒了
以前大家经常说“不要在网上乱搜医疗建议”，而在人工智能时代，又出现了一种新风险：让AI提供医疗建议。
不久前《内科医学年鉴·临床病例》（Annals of Internal Medicine: Clinical Cases）报道了一起神奇的病例——有人因为听信 AI，把自己吃成了“溴中毒”。这位患者来到医院急诊时，主诉是“被邻居下毒了”，而后医生还得知，他平日不吃很多食物，连外来的水也不放心喝。住院24小时后，他甚至出现了幻听幻视等症状，最终被当作精神病收进医院。这是怎么回事？用药后，患者冷静下来，医生才问出真实情况。原来，由于他特别害怕吃到对身体有害的食物，已经造成身体缺乏多种维生素，最近，他又在网上看到了“食盐有害身体”的文章，开始进一步了解和研究。他想到，食盐的化学成分是氯化钠，但为什么文献都在关注钠对身体的伤害，没人关注氯呢？超市只能买到低钠盐，为什么买不到低氯盐呢？难道氯对身体没有一点害处吗？能不能不摄入氯呢？由于网上没有相关的资料，他转而询问了ChatGPT，结果 AI 给出了“非常具有可操作性”的建议：用溴来代替氯。令人没有想到的是，他真的照做了。溴，元素符号 Br，在周期表上位于氯的正下方，是普通人不太容易接触到的一种元素。大概一百年前，溴被认为拥有镇静效果，因此很多非处方药物里含有溴盐，用以治疗失眠、焦虑等症状。然而，要是一不小心吃多了，就会引发运动失调和各种幻觉，严重的可以导致昏迷、厌食及便秘等症状。为什么会这样呢？溴和氯都是卤族元素，最外层都是 7 个电子，化学性质很相似，在简单的化学反应里确实可以相互代替。因此，人体摄入溴离子后，它也会“冒充”氯离子去参与各种生化反应。但是一旦反应真的开始，它就露馅了：神经系统的正常运行非常依赖氯离子，如果氯离子被溴离子顶替，神经系统遭到的破坏也将十分严重。当然，人体可以排出体内的溴离子，但速度较慢，如果持续摄入含溴的食物或者药物，溴可以逐渐积累，造成更大伤害。历史上，溴中毒一度占到了精神病院住院人数的 8%。
没想到，因为AI的建议，这位患者产生了“溴中毒”症状。如此说来，虽然这个病例本身是罕见的奇葩，但它却反映了更广泛的现象：“聊天机器人精神病”（Chatbot psychosis），也称“ AI 精神病”。这个词语形容的是，用户在和AI聊天的过程中产生或者加剧了精神病症状。一个非常典型的场景是，用户相信某种阴谋论，AI 没有否定反而迎合并鼓励用户，并且幻觉出支持这一阴谋论的各类证据，导致用户深陷其中，日常生活和社交濒临崩溃，甚至采取极端行为。为了提升用户的使用体验，在生成式AI的时代，不管是什么样的想法，AI都能给提供支持。因此，作为普通用户，一定要有一双善于甄别的眼睛，莫要因为轻信AI，付出惨痛的代价。
微信编辑：桃子
本文来源：科普中国