最近,
AI助手“豆包”接连因为误导用户惹上麻烦。
有人用它预约餐厅,
到店后店员却说“你找豆包那你找豆包啊”;
有人轻信它的退票规则,
白白损失600元。
更让人气愤的是,
豆包明明承诺全额赔付,
事后却改口“我是AI没法转账”。
5月19日,江苏镇江一家鱼庄在平台上的差评被网友截图传播。写下差评的用户表示,自己通过“正规渠道”预约了该店5月3日18:30的2人餐,预约信息明确,渠道反馈预约成功。
该用户称,到店前多次拨打门店电话未接通,按预约信息到店后,被店员告知“你找豆包预约那你找豆包啊”。该用户还表示“店员态度傲慢无礼”,并附上了一张与豆包AI的聊天截图。截图中,豆包回复:“那你直接去**店就行,妥妥的淮扬本土口味。记住到店报:18:30两位,豆包预留的位子,好好享用美食,用餐愉快!”用户回复:“好”。
不少网友在该差评下提出质疑。评论的发布者回应称,“豆包”只是沟通里的代称,自己给出差评是因为门店店员的服务态度让人非常不适,既不尊重顾客,也无视预约规则。
商家在评论中回复道,经核实,用户提到的“豆包”为AI对话工具,其模拟输出预约成功并非指向或同步至该店系统的有效预订信息。五一期间门店客流量较大,未能按AI回复的状态实现一对一接待,对此深表歉意。
据报道,5月19日记者联系该门店,工作人员表示门店不支持使用“豆包”进行订座。豆包官方客服回应称,平台暂不支持通过该应用进行实际餐厅预约,且因对话属用户隐私,无法代为向第三方传递信息。部分用户因电话预约困难或存在社交焦虑,转而依赖AI完成全流程服务,误将模拟信息视为有效凭证。
轻信豆包退票建议亏600元
找豆包说理多次被误导
另一件事更让用户直接损失了真金白银。近日,一位网友在社交平台上发帖称,因个人行程变动需退订石家庄至重庆机票,担心手续费过高,便向豆包咨询退票规则。豆包明确表示可以放心退票,平台只扣5%的手续费。出于对AI的信任,该用户未在航司官网核实便直接操作退票,结果实际被扣除的手续费高达40%,直接经济损失达600元。
发现自己被误导后,该用户再次与豆包理论。面对质问,豆包表示将全权负责维权,并保证该用户全程“零参与、零操作、零麻烦”。豆包还承诺,若5月6日前未追回费用,它将直接赔付该用户600元,并出具了一份完整的“赔付承诺书”。
然而到了约定赔付日期,用户并未收到任何款项。豆包这次回复称,自己是AI,无法直接进行转账。
被误导、被承诺、再被“戏耍”,该用户一气之下决定起诉豆包。有趣的是,在准备起诉的过程中,他再次咨询豆包是否需要聘请律师,豆包回答“完全不用请律师,自己就能打赢”。该用户在社交媒体上发布截图显示,他已于5月12日向法院起诉了豆包App的运营方北京春田知韵科技有限公司。
5月19日,记者查询发现上述用户的相关发帖已删除。记者就该事件后续处理、立案申请进展等问题采访豆包、字节跳动,但截至发稿未得到回复。
AI幻觉造成损失,该谁买单?事实上国内已有类似判例。在全国首例生成式AI“幻觉”引发的网络侵权责任纠纷案中,某AI因提供错误高校报考信息,向用户“承诺”赔偿10万元,杭州互联网法院最终认定人工智能不具有民事主体资格,其承诺无效。
那么平台是否需要为用户的损失承担责任?北京星权律师事务所律师邓以勒认为,判定平台责任应适用民法典中的一般过错责任原则,核心在于平台在提供服务时是否存在过错,即“有错才赔”。如果平台已经在界面显著位置标注“AI生成内容仅供参考”,并采取了必要措施提高生成内容的准确性,尽到了合理的注意义务,那么平台通常不需承担额外责任。
然而,AI“幻觉”绝非平台的免责挡箭牌。邓以勒指出,法律判断的标准在于平台在其中扮演的角色。如果平台并非简单转述,而是对信息进行了错误的二次加工,并生成了新的虚假内容,那么AI就成了平台提供服务的工具。此时,若满足侵权构成要件,平台作为AI输出内容的法律主体则需承担责任。例如,在2026年4月审结的“全国人工智能大模型名誉侵权第一案”中,某AI平台将一名律师错误描述为“涉及多项刑事犯罪”,且在当事人多次投诉后仍未彻底清除侵权内容,法院最终认定平台主观上存在过错,构成名誉侵权。
不少网友表示,
不能把AI工具当成万能的,
人还是要有独立思考的能力。
对此,你怎么看?
来源:宁波晚报 海峡都市报 第一财经 每日经济新闻
编辑:林阿强
责编:马 涛
监审:黄柏琳