看着这个AI奶奶把骗子耍得团团转，可把我高兴坏了

硅星人Pro

2024-11-18 09:38发布于北京

全文2429字，阅读约需7分钟，帮我划重点

划重点

01英国电信公司O2推出反诈AI奶奶Daisy，主动与骗子进行通话，消耗骗子的时间。

02Daisy基于定制训练的大型语言模型构建，工作原理与ChatGPT Voice相似。

03然而，Daisy并不直接提供给O2用户使用，担心用户利用其对诈骗者进行报复行动。

04除此之外，Daisy已列入诈骗者常用的易骗号码列表，24小时不间断地与来电者互动。

05诈骗手法不断升级，人类的判断力永远是最后的防线。

以上内容由腾讯混元大模型生成，仅供参考

图片

作者 | 发现明日产品的APPSO

来源 | APPSO（ID：appsolution）

你好，骗子，我是你的噩梦。
眼前这位慈眉善目的奶奶叫 Daisy。它没有真人的躯体，却是一个反诈 AI 高手。
与传统的反诈宣传不同，Daisy 不会苦口婆心地提醒你谨防上当受骗，而是从源头抓起，与骗子打交道。
天上不会掉馅饼，但骗子会给你扔一个诱饵。
打造 Daisy 的初衷在于，要用骗子的执着消耗骗子的时间，减少后者「扔诱饵」的机会，从而更好地保护其他潜在的受害者。
应了那句话，真正的反诈胜利不是打败骗子，而是让诈骗变得不划算。

由 APPSO 简单编译

1

与其教会一个人防骗，不如浪费一个骗子的时间

Daisy 的幕后开发者源自一家英国的电信公司 O2。

与 Vodafone、EE 和 Three 并列，O2 是英国四大老牌电信运营商之一。O2 的内部研究显示，67% 的英国人担心成为诈骗受害者，四分之一的人每周都会遭遇不同程度的诈骗。
面对诈骗分子的兴风作浪，O2 也很头疼。
于是他们想出了一个妙招，那就是打造出一个 AI 奶奶——Daisy，并让其主动出击，与骗子进行最高可达 40 分钟的通话。
方法有些舍己为人，但却又很实用，毕竟折腾完骗子，这样骗子就没有时间去诈骗别人了。
图片
Daisy 的角色设定是一位慈祥的老奶奶，映照到现实生活，老年人也恰恰是诈骗分子最常针对的下手群体。
在官方发布的演示 demo 中，Daisy 会跟电话那头的骗子唠唠家常，绘声绘色地分享她的爱好——编织毛衣，聊聊家里可爱的猫等等。
无它，通话时间拖得越久越好。
当涉及银行卡账号/密码等要紧信息时，这位 AI 奶奶还会凭空杜撰，主打一个句句有回应，事事没着落，睁着眼睛说瞎话。
O2 欺诈部门主管 Murray Mackenzie 杀人诛心地指出，Daisy 的作用在于，她彻底扭转了与骗子的博弈态势。
「我们通过让他们一直在线上，巧妙地在他们的『游戏』中击败并超越了他们。」
图片
在 Daisy 之前，其实也有不少类似的工具诞生。
据外媒 The Guardian 报道，澳洲麦考瑞大学团队也曾研发了一个专门和电信诈骗骗子「聊天」的 AI 机器人 Apate。
当澳洲警方辨析并拦截了电信诈骗电话，他们就会转接给这位「受害者机器人」。
图片
创作者 Kafaar 也曾经透露过 Apate 的诞生故事。他和两个孩子在外面野餐时，给诈骗来电者讲了一个笑话。
之后，他因此受到启发，开始思考如何用无意义的闲聊来消耗骗子的时间，从而阻止他们去欺骗更多的人。
我当时想，这样做的目的是欺骗骗子，浪费他们的时间，这样他们就不能和其他人通话了。
Apate 还拥有几百个不同的身份，有的假装懵懵懂懂，有的就跟老人家一样讲话爱重复，主要就是为了不被骗子认出身份。
简言之，与其教会一个人防骗，不如浪费一个骗子的时间。

1

技术在升级，人类的判断力永远是最后的防线

AI 的飞速发展为 Daisy 的诞生提供了一个绝佳的契机。

Daisy 基于定制训练的大型语言模型（LLM）构建，其工作原理与 Google Gemini Live 或早期版本的 ChatGPT Voice 相似。
简单来说，AI 会转录来电者的声音，接着这位 AI 奶奶会根据预设的角色性格来调整回答的风格和内容，最后再次转换成 AI 奶奶的声线：
1.
转录语音为文本：将捕捉到的声音转换成文本的过程称为「转录」。这样，Daisy 可以理解来电者所说的内容，并准备相应的回应。
2.
生成回应：Daisy 使用一个定制的大型语言模型（LLM）来生成回应。这个模型不仅能够理解文本信息，还能够根据上下文和预设的角色性格层（character personality layer）生成合适的回答。
3.
角色性格层：「角色性格层」是指 Daisy 在生成回应时，会根据预设的角色性格来调整回答的风格和内容，使其更符合角色设定，比如像一个奶奶那样亲切和耐心。
4.
文本转语音：生成的文本回应需要再次转换成语音，以便 Daisy 可以通过电话与来电者进行交流。这个过程也就是「文本转语音」（TTS），Daisy 使用一个定制的 AI 模型来完成这一步。
图片
并且，在训练的过程中，Daisy 还得到了一位 YouTube 博主 Jim Browning 的帮助。
该博主在 YouTube 上拥有 400 万+ 粉丝，是该平台最具影响力的反诈骗者之一。他的视频不只是展示诈骗手法，还会通过详细的技术分析和实例，来揭示整个诈骗产业的运作方式。
毕竟，最了解你的人永远是你的敌人，骗子也不例外。
而在 Daisy 与骗子对话的整个流程，由于从听取声音、转录文本、生成回应到文本转语音都是实时进行，所以几乎没有明显的延迟。
不过，Daisy 并不直接提供给 O2 的用户使用。
原因很简单，O2 担心用户利用它对诈骗者进行报复行动。其内部研究表明，71% 的英国人有过想要报复那些诈骗他们或他们亲人的骗子的念头。
此外，据外媒 techspot 报道称，这个 AI 工具已经被列入诈骗者常用的易骗号码列表。Daisy 能够在 24 小时不间断地与来电者互动，且无需人工干预。
图片
但问题是，现在的骗子分两种，一种是不懂 AI 的，一种是懂 AI 的。
前不久，初创公司 Bland AI 在 X 平台宣称，在大模型的加持下，其产品将成为全球最快的对话式 AI，且可以在没有「幻觉」的情况进行沟通。
另外，Bland AI 机器人还拥有极其自然的生成式语音、以及多种语言切换。
除了擅长模仿人类真实对话的语调、停顿，在外媒 WIRED 的技术测试中，Bland AI 机器人甚至可以否认自己是 AI，并谎报其真实身份。
包括 APPSO 此前只用了 10 秒的时间就能 0 成本进行声音克隆。
在 AI 技术的增益之下，这些工具都能轻而易举地被不法分子反过来欺骗我们。
吊诡的是，电话一头连着 AI 骗子，电话一头连着 AI Daisy，一个捧哏，一个逗哏，双方无限循环。懂行的人都知道，这里面的道行有多深。
而更早些时候，智能电话系统已经相当完善。
只需向服务商提出需求，后者就能快速搭建管理平台。用户通过简单的界面操作，就能设置话术、模板、通讯线路等参数，导入联系人信息后即可启动自动外呼功能。
图片
为此，国内手机厂商也在这方面做出了不少努力。比如，国内大多数手机系统提供智能识别和拦截伪基站的功能。
并且，你还可以在来电拦截设置中，开启「在线识别陌生号码」功能，让系统更准确地识别并拦截骚扰电话。
诈骗本质上是一场筛选游戏，骗子不在乎失败 999 次，他们只需要成功 1 次。
被骗了，一切归零。
诚然，诈骗手法千变万化，但下面这条来自官方的反诈公式永不过时。
「人物（陌生人）+沟通（各种通信工具，反正就是见不到面的）+要求（转账汇款，反正就是谈钱的）=诈骗。」
在 AI 时代，骗子和反诈技术都在升级，而人类的判断力永远是最后的防线。
查看原图 116K