眼前这位慈眉善目的奶奶叫Daisy。它没有真人的躯体,却是一个反诈AI高手。
与传统的反诈宣传不同,Daisy不会苦口婆心地提醒你谨防上当受骗,而是从源头抓起,与骗子聊些家长里短的话题,不断消耗骗子的耐心。
天上不会掉馅饼,但骗子会给你扔一个诱饵。
应了那句话,真正的反诈胜利不是打败骗子,而是让诈骗变得不划算。
Daisy的幕后开发者源自一家英国的电信公司O2。
与Vodafone、EE和Three并列,O2是英国四大电信运营商之一。O2的数据显示,67%的英国人表示担心成为诈骗的受害者,四分之一的人每周都会遭遇不同程度的诈骗。
面对诈骗分子的兴风作浪,O2也很头疼。
于是他们想出了一个妙招,那就是打造出一个AI奶奶——Daisy,并让其主动出击,与骗子进行最高可达40分钟的通话。
Daisy的角色设定是一位慈祥的老奶奶,映照到现实生活,老年人也恰恰是诈骗分子最常针对的下手群体。
当涉及银行卡账号/密码等要紧信息时,这位AI奶奶还会凭空杜撰,主打一个句句有回应,事事没着落,睁着眼睛说瞎话。
O2欺诈部门主管MurrayMackenzie杀人诛心地指出,Daisy的作用在于,她彻底扭转了与骗子的博弈态势。「我们通过让他们一直在线上,巧妙地在他们的「游戏」中击败并超越了他们。」
实际上,在Daisy之前,也已经有不少类似的工具诞生。
据外媒TheGuardian报道,澳洲麦考瑞大学团队也曾研发了一个专门和电信诈骗骗子「聊天」的AI机器人Apate。
创作者Kafaar也曾经透露过Apate的诞生故事。
Apate还拥有几百个不同的身份,这些身份各自带有不同的口音,有不同的个性,有的假装懵懵懂懂,有的就跟老人家一样讲话爱重复,也有的脾气比较暴躁,整体比较多样,主要是为了不被骗子认出模式。
技术在升级,人类的判断力永远是最后的防线
AI的飞速发展为Daisy的诞生提供了一个绝佳契机。
Daisy基于定制训练的大型语言模型(LLM)构建,其工作原理与GoogleGeminiLive或早期版本的ChatGPTVoice相似。
具体原理就是,AI会转录来电者的声音,接着这位AI奶奶会根据预设的角色性格来调整回答的风格和内容,最后再次转换成AI奶奶的声线:
转录语音为文本:将捕捉到的声音转换成文本的过程称为「转录」。这样,Daisy可以理解来电者所说的内容,并准备相应的回应。
生成回应:Daisy使用一个定制的大型语言模型(LLM)来生成回应。这个模型不仅能够理解文本信息,还能够根据上下文和预设的角色性格层(characterpersonalitylayer)生成合适的回答。
角色性格层:「角色性格层」是指Daisy在生成回应时,会根据预设的角色性格来调整回答的风格和内容,使其更符合角色设定,比如像一个祖母那样亲切和耐心。
并且,在训练的过程中,Daisy还得到了一位YouTube博主JimBrowning的帮助。
毕竟最了解你的人永远是你的敌人,骗子也不例外。
而在Daisy与骗子对话的整个流程,由于从听取声音、转录文本、生成回应到文本转语音都是实时进行,所以几乎没有明显的延迟。
不过,Daisy并不直接提供给O2的用户使用。
原因很简单,O2担心用户利用它对诈骗者进行报复行动,在他们的内部研究表明,71%的英国人有过想要报复那些诈骗了他们或他们亲人的骗子的念头。
据外媒techspot报道称,这个AI工具已经被列入诈骗者常用的易骗号码列表。Daisy能够在24小时不间断地与来电者互动,且无需人工干预。
但问题是,现在的骗子分两种,一种是不懂AI的,一种是懂AI的。
前不久,初创公司BlandAI在X平台宣称,在大模型的加持下,其产品将成为全球最快的对话式AI,且可以在没有「幻觉」的情况进行沟通。
另外,BlandAI机器人还拥有极其自然的生成式语音、以及多种语言切换。
除了非常擅长模仿人类真实对话的语调、停顿,在外媒WIRED的技术测试中,BlandAI机器人甚至可以否认自己是AI,并谎报其真实身份。
包括APPSO此前也利用AI定制生成了一些0成本但很真的数字双胞胎。
在AI技术的增益之下,这些工具都能轻而易举地被诈骗不法分子反过来欺骗我们。
只需向服务商提出需求,后者就能快速搭建管理平台。用户通过简单的界面操作,就能设置话术、模板、通讯线路等参数,导入联系人信息后即可启动自动外呼功能。
为此,国内手机厂商也在这方面做出了不少努力。
诈骗本质上是一场筛选游戏,骗子不在乎失败999次,他们只需要成功1次。
被骗了,一切归零。
诚然,诈骗手法或许千变万化,但下面这条官方的反诈公式永不过时。
人物(陌生人)+沟通(各种通信工具,反正就是见不到面的)+要求(转账汇款,反正就是谈钱的)=诈骗。
在AI时代,骗子和反诈技术都在升级,而人类的判断力永远是最后的防线。