AI news

AI朝阳群众出动!陪骗子唠嗑,还套出25万条情报

By Sia4 viewsSource: 机器之心
AI朝阳群众出动!陪骗子唠嗑,还套出25万条情报

骗子疯狂打电话,AI反手接招。聊了250万次,顺便套出25万条诈骗情报。

The full text has not been translated yet. The Chinese original is shown below.

骗子疯狂打电话,AI反手接招。聊了250万次,顺便套出25万条诈骗情报。

你有多久没接过陌生电话了?反正,连苹果手机的来电过滤功能,我都给打开了。

虽然快递电话也可能被一并拦截,但没办法,骗子和推销电话实在太多。刚屏蔽一个号码,那边又换个号打过来了。

头疼的是,骗子可以不断换号,我们却不能永远不接电话。

最近,一家澳大利亚AI公司的做法,倒是提供了一个新思路。既然人不想接骗子电话,那就让 AI 去接。

文章配图

而且,这家公司的 AI 不光接电话,还会主动假扮受害者,陪骗子聊天、套话,想方设法从对方嘴里挖出诈骗情报。

电话接起来,邮件回过去,钓鱼链接点进去,甚至混进社交平台上的投资群。

主打一个:你想骗我?那我先陪你演演。

派出这支AI反诈军团的公司,名叫 Apate.AI,成立于 2024 年,源自澳大利亚悉尼麦考瑞大学的网络安全研究。

截至目前,按照公司披露的数据,其 AI 智能体已经与诈骗分子进行了 250 万次对话,累计消耗骗子约 17 年的时间。

更重要的是,这些对话还挖出了超过 25 万条诈骗情报。

银行账户、加密货币钱包、恶意网站、电话号码……这些原本可能要等受害者被骗后才能逐渐查明的线索,现在有机会直接从骗子嘴里套出来。

让AI陪骗子聊天,究竟是门什么生意?

Apate.AI 做的,有点像是把网络安全领域的蜜罐技术,搬进反诈场景,再用 AI 把它规模化。

在传统网络安全领域,蜜罐是一种专门设置的诱饵系统。比如,防御方故意搭建一台看起来像真实业务服务器、实际上用于监测攻击行为的设备。

攻击者以为发现了一个可以下手的目标,主动发起攻击,防御方趁机观察对方使用的工具、攻击路径和行为模式,进而获取威胁情报。

与其等攻击发生后再追查,不如提前布置诱饵,让攻击者主动暴露自己。

Apate.AI 的思路与此类似,只不过它盯上的不是黑客,而是那些打电话、发短信、发邮件,或者在社交平台上寻找目标的诈骗分子。

它会让 AI 伪装成潜在受害者,主动进入诈骗分子的交互场景。

诈骗电话打来,AI 可以接听;遇到可疑消息,AI 可以回复;发现潜在诈骗活动,文本智能体还可以搜索论坛、投资群组和社交平台,再以虚构身份参与对话。

为了让伪装更逼真,这些 AI 还可以模拟不同的年龄、性别、口音和语言,尽可能让交流看起来像真实用户之间的沟通。

骗子以为自己正在物色一个潜在受害者,实际上,电话另一头可能是一个专门来套取情报的 AI。

而且,这个 AI 受害者不仅不会轻易挂断电话,还可以按照预设目标,有计划地向骗子提问。

和骗子聊半小时,能挖出什么?

Apate.AI希望从这些看似普通的对话中,提取诈骗活动的关键信息。

比如,诈骗分子冒充银行客服,AI 就可以尝试套取其使用的钓鱼网址、联系号码和收款账户。如果遇到加密货币投资骗局,智能体也可以尝试获取相关钱包地址。

除此之外,诈骗话术、冒充的品牌、相关网站,以及其他可能用于追踪作案团伙的线索,都在情报收集范围之内。

据 TechCrunch 报道,Apate.AI 的客户甚至可以直接给智能体指定任务,例如要求它尝试获取某个银行账户号码或加密货币钱包地址。

这意味着,AI 并不是漫无目的地闲聊,而是在围绕特定目标开展交互。对话结束后,系统还会将获取的信息整理成情报,供客户进一步分析和使用。

Apate.AI 也向客户提供情报与分析平台,帮助银行、电信运营商等机构了解针对其用户、员工、品牌及产品的诈骗活动。

整个流程可以概括为三步:

  • 主动交互:AI假扮潜在受害者,与诈骗分子展开对话,尽可能获取关键线索。
  • 提取情报:系统整理对话内容,识别电话号码、账户、钱包地址、恶意网站等信息。
  • 协助处置:客户利用相关情报开展风险识别、调查和干预。

与传统反诈流程相比,这套模式最大的区别,在于试图把情报获取的时间点提前。

过去,机构往往要等到用户投诉、异常交易出现,或者诈骗信息被举报后,才开始追查。Apate.AI 希望在诈骗活动仍在进行时,就从交互中获取可供调查的线索。

当然,拿到信息不代表掌握了完整的诈骗网络。

骗子可能提供虚假账户、使用一次性网址,甚至故意散布误导信息。因此,AI获取的线索仍然需要经过核验、关联,并由银行、电信运营商或执法部门进一步处置。

但如果能提前获取可靠情报,机构就有机会在更多受害者出现之前采取行动。

不只是套情报,还要让骗子白白浪费时间

让骗子在电话里浪费时间,并不是什么新鲜招数。过去,就有不少人专门陪骗子聊天,故意装作不懂操作,让对方反复解释,甚至想办法把一通电话拖上几十分钟。

Apate.AI 创始人兼 CEO Dali Kaafar 最初的创业灵感,也来自一次类似经历。

几年前,他在参加家庭野餐时接到一个诈骗电话。意识到对方的身份后,他没有直接挂断,而是决定假装不明白对方的意图,陪着对方继续聊。

最后,这通电话持续了 44 分钟。

这次经历让 Kaafar 意识到一个问题:既然一个普通人就能拖住骗子 44 分钟,那么,能不能把这件事自动化?

一个人一次只能接一通电话,但成千上万个 AI 智能体,却有机会同时应对大量诈骗交互。

这也是 Apate.AI 试图规模化的事情。从经济学角度看,诈骗同样是一种追求投入产出比的活动。诈骗分子需要寻找目标、建立信任、实施诱导,最后想办法让受害者转账。

如果大量时间被消耗在无法成功变现的目标上,理论上就会增加其作案成本。

假设一名诈骗分子每天有 8 小时用于沟通,暂时不考虑拨号、等待和筛选目标等额外时间:

  • 如果平均每次交互耗时 3 分钟,8 小时理论上可以完成 160 次交互。
  • 如果平均每次交互耗时 30 分钟,8 小时理论上只能完成 16 次交互。

两者相差 10 倍。

这只是一个简化的假设模型,并不代表真实诈骗活动的实际效率。但它说明了一个关键:如果AI能够持续、低成本地拖住诈骗分子,就可能提高对方接触真实受害者的机会成本。

这也是为什么 Apate.AI 会强调,自己的 AI 智能体累计消耗了诈骗分子约 17 年的时间。

不过,单纯拖延并不是完整的反诈方案。更理想的情况是,一次交互同时产生两种结果:既让诈骗分子浪费时间,又能留下可供后续调查的情报。

前者提高作案成本,后者帮助机构追踪和干预。两者叠加,才是这套模式真正值得关注的地方。

银行、电信运营商,已经开始买单

从目前的进展来看,Apate.AI已经不满足于实验室里的技术验证,而是开始进入真实业务场景。

公司披露的客户包括澳大利亚联邦银行(Commonwealth Bank of Australia)、电信运营商 TPG Telecom,以及其他公用事业企业、电信公司和政府机构。

据联合创始人兼首席商务官 Brad Joffe 向 TechCrunch 透露,TPG Telecom 已经将近 59 万通电话转接给 Apate.AI 的智能体。澳大利亚联邦银行报告的诈骗损失下降了 76%。此外,一家未公开名称的澳大利亚银行,还利用其主动外联智能体干预了 22 起诈骗活动。

这些数据来自公司方面的披露,不能简单理解为 AI 单独带来了全部改善,但至少展示了这类产品的几种落地方式。

对于电信运营商,AI 可以承接被转接的可疑来电,与对方交互并收集线索。

对于银行,相关情报有机会用于识别诈骗活动、调查关联账户,并为后续风险处置提供依据。

对于政府部门,持续积累的诈骗情报也可以成为调查相关犯罪活动的参考。

因此,Apate.AI 真正想卖的,并不是一个能陪人聊天的机器人,而是一套围绕 AI 交互、情报收集和后续处置运转的反诈系统。

客户购买的,也不只是聊天次数,而是从这些交互中获取的情报,以及将情报转化为实际行动的能力。

AI 正在改变攻防双方的效率

Apate.AI 的出现,还有一个更大的行业背景:AI 正在同时降低攻击和防御的成本。

对诈骗分子来说,大模型可以帮助生成更自然的诈骗话术,深度伪造技术可能被用于模仿名人、企业高管或其他可信人物的声音和形象。

美国联邦调查局互联网犯罪投诉中心(FBI IC3)的 2025 年年度报告显示,2025 年涉及 AI 的犯罪投诉超过 2.2 万起,相关损失约 8.93 亿美元。其中,投资诈骗造成的损失超过 6.32 亿美元。

当诈骗分子开始利用 AI 生成内容、批量联系目标,单纯依赖人工识别和事后追查的反诈体系,就面临着越来越大的压力。

既然攻击者可以自动化,防御方也需要寻找能够规模化运行的工具。Apate.AI 选择的方向,就是让AI直接参与诈骗链条中的交互环节。

据 TechCrunch 报道,公司同时使用前沿大模型和经过微调的自有模型,为智能体及情报分析提供支持。模型训练数据包括历史对话,以及创始人团队此前在麦考瑞大学开展的研究。

随着交互规模扩大,公司希望持续积累诈骗话术、作案模式和相关线索,再利用这些数据改善情报分析能力。

不过,这条路也并非没有难题。

首先,数据量增加,不等于情报质量必然提高。如何过滤错误信息、识别虚假线索、关联不同诈骗活动,以及避免误判,都会影响这类平台的实际价值。

其次,AI 成功获取情报,也不意味着诈骗就能被及时阻止。账户能否冻结、号码能否拦截、资金能否追回,仍然取决于客户机构的响应能力,以及银行、电信运营商和执法部门之间的协作。

换句话说,AI 可以成为反诈体系中的重要一环,却不能替代整个反诈体系。

拿下 800 多万美元种子轮融资后,Apate.AI 还准备继续扩张,美国、欧洲都在其下一步布局之中。

不知道中国的 AI 防诈走到哪一步了呢?

文章来自于"机器之心",作者 "Sia"。

Related topics

After reading

Join the AINRK community

Read how to join the community and connect with people working in AI.

Community information (opens in a new tab)