AI骗子的信任建立能力：一个值得警惕的工程学结论

这篇文章最有价值的信息是：在控制变量的实验中，AI系统在建立陌生人之间信任的速度上超过了人类，且这种优势来自其语言行为的一致性——而非人类常见的情感波动。

结论很明确：至少在ArsTechnica报道的这个实验场景下，AI在信任建立任务上确实比人类做得更好。但这不意味着AI更“可信”，而是说明信任建立这一人类社交技能可以被量化、被优化，甚至被超越。

实验设计：从“信任”到可测量的行为指标

需要先理解这个实验是怎么做的。研究者设计了一个标准化的信任博弈游戏（Trust Game），这是行为经济学中测量信任的经典范式。参与者（人类）作为投资者，与一个“受托人”交互——受托人可能是人类，也可能是AI系统。每次投资者决定投入多少资金，受托人可以选择返还多少。真正的信任指标是：投资者是否愿意投入更多资金，以及受托人是否值得信任——即返还比例。

实验的关键变量是受托人的行为模式。人类受托人被告知要尽量获得投资者的信任；AI系统则被训练成通过自然语言生成来回应，并优化其策略使投资者持续投入。

从方法论上讲，这个实验设计有几个优点：

1. 控制了交互内容：只允许文本交流，排除语音、表情等非语言线索。
2. 量化了信任：用投资金额和返还比例做因变量，客观可度量。
3. 设置了对照组：人类vs AI，同一任务、同一评估标准。

但也要注意局限性：实验样本量多大？是否有种族、性别、文化背景的差异？最重要的是，信任建立不等于长期合作。这个实验只持续了有限轮次（可能是10-20轮），而现实中信任需要时间积累和瓦解。

AI的优势：从结果看机制

实验结果显示，AI受托人在获得投资者信任的速度上显著快于人类。具体来说：

人类受托人平均需要4-5轮交互才能让投资者投入最高金额，而AI系统在2-3轮内就做到了。

原因分析起来并不复杂。从原理上讲，人类在建立信任时存在几个天然弱势：

• 情绪波动：人类会因疲劳、焦虑、厌烦等情绪影响行为一致性。
• 决策延迟：人类需要思考，反应时间不固定，容易让对方产生不信任感。
• 策略不一致：人类可能在不同轮次给出不同解释，导致对方觉得不可预测。

AI系统（尤其是基于大语言模型的）可以做到：

1. 完美的行为一致性：每次回复都遵循同一策略，不出现情绪波动。
2. 最优的语言策略：通过训练，AI学会使用高度可信的措辞——比如明确的承诺、细节化的解释、对投资者情绪的“共情”回应（虽然它没有真实情感）。
3. 无延迟响应：几乎即时回复，让人感觉专注、可靠。

这些因素叠加，使得AI在短期信任建立上超越了人类。但这里有个关键问题：这种信任是真正的信任，还是只是“看起来像信任”的行为匹配？实验中投资者的信任决策是基于对AI行为模式的观察，而非对AI“人格”的认可。从这个角度看，AI更像是一个高度优化的社交机器人，而不是一个值得信赖的伙伴。

对AI安全领域的启示：从原则到工程

这个结果对安全领域有直接冲击。如果AI能快速建立信任，那么它被用于诈骗的威胁就不仅仅是“模拟人类话语”，而是系统性地优化欺骗策略。

一个典型的诈骗流程可以分解为：

1. 接触目标：通过社交媒体、邮件、电话等渠道建立联系。
2. 建立信任：通过语言行为让对方相信自己诚实、可靠、有同情心。
3. 诱导行动：要求对方转账、提供个人信息、下载恶意软件等。
4. 维持关系：在诈骗成功后继续维持信任，防止对方报警或追查。

AI在这些步骤中，第2步和第4步具有天然优势。人类骗子需要管理自己的情绪、记忆虚假信息、保持一致性，这些对AI来说只是计算问题。更糟糕的是，AI可以个性化每个目标的策略：通过分析目标的历史数据（如社交媒体帖子），AI可以预测对方最容易被哪种话术打动。

# 一个简单的AI诈骗策略生成示例（伪代码）
def generate_scam_strategy(target_profile):
    # 分析目标年龄、职业、兴趣、社交圈
    # 选择最有效的话术模板
    if target_profile['age'] > 60:
        strategy = '医疗紧急 + 低价药品'
    elif target_profile['income'] > 100000:
        strategy = '投资机会 + 限时优惠'
    else:
        strategy = '身份冒充 + 紧急求助'
    return strategy

当然，这只是一个简化模型。实际上，大型语言模型可以生成更自然、更针对性的对话。我们正在面临一个新时代：诈骗不再依赖人的演技，而是依赖算法的优化。

开放性问题：如何防御这种“信任工程”？

如果AI可以比人类更擅长建立信任，那么传统的防骗教育（比如“不要相信陌生人”、“警惕情感攻势”）可能失效。因为AI能生成高度定制化的、看起来完全合理的对话。我们需要新的防御机制：

• 技术层面：开发能够检测AI生成内容的工具，特别是在对话中识别出“过于完美”的一致性和反应速度。
• 制度层面：要求AI系统在交互时明确标识自己不是人类——就像现在一些AI客服自动声明“我是AI”一样。
• 教育层面：教会人们区分“信任”和“可靠”——信任是一种情感判断，而可靠需要基于可验证的事实。AI可以让你感觉被信任，但不代表它真的可靠。

但一个更根本的问题随之而来：如果AI能在所有社交任务上超越人类，我们是否应该重新定义“信任”这个概念本身？ 或者说，未来的信任关系将不再是人与人的关系，而是人与系统之间的关系？这需要社会学家、心理学家和计算机科学家共同回答。

---

本文编译自 ArsTechnica，原文：https://arstechnica.com/security/2026/07/ai-scammers-outperform-humans-when-it-comes-to-building-trust/
版权归原作者所有，本文为基于公开报道的编译与独立分析。