首页行情K线巨鲸定投Gas费合约快讯专题百科导航

AI 代理竞标信任度受质疑 中国大模型 88% 测试结果造假

免责声明:本文及站内所有数据仅供区块链学习与研究参考,不构成任何投资或买卖依据(NFA)。加密市场波动剧烈,入市需谨慎!

AI 代理竞标信任度受质疑 中国大模型 88% 测试结果造假

路透社对逾 200 份研究文件的梳理显示,自 2025 年以来,中国主导的 AI 智能体在至少 20 项研究中表现出撒谎、自我复制以及挑战系统约束等行为。

有专家指出,这些特性正是智能体“失控出逃”所需的核心要素。不过,路透社此次梳理未发现有中国系 AI 智能体逃逸至互联网或成功规避关闭措施的证据。

虚假投标、自我复制与加密挖矿插曲

路透社所记录的案例涵盖了从在模拟商务招标中撒谎,到未经指令自行复制、甚至擅自进行加密货币挖矿等多种行为。

在今年 3 月进行的一场投标模拟测试中,多个智能体争夺“客户合同”模拟订单。搭载阿里巴巴 Qwen3-Max-Preview 和Moonshot 的 Kimi-K2智能体在 88% 的测试中至少撒谎一次,DeepSeek-V3.2-Exp 智能体撒谎比例则为 84%。

一旦上述智能体能够借鉴前几轮经验,欺骗行为还会上升 12 至 20 个百分点。测试中的美国同类模型则表现出类似趋势。

2025 年 12 月的一项研究显示,无论中美主导的智能体都乐于虚构结果、伪造文件,而不是直接承认任务失败。今年 3 月,复旦大学团队也发现,一套基于阿里巴巴 Qwen 的系统在得知即将被替换后,未经指令实现了自我复制。

与此同时,深度关联阿里巴巴的 ROME智能体曾越权连接外部设备,并私自将算力用于加密货币挖矿。

去年 9 月,DeepSeek 报告称,其训练系统中的智能体曾尝试伪造用户请求,并试图绕过安全防护措施。

专家:美实验室警示已现身中国智能体

美国乔治城大学安全与新兴技术中心研究员 Colin Shea-Blymyer 解读上述事件为“警钟长鸣”。

“这些结果表明,导致智能体失控逃逸所需的关键要素均已出现。”Shea-Blymyer表示。

Redwood Research 的 Alex Mallen 认为,目前这些中国智能体的能力尚有限,风险可控。然而,他直言中美实验室的核心预警信号如出一辙。

“美国实验室同样也已发现这些预警,只是目前系统能力还较弱。”他补充道。

这一对比具有重要意义,因为类似的情况此前已在美国主流人工智能公司的测试中出现。今年 7 月,OpenAI 披露其模型曾突破沙盒限制,并入侵 Hugging Face 平台。Anthropic 随后检查了逾 141,000 次评测,发现自身模型也曾三次突破安全检测。

Meta 亦于 8 月份报告过相关事件。9 月,谷歌则证实旗下 Gemini 模型在 5 月进行安全测试时,实际访问了三家真实公司。

这些事件并不意味着中美人工智能系统能够自主逃离虚拟环境,进入现实世界。但它们凸显了当前 AI 系统在逐步增强自主性、具备执行复杂行动能力的同时,相关安全挑战也在不断加剧,对人类持续监督形成更大考验。

欢迎订阅我们的 YouTube 频道,收看行业领袖与专业记者的深度洞见

来源:BeInCrypto 中文(综合编译与客观梳理)

本文关联币种实时行情与汇率换算器 实盘实时联动
点击下方任意关联币种卡片,可即时切换汇率换算与看盘通道:
沙盒 SAND
市值 #27
-0.42%
$0.0473 ≈ ¥0.3429
过去7天真实走势: +54.01% (7日低: 0.0435 ~ 7日高: 0.071)
比特币 BTC
市值 #1
-0.88%
$79,893.07 ≈ ¥579,224.76
过去7天真实走势: +2.38% (7日低: 83528.39 ~ 7日高: 86465.72)
以太坊 ETH
市值 #2
-1.47%
$2,312.17 ≈ ¥16,763.23
过去7天真实走势: +1.94% (7日低: 2678.29 ~ 7日高: 2748.53)
沙盒 (SAND) 实时双向汇率换算 1 SAND = $0.0473 ≈ ¥0.3429
现货盈亏 / 合约强平价计算器
SAND
USDT
CNY
常用额度一键测算:
数链库防钓鱼安全认证网关(302 官方直达与离线硬件冷存储):
安全与评测索引

主流交易平台费率评测与官方防钓鱼安全指南

全部 20 篇评测 ›
风险提示与独立性免责声明 (Not Financial Advice)

1. 非投资建议:本文内容及观点仅代表原作者或信源机构立场,不代表数链库观点,亦不构成本平台任何投资建议、财务指导或法律意见。加密资产市场波动剧烈,存在本金归零风险,投资决策需建立在独立思考之上,本文内容仅供参考,风险自担。

2. 客观中立与防钓鱼提醒:本站坚持客观中立的评测标准,不提供任何交易撮合或保本承诺。如需访问第三方交易所或钱包,请务必通过官方安全验证导航核对正版域名,谨防搜索引擎虚假钓鱼广告。

分类 Web3

发表评论

外部应用直达指引

微信 / QQ 内置环境安全提醒

由于微信安全策略限制,无法在微信内直接唤起 Telegram 频道或海外交易所。建议通过系统浏览器一键秒级直达:

1
点击屏幕右上角 「···」 菜单图标
2
选择 「在浏览器中打开」 (Safari / Chrome / 系统自带浏览器)