回答 / 长回答

如何评价蚂蚁灵光APP全模态应用?和豆包元宝千问的差异点在哪里?

泥某人 · 编辑于2025-12-11 05:46知乎原文 ↗
首次公开发表:来源:知乎

实测,辣鸡。

很希望中国的ai能够有所突破,但这种疯狂推广却连这种基础功能都做不好的APP,如何让专业人士把重要工作托付给你。继续当个网红娱乐娱乐大家好了。

00:33
灵光无法准确执行一个时差计算

最近测试灵光 App 的时区换算功能(北京 vs 洛杉矶)。

一个本该毫无难度的换算任务,却触发了一个完整的“AI 崩溃现场”:

算错
圆谎
自相矛盾
推理混乱
多轮回答互相打脸

看起来这是个“小 bug”。但事实上,这是大模型行业最典型、最值得警惕的系统性缺陷。

一、表面聪明,但在严肃逻辑上随时可能掉链子,在这个任务中,灵光明明知道:

北京 = UTC+8
洛杉矶在标准时间为UTC–8,夏令时间为UTC–7
两地时差分别为16小时或15小时,必须先确定具体日期
若这次测试发生在2025年12月,适用16小时时差,计算时仍须处理跨日

但真正计算时却:

得到错误日期
无法处理跨日
与自身前提矛盾
回复越多越错
最终自己推翻自己

换句话说:它会说,但不会算;它知道规则,但不会执行。这不是灵光的问题,这是所有不成熟大语言模型的共性。

二、真正的原因:推理链路是“非结构化”的

许多自回归语言模型以预测下一token为基础训练目标,但这不等于它们不能学习数学和推理。更准确的问题是:单靠生成文本,不能保证日期运算、状态跟踪和跨轮一致性。

可靠的应用可以结合符号计算、程序执行、结构化状态与独立校验;仅凭这次对话,无法确认灵光内部是否用了这些机制,也不能断言所有模型都完全缺乏它们。

这就导致:

1)跨日逻辑容易直接断链

例如:北京时间 15:00 – 16 小时 = 前一天 23:00

这类“进位/借位”是模型最脆弱的点。

2)多步骤推理越长越不可靠

每一步都是概率性的 → 越往后误差越大。

3)回答之间缺乏一致性

它无法保证“前后不矛盾”,因为没有真正的逻辑状态。

因此,模型越能“装作很懂”,越容易在严肃任务上出大问题。

三、幻觉合理化(AI Hallucination Justification)

此次事故中最危险的不是模型算错,而是:算错 → 坚持 → 合理化 → 再错 → 再坚持 → 再自相矛盾,这是大模型经典的缺陷:流畅的输出不保证正确;但仅凭错误表现,也不能断言产品训练目标完全不包含正确性。

于是出现了,自信地输出错误、逻辑矛盾不自觉、被指出错误后开始编造解释 、多轮对话后完全迷失。换句话说:你以为自己在跟 AI 讲道理,但 AI 以为你在跟它 roleplay。

四、这次测试暴露了结果校验不足

一个严肃系统应该能够执行自检:“我的结果 + 16 小时 = 北京时间吗?”,系统应该具备一下基础能力。

结果反推(backward validation)
约束满足(constraint satisfaction)
多路径验证(multi-path verification)
数学规则约束(rule enforcement)

缺乏这些能力系统既不会保证过程正确,也不会验证结果是否合理。这就是为什么它能自信地错。

五、为什么这件事比想象中更严重?

时区换算只是一个“小场景”,但背后反映的是 AI 在所有 严肃逻辑任务 中可能出现的风险:

医疗推演
财务模型
税务申报
工程参数
法律条款推演
安全风控决策
合同条件匹配

如果一个应用在目标任务上持续计算错误、无法识别异常,就不应被独立托付相应关键决定。是否能够在关键领域使用,应验证整个系统的计算工具、权限、人工接管与失败处理,而不能从一次时差测试推出所有AI应用的统一结论。