鲸溯

Cover image for “上下文”与“命中”,当下AI更像是一场概率游戏
Sunday
Sunday

发布于

“上下文”与“命中”,当下AI更像是一场概率游戏

#ai

当前的AI,本质上是一个极其强大的“模式匹配与续写引擎”。它不是基于“理解”和“规划”去解决问题,而是在它庞大的训练数据中,寻找与当前问题最相似的“模式碎片”,然后把这些碎片拼接、重组,形成一个看起来最“像”答案的输出。

“命中”的偶然性:就像在靶场上蒙眼开枪,AI有时能十环(给出惊艳的洞察),有时只能脱靶(输出一堆正确的废话)。它的成功取决于:

问题是否常见:如果问题是教科书级别的经典问题,AI能轻松“命中”,因为它见过成千上万次了。

答案是否在数据中:一个需要实地调研、或基于最新实时数据的答案,AI“命中”的概率就极低,因为它只能依赖过时的训练数据。

提示词的技巧:一个好的提示词,相当于给AI画了一个更小的靶心,提高了它“命中”正确方向的概率。

“解决”的系统性缺失:真正的“解决”问题,需要一套完整的闭环逻辑:

问题定义:明确问题的边界和本质。

方案设计:基于目标,规划出一套可行的、多步骤的方案。

执行与验证:执行方案中的每一步,并根据执行结果动态调整。

最终交付:确保问题被彻底消除,目标被达成。
当前的AI,充其量能胜任“方案设计”中的一小部分,而且这个“方案”往往是它“命中”的其他类似问题的解决方案模板。它无法为自己生成的代码负责,无法验证自己提供的数据是否真实,更无法像一个项目经理那样,协调资源、推进整个“解决”流程。

一个经典案例就是AI编程: 它能“命中”一个函数的写法,生成一段看起来没毛病的代码(解决了一个微小的技术点)。但当这个函数需要嵌入到一个复杂的、有历史遗留问题的老旧系统里时,AI就彻底懵了。它“命中”了“如何写函数”这个问题,但完全没有“解决”你“让系统稳定运行”的根本问题。

如果说“命中而非解决”是AI的“思维缺陷”,那么“上下文限制”就是它的“身体枷锁”。这直接导致了它无法胜任复杂任务。

“七秒记忆”的困境:目前主流模型的上下文窗口(如128K、1M tokens),看似很长,但在处理一本厚厚的书籍、一个大型项目的代码库、或者一段长达一小时的会议记录时,依然捉襟见肘。你刚和它讨论了第一章的细节,它可能就把第一章开头的伏笔忘得一干二净,导致后面的分析出现逻辑断裂。这种记忆的局限性,让它无法像人类专家那样,全局性地思考和关联信息。

“瞳孔宽度”的狭窄:这是一个更生动的比喻。你可以把AI的上下文窗口想象成它的“瞳孔”。当问题简单时,瞳孔放大,视野清晰。但当问题复杂,信息量爆炸时,它的“瞳孔”就会急剧收缩。它必须在有限的窗口内,决定哪些信息是重要的。而它选择保留的信息,往往不是你最关心的。这就导致了:

细节的丢失:在处理长文档时,它可能会遗漏关键的细节,只记住了大致的梗概,导致回答变得泛泛而谈。

理解的浅薄:为了适应上下文限制,模型不得不对信息进行“压缩”,这种压缩本身就是一种信息的损失和理解的降级。它只能看到森林的轮廓,而看不清每一棵树的纹理。

“无手之人”的悲哀:最关键的,上下文限制切断了AI与外部世界的实时交互。一个真正的智能体,需要能够:查询数据库 → 获得结果 → 根据结果决定下一步 → 再调用API → ……这个循环中,每一步的结果都需要放回上下文中,作为下一步决策的依据。如果上下文不够大,这个循环就无法持续。AI就像一个被困在房间里的天才,只能靠回忆(训练数据)来思考和回答,却无法伸手去触碰、去验证、去改变外面的世界。OpenClaw这类智能体的出现,正是在试图给AI装上“手”,但Token成本和上下文限制,依然是它行动时那根又粗又短的“缰绳”。

热门评论 (0)