Hello,大家好,我是 Peter Tan。
今天给大家带来一个分享,主要是基于我最近一年多时间来对 AI 的深度使用,结合天量的 token 消耗,总结出来的一些经验分享给大家。
绝大部分人都存在于几个常见的使用 AI 的五大误区
首先,第一个就是“便宜的模型量大管饱、便宜输出快就是好”,这是一个最典型的错误。
便宜的 token 消耗的算力比较低,而且输出和解析可能也更快,这很容易给人一种错觉。比如你让它写一段 5000 字的武侠小说,它很快就能写出来。但这时候很少有人会去细看这 5000 字的内容,认真分析 AI 输出的东西到底正不正确,上下文衔接和逻辑是不是足够紧密。大家往往只会觉得速度真快、一下子就生成出来了,认为解析快、输出快、便宜又量大管饱就是好。
这是最大的一个误区。
拿小说来举例,如果让它去写一部非常长的小说,这里对逻辑的要求其实非常高,从第 1 集到第 500 集都需要上下文相呼应。如果单凭一个比较差的模型去做,又没有好的工程化管理,生成出来的东西别说看到 500 集,可能看到第 5 集、第 10 集,就会发现上下文根本对不上了,这时候你又要重来。
所以便宜的模型,到头来可能会给你带来更多的工作量。
第二个误区,就是觉得模型的思考强度越高越好,这也是一个非常典型的误区。
从最开始我们部署本地 AI 应用,比如 Stable Diffusion,它里面就会有一个 step 设置。但推荐设置并不是说把 step 开得越高越好:开得越高,消耗的算力越多,计算时间越长,综合体验反而越差,而且效果也并不一定更好。
大模型的本质是统计学,一旦上下文越长,底层必然会带来一个问题,就是上下文的注意力会被分散。所以一般来讲,开中或者轻度就够了。
如果你非要开 Max 或者 Ultra,要么说明这个模型的能力和你让它做的事情不匹配,要么就是你的上下文、提示词或者工作流本身有问题。比如你说"请你从 0 到 1 帮我设计一个可以扛 500 万并发的系统",这个需求和提示词本身就很扯淡,不管开 Ultra 还是开 Max,实际上都做不出来。
用一个很烂的提示词,配合模型最高的思考强度去做事情,这是一个非常大的误区。到最后做出来的东西肯定是一坨屎,而且白白浪费 token。
第三个误区:越贵的模型越好。
当然,很多人可能都还没到能犯这个误区的阶段,毕竟这是“土豪”才会遇到的问题。
对于简单需求,我认为像 GPT-5.6 这种属于比较中庸、够用的水平;低于这个水平的模型大家尽量就不要用了,纯粹是浪费时间。
但你也没必要每次都非得上 Fable 5.1 这种顶配模型。根据我的个人经验,比如让 Fable 5.1 去写前端,它真不一定有 GPT-6 astra 写得好。如果你什么都一股脑交给 Fable 5.1,做出来的效果可能还不如把几个模型结合起来: • GPT-6 astra 更擅长视觉和前端 • Fable 5.1 则更适合强逻辑性的任务,比如整体系统架构等
这两者其实是需要结合使用的。不过总的来说,低于 GPT-5.6 水平的模型,就确实不建议再使用了。
第四个,就是一定要在一个对话里把任务完整地做出来。这会让 token 的消耗大大增加,而且可能会降低任务完成的质量。
我见过很多 AI 新手或开发者,上来就搞出接近 100 万上下文的任务。其实对 AI 来说这并不一定是好事。我说过,上下文太长会带来注意力分散的问题,消耗也会更多。
大家不妨把任务拆成多个会话,根据具体情况决定是并行还是串行。把任务拆得稍微小一点,逐个去对话,而不是把所有东西都堆在一个极长的对话里,否则对任务完成的质量确实会有影响。
最后一个,第五个误区是什么呢?
最后一个误区是什么呢?就是去纠结模型的“满血”程度。
实际上我之前跟大家分享过:AI 大模型一旦部署到显卡上,就会持续占用显卡的显存,除非你把它停下来。比如说一张 24G 的显卡部署了一个消耗 20G 显存的大模型,就算你不用,它也占着这 20G 显存;除非停掉,不然你根本没有显存空间去部署第二个 20G 的模型。大家明白我的意思了吗?显存空间不存在什么“多模型共用”。
所以新模型上线之后,如果老模型不下架会怎么样?不可能同时部署那么多大模型在那里,带来的直接问题就是算力不够。所以 OpenAI 现在不断在收紧,把老模型回收下架。GPT 5.5 大概在 10 月中旬就下架了,之后的下架速度可能会越来越快。
Anthropic 这边还好,因为它比较专注于 coding,接下来可能还有 biology,不做视觉、视频、图片这些东西,所以压力会小一点。
所以你如果接下来想要体验满血的模型,那么一上架你就赶紧体验,你就会发现这才是最先进的模型的体验。等它出来一段时间之后,你就不要再说这个满不满血了。
比如说现在 GPT 5.5,谁还会在意它满不满血呢,对吗?
以上是我这一年多来对 AI 的深度实验,结合我和我的用户们对天量 token 的消耗,总结出来的一些踩坑经验。希望大家在使用 AI 时不要再去触碰这五大误区,因为它们真的会大大影响你的使用体验。
最后补充一句:不要给自己装那么多的 skill 或其他插件。最好的方式就是打开 Codex 或 CloudWork 这样的桌面端,什么都不要装,直接用,你会发现这才是最舒服的