首页 / 算力

📖 算力 是什么?

AI 的“发动机马力”:越足越能算,也越烧钱。

模型基础

⚡ 一句话秒懂

AI 的“发动机马力”:越足越能算,也越烧钱。

📖 举个故事

老李的健身房买了台 AI 深蹲计数器,据说能自动数每个人做了几个。结果机器卡成幻灯片,一个动作要愣三秒才计数。经销商上门一看:算法没问题,是电脑太弱——等于让三轮车拉集装箱。换了台带好显卡的机器后,动作还没做完,数字已经跳上去了。老李这才明白:AI 聪不聪明,一半看算法,一半看“算力”这台发动机。发动机越猛,同样的脑子转得越快,能干的活也越大。

💡 类比理解

暂未补充。

🧩 真实例子

暂未补充。

🛠️ 怎么实际使用

算力决定 Agent 的账单。任务分级:关键词提取、简单分类用小模型,普通 CPU 就能跑;识图、长文推理这类重活才调大模型或 GPU,能省一半费用。跑批量任务前先拿十几条样本试跑,确认 prompt 有效再放量,别把算力烧在注定失败的设计上。还要盯住 token 与耗时,上下文越长成本越凶。

📚 进阶原理

算力指执行计算的硬件能力,训练侧常用 FLOPs 衡量:训大模型要数千张 GPU 连跑数周;推理每生成一个 token 都要一次完整前向传播。Agent 常因多轮工具调用触发几十次推理。降本:小模型做路由与摘要、相似请求走缓存、批量推理摊满 GPU;注意力随上下文近平方增长,控上下文就是控成本。

继续学习相关术语