AI常见术语表:Token、上下文、RAG、Agent一次讲清
看懂AI产品页面上的词,才能判断它在卖什么。这份术语表按「模型—使用—应用」三层整理,每个词都配一句人话解释。
一、模型层
大语言模型(LLM)
用海量文本训练出的模型,本质是「根据上文预测下一个词」。它擅长语言任务,不擅长精确计算与实时事实。
参数(Parameters)
模型内部的权重数量,常以 B(十亿)计。参数多通常能力更强,但也更贵更慢。参数量不是唯一指标,数据质量与训练方法同样重要。
Token
模型处理文本的最小单位。中文大约 1 个字 ≈ 1–2 个 token,英文 1 个词 ≈ 1.3 个 token。API 按 token 计费,长文成本主要来自这里。
上下文窗口(Context Window)
模型一次能「看到」的 token 上限。窗口越大,能处理的文档越长,但注意力会分散,长上下文中段的信息容易被忽略。
多模态(Multimodal)
能同时处理文本、图片、音频、视频。注意区分「能看懂图」和「能生成图」,这是两种能力。
推理模型(Reasoning Model)
在回答前先生成一段思考过程的模型,数学、逻辑、代码类任务表现更好,但更慢更贵。日常写作不一定需要。
开源权重(Open Weights)
模型参数可下载,能自己部署。注意「开源」不等于「可自由商用」,要看具体许可证。
二、使用层
提示词(Prompt)
你输入给模型的指令。好提示词的本质是把验收标准写清楚。
Few-shot
在提示词里给几个示例,让模型模仿格式与风格。
温度(Temperature)
控制输出的随机性。低温度更稳定保守,高温度更发散有创意。
幻觉(Hallucination)
模型生成看似合理但事实错误的内容。所有事实性输出都需要核对。
RAG(检索增强生成)
先从你的文档库里检索相关片段,再让模型基于这些片段回答。核心价值是「有据可查」,能显著降低幻觉。
向量(Embedding)
把文本转成一串数字,语义相近的文本向量距离更近。RAG 的检索就依赖它。
微调(Fine-tuning)
用你的数据继续训练模型,让它更贴合特定任务或风格。成本高于提示词工程,低于从头训练。
三、应用层
Agent(智能体)
能自主拆解任务、调用工具、多步执行的系统。和聊天机器人的区别是:它会「做事」,不只是「回答」。
工作流(Workflow)
把多个步骤(模型调用、条件判断、API请求)编排成固定流程。比 Agent 更可控,适合稳定的业务场景。
MCP
一种让模型连接外部工具与数据源的协议标准。可以理解为「AI 的 USB 接口」。
知识库
结构化或非结构化的文档集合,配合 RAG 使用。企业落地 AI 最常见的第一站。
API Key
调用模型服务的密钥。只能存在服务器端,绝不能写进前端代码或公开仓库。
怎么用这张表
看到一个新产品的介绍,试着把它归类:
- 它是一层模型,还是模型外面的应用?
- 它解决的是「生成」还是「检索」?
- 它需要你提供数据吗?数据存在哪?
能回答这三问,基本就不会被营销词绕晕。
文中提到的工具
本文由 AI之家X编辑部撰写,基于实际使用与公开资料整理。文中涉及的第三方产品价格、功能与政策可能调整,请以官方页面为准。 如发现事实错误,欢迎通过反馈入口指正。