MaaS Glossary
| abbr. | stand for | desc |
|---|---|---|
| MaaS |
| en | cn |
|---|---|
| Guardrails | 护栏（安全与合规边界过滤） |
| Turn | 轮次（对话中的一问一答） |
| Step | 步骤（Agent 执行任务的推演动作或操作） |
| Thread | 线索 / 话题流（维护独立上下文的对话分支） |
| Conversation | 对话 |
| Session | 会话（持续交互的状态与生命周期） |
| Prompt | 提示词 / 提示语 |
| Token | 词元 / Token |
| Context Window | 上下文窗口 |
| Hallucination | 幻觉（模型生成看似合理但实质错误的内容） |
| Grounding | 事实锚定 / 溯源 / 接地（通过引入外部权威数据限制幻觉） |
| Agent | 智能体 / 代理 |
| Alignment | 价值对齐（让大模型行为符合人类意图和价值观规则） |
| Persona | 角色设定 / 人设 |
| Chain of Thought (CoT) | 思维链 / 链式思考（Think step by step） |
| Function Calling / Tool Use | 函数调用 / 工具调用 |
| RAG | 检索增强生成 (Retrieval-Augmented Generation) |
| Embedding | 嵌入 / 向量表示 |
| Inference | 推理（服务端提供模型运行响应的服务过程） |
| Reasoning | 推理（模型进行内在逻辑推演和思考的能力） |
| Orchestration | 编排（业务中对多个 Agent 或工具的流程调度） |
| Few-shot / Zero-shot | 少样本 / 零样本（提示工程技巧） |
Thinking vs Reasoning
| term | 中文 | 含义 |
|---|---|---|
| Thinking | 思考 | 泛指模型处理信息、形成答案的过程，侧重过程或状态。 |
| Reasoning | 推理 | 基于事实、规则或前提进行逻辑分析并得出结论的能力，侧重方法与结果。 |
在大模型语境中，两者经常互换使用；但 thinking 更宽泛，reasoning 通常特指需要多步逻辑、规划或问题求解的思考过程。
- thinking level
- thinking buget
- reasoning effort
Cache Rate
cache_hit_rate
= cached_input_tokens / input_tokens
cache_write_rate
= cache_write_tokens / input_tokens
cache_request_hit_rate
= cached_requests / requests
cache_cost_saving_rate
= 1 - actual_input_cost / hypothetical_uncached_input_cost