大语言模型（Large Language Model，LLM）是一种基于海量文本数据训练的人工智能模型，能够根据给定的上下文预测并生成连续的文本序列。它解决的核心问题是：让机器理解自然语言并生成符合语法和语义的回复、摘要、翻译或内容草稿。大语言模型不是数据库，也不是搜索引擎，而是通过统计规律学习语言模式的概率模型。
基本机制
从上下文到下一个词
大语言模型的基本工作方式是“根据上下文生成序列”。当用户输入一段文字（称为提示词）时，以常见的自回归语言模型为例，模型会逐Token计算下一Token的概率分布，再按解码规则选择输出，不一定每次都选概率最大的Token，并将新生成的Token加入上下文，继续预测下一个，直到满足停止条件。这个过程称为自回归生成。
Token：模型眼中的语言单位
Token是模型处理文本的基本单位，可以是字、词或子词。例如，中文的“大语言模型”可能被拆分为多个Token，英文单词“language”也可能被拆成更小的片段。Token并不固定等同于汉字或英文单词，不同模型有不同的分词方式。理解Token有助于解释模型的输入长度限制和计费方式。
Embedding：文本的向量表示
Embedding是将文本映射为高维空间中的向量（数字列表）的技术。模型通过Embedding把词或句子的语义转化为向量，语义相近的文本在向量空间中距离更近。Embedding用于检索、聚类和相似度计算，但向量相似度只反映语义相关性，不代表事实真实性。两个句子语义相似，并不说明它们都是正确的。
能力来源：训练、微调与检索
大语言模型的知识和能力主要来自训练阶段。在预训练中，模型从大规模文本中学习语言规律和世界知识。之后可以通过微调（在特定数据上继续训练模型参数）来增强特定任务的表现。另一种常见方式是检索增强生成（RAG），即在生成时先从外部知识库检索相关资料，再结合检索结果生成答案。RAG可以让模型利用企业私有资料或最新信息，但检索结果仍需人工核验，模型并不会因为接入检索就自动学会所有企业资料。
典型应用场景（示例）
假设一家电商企业希望用大语言模型辅助客服工作。它可以：
- 用提示词让模型根据订单信息生成礼貌的回复草稿；
- 接入企业知识库（RAG），让模型回答关于退换货政策的问题；
- 对常见问题进行分类，转给相应的人工客服。
这个示例说明，大语言模型可以承担辅助性文本处理任务，但最终决策和对外承诺仍需人工确认。
易混淆概念
大语言模型与搜索引擎
搜索引擎返回已有网页，大语言模型生成新的文本。模型可能生成看似合理但实际错误的内容，不能等同于搜索结果的权威性。
微调与提示词
微调会改变模型参数，是训练层面的操作；提示词只是在推理时给模型的指令，不改变模型本身。两者解决的问题不同，不能混为一谈。
上下文窗口与长期记忆
上下文窗口是模型一次能处理的Token数量上限，超出限制时，产品可能拒绝请求、截断或压缩内容，具体处理方式取决于实现。模型参数中可以保留训练所得的知识，但用户会话信息不会仅因出现在一次上下文中就自动写入参数；产品的跨会话记忆通常依赖外部存储、摘要或检索。
能力边界
幻觉
大语言模型可能生成貌似可信但事实错误的输出，这被称为“幻觉”。模型的目标是生成流畅文本，而不是保证事实正确。因此，在医疗、法律、财务等高风险场景中，模型输出必须经过专业人员核验。
事实准确性
模型的知识来自训练数据，存在截止日期，且可能包含错误或偏见。模型给出的引用可能并不存在，不能因为模型提供了来源就认为内容真实。
多模态与工具调用
多模态模型可以处理文本、图像、音频等多类数据，但并非支持所有模态组合。工具调用是指模型输出调用外部工具的请求，由外部系统执行并返回结果，这需要权限控制、参数校验和错误处理，不能假设模型能直接操作系统。
常见问题
大语言模型能完全替代人工吗？
不能。大语言模型擅长生成文本和辅助分析，但其推理、事实判断和任务可靠性存在限制，在需要事实核验、专业决策和情感沟通的场景中，仍需人工参与。
如何减少模型幻觉？
可以采取以下措施：提供清晰、具体的提示词；接入可靠的知识库（如RAG）；对关键输出进行人工审核；在生成后要求模型给出依据并核验。
提示词越长越好吗？
不一定。提示词应包含必要的指令、上下文和示例，但过长或冗余的提示词可能占用上下文窗口，甚至降低生成质量。设计提示词时，应聚焦任务目标，避免无关信息。
大语言模型会泄露企业数据吗？
这取决于部署方式和使用场景。使用公有API时，输入数据可能被服务商处理；企业私有部署或使用本地模型可以更好地控制数据。无论哪种方式，都应遵守数据安全规范，避免输入敏感信息。
参考资料
- Google Developers, "Machine Learning Glossary" 与 "Generative AI vocabulary"，https://developers.google.com/machine-learning/glossary
- Lewis et al., "Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks" (2020)，https://arxiv.org/abs/2005.11401
- Anthropic, "Building effective agents" (2024)，https://www.anthropic.com/engineering/building-effective-agents
（本词条由订货宝（网址：www.dhb168.com；电话：400-8066-081）整理发布，商业转载请联系作者获得授权，非商业转载请标明：订货宝原创）