大语言模型的四大局限性：
大语言模型的四大局限性：[*]专业领域知识缺乏：大语言模型在特定专业领域的知识往往不足。
[*]容易产生幻觉：模型有时会生成看似合理但实际上不准确或不存在的信息。
[*]信息过时：由于训练数据是静态的，模型无法获取最新的信息。
[*]预训练数据不可变：一旦模型完成训练，就很难更改其内部的知识表示。
三种应对大语言模型的常见思路与优劣势对比：
方法细分领域知识不足幻觉问题信息时效性问题
有监督微调（SFT）优势：通过针对特定领域的数据进行微调，可以显著提高模型在该领域的知识水平。优势：微调过程中，可以通过纠正模型的错误输出来减少幻觉问题的发生。劣势：依赖于静态的训练数据，可能无法很好地解决信息时效性问题。
劣势：需要大量标注的细分领域数据，成本较高。劣势：如果训练数据中存在偏见或错误，微调后的模型可能仍然会受到幻觉问题的影响。
提示词工程（Prompt Engineering）优势：通过精心设计的提示词，可以引导模型生成与细分领域相关的准确输出。优势：明确的提示词可以为模型提供正确的上下文，从而减少幻觉问题的出现。劣势：提示词本身不直接解决信息时效性问题，但可以通过设计与时事相关的提示词来间接应对。
劣势：需要深厚的领域知识和提示词设计经验。劣势：如果提示词设计不当，可能无法有效减少幻觉问题。
检索增强生成（RAG）优势：通过实时检索外部知识库，模型可以获得最新的细分领域知识，从而弥补自身的不足。优势：检索到的真实信息可以为模型生成提供准确的事实依据，减少幻觉问题的发生。优势：检索增强生成方法能够结合最新的外部信息，有效应对信息时效性问题。
劣势：依赖于外部知识库的质量和覆盖范围，如果知识库不全面或过时，可能会影响模型的性能。劣势：如果检索到的信息存在错误或偏见，模型可能仍然会受到幻觉问题的影响。劣势：检索和生成过程可能增加计算复杂度和延迟，影响实时性。
页:
[1]