故障排除
加载模型错误
您尝试从 HuggingFace 加载的模型权重可能与我们的后端不兼容。
尝试下载应用程序主模型页面上列出的官方支持的模型之一。如果问题仍然存在,请在我们的 Discord 上分享您的经验。
不良响应
尝试使用示例聊天来仔细检查您的系统是否正确实现了模型。
响应语无伦次
如果您看到的响应完全不像示例聊天中的那样 - 例如,如果您看到的响应看起来毫无意义 - 尝试下载不同的模型,并请在我们的 Discord 上分享您的经验。
响应不正确
LLM 可能不可靠。了解它们的训练数据是什么会有所帮助 - 除非您在提示中以上下文的形式提供必要的信息,否则当询问它们未训练过的数据时,它们不太可能是正确的。
为 LLM 提供额外上下文,例如使用本地文档进行聊天,可以帮助将语言模型的文本理解能力与您信任的包含所需信息的文件相结合。
在提示中包含信息并不能保证它会被正确使用,但您的提示越清晰简洁,与您的文件越相关,效果就越好。
本地文档问题
有时模型(特别是较小或整体较弱的 LLM)可能不会使用通过本地文档引用的文件中相关的文本片段。如果您遇到这种情况,在提示模型时使用诸如“在文档中”或“从提供的文件中”之类的短语可能会有所帮助。