常见问题

模型

支持哪些语言模型？

我们支持在 HuggingFace 上上传的、具有 llama.cpp 实现的模型。

支持哪些嵌入模型？

我们支持 SBert 和 Nomic Embed Text v1 & v1.5。

软件

我需要什么软件？

您只需在 Windows、Mac 或 Linux 计算机上安装 GPT4all 即可。

支持哪些 SDK 语言？

我们的 SDK 使用 Python 编写，以提高易用性，但这些是对我们为提高日常计算机上的效率和可访问性而贡献的 llama.cpp 实现的轻量级绑定。

是否提供 API？

是的，您可以使用我们的兼容 OpenAI 的 API 在服务器模式下运行您的模型，您可以在设置中进行配置。

我可以监控 GPT4All 部署吗？

是的，GPT4All 集成了 OpenLIT，因此您可以在部署大型语言模型时自动监控用户交互和硬件使用情况，实现完全的可观察性。

是否提供命令行界面 (CLI)？

是的，我们提供了一个轻量级的 Python 客户端作为 CLI。我们欢迎进一步的贡献！

硬件

我需要什么硬件？

GPT4All 可以在 CPU、Metal (Apple Silicon M1+) 和 GPU 上运行。

系统要求是什么？

您的 CPU 需要支持 AVX 或 AVX2 指令集，并且您需要足够的 RAM 将模型加载到内存中。