产品概览
AnythingLLM是一个全栈应用程序，您可以使用现成的商业大语言模型或流行的开源大语言模型，再结合向量数据库解决方案构建一个私有ChatGPT，不再受制于人：您可以本地运行，也可以远程托管，并能够与您提供的任何文档智能聊天。
AnythingLLM将您的文档划分为称为workspaces (工作区)的对象。工作区的功能类似于线程，同时增加了文档的容器化。工作区可以共享文档，但工作区之间的内容不会互相干扰或污染，因此您可以保持每个工作区的上下文清晰。
AnythingLLM的一些酷炫特性
- 🆕 自定义AI代理
- 🆕 无代码AI代理构建器
- 🖼️ 多用户实例支持和权限管理（支持封闭源和开源LLM！）
- 👤 多用户实例支持和权限管理 仅限Docker版本
- 🦾 工作区内的智能体Agent（浏览网页、运行代码等）
- 💬 为您的网站定制的可嵌入聊天窗口
- 📖 支持多种文档类型（PDF、TXT、DOCX等）
- 通过简单的用户界面管理向量数据库中的文档
- 两种对话模式：
聊天和查询。聊天模式保留先前的对话记录。查询模式则是针对您的文档做简单问答 - 聊天中会提供所引用的相应文档内容
- 100%云部署就绪。
- “部署你自己的LLM模型”。
- 管理超大文档时高效、低耗。只需要一次就可以嵌入（Embedding）一个庞大的文档或文字记录。比其他文档聊天机器人解决方案节省90%的成本。
- 全套的开发人员API，用于自定义集成！
支持的LLM、嵌入模型、转录模型和向量数据库
支持的LLM：
- 任何与llama.cpp兼容的开源模型
- OpenAI
- OpenAI (通用)
- Azure OpenAI
- Anthropic
- Google Gemini Pro
- Hugging Face (聊天模型)
- Ollama (聊天模型)
- LM Studio (所有模型)
- LocalAi (所有模型)
- Together AI (聊天模型)
- Fireworks AI (聊天模型)
- Perplexity (聊天模型)
- OpenRouter (聊天模型)
- Novita AI (聊天模型)
- Mistral
- Groq
- Cohere
- KoboldCPP
- PPIO (聊天模型)
支持的嵌入模型：
支持的转录模型：
- AnythingLLM内置 （默认）
- OpenAI
TTS (文本转语音) 支持：
- 浏览器内置（默认）
- PiperTTSLocal - 在浏览器中运行
- OpenAI TTS
- ElevenLabs
- 任何与 OpenAI 兼容的 TTS 服务
STT (语音转文本) 支持：
- 浏览器内置（默认）
支持的向量数据库：
技术概览
这个单库由三个主要部分组成：
frontend: 一个 viteJS + React 前端，您可以运行它来轻松创建和管理LLM可以使用的所有内容。server: 一个 NodeJS express 服务器，用于处理所有交互并进行所有向量数据库管理和 LLM 交互。docker: Docker 指令和构建过程 + 从源代码构建的信息。collector: NodeJS express 服务器，用于从UI处理和解析文档。
📢 免责声明 | 工具使用提醒
1️⃣ 本文内容基于发布时已知信息整理，AI技术及工具更新频繁，请以官方最新说明为准。
2️⃣ 推荐工具经过基础筛选，但未进行深度安全验证，请自行评估适用性及风险。
3️⃣ 使用第三方AI工具时，请注意数据隐私保护，避免上传敏感信息。
4️⃣ 本网站不承担因工具误用、技术故障或内容偏差导致的直接/间接损失。
5️⃣ 部分工具可能涉及付费订阅，请理性决策，本站不含任何投资建议。