AnythingLLM
介紹
AnythingLLM 是一個全棧應用程式,能讓您將任何文件、資源或內容轉換為任何 LLM 在聊天過程中可以使用的上下文參考。
功能特色
- 多種 LLM 支援:支援 OpenAI、Anthropic、Ollama 等多種 LLM 提供商
- 文件處理:上傳並處理各種格式的文件(PDF、Word、PowerPoint 等)
- 向量化存儲:將文件內容向量化並存儲在向量資料庫中
- 智能問答:基於您的文件內容進行智能問答
- 多用戶支援:支援用戶管理和權限控制
- 語音功能:支援語音轉文字和文字轉語音
- 高度可自定義:可配置的 AI 助手
使用方法
- 部署此模板,系統會提示您綁定域名
- 啟動服務後,您可以在
https://<您的域名>
訪問 AnythingLLM
- 首次訪問時,系統會引導您完成初始設置
- 上傳您的文件並開始與 AI 助手對話
配置說明
部署後,您可以透過在 Zeabur 服務設定中修改環境變數來自訂 AnythingLLM。以下是關鍵配置選項:
LLM 提供商配置
透過設定以下環境變數來配置您偏好的 LLM 提供商:
- LLM_PROVIDER:設定為
ollama
、openai
、anthropic
等
- OLLAMA_BASE_PATH:Ollama API 基礎 URL(預設:
http://127.0.0.1:11434
)
- OLLAMA_MODEL_PREF:偏好的 Ollama 模型(預設:
llama2
)
- OLLAMA_MODEL_TOKEN_LIMIT:Ollama 模型權杖限制(預設:
4096
)
對於 OpenAI 或 Anthropic,您需要在網頁介面中設定額外的 API 金鑰變數。
嵌入配置
- EMBEDDING_ENGINE:嵌入提供商(預設:
ollama
)
- EMBEDDING_BASE_PATH:嵌入 API 基礎 URL(預設:
http://127.0.0.1:11434
)
- EMBEDDING_MODEL_PREF:偏好的嵌入模型(預設:
nomic-embed-text:latest
)
- EMBEDDING_MODEL_MAX_CHUNK_LENGTH:最大區塊長度(預設:
8192
)
向量資料庫
- VECTOR_DB:向量資料庫類型(預設:
lancedb
)
預設使用 LanceDB,這是一個高效的向量資料庫,適合大多數使用場景。
語音功能
- WHISPER_PROVIDER:語音轉文字提供商(預設:
local
)
- TTS_PROVIDER:文字轉語音提供商(預設:
native
)
安全設定
- JWT_SECRET:JWT 密鑰(自動產生)
- PASSWORDMINCHAR:最小密碼長度(預設:
8
)
如何修改環境變數
- 前往您的 Zeabur 服務儀表板
- 導航至「變數」分頁
- 新增或修改上述環境變數
- 重新啟動您的服務以使變更生效
詳細配置選項請參閱 AnythingLLM 文件。
注意事項
- 首次啟動可能需要較長時間來初始化
- 建議為生產環境設置強密碼
- 定期備份您的文件和配置
官方資源
- 官方網站:https://anythingllm.com
- 文檔:https://docs.anythingllm.com
- GitHub:https://github.com/Mintplex-Labs/anything-llm