icon

AnythingLLM

一個全棧應用程式,讓您能夠將任何文件、資源或內容轉換為任何 LLM 在聊天過程中可以作為參考的上下文。

template cover
部署次數27
發布者leechenghsiu
建立於2025-06-30
模板內的服務
service icon
標籤
AILLMRAGDocument ProcessingChatbot

AnythingLLM

介紹

AnythingLLM 是一個全棧應用程式,能讓您將任何文件、資源或內容轉換為任何 LLM 在聊天過程中可以使用的上下文參考。

功能特色

  • 多種 LLM 支援:支援 OpenAI、Anthropic、Ollama 等多種 LLM 提供商
  • 文件處理:上傳並處理各種格式的文件(PDF、Word、PowerPoint 等)
  • 向量化存儲:將文件內容向量化並存儲在向量資料庫中
  • 智能問答:基於您的文件內容進行智能問答
  • 多用戶支援:支援用戶管理和權限控制
  • 語音功能:支援語音轉文字和文字轉語音
  • 高度可自定義:可配置的 AI 助手

使用方法

  1. 部署此模板,系統會提示您綁定域名
  2. 啟動服務後,您可以在 https://<您的域名> 訪問 AnythingLLM
  3. 首次訪問時,系統會引導您完成初始設置
  4. 上傳您的文件並開始與 AI 助手對話

配置說明

部署後,您可以透過在 Zeabur 服務設定中修改環境變數來自訂 AnythingLLM。以下是關鍵配置選項:

LLM 提供商配置

透過設定以下環境變數來配置您偏好的 LLM 提供商:

  • LLM_PROVIDER:設定為 ollamaopenaianthropic
  • OLLAMA_BASE_PATH:Ollama API 基礎 URL(預設:http://127.0.0.1:11434
  • OLLAMA_MODEL_PREF:偏好的 Ollama 模型(預設:llama2
  • OLLAMA_MODEL_TOKEN_LIMIT:Ollama 模型權杖限制(預設:4096

對於 OpenAI 或 Anthropic,您需要在網頁介面中設定額外的 API 金鑰變數。

嵌入配置

  • EMBEDDING_ENGINE:嵌入提供商(預設:ollama
  • EMBEDDING_BASE_PATH:嵌入 API 基礎 URL(預設:http://127.0.0.1:11434
  • EMBEDDING_MODEL_PREF:偏好的嵌入模型(預設:nomic-embed-text:latest
  • EMBEDDING_MODEL_MAX_CHUNK_LENGTH:最大區塊長度(預設:8192

向量資料庫

  • VECTOR_DB:向量資料庫類型(預設:lancedb

預設使用 LanceDB,這是一個高效的向量資料庫,適合大多數使用場景。

語音功能

  • WHISPER_PROVIDER:語音轉文字提供商(預設:local
  • TTS_PROVIDER:文字轉語音提供商(預設:native

安全設定

  • JWT_SECRET:JWT 密鑰(自動產生)
  • PASSWORDMINCHAR:最小密碼長度(預設:8

如何修改環境變數

  1. 前往您的 Zeabur 服務儀表板
  2. 導航至「變數」分頁
  3. 新增或修改上述環境變數
  4. 重新啟動您的服務以使變更生效

詳細配置選項請參閱 AnythingLLM 文件

注意事項

  • 首次啟動可能需要較長時間來初始化
  • 建議為生產環境設置強密碼
  • 定期備份您的文件和配置

官方資源

  • 官方網站:https://anythingllm.com
  • 文檔:https://docs.anythingllm.com
  • GitHub:https://github.com/Mintplex-Labs/anything-llm