logo
Harbor logo

Harbor一条命令,完整本地 AI 栈即刻就绪

Harbor CLI 工具一键启动 LLM 后端、聊天界面、联网搜索、语音、图像生成等完整本地 AI 栈,省去数小时配置时间。

Harbor screenshot

更多关于 Harbor 的信息

Harbor

Harbor 是一款强大的命令行工具和配套应用程序,只需一条命令即可部署完整的本地大语言模型(LLM)技术栈。轻松启动 Ollama、llama.cpp 或 vLLM 等后端,Open WebUI 等前端界面,以及 SearXNG 网络搜索、Speaches 语音对话、ComfyUI 图像生成等辅助服务——所有组件预配置完成,无缝协作。

产品亮点

  • 一键部署:使用 harbor up 启动整个 LLM 基础设施,无需手动配置 Docker
  • 预连接集成:所有服务自动互联,告别复杂的设置流程
  • 多后端支持:支持 15 种以上推理引擎,包括 Ollama、vLLM、llama.cpp、TabbyAPI 和 SGLang
  • 丰富生态系统:涵盖 80 多种服务,包括 UI 界面、后端引擎、卫星服务和流程工具
  • 编程助手集成:通过 harbor launch 将 Harbor 后端接入 Claude、Codex 等编程智能体

应用场景

  • 本地 AI 开发:无需依赖云端或支付 API 费用,即可构建和测试 LLM 应用
  • 私有 AI 工作流:完全本地化部署 RAG、对话和图像生成,确保数据安全
  • 本地模型编程:为 Claude Code、Codex 等编程工具提供本地 OpenAI 兼容后端
  • 语音交互 AI:部署语音识别与合成能力,打造对话式交互界面
  • 研究与实验:快速切换模型和配置,高效进行性能基准测试

目标用户

Harbor 专为开发者、AI 研究人员以及注重隐私的用户设计,适合希望本地运行大语言模型、又不想处理 Docker Compose 文件和手动服务配置的人群。尤其适合习惯使用命令行工具、追求简洁高效本地 AI 基础设施的技术用户。