🤖 Ollmo
Open LLM Orchestrator · 开源大模型编排器
数据不出门，用自己的知识库，打造专属 AI 生产力工具。
Ollmo 是一个生产级 RAG 平台，提供混合检索、多租户隔离与流式对话能力。市面上的 AI 编排平台概念繁多、配置复杂，Ollmo 把一切收敛成三步：上传文档、提出问题、拿到带出处的答案。一条命令部署，十分钟上手。
核心特性
- 混合检索 — 语义与关键词双路检索融合，关键词 ↔ 语义权重可调，支持知识库级重排配置，内置检索测试。
- 引用溯源 — 点击回答下方的引用即打开源文档并高亮命中段落：PDF 原版渲染、对话与文档并排对照，「答案有据可查」落到原文。
- Agent 画布 — 可视化编排流水线：意图分类 → 检索 → 条件分支 → LLM → 直接回复；支持单节点调试与运行时节点高亮。
- 文档流水线 — 上传（拖拽、粘贴、URL 导入）→ 解析 → 分块（段落 / Token / 问答对 / 父子分块）→ 向量化 → 索引，全程异步。
- 流式对话 — 实时流式输出，带来源引用、追问建议；客户端断开回答仍在后端继续生成，完整回答照常保存。
- 多租户 — MySQL、Milvus、MinIO 全链路逻辑隔离。
- 执行回放 — 每次 Agent 运行记录逐节点轨迹，可在只读画布上回放，用于调试与调优。
- 自动记忆 — 长对话自动生成摘要注入后续会话，实现跨对话上下文延续。
- 标注问答 — 人工标注的标准问答，命中即直接返回，保证高频问题回答稳定。
技术栈
| 层 | 技术 |
|---|---|
| 后端 | Go + Fiber |
| 前端 | Next.js App Router + shadcn/ui |
| 存储 | MySQL / Milvus / MinIO |