headroom

microsoft

markitdown

MarkItDown 是一个 Python 工具，把各类文件与 Office 文档转成 Markdown，方便喂给 LLM 使用。典型场景是搭建 RAG 或文档问答时，先用它把 PDF、Word、Excel 等原始资料统一转成 Markdown，再交给后续的 workflow 处理。

BerriAI

litellm

LiteLLM 是一个 AI Gateway，用统一接口调用 100 多个 LLM API，兼容 OpenAI 格式，省去为每家厂商重写 SDK 的麻烦。它适合在多个模型间做路由与负载均衡，并统一追踪成本、日志和 guardrails。

chatchat-space

Langchain-Chatchat

Langchain-Chatchat 是一个基于 Langchain 构建的本地知识库问答应用，支持 ChatGLM、Qwen、Llama 等模型，解决私有文档接入 LLM 的问题。典型场景是把内部资料建成知识库，通过 RAG 检索后由模型作答，全程可本地部署。

langfuse

langfuse

Langfuse 是一个开源 LLM 工程平台，用于追踪、评估和调试 AI 应用，帮开发者看清 agent 与 prompt 的真实表现。典型场景是上线前跑评测，定位回答变差的原因并持续改进。

langchain-ai

deepagents

deepagents 是 LangChain 推出的 agent harness，为 LLM 应用提供开箱即用的编排能力，省去从零搭建 agent 循环的麻烦。它内置任务规划、文件操作与子 agent 等模块，适合用 Python 构建能自主完成多步骤复杂任务的 workflow。

NousResearch

hermes-agent

hermes-agent 是一个 Python 编写的大语言模型 agent 框架，用来把 prompt、工具调用和 workflow 串起来，帮开发者快速搭出能自主完成任务的智能体。最典型的用法是接入自己的 LLM，让它调用本地 CLI 或外部 SDK 执行多步操作，省去手写调度逻辑。