jina-ai

serve

LLMOps

Jina Serve 用云原生技术栈把多模态 AI 应用封装成可编排的 workflow,解决从模型到服务之间部署与扩展的工程难题。典型场景是开发者用 Python 定义处理链,通过 CLI 一键启动并暴露 API,省去手写服务框架的麻烦。

查看 GitHub 原始描述(英文)

☁️ Build multimodal AI applications with cloud-native stack

#cloud-native#cncf#deep-learning#docker#fastapi#framework#generative-ai#grpc#jaeger#kubernetes#llmops#machine-learning#microservice#mlops#multimodal#neural-search#opentelemetry#orchestration#pipeline#prometheus

按钮会在新标签页打开,本站不代理、不镜像仓库内容。

相关项目

同主题共 8 个
pathwaycom

llm-app

这是一个开箱即用的云端模板库,用于快速搭建 RAG、AI pipeline 和企业搜索,解决实时数据接入与同步的问题。它提供 Docker 友好的运行方式,最典型的场景是让索引始终与 Sharepoint、Google Drive、S3、Kafka 等数据源保持同步。

5.9万1,503Jupyter Notebook
LLMOps最近提交 2026-07-05
ComposioHQ

composio

Composio 是一个 TypeScript 编写的 LLMOps 工具包,帮开发者解决 AI agent 调用外部工具的难题,内置大量 toolkit、tool search 与认证管理。典型场景是让 agent 通过统一接口连接 GitHub、Slack 等服务,把用户意图直接变成实际操作。

3.1万4,853TypeScript
LLMOps最近提交 2026-10-12
mlflow

mlflow

MLflow 是开源 AI 工程平台,用来管理 agents、LLM 和机器学习模型的生命周期,帮团队调试、评估、监控并优化生产级 AI 应用,同时控制成本、管理模型与数据访问。典型场景是把 prompt 和模型版本纳入统一的 experiment tracking,让迭代可复现、可对比。

2.8万6,441Python
LLMOps最近提交 2026-10-12
promptfoo

promptfoo

promptfoo 是一个用 TypeScript 编写的开源工具,用来测试 prompt、agent 和 RAG 的效果,并支持对 AI 应用做红队与漏洞扫描。它用声明式配置定义测试用例,可在命令行和 CI/CD 中运行,适合在切换模型或修改 prompt 后做回归对比。

2.6万2,462TypeScript
LLMOps最近提交 2026-10-12
liguodongiot

llm-action

llm-action 是一份面向开发者的中文大模型工程化实战资料,用 HTML 整理,聚焦 LLMOps 落地。它把大模型技术原理与实战经验结合,适合想跑通训练、推理到部署完整 workflow 的工程师参考。

2.5万2,853HTML
LLMOps最近提交 2026-07-19
comet-ml

opik

Opik 是一个开源的 LLMOps 平台,用于调试、评估和监控 LLM 应用、RAG 系统与 agentic workflow。它提供完整的 tracing、自动化评估和生产级 dashboard,最典型的用法是在开发阶段追踪每次 LLM 调用的输入输出,快速定位 prompt 或检索环节的问题。

2.3万1,845Python
LLMOps最近提交 2026-10-12