sglang-omni
音乐生成SGLang-Omni 是面向音频模型与统一多模态模型的高性能 serving 框架,用 Python 编写,解决 TTS、ASR 等模型部署时推理效率低的问题。典型场景是把训练好的语音模型通过它上线,对外提供低延迟的 API 服务。
查看 GitHub 原始描述(英文)
SGLang-Omni is a high-performance serving framework for audio models (TTS, ASR) and unified multimodal models.
按钮会在新标签页打开,本站不代理、不镜像仓库内容。