在 SageMaker AI 上利用 vLLM-Omni 构建实时语音应用 – 第 1 部分

AWS 发布教程指导开发者利用 vLLM-Omni v1.5 深度学习容器（DLC），在 Amazon SageMaker AI 上部署 Qwen3-TTS 模型。该方案基于 HTTP/2 全双工 WebSocket 建立持久双向连接，实现输入文本流与 24 kHz PCM 音频块流的实时互传。部署还支持配置 ml.g6.xlarge 等机型的实例池，并提供配套 Gradio 交互示例。