部署模型驱动的语音转文字工具站
简单记录一下实际部署过程。 总体思路 Qwen3-ASR：运行语音转文字服务。 llama.cpp：运行 LLM，用于对转出的文字进行润色或翻译。 ASR 网关：转换浏览器上传的语音格式，并将请求转给 Qwen3-ASR。 上述功能使用三只容器实现：Qwen3-ASR、ASR 网关和 llama.cpp。 ...
简单记录一下实际部署过程。 总体思路 Qwen3-ASR：运行语音转文字服务。 llama.cpp：运行 LLM，用于对转出的文字进行润色或翻译。 ASR 网关：转换浏览器上传的语音格式，并将请求转给 Qwen3-ASR。 上述功能使用三只容器实现：Qwen3-ASR、ASR 网关和 llama.cpp。 ...