HuggingFace
25-05-18 21:57 微博认证:HuggingFace官方微博

🎙️ Whisper 转录提速 8 倍!Hugging Face 推出全新极速部署方案!
OpenAI 的 Whisper 模型迎来史上最快部署方式:我们将其集成到了 Hugging Face 的 Inference Endpoints 中,单击即可部署专属 ASR 模型,适配长音频转写、实时字幕、会议记录等场景 🎧

✨ 主要亮点:
🚀 最多提升 8 倍推理速度,支持 Whisper Large V3 / Turbo / Distil 等多个变体;
📉 转写准确率依然维持 SOTA 水准(Word Error Rate 对比无损);
🧠 基于 vLLM 项目实现底层优化:torch.compile、CUDA Graphs、float8 KV 缓存等加速技术;
🎯 针对长语音(如播客、采访)特别优化,支持 45 分钟以上的片段推理;
🌐 支持部署在 NVIDIA L4 / L40s 等硬件上,配合 Spaces 可实现 Web 化体验;
🛠️ 可一键部署转录接口,也可构建实时语音转文字应用(FastRTC demo 已上线!)

🗣️ Whisper 快不快,试试就知道!欢迎在 Hugging Face 上部署你的转录服务,或直接 fork 官方空间构建属于你的语音工具!

🤗 欢迎加入我们的中文社区:Chinese LLMs on Hugging Face,一起探索 AI 语音转写新速度!
#语音识别##Hugging Face##AI应用开发#

发布于 美国