跳到正文
sobolewski.pro今日 AI,每晚送达订阅

每天一封,一键即可退订。 隐私政策

Voxtral 3:Mistral 打造语音智能体技术栈

Mistral 的 Voxtral 3 包含语音转文字、文字转语音模型和语音智能体 SDK,每分钟 0.0035 美元起。本文介绍它能做什么、价格多少。

1 分钟阅读

本文的其他语言版本:العربيةDeutschEnglishEspañolFrançaisItaliano日本語Polski

本文内容
  1. Voxtral 3 有哪些新功能?
  2. Voxtral 3 多少钱?
  3. Voxtral 3 支持中文吗?
  4. 有什么问题吗?
  5. 如何试用 Voxtral 3?
  6. FAQ

10月20日,Mistral 发布了 Voxtral 3,这是一个全新的语音转文字和文字转语音模型家族,同时推出了用于构建语音智能体的 SDK。所有功能都可以通过 Mistral API 使用,发布消息在 Hacker News 的讨论帖中获得了近500分。

Voxtral 3 有哪些新功能?

根据发布公告,Voxtral 3 包含四个模型和一个 SDK:

  1. Voxtral Small Transcribe 3:最精确的转录模型,支持说话人识别(即所谓的“diarization”)、专业术语提示和话语结束检测。
  2. Voxtral Mini Transcribe 3:更小的转录模型(4B 参数)。
  3. Voxtral Mini Transcribe Realtime 3:实时转录,延迟 低于 500 ms,专为智能体设计。
  4. Voxtral Speech 3:语音合成,可控制情感、语速和重音。据 模型文档,首个音频约在 90 ms 后输出。

此外还有基于 LiveKit 构建的 语音智能体 SDK。聆听、推理、调用工具和说话都在同一个流中完成,据 Mistral 称,每轮对话的处理时间不到一秒。智能体可以使用网页搜索和我们自己系统中的数据,可通过 SIP(也就是普通电话)或 WebRTC 接入。

Voxtral Speech 3 还能克隆声音。基础克隆需要30分钟以上的录音;针对专业用途,Mistral 提供所谓的“Pro Voice”,据公告还能还原说话人的独特风格。

Voxtral 3 多少钱?

公告中的价格:

模型 价格
Voxtral Small Transcribe 3 每分钟 0.004 美元
Voxtral Mini Transcribe 3 每分钟 0.0035 美元
Voxtral Mini Transcribe Realtime 3 每分钟 0.008 美元
Voxtral Speech 3 每 100 万字符 13 美元
语音智能体 API 每分钟 0.04 美元(使用 Mistral Small 4)或 0.08 美元(使用其他模型)

也就是说,用最小的模型转录一小时约需21美分。Mistral 在这里与 Whisper、ElevenLabs、Deepgram 和 Gemini 做了比较,但这些都只是公司自己的测量结果,所以我会等独立测试出来再下判断。

Voxtral 3 支持中文吗?

至少在转录方面,语言覆盖很广。据公告,语音转文字模型支持50多种语言,包括欧盟全部24种官方语言,以 FLEURS 基准评测。

语音合成的情况则没那么清楚。公告提到声音库中有35种以上语言和50种方言,但 文档中的模型卡 只列出了9种语言 (在基于它开发任何东西之前,先在 playground 里试试中文声音)。

有什么问题吗?

有,而这正是 Hacker News 讨论的焦点。之前的 Voxtral 模型是开放权重的(例如 Hugging Face 上的 Voxtral Mini 3B),但 Voxtral 3 的公告既没提权重,也没提许可证。Mistral 写的是“self-deployment on your own infrastructure”,但本地部署需要联系销售团队。一位评论者简短地总结道:“Closed model unfortunately”。

对质量的评价也褒贬不一。有人称赞之前版本的转录和说话人识别,也有人说演示中的新声音听起来更假,并推荐用 Parakeet 做本地转录。所以在看到更广泛的测试之前,我们对公告内容还是要保持谨慎。

如何试用 Voxtral 3?

我们有两种方式:

  1. Mistral Studio 的 playground:登录 Mistral 控制台 后,可以测试转录、语音合成、声音克隆和语音智能体。
  2. API:在 控制台 生成密钥,详细信息见 音频文档。端点在欧盟、美国和全球均可用。

如果我们想找能在自己电脑上运行的东西,Voxtral 3 并不合适(至少目前如此)。这时最好选择较早的开放版本,在本地运行 AI。而正在构建快速语音智能体的人,可以把 Voxtral 3 和 Inception 随 Mercury 3 一起发布的 Mercury Voice 做个比较。

FAQ

Voxtral 3 开源吗?

目前没有任何迹象表明它开源。公告没有给出许可证或权重链接,在自有基础设施上部署需要联系 Mistral。开放权重的是较早的 Voxtral 模型。

Voxtral 3 转录多少钱?

从每分钟 0.0035 美元(Voxtral Mini Transcribe 3)到实时模式的每分钟 0.008 美元。语音合成每百万字符 13 美元。

Voxtral 3 和之前的 Voxtral 有什么不同?

之前的版本是单独的转录或语音合成模型,大部分是开放权重。Voxtral 3 则是一整个模型家族,外加语音智能体 SDK,通过 API 提供。

  • AI
  • API
  • AI 智能体

今日 AI,每晚送达

每晚送上当天最重要的 AI 新闻和博客新文章。简明扼要,附有来源。

每天一封,一键即可退订。 隐私政策

1 分钟阅读

AI智能体安全:API密钥、沙箱与消费限额

AI智能体安全实战:如何保护API密钥,在Claude Code中设置权限和沙箱,配置消费限额并扫描密钥泄露。分步讲解。

  • AI
  • AI 智能体
  • Claude Code
  • API
  • 教程