Voxtral TTS

Voxtral 4B TTS 2603 работает локально на Apple Silicon через модуль VoxtralTTS: 20 готовых голосов, девять языков и монофоническая речь с частотой 24 кГц.

Командная строка

speech speak "Hello, welcome to Voxtral." --engine voxtral --voxtral-voice casual_male --stream --voxtral-chunk-frames 3 -o hello.wav
speech speak --engine voxtral --list-speakers
speech speak "Bonjour." --engine voxtral --voxtral-voice fr_female --voxtral-max-frames 500 --voxtral-seed 0 -o bonjour.wav

Swift API

import VoxtralTTS

let model = try await VoxtralTTSModel.fromPretrained()
for try await chunk in model.generateStream(text: "Hello, welcome to Voxtral.", voice: "casual_male") {
    print(chunk.frameIndex, chunk.samples.count, chunk.isFinal)
}

API сервера

curl http://localhost:8080/v1/audio/speech \
  -H 'Content-Type: application/json' \
  -d '{"model":"voxtral-tts","input":"Hello, welcome to Voxtral.","voice":"casual_male","response_format":"wav"}' \
  -o hello.wav

/v1/realtime: session.update → {"model":"voxtral-tts","voice":"casual_male"}; response.create → {"instructions":"Hello, welcome to Voxtral."}.

curl http://localhost:8080/v1/audio/speech \
  -H 'Content-Type: application/json' \
  -d '{"model":"voxtral-tts","input":"Hello, welcome to Voxtral.","voice":"casual_male","stream":true,"response_format":"pcm"}' \
  -o hello.pcm

Готовые голоса

`en`	`casual_male, casual_female, cheerful_female, neutral_male, neutral_female`
`fr`	`fr_male, fr_female`
`es`	`es_male, es_female`
`de`	`de_male, de_female`
`it`	`it_male, it_female`
`pt`	`pt_male, pt_female`
`nl`	`nl_male, nl_female`
`ar`	`ar_male`
`hi`	`hi_male, hi_female`

Ограничения и управление состоянием

Доступны только готовые голоса; клонирование по образцу аудио не поддерживается. SDK, CLI, WebSocket и HTTP PCM выдают аудио по мере генерации. Полный входной текст необходимо передать в начале. Веса модели распространяются по CC BY-NC 4.0.

Каждый запрос хранит собственный кеш языковой модели, историю кодека и начальное значение генератора случайных чисел. Обратный вызов ожидает обработки данных получателем. По умолчанию блок содержит 3 кадра (240 мс аудио), предел — 500 кадров (40 секунд). Ошибка возможна после выдачи части аудио; конечная метка отправляется только при нормальном завершении.

VoxtralTTSOptions(streamingChunkFrames: 3) · generateStreaming(onChunk:) · AudioChunk.isFinal.

MLX 4-bit · Mistral · VoxtralTTS