Fish Audio S2 Pro
Эта страница Soniqo описывает Fish Audio S2 Pro из локальной реализации speech-swift / speech-core. Ссылки на Hugging Face находятся ниже после заметок по интеграции.
Сначала внутренняя страница
Карточки и меню документации сначала ведут сюда; ссылки на исходную модель и бандлы остаются на этой странице.
Кратко
| Модель | Fish Audio S2 Pro |
|---|---|
| Роль | Experimental multilingual TTS with raw-reference cloning and style markers |
| Backend | MLX fp16 |
| Вывод | 44.1 kHz mono PCM |
| Языки | Multilingual |
| Лицензия | Research / non-commercial bundle; obtain Fish Audio license for commercial exposure |
| Статус | Programmatic runtime; CLI integration is still pending |
| Источник | Fish Audio S2 Pro |
| Swift-продукт | FishAudioTTS |
| CLI / runtime | Programmatic runtime today; planned speech speak --engine fish-audio |
Использование
Фрагмент ниже соответствует текущему API или команде из speech-swift.
import FishAudioTTS
let model = try await FishAudioTTSModel.fromPretrained()
let pcm = try await model.generate(
text: "आज मैं बहुत खुश हूँ। [excited]",
referenceAudioURL: URL(fileURLWithPath: "reference.wav"),
referenceText: "नमस्ते, यह संदर्भ आवाज है।"
)Ссылки модели
Заметки реализации
- Download uses the newer explicit byte-weighted file manifest, so progress reflects real transferred bytes across the multi-GB shards.
- Control markers include [pause], [emphasis], [laughing], [excited], [angry], [whisper], [screaming], [shouting], [surprised], and [sad].
- The runtime generates 10 DAC codebook rows, then decodes generated or reference-conditioned codebooks through FishAudioCodec.
- Current tests cover bundle loading, codebook generation, codec encode/decode, Hindi cloning, and ASR round-trip gates.