Fish Audio S2 Pro
この Soniqo ページは、ローカルの speech-swift / speech-core 実装にある Fish Audio S2 Pro を説明します。Hugging Face バンドルへのリンクは統合メモの後にあります。
まずサイト内ページへ
ランディングカードとドキュメントメニューは先にこのページへ向け、ソースモデルとバンドルのリンクは本ページ内に残します。
概要
| モデル | Fish Audio S2 Pro |
|---|---|
| 役割 | Experimental multilingual TTS with raw-reference cloning and style markers |
| バックエンド | MLX fp16 |
| 出力 | 44.1 kHz mono PCM |
| 言語 | Multilingual |
| ライセンス | Research / non-commercial bundle; obtain Fish Audio license for commercial exposure |
| 状態 | Programmatic runtime; CLI integration is still pending |
| ソース | Fish Audio S2 Pro |
| Swift プロダクト | FishAudioTTS |
| CLI / ランタイム | Programmatic runtime today; planned speech speak --engine fish-audio |
使い方
以下のスニペットは、現在の speech-swift リポジトリが公開している API またはコマンドに合わせています。
import FishAudioTTS
let model = try await FishAudioTTSModel.fromPretrained()
let pcm = try await model.generate(
text: "आज मैं बहुत खुश हूँ। [excited]",
referenceAudioURL: URL(fileURLWithPath: "reference.wav"),
referenceText: "नमस्ते, यह संदर्भ आवाज है।"
)
モデルリンク
実装メモ
- Download uses the newer explicit byte-weighted file manifest, so progress reflects real transferred bytes across the multi-GB shards.
- Control markers include [pause], [emphasis], [laughing], [excited], [angry], [whisper], [screaming], [shouting], [surprised], and [sad].
- The runtime generates 10 DAC codebook rows, then decodes generated or reference-conditioned codebooks through FishAudioCodec.
- Current tests cover bundle loading, codebook generation, codec encode/decode, Hindi cloning, and ASR round-trip gates.