Terjemahan mesin · Versi asli bahasa Inggris

Pocket TTS 100M

Asli Apple waktu jalan

PocketTTS menambahkan asli CoreML speech synthesis to speech-swift. Semua tahap baku ke CPU hanya eksekusi. Aliran Alba Inggris preset 1,920-sampel frame di 24 kHz (80 ms per frame).

Pengantar yang ditunggu-tunggu berlaku tekanan balik. Setiap permintaan memiliki keadaan dan benih yang berulang. Kancah, kegagalan callback, dan laporan callback kesalahan batas generasi; penyelesaian yang sukses memancarkan satu potongan final kosong. Suara kloning dan bahasa lain tidak didukung oleh bundel ini.

Unduh autlacer bundel terbitan / Pocket-TTS-100M-CoreML-INT8 pada penggunaan pertama, atau muat sebuah ekspor lokal. Tahan attribusi ke Kyutai, FluidInference, dan Alba MacKenna dibawah CC BY 4.0.

Penggunaan Swift dan CLI

speech speak "Hello world." --engine pocket --stream \
  --pocket-bundle-dir /path/to/bundle --pocket-seed 42 -o hello.wav

import PocketTTS
let model = try PocketTTSModel.fromBundle(URL(fileURLWithPath: "/path/to/bundle"))
try await model.generateStreaming(text: "Hello world.") { chunk in
    await consume(chunk.samples)
}

HTTP dan WebSocket

Gunakan pockett- tts dengan suara alba. Streaming HTTP membutuhkan PCM; WebSocket memancarkan server audio. Model baku yang ada tidak berubah.

curl http://localhost:8080/v1/audio/speech \
  -H 'Content-Type: application/json' \
  -d '{"model":"pocket-tts","voice":"alba","input":"Hello world.","response_format":"pcm","stream":true}' \
  -o hello.pcm

Apel CPU benchmark

Apple M5 Pro 48 GiB first_audio_ms 78.9 · RTF 0.337 · peak_rss 866.8 MiB5 ! Benih =42 · 2026-10-17

Pocket TTS 100M adalah low-latency, on-device teks bahasa-to-speech backend di speech-core. Publik ONNX bundle menggunakan suara Alba tetap dan aliran audio segera setelah setiap frame akustik siap.

Streaming audio pertama

Inferensi benar-benar interleaved: salah satu autoregresif latent adalah diterjemahkan dan dipancarkan sebelum generasi berikutnya laten. Setiap non-final callback membawa 1,920 Float32 sampel - 80 ms di 24 kHz - menghindari lantai fixed-graphics dari buffered TTS ekspor.

Dipublikasi bundel

Butir	Rincian
Model	soniqo/Pocket-TTS-100M-ONNX-INT8
Rilis	`v1.0.0` · `ad5d3fae3fb2f10024583708597afca8337c094c`
Ukuran bundle	120.3 MiB
Runtime	ONNX Runtime # C + +17 dinamis INT8 + FP32
Keluaran	24 kHz mono Float32 PCM 1,920 sampel / 80 ms per frame
Bahasa / suara	Bahasa Inggris

Unduh dan verifikasi

Pin pengunduh speech-core v1.0.0 dan memverifikasi setiap berkas yang diterbitkan oleh SHA-256.

bash scripts/download_pocket_tts_onnx.sh /models/pocket-tts-onnx

C++ API

#include <speech_core/models/onnx_pocket_tts.h>

speech_core::PocketTtsConfig config;
config.intra_threads = 2;
config.flow_steps = 4;

speech_core::OnnxPocketTts tts("/models/pocket-tts-onnx", config);
tts.synthesize("Hello world.", "en",
    [](const float* samples, size_t length, bool is_final) {
        // Each non-final callback is 1,920 Float32 samples:
        // 80 ms at 24 kHz.
    });

Kontrak streaming

Callback menerima satu 80 ms frame pada suatu waktu; tanda callback akhir akhir arus. last_metrics() laporan pengkondisian, pertama-audio dan total latensi, bingkai dan jumlah sampel, EOS negara, pembatalan, dan benih efektif. cancel() menghentikan sebuah sintesis aktif.

Galaxy S23 Ultra benchmark

Sebuah tayangan ulang yang bersih dari publik v1.0.0 bundle digunakan ONNX Runtime 1.27, dua CPU benang, dan Galaxy S23 Ultra, ini adalah pengukuran mesin langsung, bukan UI atau waktu pipa lengkap.

Metrik	Hasil
TTFA p50 / p95	127.7 / 133.7 ms
Total latensi p50 / p95	467,5 / 485.3 ms
India RTF	0.4495
Puncak RSS	373.7 MiB

Rutin- perjalanan kecerdasan

Gerbang perangkat disintesis 46 perintah dan asisten frasa, mengulang audio melalui produksi 24- to- 16 kHz path, dan mentranskripsikannya dengan Parakeet- EOU pengidentifikasi.

Metrik	Hasil
Corpus	46 frase
Transkrip yang tepat	31 / 46
WER / CER	8.00% / 3.47%
Audio / transkrip / EOS kosong gagal	0 / 0 / 0

Perjalanan ASR mengukur kecerdasan, bukan preferensi naturalitas atau pendengar; itu melengkapi tes mendengarkan.

Status integrasi

Apa yang tersedia hari ini

C + +17 ONNX backend digabung dalam speech-core dan membangun untuk Windows, Linux, dan AndroidArus speech-android SDK/ JNI path masih memilih Kokoro baku; pilihan model Kotlin, pengunduh kabel, dan SDK Paparan adalah hasil kerja yang diikuti. Bagian ini menjelaskan ONNX rilis; asli Swift CoreML waktu berjalan didokumentasikan di atas.

Batas dan lisensi

Bahasa Inggris saja; pos pemeriksaan publik membuat suara Alba yang tetap dan tidak mendukung kloning suara yang sewenang-wenang.
Model dan suaranya adalah CC BY 4.0.
Grafik yang berulang berorientasi pada CPU. Akselerasi perangkat keras dipilih karena eksekusi Android bervariasi oleh perangkat dan pembuatan ONNX Runtime.
Sumber speech-core adalah Apache 2.0; bundel model tersebut menyimpan sendiri CC BY 4.0.