Pocket TTS 100M

Native Apple Runtime · PocketTTS

PocketTTS legger til opprinnelig CoreML talesyntese til speech-swift. Alle stadier er standard til CPU-beskyttelse. Den engelske Alba-forhåndsinnstilte strømmer 1.920-prøverammer ved 24 kHz (80 ms per ramme).

Ventet levering gjelder backpressure. Hver forespørsel eier sin tilbakevendende tilstand og frø. Avbestilling, tilbakekallelsesfeil og generasjonsgrenser rapporterer feil; vellykket gjennomføring avgir en tom sluttbit. Stemmekloning og andre språk støttes av denne pakken.

Last ned den utgitte bunten aufklarer/Pocket-TTS-100M-CoreML-INT8 ved første bruk, eller last en lokal eksport. Behold tilskrivelse til Kyutai, FluidInference og Alba MacKenna under CC BY 4.0.

Swift og CLI-bruk

speech speak "Hello world." --engine pocket --stream \
  --pocket-bundle-dir /path/to/bundle --pocket-seed 42 -o hello.wav

import PocketTTS
let model = try PocketTTSModel.fromBundle(URL(fileURLWithPath: "/path/to/bundle"))
try await model.generateStreaming(text: "Hello world.") { chunk in
    await consume(chunk.samples)
}

HTTP og WebSocket

Bruk lommeknepninger med stemmealba. Strømming HTTP krever PCM; WebSocket sender ut lyddeltaer. De eksisterende standardmodellene er uendret.

curl http://localhost:8080/v1/audio/speech \
  -H 'Content-Type: application/json' \
  -d '{"model":"pocket-tts","voice":"alba","input":"Hello world.","response_format":"pcm","stream":true}' \
  -o hello.pcm

Apple CPU referanse

Apple M5 Pro · 48 GiB · cpuOnly · first_audio_ms 78.9 · RTF 0.337 · peak_rss 866.8 MiB · n=5 · Seed=42 · 2026-10-17

Pocket TTS 100M er lav-latens, på-avance engelsk tekst-til-speech motor i speech-core. Den offentlige ONNX bunten bruker den faste Alba stemme og strømmer lyd så snart hver akustisk ramme er klar.

Streaming første lyd

Inferens er virkelig innbyrdes innbyrdes: én autoregressiv latent dekodes og avgis før generasjonen av den neste latent. Hver ikke-finale tilbakekall bærer 1,920 Float32 prøver - 80 ms ved 24 kHz - unngår det faste full-graf gulv av buffert TTS eksport.

Publisert bunt

Vare	Detaljer
Modell	soniqo/Pocket-TTS-100M-ONNX-INT8
Utgivelse	`v1.0.0` · `ad5d3fae3fb2f10024583708597afca8337c094c`
Bundle størrelse	120.3 MiB
Runtime	ONNX Runtime · C++17 · dynamisk INT8 + FP32
Utgang	24 kHz mono Float32 PCM · 1.920 prøver / 80 ms per ramme
Language / stemme	Engelsk · Fast Alba stemme

Last ned og bekreft

speech-core last ned pins v1.0.0 og verifiserer hver publisert fil med SHA-256.

bash scripts/download_pocket_tts_onnx.sh /models/pocket-tts-onnx

C++ API

#include <speech_core/models/onnx_pocket_tts.h>

speech_core::PocketTtsConfig config;
config.intra_threads = 2;
config.flow_steps = 4;

speech_core::OnnxPocketTts tts("/models/pocket-tts-onnx", config);
tts.synthesize("Hello world.", "en",
    [](const float* samples, size_t length, bool is_final) {
        // Each non-final callback is 1,920 Float32 samples:
        // 80 ms at 24 kHz.
    });

Streaming kontrakt

Tilbakekallet mottar en 80 ms ramme om gangen; den endelige tilbaketrekkingsmerker enden av stream. last_metrics() rapporterer kondisjonering, første-audio og total latens, ramme- og prøvetall, EOS-tilstand, kansellering og det effektive frøet. cancel() stopper en aktiv syntese.

Galaxy S23 Ultra referanse

En ren omkjøring av offentligheten v1.0.0 bunt som brukes ONNX Runtime 1.27, to CPU tråder, og en Galaxy S23 Ultra. Dette er direkte motormålinger, ikke UI eller komplette talepipeline-timer.

Metrisk	Resultater
TTFA p50 / p95	127.7 / 133,7 ms
Total latens p50 / p95	467,5 / 485.3 ms
Median RTF	0.4495
Peak RSS	373,7 MiB

Rundtripp Intelligens

Enhetens port syntetiserte 46 kommando- og assistentfraser, resampulerte lyden gjennom produksjonen 24- til-16 kHz-stien og transkribert den med den utplasserte Parakeet-EOU-gjenkjenneren.

Metrisk	Resultater
Corpus	46 fraser
Eksakte transkripsjoner	31 / 46
WER / CER	8.00% / 3.47%
Tom lyd / transkripsjon / EOS-feil	0 / 0 / 0

Rundtur ASR måler intelligabilitet, ikke naturlighet eller lytterpreferanser; det supplerer lyttetester.

Integrasjonsstatus

Hva som er tilgjengelig i dag

C++17 ONNX motoren er slått sammen i speech-core Bygger for Windows, Linux, og Android. Nåværende speech-android SDK/JNI sti velger fortsatt Kokoro som standard; Kotlin-modellvalg, laste ned ledninger og SDK eksponering er oppfølgingsarbeid. Denne delen beskriver ONNX frigjøring; den innfødte Swift CoreML Runtime dokumenteres ovenfor.

Grenser og lisens

Bare engelsk; den offentlige kontrollpunkt baker i den faste Alba-stemmen og støtter ikke vilkårlig stemmekloning.
Modellen og stemmen er CC BY 4.0. Hold Alba MacKenna-tilskrivningen inkludert i pakkemanifestet.
De tilbakevendende grafene er CPU-orientert. Maskinvareakselerasjon er opt-in fordi Android utføre-leverandør støtte varierer etter enhet og ONNX Runtime bygge.
speech-core kilden er Apache 2.0; modellpakken beholder sin egen CC BY 4.0 vilkår.