Maskinöversättning · Engelskt original
Parakeet TDT — Android
Parakeet TDT v3 körs på Android, inbäddad Linux och Windows via ONNX Runtime. Modellen är uppdelad i kodare och dekoder-joint-filer, både INT8 kvantiserad, med en TDT-girig dekoder som stöder 114-språk och en 8192 -token BPE vokabulär.
Modellfiler
| Fil | Storlek |
|---|---|
parakeet-encoder-int8.onnx | 840 MB |
parakeet-decoder-joint-int8.onnx | 51 MB |
vocab.json | <1 MB |
HuggingFace: soniqo/Parakeet-TDT-v3-ONNX
Prestanda
| Metric | Värde |
|---|---|
| Språk | 114 |
| Kvantisering | INT8 |
| Decoder | TDT giriga |
| Realtidsfaktor | RTF 0,12 (~150 ms för 1,5 s ljud) |
| Hårdvaruacceleration | NNAPI (Android), QNN Hexagon DSP (Linux) |
Kotlin (Android)
val modelDir = ModelManager.ensureModels(context)
val pipeline = SpeechPipeline(SpeechConfig(modelDir = modelDir))
pipeline.events.collect { event ->
when (event) {
is SpeechEvent.TranscriptionCompleted -> println(event.text)
else -> {}
}
}
pipeline.start()
pipeline.pushAudio(samples) // 16kHz mono float32C API (Linux)
speech_config_t cfg = speech_config_default();
cfg.model_dir = "/opt/models";
speech_pipeline_t p = speech_create(cfg, on_event, NULL);
speech_start(p);
speech_push_audio(p, samples, 512);