Strojový překlad · Anglický originál
Parakeet TDT - Android
Parakeet TDT v3 běží Android, vložené Linux, a Windows prostřednictvím ONNX Runtime. Model je rozdělen na enkodér a dekodér-společné soubory, oba INT8 kvantifikovaný, s podporou TDT chamtivého dekodéru 114 jazyky a 8192-symbolická slovní zásoba.
Vzorové soubory
| Soubor | Velikost |
|---|---|
parakeet-encoder-int8.onnx | 840 MB |
parakeet-decoder-joint-int8.onnx | 51 MB |
vocab.json | & lt; 1 MB |
HuggingFace: soniqo/Parakeet-TDT-v3-ONNX
Výkonnost
| Metrické | Hodnota |
|---|---|
| Jazyky | 114 |
| Kvantizace | INT8 |
| Dekodér | TDT chamtivost |
| Faktor reálného času | RTF 0.12 (~ 150 ms pro 1.5 s audio) |
| Zrychlení hardwaru | NNAPI (Android), QNN Hexagon DSP (Linux) |
Kotlin (Android)
val modelDir = ModelManager.ensureModels(context)
val pipeline = SpeechPipeline(SpeechConfig(modelDir = modelDir))
pipeline.events.collect { event ->
when (event) {
is SpeechEvent.TranscriptionCompleted -> println(event.text)
else -> {}
}
}
pipeline.start()
pipeline.pushAudio(samples) // 16kHz mono float32
C API (Linux)
speech_config_t cfg = speech_config_default();
cfg.model_dir = "/opt/models";
speech_pipeline_t p = speech_create(cfg, on_event, NULL);
speech_start(p);
speech_push_audio(p, samples, 512);