Traducere automată · Originalul în engleză
Parakeet TDT ا Android
Parakeet TDT v3 rulează Android, încorporat Linux și Windows via ONNX Runtime. Modelul este împărțit în fișiere comune de codor și decodor, ambele INT8 cuantizate, cu un decodor TDT lacom care susține 114 limbi și un vocabular BPE 8192-token.
Model de fișiere
| Fișier | Dimensiune |
|---|---|
parakeet-encoder-int8.onnx | 840 MO |
parakeet-decoder-joint-int8.onnx | 51 MO |
vocab.json | <1 MO |
HuggingFace: soniqo/Parakeet-TDT-v3-ONNX
Performanță
| Metrică | Valoare |
|---|---|
| Limbi | 114 |
| Cuantificare | INT8 |
| Decodor | TDT lacom |
| Factor în timp real | RTF 0,12 (~150 ms pentru audio 1,5 s) |
| Accelerația hardware-ului | NNAPI (Android), QNN Hexagon DSP (Linux) |
Kotlin (Android)
val modelDir = ModelManager.ensureModels(context)
val pipeline = SpeechPipeline(SpeechConfig(modelDir = modelDir))
pipeline.events.collect { event ->
when (event) {
is SpeechEvent.TranscriptionCompleted -> println(event.text)
else -> {}
}
}
pipeline.start()
pipeline.pushAudio(samples) // 16kHz mono float32
C API (Linux)
speech_config_t cfg = speech_config_default();
cfg.model_dir = "/opt/models";
speech_pipeline_t p = speech_create(cfg, on_event, NULL);
speech_start(p);
speech_push_audio(p, samples, 512);
Codul sursă: github.com/soniqo/speech-android