Maskinoversættelse · Engelsk original
Parakeet TDT - Android
Parakeet TDT v3 kører på Android, indlejret Linux og Windows via ONNX Runtime. Modellen er opdelt i encoder og dekoder- fælles filer, både INT8 kvantiseret, med en TDT grådig dekoder understøtter 114 sprog og en 8192- token BPE ordforråd.
Modelfiler
| Fil | Størrelse |
|---|---|
parakeet-encoder-int8.onnx | 840 MB |
parakeet-decoder-joint-int8.onnx | 51 MB |
vocab.json | & lt; 1 MB |
HuggingFace: soniqo/Parakeet-TDT-v3-ONNX
Præstation
| Metric | Værdi |
|---|---|
| Sprog | 114 |
| Kvantificering | INT8 |
| AfkoderStencils | TDT grådig |
| Realtidsfaktor | RTF 0.12 (~ 150 ms for 1.5 s audio) |
| Hardwareacceleration | NNAPI (Android), QNN Hexagon DSP (Linux) |
Kotlin (Android)
val modelDir = ModelManager.ensureModels(context)
val pipeline = SpeechPipeline(SpeechConfig(modelDir = modelDir))
pipeline.events.collect { event ->
when (event) {
is SpeechEvent.TranscriptionCompleted -> println(event.text)
else -> {}
}
}
pipeline.start()
pipeline.pushAudio(samples) // 16kHz mono float32C API (Linux)
speech_config_t cfg = speech_config_default();
cfg.model_dir = "/opt/models";
speech_pipeline_t p = speech_create(cfg, on_event, NULL);
speech_start(p);
speech_push_audio(p, samples, 512);