Traducere automată · Originalul în engleză

Parakeet TDT ا Android

Parakeet TDT v3 rulează Android, încorporat Linux și Windows via ONNX Runtime. Modelul este împărțit în fișiere comune de codor și decodor, ambele INT8 cuantizate, cu un decodor TDT lacom care susține 114 limbi și un vocabular BPE 8192-token.

Model de fișiere

FișierDimensiune
parakeet-encoder-int8.onnx840 MO
parakeet-decoder-joint-int8.onnx51 MO
vocab.json<1 MO

HuggingFace: soniqo/Parakeet-TDT-v3-ONNX

Performanță

Metrică Valoare
Limbi114
CuantificareINT8
DecodorTDT lacom
Factor în timp realRTF 0,12 (~150 ms pentru audio 1,5 s)
Accelerația hardware-uluiNNAPI (Android), QNN Hexagon DSP (Linux)

Kotlin (Android)

val modelDir = ModelManager.ensureModels(context)
val pipeline = SpeechPipeline(SpeechConfig(modelDir = modelDir))
pipeline.events.collect { event ->
    when (event) {
        is SpeechEvent.TranscriptionCompleted -> println(event.text)
        else -> {}
    }
}
pipeline.start()
pipeline.pushAudio(samples) // 16kHz mono float32

C API (Linux)

speech_config_t cfg = speech_config_default();
cfg.model_dir = "/opt/models";
speech_pipeline_t p = speech_create(cfg, on_event, NULL);
speech_start(p);
speech_push_audio(p, samples, 512);

Codul sursă: github.com/soniqo/speech-android