Strojový překlad · Anglický originál

Parakeet TDT - Android

Parakeet TDT v3 běží Android, vložené Linux, a Windows prostřednictvím ONNX Runtime. Model je rozdělen na enkodér a dekodér-společné soubory, oba INT8 kvantifikovaný, s podporou TDT chamtivého dekodéru 114 jazyky a 8192-symbolická slovní zásoba.

Vzorové soubory

SouborVelikost
parakeet-encoder-int8.onnx840 MB
parakeet-decoder-joint-int8.onnx51 MB
vocab.json& lt; 1 MB

HuggingFace: soniqo/Parakeet-TDT-v3-ONNX

Výkonnost

MetrickéHodnota
Jazyky114
KvantizaceINT8
DekodérTDT chamtivost
Faktor reálného časuRTF 0.12 (~ 150 ms pro 1.5 s audio)
Zrychlení hardwaruNNAPI (Android), QNN Hexagon DSP (Linux)

Kotlin (Android)

val modelDir = ModelManager.ensureModels(context)
val pipeline = SpeechPipeline(SpeechConfig(modelDir = modelDir))
pipeline.events.collect { event ->
    when (event) {
        is SpeechEvent.TranscriptionCompleted -> println(event.text)
        else -> {}
    }
}
pipeline.start()
pipeline.pushAudio(samples) // 16kHz mono float32

C API (Linux)

speech_config_t cfg = speech_config_default();
cfg.model_dir = "/opt/models";
speech_pipeline_t p = speech_create(cfg, on_event, NULL);
speech_start(p);
speech_push_audio(p, samples, 512);

Zdroj: github.com /soniqo/speech-android