Traduzione automatica · Originale inglese

Parakeet TDT — Android

Parakeet TITOLO v3 corre su Android, embedded Linuxe Windows via via via via ONNX Runtime. Il modello è diviso in file encoder e decoder-joint, entrambi INT8 quantizzato, con un decoder avido TDT che supporta 114 lingue e un 8192- vocabolario BPE.

File di modello

File	Dimensione
`parakeet-encoder-int8.onnx`	840 MB
`parakeet-decoder-joint-int8.onnx`	51 MB
`vocab.json`	< 1 MB

HuggingFace: soniqo/Parakeet-TDT-v3-ONNX

Prestazioni

Metrico	Valore
Lingue	114
Quantificazione	INT8
Decoder	TDT avido
Fattore in tempo reale	RTF 0.12 (~150 ms per audio da 1,5 s)
Accelerazione hardware	NNAPI (NNAPI)Android), QNN Hexagon DSP (Linux)

Kotlin ( Android)

val modelDir = ModelManager.ensureModels(context)
val pipeline = SpeechPipeline(SpeechConfig(modelDir = modelDir))
pipeline.events.collect { event ->
    when (event) {
        is SpeechEvent.TranscriptionCompleted -> println(event.text)
        else -> {}
    }
}
pipeline.start()
pipeline.pushAudio(samples) // 16kHz mono float32

C API ( Linux)

speech_config_t cfg = speech_config_default();
cfg.model_dir = "/opt/models";
speech_pipeline_t p = speech_create(cfg, on_event, NULL);
speech_start(p);
speech_push_audio(p, samples, 512);

Codice sorgente: github.com / soniqo / speech-android