Konekäännös · Englanninkielinen alkuperäinen

Parakeet TDT Android

Parakeet TDT v3 toimii Android, upotettu Linux ja Windows ONNX Runtime. Malli on jaettu kooderiksi ja dekooderi-yhteistiedostoiksi, sekä INT8 kvantitoitu, jossa on TDT ahnas dekoodeeri, joka tukee 114 kieltä ja 8192-taken BPE-vocabulaari.

Mallitiedostot

Tiedosto	Koko
`parakeet-encoder-int8.onnx`	840 Mt
`parakeet-decoder-joint-int8.onnx`	51 Mt
`vocab.json`	< 1 Mt

HuggingFace: soniqo/Parakeet-TDT-v3-ONNX

Tulos

Metrinen	Arvo
Kieli	114
Määrä	INT8
Purkaja	TDT ahne
Reaaliaikainen kerroin	RTF 0,12 (~150 ms 1,5 sekunnin audio)
Laitteiston kiihtyvyys	NNAPI (Android), QNN Hexagon DSP (Linux)

Kotlin (Android)

val modelDir = ModelManager.ensureModels(context)
val pipeline = SpeechPipeline(SpeechConfig(modelDir = modelDir))
pipeline.events.collect { event ->
    when (event) {
        is SpeechEvent.TranscriptionCompleted -> println(event.text)
        else -> {}
    }
}
pipeline.start()
pipeline.pushAudio(samples) // 16kHz mono float32

C API (Linux)

speech_config_t cfg = speech_config_default();
cfg.model_dir = "/opt/models";
speech_pipeline_t p = speech_create(cfg, on_event, NULL);
speech_start(p);
speech_push_audio(p, samples, 512);

Lähdekoodi: github.com/soniqo/speech-android