Maskinoversettelse · Engelsk original

Benchmarks — Android

RTF (real-time faktor) under 1,0 betyr raskere enn sanntid.

Android (ONNX Runtime)

Målt på Android emulator (arm64-v8a, ingen NAPI). Ekte maskinvare med NNAPI er betydelig raskere.

Modell OppgaveAudioInferensRTF
Parakeet TDT v3STT (114 språk)1.5s175ms0.12
Kokoro 82MTTS (8 språk)1.9s utgang1,075ms0.58
Silero VAD v5VAD32ms bit< 1ms<0.01
DeepFilterNet3Støyavbestilling32ms bit~5ms~0.15
PlattformAkselerasjonChipsets
AndroidNNAPISnapdragon 8 Gen 1+, Exynos 2200+, Google Tensor G2+
Embeddet LinuxQNN (Hexagon DSP)SA8295P, SA8255P
AlleCPU (XNNPACK) Alle arm64-v8a / x86_64
Note

Android benchmarks er fra emulator uten maskinvareakselerasjon. På ekte Snapdragon maskinvare med NNAPI delegasjon, forventer 2-3x raskere inferens. Total modellstørrelse: ~1.2 GB (INT8 kvantisert ONNX).