Tłumaczenie automatyczne · Oryginał angielski
Wartości odniesienia - Android
RTF (czynnik czasu rzeczywistego) poniżej 1.0 oznacza szybszy niż czas rzeczywistego.
Android (ONNX Runtime)
Zmierzone Emulator Android (arm64-v8a, nie NNAPI). Prawdziwy sprzęt z NNAPI jest znacznie szybszy.
| Wzór | Zadanie | Audio | Wniosek | RTF |
|---|---|---|---|---|
| Parakeet TDT v3 | STT (114 języków) | 1,5 s | 175ms | 0.12 |
| Kokoro 82M | TTS (języki 8) | Wyjście 1.9s | 1,075ms | 0.58 |
| Silero VAD v5 | VAD | 32ms chunk | & lt; 1ms | <0.01 |
| DeepFilterNet3 | Anulowanie hałasu | 32ms chunk | - 5ms | ~0.15 |
| Platforma | Przyspieszenie | Zestawy wiórowe |
|---|---|---|
| Android | NNAPI | Smok-smok 8 Gen 1+, Exynos 2200+, Google Tensor G2+ |
| Wbudowane Linux | QNN (heksagon DSP) | SA8295P, SA8255P |
| Każdy | CPU (XNNPACK) | Wszystkie arm64-v8a / x86_64 |
Uwaga
Android wzorce są z emulatora bez przyspieszenia sprzętowego. Na prawdziwym sprzęcie Snapdragon z delegacją NNAPI, oczekiwać 2- 3x szybsze wnioskowanie. Całkowity rozmiar modelu: ~ 1.2 GB (INT8 oznaczony ilościowo ONNX).