Konekäännös · Englanninkielinen alkuperäinen
Vertailuarvot Android
RTF (reaaliaikainen kerroin) alle 1.0 tarkoittaa reaaliaikaa nopeampaa.
Android (ONNX Runtime)
Mitattu Android emulaattori (arm64-v8a, ei NNAPI) . Todellinen laitteisto, jossa on NNAPI, on huomattavasti nopeampi.
| Malli | Tehtävä | Ääni | Päätelmä | RTF |
|---|---|---|---|---|
| Parakeet TDT v3 | STT (114 kieltä) | 1.5s | 175ms | 0.12 |
| Kokoro 82M | TTS (8 kieltä) | 1,9s tuotos | 1,075m | 0.58 |
| Silero VAD v5 | VAD | 32m pala | < 1ms | <0.01 |
| DeepFilterNet3 | Melujen poistaminen | 32m pala | ~5m | ~0.15 |
| Alusta | Kiihdytys | Chipsetit |
|---|---|---|
| Android | NNAPI | Snapdragon 8 Gen 1+, Exynos 2200+, Google Tensor G2+ |
| Upotettu Linux | QNN (Hexagon DSP) | SA8295P, SA8255P |
| Mikä tahansa | CPU (XNNPACK) | Kaikki arm64-v8a / x86_64 |
Huomautus
Android -vertailuarvot ovat emulaattorista ilman laitteistokiihtyvyyttä. NNAAPI-siirrolla varustetulla todellisella Snapdragon-laitteistolla odotetaan 2...3x nopeampaa johtopäätöstä. Mallin kokonaiskoko: ~1,2 GB (INT8 kvantitised ONNX).