Traduzione automatica · Originale inglese
Qwen3-ASR vs Whisper su Apple Silicon
Qwen3-ASR e Whisper sono entrambe forti scelte locali di riconoscimento vocale, ma ottimizzano per diversi vincoli. Questo confronto isola le righe Qwen ed Whisper dalle righe di Soniqo più ampie, quindi la precisione, la memoria e l'implementazione dei trade-off sono più facili da valutare.
Entrambi i motori sono supportati: navi speech-swift Qwen3-ASR attraverso MLX e Whisper Large-v3 Turbo attraverso Core ML. Whisper Kit appare di seguito solo come riferimento di riferimento esterno.
Attraverso tutte le righe, Qwen3-ASR 1.7B 5-bit ha il più basso misurato WER a 1.32%♪ Qwen3-ASR 0.6B. 5- il bit ha il più basso RTF a) 0.014. In abbinamento 200- l'innocuità Whisper confronto, nativo Whisper ASR è più veloce: RTF 0.077 contro 0.084 e carico cache 1.3 contro 7.2 s. L'accuratezza è un errore di parola a parte (1.73% contro 1.71% WER), e picco RSS differisce solo 18 MB (B)445 contro 427 MB).
Risultati misurati
RTF è il tempo di parete diviso per la durata audio, quindi più basso è più veloce. Tutte le righe usano LibriSpeech test-clean e lo stesso normalizzatore di testo; vedi la metodologia scavare sotto per le dimensioni di fissaggio.
| Motore | Quant. | WER% | RTF | picco RSS |
|---|---|---|---|---|
| Qwen3-ASR 1.7B MLX | 5 bit | 1.32 | 0.027 | 1.92 GB |
| Qwen3-ASR 1.7B MLX | 8 bit | 1.52 | 0.033 | 2,7 GB |
| Qwen3-ASR 0.6B MLX | 5 bit | 1.74 | 0.014 | 1.03 GB |
| Qwen3-ASR 0.6B MLX | 8 bit | 1.82 | 0.015 | 1.3 GB |
| WhisperKit Turbo Large-v3 | FP16 | 1.71 | 0.084 | MB 427 |
| WhisperASR nativo CoreML | FP16 | 1.73 | 0.077 | 445 MB |
Quale dovrebbe scegliere?
- Qwen3-ASR 1.7B 5-bit: sceglierlo per il miglior risultato di precisione / velocità qui quando un'impronta di picco 1.92 GB è accettabile.
- Qwen3-ASR 0.6B 5-bit: sceglierlo per l'opzione Qwen più veloce equilibrata—RTF 0.014 con un'impronta di picco 1.03 GB.
- Nativo Whisper CoreML: scegliere per il percorso Whisper più veloce supportato, un carico cache 1.3 s, un fascio CoreML fisso, o un flusso di lavoro Whisper esistente.
- WhisperKit: scegliere quando la vostra applicazione dipende già da WhisperKit e le sue API di gestione del modello e decodifica.
Metodologia e limiti
Il benchmark utilizza LibriSpeech test-clean inglese discorso di lettura su un'Apple M5 Pro con la creazione del rilascio. 8- Abitazione Qwen e Whisper righe utilizzare il primo 200 proferimenti (circa 30 minuti). Qwen 5-bit righe utilizzare un 100-utterance subset dello stesso apparecchio, aggiunto quando quelle varianti sono atterrate.
Questi numeri confrontano queste implementazioni su questo apparecchio; non sono una classifica multilingua universale. L'accento, il rumore, la segmentazione a lunga forma, la mescolanza di lingua, le impostazioni di decodifica e l'hardware possono cambiare il risultato. WER è più basso-è-migliore, e il picco RSS è misurato con ogni motore in un processo separato.