Cohere Transcribe 2B
Cette page Soniqo documente Cohere Transcribe 2B tel qu'il est implémenté dans speech-swift / speech-core. Les liens Hugging Face sont placés après les notes d'intégration.
Les cartes et menus pointent d'abord ici; les liens vers le modèle source et les bundles restent disponibles sur cette page.
Aperçu
| Modèle | Cohere Transcribe 2B |
|---|---|
| Rôle | High-accuracy multilingual offline speech-to-text |
| Backend | Native MLX on Apple Silicon |
| Sortie | Plain-text transcription |
| Langues | 14 languages |
| Licence | Apache-2.0 |
| État | Published FP16, INT5, and INT8 bundles; INT5 is the default |
| Source | Cohere Transcribe |
| Produit Swift | CohereTranscribeASR |
| CLI / runtime | speech transcribe --engine cohere |
Utilisation
L'extrait ci-dessous suit l'API ou la commande actuellement exposée par speech-swift.
# INT5 is the default.
speech transcribe recording.wav --engine cohere
# Select another published precision and pass a language hint.
speech transcribe recording.wav --engine cohere --model int8 --language de
# --model also accepts a Hugging Face model ID or a local directory.
speech transcribe recording.wav --engine cohere --model /models/cohere/int5
Benchmark
Mesuré le 2026-07-22 sur 80 énoncés de parole lue en anglais issus de FLEURS (759,56 secondes au total), sur un Apple M5 Pro doté de 48 Go de mémoire sous macOS 26.5.2. Chaque variante s'est exécutée dans son propre processus à partir d'une compilation release.
| Variant | Bundle | WER | Δ WER | Mean RTF | Overall ×RT | Footprint |
|---|---|---|---|---|---|---|
| FP16 | 3.85 GiB | 6.178% | — | 0.0444 | 23.59× | 6,724 MiB |
| INT5 | 1.62 GiB | 6.288% | +0.110 pp | 0.0150 | 69.64× | 2,582 MiB |
| INT8 | 2.25 GiB | 6.178% | +0.000 pp | 0.0159 | 65.74× | 3,292 MiB |
L'empreinte physique est la mesure de mémoire unifiée pertinente pour le déploiement, car MLX peut mapper les fichiers de poids en mémoire. FLEURS est de la parole lue en anglais : ces chiffres ne prétendent pas à la parité sur de l'audio conversationnel, téléphonique, bruité ou à nombreux locuteurs.
Liens du modèle
Notes d'implémentation
- The runtime resamples mono Float32 PCM to 16 kHz and handles long recordings in overlapping chunks.
- INT5 is the practical default: on the validated English FLEURS run it used a 1.62 GiB bundle, 2,582 MiB physical footprint, and 0.0150 mean RTF.
- MLX affine quantization supports 2, 3, 4, 5, 6, and 8 bits, not INT7; choose INT8 when prioritizing quality.
- This is a non-streaming engine. The CLI rejects --stream instead of silently changing behavior.