Cohere Transcribe 2B

Diese Soniqo-Seite dokumentiert Cohere Transcribe 2B aus der lokalen speech-swift / speech-core-Implementierung. Hugging-Face-Bundles sind nach den Integrationshinweisen verlinkt.

Zuerst interne Seite

Landing-Karten und Docs-Menüs führen zuerst hierher; Quellen- und Bundle-Links bleiben auf dieser Seite verfügbar.

Überblick

Modell	Cohere Transcribe 2B
Rolle	High-accuracy multilingual offline speech-to-text
Backend	Native MLX on Apple Silicon
Ausgabe	Plain-text transcription
Sprachen	14 languages
Lizenz	Apache-2.0
Status	Published FP16, INT5, and INT8 bundles; INT5 is the default
Quelle	Cohere Transcribe
Swift-Produkt	`CohereTranscribeASR`
CLI / Laufzeit	`speech transcribe --engine cohere`

Verwendung

Das folgende Snippet entspricht der aktuellen API oder dem aktuellen Befehl aus speech-swift.

# INT5 is the default.
speech transcribe recording.wav --engine cohere

# Select another published precision and pass a language hint.
speech transcribe recording.wav --engine cohere --model int8 --language de

# --model also accepts a Hugging Face model ID or a local directory.
speech transcribe recording.wav --engine cohere --model /models/cohere/int5

Benchmark

Gemessen am 2026-07-22 über 80 englische FLEURS-Lesesprachäußerungen (insgesamt 759,56 Sekunden) auf einem Apple M5 Pro mit 48 GB Speicher unter macOS 26.5.2. Jede Variante lief in einem eigenen Prozess aus einem Release-Build.

Variant	Bundle	WER	Δ WER	Mean RTF	Overall ×RT	Footprint
FP16	3.85 GiB	6.178%	—	0.0444	23.59×	6,724 MiB
INT5	1.62 GiB	6.288%	+0.110 pp	0.0150	69.64×	2,582 MiB
INT8	2.25 GiB	6.178%	+0.000 pp	0.0159	65.74×	3,292 MiB

Der physische Speicherbedarf ist die für den Einsatz relevante Unified-Memory-Kennzahl, da MLX Gewichtsdateien per Memory-Mapping einbinden kann. FLEURS ist englische Lesesprache: Diese Zahlen behaupten keine Parität bei Gesprächs-, Telefon-, verrauschtem oder sprecherreichem Audio.

Modelllinks

Implementierungsnotizen

The runtime resamples mono Float32 PCM to 16 kHz and handles long recordings in overlapping chunks.
INT5 is the practical default: on the validated English FLEURS run it used a 1.62 GiB bundle, 2,582 MiB physical footprint, and 0.0150 mean RTF.
MLX affine quantization supports 2, 3, 4, 5, 6, and 8 bits, not INT7; choose INT8 when prioritizing quality.
This is a non-streaming engine. The CLI rejects --stream instead of silently changing behavior.