Maskinöversättning · Engelskt original

Cohere Transcribe 2B

Denna första part Soniqo siddokument Cohere Transcribe 2B från den lokala speech-swift / speech-core implementering. Hugging Face buntar är länkade nedan efter integrationsnoterna.

Intern sida först

Landningskort och docs-menyer pekar nu här först; källmodell och buntlänkar förblir tillgängliga från denna sida.

På en Glance

Modell	Cohere Transcribe 2B
Rollen	Hög noggrannhet flerspråkig offline tal till text
Backend	Native MLX på Apple Silicon
Output	Plain-text transkription
Språk	14 språk
Licens	Apache-2.0
Status	Publicerad FP16, INT5 och INT8 buntar; INT5 är standarden
Källa	Cohere Transcribe
Swift produkt	`CohereTranscribeASR`
CLI / runtime	`speech transcribe --engine cohere`

Användning

Nyckeln nedan speglar den nuvarande speech-swift API eller kommandot exponerat av repan.

# INT5 is the default.
speech transcribe recording.wav --engine cohere

# Select another published precision and pass a language hint.
speech transcribe recording.wav --engine cohere --model int8 --language de

# --model also accepts a Hugging Face model ID or a local directory.
speech transcribe recording.wav --engine cohere --model /models/cohere/int5

Benchmark

Mäts på 2026-07-22 över 80 engelska FLEURS läs-tal yttranden totalt 759,56 sekunder, på en Apple M5 Pro med 48 GB minne som kör macOS 26,5.2. Varje variant sprang i sin egen process från en release build.

Variant	Bundle	WER	Δ WER	Mean RTF	Totalt × RT	Footprint
FP16	3,85 GiB	6.178%	—	0.0444	23.59×	6,724 MiB
INT5	1,62 GiB	6.288%	+0.110 pp	0.0150	69.64×	2,582 MiB
INT8	2.25 GiB	6.178%	+0.000 pp	0.0159	65.74×	3,292 MiB

Fysisk fotavtryck är den distribueringsrelevanta unified-memory-figuren, eftersom MLX kan minne-karta viktfiler. FLEURS är engelska lästal: dessa siffror inte hävdar paritet på konversation, telefon, bullriga eller högtalare-tung ljud.

Modelllänkar

Implementeringsmeddelanden

Runtime återförsäljer mono Float32 PCM till 16 kHz och hanterar långa inspelningar i överlappande bitar.
INT5 är den praktiska standarden: på den validerade engelska FLEURS kör den använde en 1,62 GiB bunt, 2,582 MiB fysisk fotavtryck, och 0,0150 betyder RTF.
MLX affin kvantisering stöder 2, 3, 4, 5, 6 och 8 bitar, inte INT7; välj INT8 vid prioritering av kvalitet.
Detta är en icke-strömmande motor. CLI avvisar --stream istället för att tyst ändra beteende.