Maskinoversettelse · Engelsk original
Cohere Transskriber 2B
Denne førsteparts Soniqo sidedokumenter Cohere Transcribe 2B fra den lokale speech-swift / speech-core implementasjon. Hugging Face-pakker er koblet nedenfor etter integrasjonsnotatene.
Landingskort og docs-menyer nå peker her først; kildemodell og pakkelenker er tilgjengelige fra denne siden.
På en glanse
| Modell | Cohere Transskriber 2B |
|---|---|
| Rolle | Høy-nøyaktig flerspråklig frakoblet tale-til-tekst |
| Motor | Native MLX på Apple Silicon |
| Utgang | Klarteksttranskripsjon |
| Språk | 14 språk |
| Lisens | Apache-2.0 |
| Status | Publisert FP16, INT5, og INT8 bundter; INT5 er standard |
| Kilde | Cohere Transskriber |
| Swift produkt | CohereTranscribeASR |
| CLI/kjøretid | speech transcribe --engine cohere |
Bruk
Den snutten nedenfor speiler gjeldende speech-swift API eller kommando som eksponeres av repoen.
# INT5 is the default.
speech transcribe recording.wav --engine cohere
# Select another published precision and pass a language hint.
speech transcribe recording.wav --engine cohere --model int8 --language de
# --model also accepts a Hugging Face model ID or a local directory.
speech transcribe recording.wav --engine cohere --model /models/cohere/int5
Benchmark
Målt på 2026-07-22 over 80 English FLEURS read-speech uttalelser i alt 759.56 sekunder, på en Apple M5 Pro med 48 GB minne som kjører macOS 26.5.2. Hver variant kjørte i sin egen prosess fra en utgivelsesbygging.
| Variant | Bundle | WER | Δ WER | Gjennomsnittlig RTF | Samlet xRT | Fotavtrykk |
|---|---|---|---|---|---|---|
| FP16 | 3.85 GiB | 6.178% | — | 0.0444 | 23.59× | 6,724 MiB |
| INT5 | 1.62 GiB | 6.288% | +0.110 pp | 0.0150 | 69.64× | 2,582 MiB |
| INT8 | 2.25 GiB | 6.178% | +0.000 pp | 0.0159 | 65.74× | 3,292 MiB |
Fysisk fotavtrykk er den utplasseringsrelevante enhets-minnefiguren, fordi MLX kan minne-kart vektfiler. FLEURS er engelsk lesetale: disse tallene gjør ikke krav på paritet på samtale, telefon, støyende eller høyttaler-tung lyd.
Modelllenker
Implementasjonsnotater
- Runtime remamples mono Float32 PCM til 16 kHz og håndterer lange opptak i overlappende biter.
- INT5 er den praktiske standarden: på validert engelsk FLEURS kjører den brukte en 1.62 GiB bunt, 2.582 MiB fysisk fotavtrykk og 0,0150 gjennomsnittlig RTF.
- MLX affine kvantisering støtter 2, 3, 4, 5, 6 og 8 biter, ikke INT7; velg INT8 når du prioriterer kvaliteten.
- Dette er en ikke-strømsmotor. CLI avviser --stream i stedet for stille skiftende oppførsel.