Cohere Transcribe 2B
Эта страница Soniqo описывает Cohere Transcribe 2B из локальной реализации speech-swift / speech-core. Ссылки на Hugging Face находятся ниже после заметок по интеграции.
Карточки и меню документации сначала ведут сюда; ссылки на исходную модель и бандлы остаются на этой странице.
Кратко
| Модель | Cohere Transcribe 2B |
|---|---|
| Роль | High-accuracy multilingual offline speech-to-text |
| Backend | Native MLX on Apple Silicon |
| Вывод | Plain-text transcription |
| Языки | 14 languages |
| Лицензия | Apache-2.0 |
| Статус | Published FP16, INT5, and INT8 bundles; INT5 is the default |
| Источник | Cohere Transcribe |
| Swift-продукт | CohereTranscribeASR |
| CLI / runtime | speech transcribe --engine cohere |
Использование
Фрагмент ниже соответствует текущему API или команде из speech-swift.
# INT5 is the default.
speech transcribe recording.wav --engine cohere
# Select another published precision and pass a language hint.
speech transcribe recording.wav --engine cohere --model int8 --language de
# --model also accepts a Hugging Face model ID or a local directory.
speech transcribe recording.wav --engine cohere --model /models/cohere/int5Бенчмарк
Измерено 2026-07-22 на 80 англоязычных высказываниях FLEURS с чтением вслух (всего 759,56 секунды), на Apple M5 Pro с 48 ГБ памяти под macOS 26.5.2. Каждый вариант выполнялся в отдельном процессе из release-сборки.
| Variant | Bundle | WER | Δ WER | Mean RTF | Overall ×RT | Footprint |
|---|---|---|---|---|---|---|
| FP16 | 3.85 GiB | 6.178% | — | 0.0444 | 23.59× | 6,724 MiB |
| INT5 | 1.62 GiB | 6.288% | +0.110 pp | 0.0150 | 69.64× | 2,582 MiB |
| INT8 | 2.25 GiB | 6.178% | +0.000 pp | 0.0159 | 65.74× | 3,292 MiB |
Физический объём — релевантный для развёртывания показатель унифицированной памяти, поскольку MLX может отображать файлы весов в память. FLEURS — английская читаемая речь: эти числа не утверждают паритет на разговорном, телефонном, шумном или многоголосом аудио.
Ссылки модели
Заметки реализации
- The runtime resamples mono Float32 PCM to 16 kHz and handles long recordings in overlapping chunks.
- INT5 is the practical default: on the validated English FLEURS run it used a 1.62 GiB bundle, 2,582 MiB physical footprint, and 0.0150 mean RTF.
- MLX affine quantization supports 2, 3, 4, 5, 6, and 8 bits, not INT7; choose INT8 when prioritizing quality.
- This is a non-streaming engine. The CLI rejects --stream instead of silently changing behavior.