Terjemahan mesin · Versi asli bahasa Inggris

Parakeet TDT

Parakeet TDT adalah NVIDIAModel pengenalan bahasa, beradaptasi untuk berjalan di Apple Silicon's Neural Engine via CoreMLIni menggunakan Enkoder FastConformer dipasangkan dengan Transducer Token dan Durasi (TDT) untuk transkripsi yang akurat dan efisien.

Arsitektur

Model ini dibagi ke tiga berkas model CoreML yang bekerja bersama selama inferensi:

Komponen	Deskripsi
Enkoder	FastConformer - convolutional + self-attention lapisan untuk ekstraksi fitur audio
Decoder	Prediksi jaringan yang mempertahankan riwayat token teks
Gabungan	Kobin encoder dan keluaran decoder untuk menghasilkan probabilitas token

Enkoder adalah INT8 diukur untuk minimal memori jejak dan cepat Neural Engine Decoder dan jaringan gabungan cukup kecil sehingga kuantisasi tidak diperlukan.

Penyaringan transkrip mengikuti sintaks khusus kosakata - token daripada token ID ranges, jadi mode- emanted digits (0–9) yang diawetkan sementara bahasa, speaker, dan token kontrol tetap tersembunyi.

Variants Model

Model	Ukuran	HuggingFace
Parakeet-TDT-0.6B (CoreML INT8)	500 MB	aufklarer / Parakeet-TDT-v3-CoreML-INT8-30s

Penampilan

Metrik	Nilai
Faktor waktu Real- (RTF)	~0.031
Target komputer	Neural Engine (via CoreML)
Kuantisasi	INT8

RTF adalah waktu dinding dibagi dengan durasi audio: lebih rendah lebih cepat. RTF ≈ 0.031 koresponden ke tentang 32Dalam kecepatan waktu.

Penggunaan CLI

Gunakan --engine parakeet tanda untuk memilih Parakeet TDT bukan baku Qwen3-ASR:

.build/release/speech transcribe recording.wav --engine parakeet

CoreML vs MLX

Parakeet TDT menggunakan CoreML untuk berjalan di Neural Engine, sementara Qwen3-ASR gunakan MLX untuk berjalan di Metal GPUDua pendekatan memiliki trade- berbeda:

	Parakeet TDT (CoreML)	Qwen3-ASR (MLX)
Target komputer	Neural Engine	Metal GPU
Kecepatan	~ 32x real-time	~ 17x real-time
Arsitektur	FastConformer + TDT	Encoder- transformer decoder
Multibahasa	25 bahasa Eropa	Multibahasa
Kuantisasi	INT8	4- bit (MLX)

Penting

CoreML model berjalan di Neural Engine, yang beroperasi secara independen dari GPUIni berarti Parakeet TDT dapat menjalankan secara kontemporer dengan tugas berbasis GPU- seperti TTS (Tanpa alasan yang benar) lafal ayat ini merupakan jumlah Isti 'naf atau kalimat baru.

Varian stream

Untuk benar-waktu dikte dan hidup captioning, lihat Parakeet-EOU-120M - A 120Parameter M-streaming varian RNN-T dengan eksplisit end-of-pengucapan kepala, sehingga agen suara dapat memberitahu ketika speaker telah selesai dari ASR stream sendiri, tanpa detektor gilirannya terpisah, berjalan secara bertahap di 640 ms potongan audio dan berbagi kosakata SentencePiece dari Parakeet TDT 0.6B, dioptimalkan untuk latensi parsial sub-second daripada puncak melalui put.

Ini adalah multibahasa (25 Bahasa-bahasa Eropa) dan ringan: di telepon yang digunakan 232 MB memori dan berjalan dengan nyaman di real time - kira-kira 5–6× lebih kecil dari Parakeet TDT 0.6B. On Android, Linux dan Windows it runs via ONNX Runtime dari soniqo/Parakeet-EOU-120M-ONNX-INT8.

Juga tersedia di Android, dan pada Linux & Windows melalui Speech Core (ONNX Runtime).

Panduan terkait

Qwen3-ASR speech-to-text · CosyVoice3 voice clone · Kokoro-82M TTS