תרגום מכונה · המקור באנגלית

Parakeet TDT

Parakeet TDT NVIDIAמודל זיהוי דיבור, מותאם לריצה Apple Silicon" Neural Engine באמצעות CoreMLזה משתמש קודר FastConformer בשילוב עם ken-and-Duration Transducer (TDT) decoder עבור תמליל מדויק ויעיל.

ארכיטקטורה

המודל מתחלק בשלושה קבצי מודל CoreML שפועלים יחד במהלך ההקצאה:

המונחיםתיאור תיאור
EncoderFastConformer - convolutional + self-attention שכבות עבור הפקת אודיו
Decoderרשת חיזוי אשר שומרת על היסטוריה של טקסט
משותף משותףמשלבת קודר וקודקודר פלטים כדי לייצר פרצות אסימונים

הקידוד הוא INT8 המוגדר עבור טביעת רגל זיכרון מינימלית ו Neural Engineהוצאה להורג.Thecoder ורשת משותפת הם קטנים מספיק כי קוונטיזציה אינה נדרשת.

סינון קריין עוקב אחר הסינמס המיוחד של אוצר המילים ולא טווחי זיהוי אסימונים, כך ספרות ממונעת מודלים (0–9נשמרים בזמן ששפה, דוברים, ולשלוט בסימון נשארים חבויים.

מודלים

מודל מודלגודלHuggingFace
Parakeet-TDT-0.6B (CoreML INT8)500 MBaufklarer/Parakeet-TDT-v3-CoreML-INT8-30s

ביצועי ביצועים

מסובךערך
גורם בזמן אמת (RTF)~0.031
יעד משותףNeural Engine (באמצעות CoreML)
המונחיםINT8

RTF הוא זמן הקיר מחולק על ידי משך אודיו: נמוך יותר הוא מהיר יותר RTF − 0.031 תואם את מהירות 32 בזמן אמת.

CLI Usage

השתמש ב --engine parakeet דגל בחר Parakeet TDT במקום ברירת המחדל Qwen3-ASR:

.build/release/speech transcribe recording.wav --engine parakeet

CoreML לעומת MLX

Parakeet TDT משתמש CoreML לרוץ על Neural Engine, בזמן Qwen3-ASR שימושים MLX לרוץ על Metal GPUלשתי הגישות יש חילופי סחר שונים:

Parakeet TDT (CoreML)Qwen3-ASR (MLX)
יעד משותףNeural EngineMetal GPU
מהירות המהירות32x בזמן אמת17x בזמן אמת
ארכיטקטורהFastConformer + TDTEncoder-decoder Transformer
Multilingual25 שפות אירופיותMultilingual
המונחיםINT84bit (MLX)
חשוב

CoreML מודלים לרוץ על Neural Engine, אשר פועל באופן עצמאי מ GPU.זה אומר Parakeet TDT יכול לרוץ במקביל עם משימות מבוססות GPU כמו TTS

סטרימינג

לרישום בזמן אמת וחיות, ראה Parakeet-EOU-120M - A 120M-parameter הזרמת RN-T גרסה עם ראש קצה מפורש של אישור, כך סוכן קול יכול להגיד כאשר דובר סיים מן הרמקול. ASR תזרח את עצמו, ללא גלאי תור נפרד, הוא פועל באופן מצטבר. 640 ms אודיו נתח ומשתף את אוצר המילים של המשפט Parakeet TDT 0.6B, מותאם לעקביות חלקית תת-שנית במקום להגיע לשיא באמצעות לוח.

זה רב לשוני (25 שפות אירופיות) וקלות משקל: בטלפון הוא משתמש 232 MB של זיכרון ורץ בנוחות בזמן אמת - בערך 5–6קטן יותר מ Parakeet TDT 0.6B. ON Android, Linux ו Windows הוא רץ דרך ONNX Runtime מתוך soniqo/Parakeet-EOU-120M-ONNX-INT8.

זמין גם Androidוכן הלאה Linux & Windows באמצעות דיבור Core (ONNX Runtime).