תרגום מכונה · המקור באנגלית
MOSS Transcribe Diarize 0.9B
MOSS תגית: Diarize 0.9B יוצר במשותף טקסט תמליל, טימפרס, ורמקולים אנונימיים. speech-swift עכשיו מספק יליד 128K K K K MLX זמן ריצה להקלטות ארוכות לצד הגרסה הקצרה הקיימת CoreML חזרה.
ההקלטה המלאה חייבת להיות זמינה לפני שהדור מתחיל.אין מחסום הזרמה שפורסם עבור מודל MOSS, והוא אינו פולט תמליל חלקי בעת הקלטת.
ב-Glance
| מודל מודל | MOSS Transcribe Diarize 0.9B |
|---|---|
| תפקידים | תפוצה משותפת ו diarization עם תוויות רמקולים מתוכננים מודל וזמנים |
| חזרה | MLX עם 131,072 אסימונים דינמיים בהקשר; CoreML עם מצב קבוע של 1,024 טון |
| Output | תמליל רגיל בתוספת פעמים מקטעים |
| שפות | Upstream טוען 50+ שפות; כרטיס המודל שלה אינו מפרסם רשימה ממצה |
| רישיון רישיון רישיון | Apache רישיון 2.0 |
| סטטוס | זמין באמצעות speech transcribe --engine moss וה MossTranscribe Swift |
| מקור Source | OpenMOSS-Team/MOSS- Transcribe-Diarize |
| Swift מוצר | MossTranscribe |
| CLI / Runtime | speech transcribe --engine moss |
שימוש בשימוש
CoreML INT8 נשאר ברירת מחדל תאימות. בחר MLX עבור התנהגות ארוכת טווח upstream; INT5 הוא ברירת המחדל MLX.
# CoreML INT8: short-form default.
.build/release/speech transcribe recording.wav --engine moss
# MLX INT5: dynamic 128K context.
.build/release/speech transcribe meeting.wav --engine moss --backend mlx
# MLX INT8 quality reference, using the default FP16 KV cache.
.build/release/speech transcribe meeting.wav --engine moss --backend mlx --model int8מודל קישורים
- MLX INT5חבילה
- MLX INT8חבילה
- CoreML INT8חבילה
- CoreML FP16חבילה
- speech-swift מודל docs
- speech-swift Inference docs
- MLX INT5 / INT8
- דו"ח טכני
כיצד פועל נתיב 128K
המקודש עדיין מעבד את מכלול 30 השניות של Whisper בגודל 30 שניות.The Runtime concatenates את כל השמע שנוצר בתוך אחד מהיר לפני הפיצוץ, כך שרמקולים יכולים להשתמש בקונטקסט המלא של הקלטת.הליקונים של טרמפ נוצרים אז באופן אוטומטי; "מעבר מהיר" אינו מתכוון לדור אסימונים בו זמנית.
INT5 לעומת INT8
| משתנה | ASR WER / CER | ASR RTF | ASR שיא RSS | Diarization DER / JER | Diarization RTF |
|---|---|---|---|---|---|
| MLX INT5 | 8.55% / 6.36% | 0.028 | 1,196 MiB | 28.05% / 26.56% | 0.065 |
| MLX INT8 | 8.27% / 5.98% | 0.032 | 1,407 MiB | 28.02% / 25.79% | 0.085 |
INT5 זה המומלץ MLX ברירת מחדל: שני תיקי המשקל שלה 987.0 MIB במקום 1,200.1 MiB, עם 0.28אנגלית נקודה WER עלות ושוויון ביעילות על פרוסת 5 המסנן הזו.המדן השתמש זהה FP16 משקולות אודיו, נפיחות חמדנית, FP16 KV caches
תיקון ASR הוא הראשון 80 אנגלית-US Test קליפים מתוך קליפים Google/fleursקבצי ה diarization הם CC-BY-4.0 מראה מבחן VoxConverseהם אינם פרוסת הפיתוח Community-1 המשמשת את מדד CoreML נפרד.
גבולות וזיכרון
- אודיו צורכת 12.5 אסימונים בהקשר לשנייה, כך ש-90 דקות הן בערך 67,500 אסימוני אודיו לפני הוראות ותפוקת תמליל.
- בספירה זו, ההערכה האנליטית KV-cache היא 7.74 GB FP16 או 4.11 GB INT8, לפני משקולות ועשרות ספקים זמניים.
- בדיקה קצרת תיקון שנשמרה בייצור מובנה עם INT8 KV cache. בדיקות נוכחיות omit רמקולים תוויות; השתמש FP16 KV עבור פלט מובנה. INT4
- מודל upstream טוען כי 50+ שפות ועד ל- 90 דקות. השוואות speech-swift מכסה כיום את אנגלית ASR ו-5 תקליטי VoxConverse.
- תוויות יושב ראש הן אנונימיות בתוך כל קובץ והן אינן זהות רמקול מתמשך.
MLX cache
על ידי טעינה במשקל באמצעות תמליל, MLX מגבילים את ה-Cache cache לקטן יותר של 2 GiB ו 25% פיזית RAMגבולות טלפוניים נמוכים, כולל 0 כדי להתפורר, נשמרים. MOSS ו Qwen3-ASR חלקו את התקציב הזה; שחרור המודל הסופי מחזיר את הגבול הקודם של המתקשר, אלא אם כן הקורא שינה אותו במהלך השימוש.
זה מגביל את buffers ללא שימוש חוזר, לא זיכרון מוחלט. Live KV עשרותors ונתוני אודיו עדיין גדלים עם אורך הקלטות; משקלים ו הקצאות נוספות בריצה דורשות זיכרון נוסף.
השתמש כברירת מחדל FP16 KV cache עבור תפוקה רמקול מובנה. INT8 KV בודקת תוויות omit עם שתי גרסאות משקל על לוחות הזמנים המקוריים והמפוזרים; תקרת ה-buffer-cache אינה פותרת בעיה איכות נפרדת זו.