Maskinoversættelse · Engelsk original
CLI-reference
Breeze TTS 2 · Breeze tTS
Engelsk / kinesisk TTS med stemme design, reference kloning og retning, og streamet audio (MLX BF16 / 8- bit, 24 kHz; forskning / ikke-kommerciel licens).
speech speak "The quick brown fox jumps over the lazy dog." --engine breeze \
--instruct "A clear, calm English narrator." --stream -o design.wav--breeze-model-id:aufklarer/Breeze-TTS-2-MLX-8bit--breeze-bundle-dir--breeze-cache-limit-mib: Valgfri proces- wide genanvendelige MLX cache budget i MiB; 0 deaktiverer caching.--breeze-reference-text--breeze-temperature:0.9--breeze-top-k:50--breeze-top-p:1--breeze-cfg-scale:4--breeze-max-frames:750--breeze-seed:42--first-chunk-frames:3--chunk-frames:25
Indfødt Apple runtime · PocketTTS
PocketTTS tilføjer indfødt CoreML talesyntesse til speech-swift. Alle trin standard til CPU- kun udførelse. Den engelske Alba forudindstillet streams 1,920- prøvesæt på 24 kHz (80 ms per frame).
speech speak "Hello world." --engine pocket --stream \
--pocket-bundle-dir /path/to/bundle --pocket-seed 42 -o hello.wav
# --pocket-model-id, --pocket-max-frames, --list-speakersDen speech kommandoen er indgangsstedet for lokal talebehandling.
Installér med Homebrew
På Apple Silicon med macOS 15 eller nyere, installere CLI ved hjælp af Homebrew:
brew install speech
speech --help
For at opdatere en eksisterende installation, køre brew upgrade speech.
Alternativ: bygge fra kilde
I et speech-swift check out, run make build, derefter brug .build/release/speech. Se Få startguide for forudsætninger og kilde- bygge instruktioner.
transcribe
Transcribe lydfiler til tekst.
speech transcribe <file> [options]
| Valgmulighed | Standard | Varebeskrivelse |
|---|---|---|
<file> | Audio-fil til transcribe (WAV, M4A og MP3; CAF) | |
--engine | qwen3 | ASR motor: qwen3, qwen3-coreml, parakeet, nemotron, omnilingual, cohere, voxtral, moss, whisper |
--model, -m | 0.6B | Model variant: 0.6B, 1.7B, eller komplet HuggingFace-model ID (kun qwen3) [whisper]: default, turbo, eller fuldt CoreML HuggingFace repo-id.[cohere/voxtral]: INT5 (standard) INT8, FP16, a Hugging Face model- id eller en lokal mappe. [moss coreml]: int8 (misligholdelse) eller fp16; [moss mlx]: int5 (misligholdelse) eller int8. MOSS accepterer også et kompatibelt Hugging Face-depotid eller lokal mappe. |
--max-tokens | CoreML: 512MLX: 5120 | [moss] Maksimalt genererede udskriftsmodeller. |
--kv-cache | fp16 | [moss mlx] Dynamisk KV- cache præcision: fp16 eller int8. |
--language | Sprogvink (valgfrit, ignoreret af flersproget) | |
--window | 10 | [omnilingual] CoreML vinduesstørrelse i sekunder: 5 eller 10 |
--backend | coreml | [omnilingual/moss] Baglæns: coreml (Neural Engine) eller mlx (Metal GPU). MOSS MLX giver en dynamisk 131,072-token sammenhæng; MOSS CoreML bruger en fast 1,024- En token-tilstand. |
--variant | 300M | [omnilingual mlx] Størrelse: 300M, 1B, 3B, eller 7B |
--bits | 4 | [omnilingual mlx] Kvantitative bits: 4 eller 8 |
--stream | Aktivér streaming transskription med VAD | |
--max-segment | 10 | Maksimal segmentvarighed i sekunder (streaming) |
--partial | Emit delvise resultater under tale (streaming) |
Eksempler:
# Basic transcription
speech transcribe recording.wav
# Use larger model
speech transcribe recording.wav --model 1.7B
# CoreML encoder (Neural Engine + MLX decoder)
speech transcribe recording.wav --engine qwen3-coreml
# Use Parakeet (CoreML) engine
speech transcribe recording.wav --engine parakeet
# Use Nemotron Streaming (CoreML, English with native punctuation)
speech transcribe recording.wav --engine nemotron # batch
speech transcribe recording.wav --engine nemotron --stream --partial # streaming
# Omnilingual (CoreML, 1,672 languages)
speech transcribe recording.wav --engine omnilingual # 10 s window
speech transcribe recording.wav --engine omnilingual --window 5 # 5 s window
# Omnilingual (MLX, any length up to 40 s)
speech transcribe recording.wav --engine omnilingual --backend mlx # 300M @ 4-bit
speech transcribe recording.wav --engine omnilingual --backend mlx --variant 1B # 1B @ 4-bit
speech transcribe recording.wav --engine omnilingual --backend mlx --variant 3B --bits 8 # 3B @ 8-bit
speech transcribe recording.wav --engine omnilingual --backend mlx --variant 7B # 7B @ 4-bit
# Cohere Transcribe 2B (MLX, INT5 default)
speech transcribe recording.wav --engine cohere
speech transcribe recording.wav --engine cohere --model int8 --language de
# Voxtral Mini 3B (MLX, INT5 default)
speech transcribe recording.wav --engine voxtral
speech transcribe recording.wav --engine voxtral --model int8 --language fr
# MOSS Transcribe Diarize (CoreML short-form)
speech transcribe recording.wav --engine moss
speech transcribe recording.wav --engine moss --model fp16
# MOSS Transcribe Diarize (MLX 128K offline context; INT5 default)
speech transcribe meeting.wav --engine moss --backend mlx
speech transcribe meeting.wav --engine moss --backend mlx --model int8 --kv-cache int8
# Whisper Large-v3 Turbo (CoreML)
speech transcribe recording.wav --engine whisper
speech transcribe recording.wav --engine whisper --model turbo --language de
# Streaming with VAD
speech transcribe recording.wav --stream --partial
justér
Word- niveau tvunget justering - få præcise tidsstempler for hvert ord.
speech align <file> [options]
| Valgmulighed | Standard | Varebeskrivelse |
|---|---|---|
<file> | Lydfil | |
--text, -t | Tekst der skal justeres (hvis udeladt, transcribes først) | |
--model, -m | 0.6B | ASR model til transskription: 0.6B, 1.7B, eller fuldt ID |
--aligner-model | Tvungen justeringstestmodel ID | |
--language | Sprogvink |
Eksempler:
# Auto-transcribe then align
speech align recording.wav
# Align with known text
speech align recording.wav --text "Can you guarantee that the replacement part will be shipped tomorrow?"
Tal
Tekst- to- tale syntese.
speech speak "<text>" [options]
| Valgmulighed | Standard | Varebeskrivelse |
|---|---|---|
<text> | Tekst der skal syntetiseres (valgfrit hvis du bruger --batch-file) | |
--engine | qwen3 | TTS motor: qwen3, cosyvoice, voxcpm2, indextts2, f5, higgs, breeze, indic-mio, magpie, eller magpie-coreml, moss-nano, fireredtts3, moss-voicegenerator |
--output, -o | output.wav | Output WAV filsti |
--language | english | Sprog. Omit at bruge højttalerens indfødte dialekt, når --speaker er klar. |
--stream | Aktivér streaming syntese | |
--voice-sample | Reference audio til voice kloning (arbejder med qwen3, cosyvoice, voxcpm2, f5, higgs, og indextts2) | |
--verbose | Vis detaljeret timingsinfo |
Qwen3-TTS tilvalg
| Valgmulighed | Standard | Varebeskrivelse |
|---|---|---|
--model | base | Model variant: base, customVoice, eller fuld HF-model ID |
--speaker | Talsmand (kræver --model customVoice) | |
--instruct | Style instruktion (CustomVoice model) | |
--list-speakers | Liste over tilgængelige højttalere og udgang | |
--temperature | 0.3 | Prøvetagningstemperatur |
--top-k | 50 | Top- k prøvetagning |
--max-tokens | 500 | Maksimale tokens (500 = ~ 40 'ere lyd) |
--batch-file | Fil med en tekst pr. linje for batch syntese | |
--batch-size | 4 | Maks. batch størrelse til parallel generation |
--first-chunk-frames | 3 | Codec rammer i første streamet stykke |
--chunk-frames | 25 | Codec-stel pr. streamet stykke |
CosyVoice3 tilvalg
| Valgmulighed | Standard | Varebeskrivelse |
|---|---|---|
--speakers | Højttalerkortlægning til dialog mellem flere højttalere: s1=alice.wav,s2=bob.wav | |
--cosy-instruct | Style instruktion (tilsidesætter standard). Kontrollerer stemmestil for CosyVoice3. | |
--turn-gap | 0.2 | Tavshedskløften mellem dialog vender på få sekunder |
--crossfade | 0.0 | Crossfade overlap mellem drejninger i sekunder |
--model-id | HuggingFace-model- id |
VoxCPM2 tilvalg
| Valgmulighed | Standard | Varebeskrivelse |
|---|---|---|
--voxcpm2-variant | bf16 | Kvantificeringsvariant: bf16, int8, eller int4. Resolves til aufklarer/VoxCPM2-MLX-<variant>. |
--voxcpm2-instruct | Naturlig-sproglig talemåde (talemønster), f.eks. "en ung kvinde, varm og blid". | |
--voxcpm2-ref-audio | Reference lydfil til kloning (16 kHz mono, resamples internt). | |
--voxcpm2-prompt-audio / --voxcpm2-prompt-text | "Ultimate kloning" par - reference clip + dens udskrift til prosody- bevare kloning. | |
--voxcpm2-cfg-value | 2.0 | Klassifier- fri vejledningskala for diffusionsprøveren. |
--voxcpm2-timesteps | 10 | Euler løser trin pr genereret lyd patch. |
--voxcpm2-max-tokens | 2000 | Max genererede patches før tvunget stop. |
--voxcpm2-min-tokens | 2 | Min. patches før stophovedet er tilladt at skyde. |
--seed | Seed MLX RNG før syntesen (deterministisk på tværs af løbene). |
IndexTTS2 tilvalg
IndexTTS2 er en zeroshot voice- kloning motor bakkes op af en udvidet MLX bundt. Det kræver --voice-sample og kører i øjeblikket kun batch syntese.
| Valgmulighed | Standard | Varebeskrivelse |
|---|---|---|
--indextts2-model-id | aufklarer/IndexTTS2-MLX-fp16 | HuggingFace model ID. Standard til aufklarer/IndexTTS2-MLX-fp16. |
--indextts2-bundle-dir | Indlæs et lokalt udvidet bundt i stedet for at downloade fra Hugging Face. | |
--indextts2-emotion-audio | Valgfri følelses / stil reference lyd. Standard til højttaler reference. | |
--indextts2-emotion | Valgfrit forudindstillet eller 8- værdi følelsesvektor. Præsenserne omfatter eager, happy, excited, og calm. | |
--indextts2-emotion-weight | 1.0 | Skalaer --indextts2-emotion; holde beskedne, når taler identitet spørgsmål. |
--indextts2-speaking-rate | 1.0 | Speaking- rate multiplikator fra 0.5 til 1.5; værdier ovenfor 1.0 er hurtigere. |
--indextts2-max-pause | Valgfri hætte til lange interne lavenergipauser, i sekunder. | |
--indextts2-s2mel-steps | 15 | S2Mel flow trin (standard 15, øre- valideret; 25 matcher opstrøms nøjagtigt) |
F5-TTS tilvalg
| Valgmulighed | Standard | Varebeskrivelse |
|---|---|---|
--f5-reference-text | Referenceudskrift: tekstindholdet af --voice-sample (påkrævet) | |
--f5-steps | 16 | Flow- matching trin (standard 16; 32 for maksimal troværdighed) |
--f5-cfg-strength | 2.0 | Klassifikatorfri styrestyrke |
--f5-sway | -1.0 | Svejsprøvningskoefficient |
--f5-speed | 1.0 | Speaking- rate multiplikator |
--f5-seed | 0 | Frø til deterministisk udgang |
--f5-target-rms | 0.1 | Reference RMS normaliseringsmål |
--f5-model-id | Hugging Face-model- id | |
--f5-bundle-dir | Indlæs et bundt fra denne lokale mappe |
Higgs TTS 3 Indstillinger
| Valgmulighed | Standard | Varebeskrivelse |
|---|---|---|
--higgs-ref-text | Reference-udskrift: tekstindholdet af --voice-sample (forbedrer kloning) | |
--higgs-temperature | 0.8 | Prøvetagningstemperatur (standard 0.8) |
--higgs-top-p | Tærskel for udtagning af prøver af nucleus (som standard ikke medregnet) | |
--higgs-top-k | Top- k sampling- cutoff (slukkes som standard) | |
--higgs-max-new-tokens | 2048 | Maksimal genereret lydramme (25 per sekund) |
--higgs-seed | 0 | Frø til deterministisk udgang |
--higgs-model-id | Hugging Face-model- id | |
--higgs-bundle-dir | Indlæs et bundt fra denne lokale mappe |
Magieindstillinger
NVIDIA Magpie- TTS Flersproget 357M, 9 sprog med 5 bagte højttalere. Vælg bagenden med --engine magpie (MLX, standard) eller --engine magpie-coreml (CoreML for de store modeller med MLX kører LocalTransformer + lydindlejringer). Magie guide for opdeling efter per- sprog G2P. Stemmekloning er ikke understøttet: --voice-sample, --speaker, og --instruct afvises med en nyttig fejl, der peger på --magpie-speaker I stedet.
| Valgmulighed | Standard | Varebeskrivelse |
|---|---|---|
--magpie-variant | int4 | Kun MLX. Kvantisering: int4 (247 MB) eller int8 (411 MB). aufklarer/Magpie-TTS-Multilingual-357M-MLX-<variant>. CoreML motoren bruger INT8 CoreML bundtet og ignorerer dette flag. |
--magpie-speaker | sofia | Bages højttaler: sofia, aria, jason, leo, eller john. Identitet er konsekvent på tværs af alle 9 sprog og begge backends. |
--magpie-temperature | 0.6 | Prøvetagningstemperatur (0 = grådig). 0.6 for japansk - grådige sidder fast på den første sætning. |
--magpie-top-k | 80 | Top- k filter til prøvetagning. |
--magpie-max-frames | 500 | Hårdt låg på codec rammer (~ 23 s). |
--magpie-min-frames | 4 | Minimumsrammer før EOS tilladt. |
--magpie-prephonemized | Behandl input som IPA / phoneme stream; spring over per- sprog G2P. | |
--list-speakers | Udskriv de 5 bagte højttalere og afslut. |
magpie- coreml caveats: den bundtede NanoCodec er sporet på en fast 64- frame vindue, så --stream er afvist. --language ja Auto-ruter til MLX bagenden med en stderr note (den CoreML bundt ikke sende JA Schedrizer aktiver endnu). CoreML motor lazy- belastes MLX bundt på første syntese til at køre LocalTransformer og gennemsnitlige lyd indlejringer; pure-CoreML implementering spores som en opfølgning.
Eksempler:
# Basic TTS
speech speak "Hello, world!" --output hello.wav
# Voice cloning (Qwen3-TTS)
speech speak "Hello in your voice" --voice-sample reference.wav -o cloned.wav
# Voice cloning (CosyVoice)
speech speak "Hello in your voice" --engine cosyvoice --voice-sample reference.wav -o cloned.wav
# Voice cloning (IndexTTS2)
speech speak "Hello in your voice" --engine indextts2 \
--voice-sample reference.wav --indextts2-speaking-rate 1.35 \
--indextts2-max-pause 0.05 -o indextts2.wav
# CosyVoice multilingual
speech speak "Hallo Welt" --engine cosyvoice --language german -o hallo.wav
# Multi-speaker dialogue
speech speak "[S1] Hello there! [S2] Hey, how are you?" \
--engine cosyvoice --speakers s1=alice.wav,s2=bob.wav -o dialogue.wav
# Inline emotion/style tags
speech speak "(excited) Wow, amazing! (sad) But I have to go..." \
--engine cosyvoice -o emotion.wav
# Combined: dialogue + emotions + voice cloning
speech speak "[S1] (happy) Great news! [S2] (surprised) Really?" \
--engine cosyvoice --speakers s1=alice.wav,s2=bob.wav -o combined.wav
# Custom style instruction
speech speak "Hello world" --engine cosyvoice --cosy-instruct "Speak cheerfully" -o cheerful.wav
# Magpie multilingual TTS — same Aria voice across 9 languages
speech speak "Hello, world." --engine magpie --magpie-speaker aria \
--magpie-temperature 0 -o en.wav
speech speak "Hola mundo." --engine magpie --language es --magpie-speaker aria \
--magpie-temperature 0 -o es.wav
# Japanese needs stochastic sampling
speech speak "こんにちは世界、これは音声合成システムです。" \
--engine magpie --language ja --magpie-temperature 0.6 \
--magpie-top-k 80 --seed 42 -o ja.wav
speech speak --engine magpie --list-speakers
# Magpie CoreML backend (ANE-accelerated, 8 languages, no streaming)
speech speak "Hello world." --engine magpie-coreml --magpie-speaker aria -o en.wav
speech speak "Hola mundo." --engine magpie-coreml --language es \
--magpie-speaker leo -o es.wav
# Japanese auto-routes to MLX (CoreML bundle has no JA tokenizer)
speech speak "こんにちは。" --engine magpie-coreml --language ja -o ja.wav
# Streaming synthesis
speech speak "Long text here..." --stream
# Batch synthesis from file
speech speak --batch-file texts.txt --batch-size 4
# VoxCPM2 — 48 kHz studio output
speech speak "Hello there." --engine voxcpm2 --voxcpm2-variant int8 -o hi.wav
# VoxCPM2 — voice design
speech speak "Welcome to the show." --engine voxcpm2 \
--voxcpm2-instruct "A young woman, warm and gentle voice." -o design.wav
# VoxCPM2 — single-reference cloning
speech speak "This is a cloned voice." --engine voxcpm2 \
--voice-sample speaker.wav -o clone.wav
Instruktion TTS muligheder
Eksperimentel: Byg native SDK støtte fra hovedkilden. Homebrew og andre præbyggede CLI udgivelser kan ikke inkludere disse motorer endnu.
Gennemførelse (PR # 541): main
Published MLX bundter: aufklarer/FireRedTTS3-Instruct-MLX-fp32 · aufklarer/MOSS-VoiceGenerator-MLX-bf16
Giv et tekstargument, --instruct, og præcis en bundt mappe eller kompatibel model ID. Reference lyd, faste højttalere og batch input er ikke understøttet.
Hvert tekst- og instruktionsfelt er begrænset til 32,768 UTF-8 bytes. Den komplette afleverede inddataport, herunder dens skabelon, skal passe inden for 4,096 tokens. Indgange, der overskrider begge grænser, afvises.
FireRedTTS3-Instruct bevarer Float32 model og dekoder vægte. Det returnerer buffered audio: udelt --stream. Engelsk og kinesisk --language aliaser accepteres. En generation grænse hæver en fejl i stedet for at returnere trunkeret succes.
MOSS- VoiceGenerator bibeholder BF16 sprogvægte og FP32 syntesecodec. Brug --stream til trinvis PCM. Omit --language og sætte sprogkrav i --instruct. Færdiggørelse dræn alle seksten kodebøger.
Instruction- følgende kvalitet er uscoret. Kortscriptmålinger beskriver den testede opsætning; eksisterende-model latency certificering forbliver ukonklusivt.
| Valgmulighed | Standard | Varebeskrivelse |
|---|---|---|
--fireredtts3-bundle-dir | — | Kompatibel lokal eksporteret bundt; vælg dette eller model- ID mulighed. |
--fireredtts3-model-id | — | Offentliggjort kompatibelt MLX bundt ID; vælg dette eller en lokal mappe. |
--fireredtts3-flow-steps | 10 | Flowtrin pr. akustisk patch. |
--fireredtts3-max-patches | 400 | Generationslåg; når den når frem før færdiggørelsen, opstår der en fejl. |
--moss-voicegenerator-bundle-dir | — | Kompatibel lokal eksporteret bundt; vælg dette eller model- ID mulighed. |
--moss-voicegenerator-model-id | — | Offentliggjort kompatibelt MLX bundt ID; vælg dette eller en lokal mappe. |
--moss-voicegenerator-max-frames | 750 | Generationslåg; når den når frem før færdiggørelsen, opstår der en fejl. |
--moss-voicegenerator-chunk-frames | 3 | Komplet codec rammer pr PCM-stykke (1-32). |
--seed | 2 / 42 | Anmoder om frø: FireRedTTS3 standard til 2; MOSS- VoiceGenerator til 42. |
FireRedTTS3-Instruct · MOSS- VoiceGenerator
kokoro
Letvægts tekst- to- tale ved hjælp af Kokoro-82M på Neural Engine (CoreML). Non- autoregressive - enkelt forward pass, ~ 45ms latency.
speech kokoro "<text>" [options]
| Valgmulighed | Standard | Varebeskrivelse |
|---|---|---|
<text> | Tekst der skal syntetiseres | |
--voice | af_heart | Stemme forudindstillet (50 tilgængelige på tværs af 10 sprog) |
--language | en | Sprogkode: en, es, fr, hi, it, ja, pt, zh, ko, de |
--output, -o | kokoro_output.wav | Output WAV filsti |
--list-voices | Liste over alle tilgængelige stemmer og udgang | |
--model, -m | HuggingFace-model- id |
Eksempler:
# Basic Kokoro TTS
speech kokoro "Hello, world!" --voice af_heart -o hello.wav
# French voice
speech kokoro "Bonjour le monde" --voice ff_siwis --language fr -o bonjour.wav
# List all 50 voices
speech kokoro --list-voices
svar
Full- duplex speech- to- tale dialog ved hjælp af PersonaPlex 7B.
speech respond [options]
| Valgmulighed | Standard | Varebeskrivelse |
|---|---|---|
--input, -i | Input lyd WAV fil (24kHz mono) (påkrævet) | |
--output, -o | response.wav | Output response WAV- fil |
--voice | NATM0 | Stemmeretspres (f.eks. NATM0, NATF1 og VARF0) |
--system-prompt | assistant | Preset: assistant, focused, customer-service, teacher |
--system-prompt-text | Brugerdefineret systemprompt tekst (tilsidesætter forudindstillet) | |
--max-steps | 200 | Maks. generering trin ved 12.5Hz (~ 16) |
--stream | Emit lydstykker under generationen | |
--compile | Aktivér kompileret transformator (varmelegeme + kernefusion) | |
--list-voices | Liste over tilgængelige talekort | |
--list-prompts | Liste over tilgængelige systemprompt-forudindstillinger | |
--transcript | Udskriv modellens indre monolog tekst | |
--json | Output som JSON (udskrift, latency, audio path) | |
--verbose | Vis detaljeret timingsinfo |
Prøveudtagning Overskridelser
| Valgmulighed | Standard | Varebeskrivelse |
|---|---|---|
--audio-temp | 0.8 | Lydprøvetagningstemperatur |
--text-temp | 0.7 | Tekstprøvetagningstemperatur |
--audio-top-k | 250 | Lydtop- k kandidater |
--repetition-penalty | 1.2 | Audio repetitionsstraf (1.0 = deaktiveret) |
--text-repetition-penalty | 1.2 | Tekst- repetitionsstraf (1.0 = deaktiveret) |
--repetition-window | 30 | Gentager strafvindue i rammer |
--silence-early-stop | 15 | Stilhed rammer før tidlig stop (0 = deaktiveret) |
--entropy-threshold | 0 | Tekstentropitærskelværdi for tidlig stop (0 = deaktiveret) |
--entropy-window | 10 | Konsistente lav- entropi trin før tidlig stop |
Eksempler:
# Basic speech-to-speech
speech respond --input question.wav
# Use a female voice with compiled transformer
speech respond -i question.wav --voice NATF1 --compile
# Stream response and show transcript
speech respond -i question.wav --stream --transcript --verbose
voice- chat
Live full-duplex samtale med Soniqo, drevet af NVIDIA Nemotron VoiceChat 11B. Mikrofontilstand gør det muligt for Apple AEC, streaming RNN-T billedtekster, menneske-vender realtids målinger, adaptive 8→2→1-step stemme raffinement, og afgrænset input resynkronisering i stedet for en lang stille catch- up.
speech voice-chat [options]
| Valgmulighed | Standard | Varebeskrivelse |
|---|---|---|
--model, -m | aufklarer/VoiceChat-11B-Perception-MLX-int5 | Hugging Face model ID eller komplet lokalt bundt. |
--revision | main | Hub revision. |
--system-prompt | Tilsidesæt systemprompten. | |
--mcp-config | Leverandør- neutral JSON konfiguration til MCP værktøj servere. | |
--mcp-server | alle konfigureret | Vælg en konfigureret server; gentag for at vælge mere. |
--mcp-write-policy | allow | Skriv politik: øjeblikkeligt allow, model- medieret confirm, eller deny. |
--mcp-timeout-seconds | 15 | MCP tool- call timeout; server opstart tillader mindst 60 sekunder. |
--greet | Bed modellen hilse først. | |
--no-aec | Deaktivér Apple akustisk ekko annullering. | |
--no-transcript | Deaktivér live RN- T bruger- billedtekster. | |
--no-rnnt-turn-taking | Deaktivér NVIDIA RNN- T turn - tager sikkerhedssvigt. | |
--prebuffer-frames | 3 | 80 ms output rammer buffered før afspilning. |
--max-buffered-frames | 8 | Maksimum i kø 80 ms mikrofon rammer før gamle lyd er faldet. |
--max-seconds | Hold op med at fange levende efter så mange sekunder. | |
--input | Læs en lydfil i stedet for mikrofonen. | |
--output, -o | Skriv den fuld- kontekst 22.05 kHz WAV. | |
--tail-seconds | 6 | Stilhed vedhæftet efter fil input. |
--force-turn-at-end | Tving BOS ved fil EOF; kun regressionstest. | |
--plain | Brug vedhæng-kun output i stedet for den faste redraw instrumentbræt. | |
--debug-timeline | Vis relativ frase og generated- pronciation- end tidsstempler plus dekodede værktøjs- call livscyklusbegivenheder. | |
--terminal-width | 120 | Terminal display bredde. |
--temperature | 0 | Teksttemperatur; 0 er grådig. |
--text-top-p | 1 | Tekst- p. |
--guidance | 0.2 | EAR- TTS styrestyrke. |
--speech-top-p | 0.95 | EAR- TTS top- p. |
--speech-noise | 0.001 | EAR- TTS sampling støj. |
--speech-iterations | 8 | EAR- TTS Maskingit iterationer per ramme. |
--realtime-speech-iterations | 2 | Mellemliggende voice- raffinement budget bruges til at beskytte realtime hastighed; alvorlig overbelastning bruger et skridt. |
--live-speech-context-seconds | 20 | Seneste EAR- TTS historie opbevares i live mode; 0 holder fuld historie. |
Eksempler:
speech voice-chat
speech voice-chat --model /path/to/complete-bundle --prebuffer-frames 3
speech voice-chat --input question.wav --output response.wav
speech voice-chat --mcp-config Examples/VoiceChatMCP/apple-reminders.json
Med MCP aktiveret, model- native call JSON og returnerede værktøjs- svar tokens bruger NVIDIA 's tofaset asynkron funktion sti på en cachet stilhed embedding. Der er ingen udskrift router, regular- expression matcher, påmindelse udkast stat, argument reparation, eller scripteret assistent svar: checkpoint alene vælger et værktøj og dets argumenter. Koordinatoren validerer kun den indfødte JSON, anvender læse / skrive politik, udfører den valgte MCP operation, og returnerer strukturerede resultater gennem den trænede funktion kanal. Skrifter udfører straks under standard allow politik, fjerne den anden bekræftelse drejning fra påmindelser demo; en identisk afsluttet skrive er stadig undertrykt indtil frisk brugertale. Brug confirm kun når model- medieret bekræftelse udtrykkeligt ønskes, eller deny at nægte skriver. MCP kommandoer kører lokalt med den nuværende brugers filsystem og programtilladelser, så brug kun betroede konfigurationsfiler og serverpakker.
Mikrofonens opfattelse og RNN-T billedtekster fortsætter mellem modeltrin, mens eksterne MCP I / O kører i en separat opgave. Speech- bærende mikrofon regioner fanget, mens den delte funktion cache er optaget er bevaret som evaluerede indlejringer og afspilles kausalt efter resultatet, så en billedtekst opfølgning ikke længere kasseres. Replay er begrænset til en gammel semantisk ramme per levende callback; den tilsvarende nye ramme forbliver i kø, replay tekst er tvunget til PAD, og already- forløbet lyd er aldrig queued til højttaleren. Matching tomgang EAR- TTS cache positioner synkronisere senere i afgrænset eight- frame chunks. Dashboard adskiller indfødte opkald, den oprindelige opkald, MCP round trip, og tool- result cache synkronisering. Decode og resultatlinjer viser model / cache beregne plus live interleave, det restbeløb, der anvendes af skuespillerens udbytte, bogholderi og systemstrid; forgrundslyd RTF måler ingen af disse baggrundsarbejde. Når et opkald er åbent, den kraft- PAD tekst kanal springer sin ubrugte full-ordforråd projektion. Efter EOTC, tofaset sti fryser det delte sprog og EAR- TTS tidslinje, mens det eksterne resultat venter; mikrofon rammer forbliver live for opfattelse og RNN-T, men ikke bliver syntetisk PAD positioner før resultatet. Kendte resultater replay i afgrænset 16-token caJerusalem-prefill stykker. Liveløkken læser en sammenhængende funktion snapshot og en MCP snapshot hver 160 ms i stedet for at gøre flere skuespillere opkald efter hver mikrofon ramme. 40-frame RN- T sikkerhed fallback, mens en allerede foreslået native værktøj kandidat kan forpligte efter otte tomme rammer. Teksten og funktion kanaler stadig deler en Nemotron- H cache, så sammenhængende resultat- betinget tale starter først, når funktionen respons lukker; vilkårlig assisterende tale kan ikke sikkert køre som en anden årsagssammenhæng fremtid parallelt.
En ren M5 Pro 48 GB frigivelsesprofil målt 3.56–4.00 sekunder fra slutningen af tale til den første model- forfattet post- tool tale for tre påmindelser-liste frasings med en fast 200 ms udbyder. Indfødt JSON dekodning brugt 27–31 trin i 1.15–1.28 sekunder, og en 67-token resultat synkroniseret i 0.58–0.72 sekunder. Med en bevidst langsom to-sekunders udbyder, mikrofon arbejde under ventetiden forblev 19.6 ms p95 og 19.8 ms maximum. En endelig ren kørsel målt 118 ms microphone- service p95 og 139 ms p95 Forsinkelse 80 ms capture deadlines. Udbyderen tilføjer derfor svar latency uden frysning capture; den resterende computergrænse er native opkald dekodning plus shared- cache resultat spil igen.
Den bundtede demo udsætter kun list_reminders, create_reminder, og update_reminder; liste opdagelse forbliver adapter- private. En fladtrykt påmindelse læse dækker hver EventKit liste og erstatter lange udbyder UUID 'er med stabile, session- scoped referencer såsom r1. Opdateringer returnere en af disse model- synlige referencer, og adapteren løser det præcis før udførelse; det aldrig matcher talte navne eller udskrift tekst. No- op opdateringer og fraktionelle prioriteter afvises snarere end rapporteret som vellykkede ændringer. En kontrolleret opdatering regression faldt fra 67 indfødte trin / 5.25 sekunder med en realistisk UUID til 37 trin / om 2.29 sekund med r1. Opret kræver kun et navn, mens valgfri udbyder standard forbliver valgfri. streaming RNN-T frontend bruger NeMo- kompatibel refleksion polstring på rullende vindueskanter i stedet for nul polstring.
Filtilstand er den hardware- free reproducerbar sti. --force-turn-at-end er kun til kontrollerede regressionstest og må ikke rapporteres som naturlig turnus- tager latency.
audio- translate
Streaming speech- to- tale oversættelse ved hjælp af Kyutai Hibiki Zero-3B. FR / ES / PT / DE → EN, single binær, ingen sky. Fuld guide →
speech audio-translate <input.wav> [options]
| Valgmulighed | Standard | Varebeskrivelse |
|---|---|---|
<input> | Source audio WAV fil (mono, reamped to 24 kHz internt) (påkrævet) | |
--output, -o | translated.wav | Output 24 kHz English WAV fil |
--source-lang | fr | Kildesprogvink (fr, es, pt, de). Auto- detekteret; kun metadata. FR + ES er strenge E2E kanarier; PT + DE er bedst-indsats. |
--quantization | 4bit | Variant: 4bit (~ 2.7 GB) eller 8bit (~ 3.9 GB) |
--model-id | HuggingFace model- id - override (går forud for --quantization) | |
--compile | Kør den tidsmæssige transformator warm- up pass før oversættelse | |
--verbose | Udskriv per- fase timing (Mimi encode, generation, Mimi dekode) | |
--transcript | Udskriv modellens inner- monolog rå SPM-token-id 'er (SPM-afkodning er en opfølgning) |
Miljøvariabler
| Variabel | Virkning |
|---|---|
HIBIKI_GREEDY=1 | Tving argmax afkodning for tekst + mål lyd. Reproducerbar - bruges af de strenge CI kanarier. |
HIBIKI_MODEL_ID | Overlad standardværdien aufklarer/Hibiki-Zero-3B-MLX-4bit Repo ved runtime. |
Eksempler:
# Translate a French clip to English
speech audio-translate input_fr.wav -o out_en.wav --source-lang fr
# Spanish, 8-bit, verbose
speech audio-translate input_es.wav -o out.wav --source-lang es --quantization 8bit --verbose
# Deterministic mode (matches the CI regression canaries)
HIBIKI_GREEDY=1 speech audio-translate input_fr.wav -o out.wav --source-lang fr
vat
Offline voice aktivitet detektion ved hjælp af Pyannote segmentering.
speech vad <file> [options]
| Valgmulighed | Varebeskrivelse |
|---|---|
<file> | Lydfil at analysere |
--model, -m | HuggingFace-model- id |
--onset | Tærskel (talestart) |
--offset | Afdelingstærskel (talens afslutning) |
--min-speech | Mindste talevarighed i sekunder |
--min-silence | Mindste stilhed varighed i sekunder |
--json | Output som JSON |
vad- stream
Streaming af voice activity detection ved hjælp af Silero VAD v5. Processer tale i 32ms chunks.
speech vad-stream <file> [options]
| Valgmulighed | Varebeskrivelse |
|---|---|
<file> | Lydfil at analysere |
--engine | VAD motor: mlx (misligholdelse) eller coreml |
--model, -m | HuggingFace-model ID (automatisk valgt med motor) |
--onset | Tærskel |
--offset | Udbudstærskel |
--min-speech | Mindste talevarighed i sekunder |
--min-silence | Mindste stilhed varighed i sekunder |
--json | Output som JSON |
--smart-turn | Bekræft hver pause med Smart Turn før du slutter et segment; mellemsætning pauser flette i et segment |
--turn-threshold | Smart Turn kompletteringstærskel (standard) 0.5) |
--turn-max-silence | Sekunder af tavshed efter en vetoed pause, der slutter segmentet alligevel (standard 2.0) |
Drej
Ende- of- turn detektering med Smart Turn v3.2 (8M-params CoreML, 23 ). Scorer den sidste 8 s af en registreret udtale og udskriver sandsynligheden for, at højttaleren er færdig, den komplette / ufuldstændige dom, og inferens tid.
speech turn <file> [options]
| Valgmulighed | Varebeskrivelse |
|---|---|
<file> | Lydfil med én brugervending (en hvilken som helst prøverate); de sidste 8 sekunder bruges |
--threshold | Sandsynligheden for, at drejningen tæller som komplet (standard) 0.5) |
--model, -m | HuggingFace model ID. Standard til aufklarer/Smart-Turn-v3.2-CoreML |
--model-dir | Lokal mappe smart_turn.mlmodelc og config.json; springer downloadet over |
--json | Output som JSON |
# Probability, verdict and inference time for one utterance
speech turn utterance.wav
# Custom threshold, JSON output
speech turn utterance.wav --threshold 0.7 --json
# Streaming VAD with Smart Turn confirming each pause
speech vad-stream call.wav --smart-turn --turn-threshold 0.6 --turn-max-silence 1.5
vågn
On- enhed wake- word / søgeord spotting ved hjælp af KWS Zipformer (3.49M-params CoreML INT8, 26× realtid, kun engelsk).
speech wake <file> [options]
| Valgmulighed | Varebeskrivelse |
|---|---|
<file> | Lydfil at analysere |
--keywords | Et eller flere søgeord. Formater: "hey soniqo" (grådig BPE), "hey soniqo:0.15:0.5" (med tærskel / boost) eller "LIGHT UP|▁ L IGHT ▁UP:0.25:2.0" (sherpa- onnx- stil eksplicitte BPE stykker) |
--keywords-file | Nøgleordsfil, en indgang pr. linje (samme syntaks som --keywords); # for bemærkninger |
--model, -m | HuggingFace model ID. Standard til aufklarer/KWS-Zipformer-3M-CoreML-INT8 |
--json | Output som JSON |
# Plain phrase, tuned defaults
speech wake recording.wav --keywords "hey soniqo"
# Explicit BPE pieces for phrases the greedy tokenizer gets wrong
speech wake recording.wav --keywords "LIGHT UP|▁ L IGHT ▁UP:0.25:2.0"
# Multiple phrases + JSON output
speech wake recording.wav \
--keywords "lovely child|▁LOVE LY ▁CHI L D:0.25:2.0" \
"for ever|▁FOR E VER:0.25:2.0" \
--json
diarize
Foredragsholder Diarization - identificer hvem der talte hvornår.
speech diarize <file> [options]
| Valgmulighed | Standard | Varebeskrivelse |
|---|---|---|
<file> | Lydfil at analysere | |
--engine | pyannote | Diariseringsmotor: pyannote, community1 (CoreML + native PLDA / VBx), sortformer, eller nemotron3 |
--nemotron3-backend | coreml | Nemotron 3-motor: coreml eller mlx |
--nemotron3-directory | Valgfri lokal Nemotron 3 modelbundt | |
--nemotron3-compute-units | ane | CoreML computerenheder: ane, cpu, gpu, eller all |
--community1-compute-units | ane | Community-1 CoreML computerenheder: ane, cpu, gpu, eller all |
--num-speakers | Kendt præcis højttalertæller for Community-1 | |
--min-speakers | 1 | Minimum højttaler for Community-1 |
--max-speakers | Højeste højttaler for Community-1 | |
--target-speaker | Tilmelding lyd til mål højttaler ekstraktion (kun pyannote) | |
--embedding-engine | mlx | Højttalerindlejringsmotor: mlx eller coreml (kun pyannote) |
--vad-filter | Pre- filter med Silero VAD (kun pyannote) | |
--rttm | Output i RTTM-format | |
--json | Output som JSON | |
--score-against | Reference RTTM fil til at beregne DER |
Eksempler:
# Basic diarization (pyannote, default)
speech diarize meeting.wav
# Community-1 (CoreML + native PLDA/VBx)
speech diarize meeting.wav --engine community1 --min-speakers 2 --max-speakers 6
# End-to-end Sortformer (CoreML, Neural Engine)
speech diarize meeting.wav --engine sortformer
# Nemotron 3 (CoreML or MLX INT8)
speech diarize meeting.wav --engine nemotron3
speech diarize meeting.wav --engine nemotron3 --nemotron3-backend mlx
# RTTM output for evaluation
speech diarize meeting.wav --rttm
# Target speaker extraction (pyannote only)
speech diarize meeting.wav --target-speaker enrollment.wav
# Score against reference
speech diarize meeting.wav --score-against reference.rttm
indlejret-højttaler
Uddrag en højttaler indlejring vektor fra lyd.
speech embed-speaker <file> [options]
| Valgmulighed | Varebeskrivelse |
|---|---|
<file> | Lydfil der indeholder højttaler stemme |
--engine | mlx (misligholdelse) eller coreml for WeSpeaker 256- dim redimnet2 for persisterende identitet CoreML 192- dim; camplusplus for CAM + + CoreML 192- dim |
--json | Output som JSON |
language-id
Identificer det talte sprog i en lydfil.
speech language-id <file> [options]
| Valgmulighed | Varebeskrivelse |
|---|---|
<file> | Lydfil der skal klassificeres |
--engine | Inferensmotor: mlx eller coreml |
--model | Tilsidesæt Hugging Face-model- ID |
--top | Antal rangerede sprogkandidater |
--json | Uddata resultatet som JSON |
speech language-id recording.wav --top 5
speech language-id recording.wav --engine coreml --json
denoise
Fjern baggrundsstøj ved brug af DeepFilterNet3 på Neural Engine.
speech denoise <file> [options]
| Valgmulighed | Standard | Varebeskrivelse |
|---|---|---|
<file> | Input lydfil | |
--output, -o | input_clean.wav | Uddatafil sti |
--model, -m | HuggingFace-model- id |
Eksempel:
speech denoise noisy-recording.wav -o clean.wav
komponér
Generér 30 s af musik fra en tekstprompt ved hjælp af MAGNET på MLX.
speech compose <prompt> [options]
| Valgmulighed | Standard | Varebeskrivelse |
|---|---|---|
<prompt> | Tekstprompt beskriver den musik, der skal genereres (f.eks. "Lykkelig sten") | |
--output, -o | magnet.wav | Output WAV sti (32 kHz mono) |
--variant | small-int4 | Model variant: small-int4, small-int8, medium-int4, eller medium-int8. Resolves til aufklarer/MAGNeT-{Small,Medium}-30secs-MLX-{4,8}bit. |
--temperature | 3.0 | Prøvetagningstemperatur, afskærmet lineært pr. trin. |
--top-p | 0.9 | Tærskel for udtagning af prøver af kerner. |
--cfg-max | 10.0 | Maks. klassifikator- fri vejledningskoefficient. |
--cfg-min | 1.0 | Min CFG-koefficient (annealed ved siden af masken tidsplan). |
--steps | 20,10,10,10 | Kommasepareret afkodning iterationer pr. kodebog (4 værdier). |
--seed | Tilfældigt frø til reproducerbar produktion. |
Eksempler:
# Default: small-int4, ~10 s wall on M-series for a 30 s clip
speech compose "happy rock" -o happy_rock.wav
# Larger model — better prompt following, slower
speech compose "lo-fi hip hop with mellow piano" --variant medium-int4 -o lofi.wav
# Reproducible
speech compose "energetic EDM with synth lead" --seed 42 -o edm.wav
transcribe- batch
Transcribe en mappe med lydfiler; modellen er indlæst én gang.
speech transcribe-batch <input-dir> [options]
| Valgmulighed | Standard | Varebeskrivelse |
|---|---|---|
<input-dir> | Register over lydfiler til transcribe (WAV, FLAC, osv.) | |
--output-dir | Outputmappe for udskrifter | |
--engine | qwen3 | ASR-motor (samme værdier som transcribe) |
--jsonl | Output resultater som JSON linjer, en per fil |
gendannelse
Gendan tale (denoise + dereverb) med Sidon - CoreML, 48 kHz output.
speech restore <audio-file> [options]
| Valgmulighed | Standard | Varebeskrivelse |
|---|---|---|
--output, -o | input_restored.wav | Output WAV filsti (48 kHz) |
--variant | fp16 | Præcision / bundvariant |
--compute-units | Core ML placering for begge faser: ane, gpu, cpu, all (standard: vocoder gpu og predictor auto) |
separat
Separér et musikspor i stængler (vokal, trommer, bas, andet).
speech separate <input> [options]
| Valgmulighed | Standard | Varebeskrivelse |
|---|---|---|
--stems | vocals,drums,bass,other | Stems at udtrække: vokal, trommer, bas, andre |
--engine | umx | Motor: umx (standard) eller htdemucs (højere kvalitet) |
--output-dir | Outputmappe for udskrifter |
upprope
Audio superopløsning med FlashSR - et-trins destilleret AudioSR, 48 kHz output.
speech upsample <audio-file> [options]
| Valgmulighed | Standard | Varebeskrivelse |
|---|---|---|
--output, -o | hr.wav | Output WAV filsti (48 kHz) |
--variant | int4 | Præcision / bundvariant |
--seed | Frø til deterministisk udgang |
qwen3-tts-coreml
Swift Understøtter 0.6B /256 og 1.7B /1024 bundter 0.6B forbliver standard. 1.7B bundfejl til CPU og kræver en forberedt 2048-kanal Float32 .npy højttaler indlejring via --speaker-embeddingGPU / ANE og iOS valideringen forbliver adskilt.
speech qwen3-tts-coreml "<text>" [options]
| Valgmulighed | Standard | Varebeskrivelse |
|---|---|---|
--output, -o | output.wav | Output WAV filsti |
--language | english | Udgangssprog |
--model | Hugging Face-model- id | |
--model-directory | — | Lokal kompileret modelbundt; går forud for downloading --model. |
--speaker-embedding | — | Tilberedt Float32 .npy højttalerindlejring, der matcher modelbredden (1024 eller 2048). |
vibevoice
Tekst- to- tale med Microsoft VibeVoice (MLX).
speech vibevoice "<text>" --voice-cache <cache> [options]
| Valgmulighed | Standard | Varebeskrivelse |
|---|---|---|
--voice-cache, -v | Stemmecache fra vibevoice- encode- voice (påkrævet) | |
--steps | DPM- Solver inference trin (højere = bedre kvalitet) | |
--cfg | 1.3 | Klassifikatorfri styrestyrke |
--long-form | Knyttet lang form syntese for lange tekster |
vibevoice- encode - voice
Mint en VibeVoice voice cache fra en reference optagelse plus udskrift.
speech vibevoice-encode-voice <input> "<transcript>" [options]
| Valgmulighed | Standard | Varebeskrivelse |
|---|---|---|
<input> | Reference lydfil | |
<transcript> | Udskrift af referencelyden (kun engelsk) | |
--output, -o | Output voice cache (.safetensors) |
oversætter
Oversæt tekst til et målsprog med MADLAD-400 (MLX).
speech translate "<text>" --to <lang> [options]
| Valgmulighed | Standard | Varebeskrivelse |
|---|---|---|
--to, -t | Målsprogkode (ISO 639-1, f.eks. es, zh, ja) | |
--stream | Stream tokens som de dekoder | |
--model | Hugging Face-model- id |
clef
Vælg mellem tilladte svar ved hjælp af Clef- flash lokalt på Apple Silicon. Udvikling forhåndsvisning.
speech clef decide request.json
speech clef decide request.json --model-dir /path/to/Clef-flash-9B-MLX-4bit
speech clef decide request.json --offline --max-tokens 4096Anmodningen indeholder tekst i state og en bestilt questions Array. Hvert felt har en id og a type: choice med choices kort noul for sand / falsk, eller score med bestilt levels. Output er JSON med sandsynligheder, udvalgte svar, token tæller, model- belastning tid, og beslutning tid.
Som standard downloads kommandoen aufklarer/Clef-flash-9B-MLX-4bit. Brug --model-dir for eksisterende filer eller --offline for cachen. Den token grænse standard til 4096 og accepterer 1- 16384. Se Clefguide for en komplet forespørgsel og målt brug af hukommelse.
gliner
Schema- Conditioned tekst klassificering og enhed spænder med GLiNER2.5-Decide (MLX). Udvikling preview: endnu ikke i en udgivelse. Umit teksten til at læse stdin.
speech gliner classify "<text>" --labels <a,b,c> [options]
speech gliner extract "<text>" --labels <a,b,c> [options]
| Valgmulighed | Standard | Varebeskrivelse |
|---|---|---|
--variant | int8 | Offentliggjorte vægte til download: fp32, fp16 eller int8 |
--model | Hugging Face- register- override | |
--model-dir | Lokal modelmappe i stedet for at downloade | |
--labels | Kommaseparerede kandidatetiketter (1 til 255, særskilte) | |
--description | Etiketbeskrivelse som etiket = tekst; repeterbar | |
--task | handling | Taskenavn i skemaet prompt (kun klassificere) |
--threshold | 0.5 | Minimum kalibreringsscore (kun ekstrakt) |
--evaluate-layers | Evaluere encoder lag en ad gangen for at sænke spidsbelastning hukommelse | |
--json | JSON med enhver sandsynlighed, eller spænder med UTF-16 forskudt, plus timinger |
avatar- motion
Generér NVIDIA Audio2Face-3D avatar- motion koefficient rammer fra tale lyd.
speech avatar-motion <input> [options]
| Valgmulighed | Standard | Varebeskrivelse |
|---|---|---|
--output, -o | avatar-motion.jsonl | Uddata JSONL- filsti |
--model | …James-MLX | Avatar identity bundt (James default; Claire og Mark tilgængelige) |
--verbose | Udskriv timing og rammetællinger |
MOSS- TTS- Nano
Brug --voice-sample til stemmekloning; der er ikke behov for referencetryk. Mono-referencer kopieres til stereo, reamples til 48 kHz og poleres til en 80 ms grænse. Indkode en reference én gang og genbruge sine koder på tværs af anmodninger.
speech speak "Hello world." --engine moss-nano -o hello.wav
speech speak "The weather is nice today." --engine moss-nano \
--voice-sample reference.wav --moss-nano-seed 1 -o cloned.wav
speech speak "Hello world." --engine moss-nano --stream --play -o streamed.wav--moss-nano-model | aufklarer / MOSS-TTS-Nano-100M-CoreML | Model til arkiv eller lokal mappe |
--moss-nano-compute-units | cpu | cpu eller gpu |
--moss-nano-max-frames | 300 | Højst 80 ms stel; naturlig EOS påkrævet |
--moss-nano-seed | 0 | Reproducerbar Swift-prøvetagningsfrø |
Lokal indfødt inferens
For 12B, gentagne tilstødende værktøjs- call lucking markører umiddelbart efter et komplet, valideret opkald forbruges med dette opkald. De skaber ikke et andet opkald eller ændre sine argumenter. Standalone markører og misdannede argumenter forbliver fejl; E4B bevarer streng håndtering.
For at beholde fejlbehæftede native chat-forespørgsler, sæt failureCaptureDirectory i inferens manifest. Fanget er som standard slukket. Mappen skal nægte gruppe og anden adgang; nye mapper bruges 0700 og fejlfiler bruger 0600. Filer omfatter den nøjagtige anmodning organ, anmode om ID og fejl. Færdiggjort 12B generationer også beholde den afleverede prompt, token id 'er, rå output og stop grund før fortolkning. E4B fejl har ingen rå generation rekord. Disse lokale filer indeholder samtale og værktøj indhold; HTTP fejl og succesfulde anmodninger ikke omfatter dem.
Valgfri agentDirectory indlæser en iscenesat Gemma 4 12B Ensartet INT4 tekstmodel ved siden af E4B. Brug model: "gemma4-12b-it"for chat med indfødte værktøjer, resultat historie, og annullering. E4B forbliver til rådighed for andre anmodninger. Gemma4UnifiedChat bruger den fæstnede MLX tekst implementering og frigiver hver anmodning KV cache. Response parsing fjerner kanal delimiters fra returneret tekst. Orphoned tool- call terminatorer afvises som misdannede svar.
Kildeopbygninger accepterer --inference-manifest models.json at indlæse iscenesat Gemma 4 E4B INT4, VoxCPM2, fuld Whisper Large-v3, og Silero VADDenne tjeneste starter offline og afviser uforenelige model identiteter.
speech-server --inference-manifest models.json --port 8080Voxtral TTS
Voxtral 4B TTS 2603 kører lokalt Apple Silicon gennem Voxtral TTS-modulet: 20 forudindstillet stemmer, ni sprog, og 24 kHz mono tale.
speech speak "Hello, welcome to Voxtral." --engine voxtral --voxtral-voice casual_male --stream --voxtral-chunk-frames 3 -o hello.wav
speech speak --engine voxtral --list-speakers
speech speak "Bonjour." --engine voxtral --voxtral-voice fr_female --voxtral-max-frames 500 --voxtral-seed 0 -o bonjour.wavForetag kun stemmer; reference- audio kloning er ikke tilgængelig. Lydoutput strømme gennem SDK, CLI, WebSocket og HTTP PCM. Levere den komplette input tekst op foran. Model vægte bruge CC BY-NC 4.0.
Fish Audio DramaCity in Italy 3
Eksperimentel indfødt MLX støtte til Drama 3 er tilgængelig gennem FishAudioDrama3ModelA 35B hybridopmærksomhed MoE rygrad, temporal audio tårn og Fish DAC codec producere 44.1 kHz mono audio. 4-bit checkpoint passerede kurveform og uafhængig ASR kontroller for text- only generation, reference kloning og CLI output på Apple M5 Pro. 8- bit og BF16 forblive uvalideret.
Hukommelsestilstand balanced er standard. Idle MLX buffere trimmes over 512 MiB på scenen grænser; dette er ikke en total-memory grænse. Globale tildelingsgrænser forbliver uændrede. Vælg --fish-drama3-memory-mode unrestricted eller memoryOptions: .unrestricted for ivrig lastning og den tidligere caching adfærd.
Tekst- kun generations deferers 794.4 MiB af referenceindkodningsvægte. Den første reference kodning belastninger og bevarer dem, så hold codec.safetensors tilgængelige indtil da. Præberegnede referencekoder behøver ikke encoder.
Giv komplet input tekst. Stemmekloning kræver et referenceklip og dens nøjagtige udskrift. Speaker tags 0- 15 og inline følelser er understøttet. PCM streaming er tilgængelig gennem generateStreaming, generateStream og --stream. Standard chunk indeholder 3 codec rammer, om 139 ms af lyd. Automatisk lang- tekst chunking og streamed tekst input forbliver utilgængelig. Når rammen grænse kaster en fejl.
speech speak "Hello from Drama 3." --engine fish-drama3 --fish-drama3-bundle-dir /path/to/bundle -o hello.wav
speech speak "Hello from Drama 3." --engine fish-drama3 --stream --fish-drama3-chunk-frames 3 -o streamed.wav
speech speak "Hello in the reference voice." --engine fish-drama3 --voice-sample reference.wav --fish-drama3-reference-text "The exact reference transcript." --seed 42 -o cloned.wavimport FishAudioTTS
let model = try await FishAudioDrama3Model.fromBundle(bundleURL, memoryOptions: .balanced)
let pcm = try await model.generate(text: "Hello from Drama 3.", options: .init(seed: 42))| Valgmulighed | Standard |
|---|---|
--fish-drama3-model-id | mlx-community/fish-audio-drama-3-4bit |
--fish-drama3-bundle-dir | — |
--fish-drama3-reference-text | — |
--fish-drama3-max-frames | 2048 |
--fish-drama3-temperature | 1 |
--fish-drama3-top-k | 30 |
--fish-drama3-top-p | 0.9 |
--voice-sample | — |
--seed | 0 |
--stream | false |
--fish-drama3-chunk-frames | 3 |
--fish-drama3-memory-mode | balanced |
Bygget med Fish Audio. Bundles bevarer fællesskabstilladelsen og ANMELDELSE.