Maskinoversættelse · Engelsk original

CLI-reference

Breeze TTS 2 · Breeze tTS

Engelsk / kinesisk TTS med stemme design, reference kloning og retning, og streamet audio (MLX BF16 / 8- bit, 24 kHz; forskning / ikke-kommerciel licens).

BreezeTTS · CLI · Swift API

speech speak "The quick brown fox jumps over the lazy dog." --engine breeze \
  --instruct "A clear, calm English narrator." --stream -o design.wav
  • --breeze-model-id: aufklarer/Breeze-TTS-2-MLX-8bit
  • --breeze-bundle-dir
  • --breeze-cache-limit-mib: Valgfri proces- wide genanvendelige MLX cache budget i MiB; 0 deaktiverer caching.
  • --breeze-reference-text
  • --breeze-temperature: 0.9
  • --breeze-top-k: 50
  • --breeze-top-p: 1
  • --breeze-cfg-scale: 4
  • --breeze-max-frames: 750
  • --breeze-seed: 42
  • --first-chunk-frames: 3
  • --chunk-frames: 25

Indfødt Apple runtime · PocketTTS

PocketTTS tilføjer indfødt CoreML talesyntesse til speech-swift. Alle trin standard til CPU- kun udførelse. Den engelske Alba forudindstillet streams 1,920- prøvesæt på 24 kHz (80 ms per frame).

Brug af Swift og CLI

speech speak "Hello world." --engine pocket --stream \
  --pocket-bundle-dir /path/to/bundle --pocket-seed 42 -o hello.wav
# --pocket-model-id, --pocket-max-frames, --list-speakers

Den speech kommandoen er indgangsstedet for lokal talebehandling.

Installér med Homebrew

På Apple Silicon med macOS 15 eller nyere, installere CLI ved hjælp af Homebrew:

brew install speech
speech --help

For at opdatere en eksisterende installation, køre brew upgrade speech.

Alternativ: bygge fra kilde

I et speech-swift check out, run make build, derefter brug .build/release/speech. Se Få startguide for forudsætninger og kilde- bygge instruktioner.

transcribe

Transcribe lydfiler til tekst.

speech transcribe <file> [options]
ValgmulighedStandardVarebeskrivelse
<file>Audio-fil til transcribe (WAV, M4A og MP3; CAF)
--engineqwen3ASR motor: qwen3, qwen3-coreml, parakeet, nemotron, omnilingual, cohere, voxtral, moss, whisper
--model, -m0.6BModel variant: 0.6B, 1.7B, eller komplet HuggingFace-model ID (kun qwen3) [whisper]: default, turbo, eller fuldt CoreML HuggingFace repo-id.
[cohere/voxtral]: INT5 (standard) INT8, FP16, a Hugging Face model- id eller en lokal mappe. [moss coreml]: int8 (misligholdelse) eller fp16; [moss mlx]: int5 (misligholdelse) eller int8. MOSS accepterer også et kompatibelt Hugging Face-depotid eller lokal mappe.
--max-tokensCoreML: 512
MLX: 5120
[moss] Maksimalt genererede udskriftsmodeller.
--kv-cachefp16[moss mlx] Dynamisk KV- cache præcision: fp16 eller int8.
--languageSprogvink (valgfrit, ignoreret af flersproget)
--window10[omnilingual] CoreML vinduesstørrelse i sekunder: 5 eller 10
--backendcoreml[omnilingual/moss] Baglæns: coreml (Neural Engine) eller mlx (Metal GPU). MOSS MLX giver en dynamisk 131,072-token sammenhæng; MOSS CoreML bruger en fast 1,024- En token-tilstand.
--variant300M[omnilingual mlx] Størrelse: 300M, 1B, 3B, eller 7B
--bits4[omnilingual mlx] Kvantitative bits: 4 eller 8
--streamAktivér streaming transskription med VAD
--max-segment10Maksimal segmentvarighed i sekunder (streaming)
--partialEmit delvise resultater under tale (streaming)

Eksempler:

# Basic transcription
speech transcribe recording.wav

# Use larger model
speech transcribe recording.wav --model 1.7B

# CoreML encoder (Neural Engine + MLX decoder)
speech transcribe recording.wav --engine qwen3-coreml

# Use Parakeet (CoreML) engine
speech transcribe recording.wav --engine parakeet

# Use Nemotron Streaming (CoreML, English with native punctuation)
speech transcribe recording.wav --engine nemotron                                 # batch
speech transcribe recording.wav --engine nemotron --stream --partial              # streaming

# Omnilingual (CoreML, 1,672 languages)
speech transcribe recording.wav --engine omnilingual                              # 10 s window
speech transcribe recording.wav --engine omnilingual --window 5                     # 5 s window

# Omnilingual (MLX, any length up to 40 s)
speech transcribe recording.wav --engine omnilingual --backend mlx                              # 300M @ 4-bit
speech transcribe recording.wav --engine omnilingual --backend mlx --variant 1B                  # 1B @ 4-bit
speech transcribe recording.wav --engine omnilingual --backend mlx --variant 3B --bits 8         # 3B @ 8-bit
speech transcribe recording.wav --engine omnilingual --backend mlx --variant 7B                  # 7B @ 4-bit

# Cohere Transcribe 2B (MLX, INT5 default)
speech transcribe recording.wav --engine cohere
speech transcribe recording.wav --engine cohere --model int8 --language de

# Voxtral Mini 3B (MLX, INT5 default)
speech transcribe recording.wav --engine voxtral
speech transcribe recording.wav --engine voxtral --model int8 --language fr

# MOSS Transcribe Diarize (CoreML short-form)
speech transcribe recording.wav --engine moss
speech transcribe recording.wav --engine moss --model fp16

# MOSS Transcribe Diarize (MLX 128K offline context; INT5 default)
speech transcribe meeting.wav --engine moss --backend mlx
speech transcribe meeting.wav --engine moss --backend mlx --model int8 --kv-cache int8

# Whisper Large-v3 Turbo (CoreML)
speech transcribe recording.wav --engine whisper
speech transcribe recording.wav --engine whisper --model turbo --language de

# Streaming with VAD
speech transcribe recording.wav --stream --partial

justér

Word- niveau tvunget justering - få præcise tidsstempler for hvert ord.

speech align <file> [options]
ValgmulighedStandardVarebeskrivelse
<file>Lydfil
--text, -tTekst der skal justeres (hvis udeladt, transcribes først)
--model, -m0.6BASR model til transskription: 0.6B, 1.7B, eller fuldt ID
--aligner-modelTvungen justeringstestmodel ID
--languageSprogvink

Eksempler:

# Auto-transcribe then align
speech align recording.wav

# Align with known text
speech align recording.wav --text "Can you guarantee that the replacement part will be shipped tomorrow?"

Tal

Tekst- to- tale syntese.

speech speak "<text>" [options]
ValgmulighedStandardVarebeskrivelse
<text>Tekst der skal syntetiseres (valgfrit hvis du bruger --batch-file)
--engineqwen3TTS motor: qwen3, cosyvoice, voxcpm2, indextts2, f5, higgs, breeze, indic-mio, magpie, eller magpie-coreml, moss-nano, fireredtts3, moss-voicegenerator
--output, -ooutput.wavOutput WAV filsti
--languageenglishSprog. Omit at bruge højttalerens indfødte dialekt, når --speaker er klar.
--streamAktivér streaming syntese
--voice-sampleReference audio til voice kloning (arbejder med qwen3, cosyvoice, voxcpm2, f5, higgs, og indextts2)
--verboseVis detaljeret timingsinfo

Qwen3-TTS tilvalg

ValgmulighedStandardVarebeskrivelse
--modelbaseModel variant: base, customVoice, eller fuld HF-model ID
--speakerTalsmand (kræver --model customVoice)
--instructStyle instruktion (CustomVoice model)
--list-speakersListe over tilgængelige højttalere og udgang
--temperature0.3Prøvetagningstemperatur
--top-k50Top- k prøvetagning
--max-tokens500Maksimale tokens (500 = ~ 40 'ere lyd)
--batch-fileFil med en tekst pr. linje for batch syntese
--batch-size4Maks. batch størrelse til parallel generation
--first-chunk-frames3Codec rammer i første streamet stykke
--chunk-frames25Codec-stel pr. streamet stykke

CosyVoice3 tilvalg

ValgmulighedStandardVarebeskrivelse
--speakersHøjttalerkortlægning til dialog mellem flere højttalere: s1=alice.wav,s2=bob.wav
--cosy-instructStyle instruktion (tilsidesætter standard). Kontrollerer stemmestil for CosyVoice3.
--turn-gap0.2Tavshedskløften mellem dialog vender på få sekunder
--crossfade0.0Crossfade overlap mellem drejninger i sekunder
--model-idHuggingFace-model- id

VoxCPM2 tilvalg

ValgmulighedStandardVarebeskrivelse
--voxcpm2-variantbf16Kvantificeringsvariant: bf16, int8, eller int4. Resolves til aufklarer/VoxCPM2-MLX-<variant>.
--voxcpm2-instructNaturlig-sproglig talemåde (talemønster), f.eks. "en ung kvinde, varm og blid".
--voxcpm2-ref-audioReference lydfil til kloning (16 kHz mono, resamples internt).
--voxcpm2-prompt-audio / --voxcpm2-prompt-text"Ultimate kloning" par - reference clip + dens udskrift til prosody- bevare kloning.
--voxcpm2-cfg-value2.0Klassifier- fri vejledningskala for diffusionsprøveren.
--voxcpm2-timesteps10Euler løser trin pr genereret lyd patch.
--voxcpm2-max-tokens2000Max genererede patches før tvunget stop.
--voxcpm2-min-tokens2Min. patches før stophovedet er tilladt at skyde.
--seedSeed MLX RNG før syntesen (deterministisk på tværs af løbene).

IndexTTS2 tilvalg

IndexTTS2 er en zeroshot voice- kloning motor bakkes op af en udvidet MLX bundt. Det kræver --voice-sample og kører i øjeblikket kun batch syntese.

ValgmulighedStandardVarebeskrivelse
--indextts2-model-idaufklarer/IndexTTS2-MLX-fp16HuggingFace model ID. Standard til aufklarer/IndexTTS2-MLX-fp16.
--indextts2-bundle-dirIndlæs et lokalt udvidet bundt i stedet for at downloade fra Hugging Face.
--indextts2-emotion-audioValgfri følelses / stil reference lyd. Standard til højttaler reference.
--indextts2-emotionValgfrit forudindstillet eller 8- værdi følelsesvektor. Præsenserne omfatter eager, happy, excited, og calm.
--indextts2-emotion-weight1.0Skalaer --indextts2-emotion; holde beskedne, når taler identitet spørgsmål.
--indextts2-speaking-rate1.0Speaking- rate multiplikator fra 0.5 til 1.5; værdier ovenfor 1.0 er hurtigere.
--indextts2-max-pauseValgfri hætte til lange interne lavenergipauser, i sekunder.
--indextts2-s2mel-steps15S2Mel flow trin (standard 15, øre- valideret; 25 matcher opstrøms nøjagtigt)

F5-TTS tilvalg

ValgmulighedStandardVarebeskrivelse
--f5-reference-textReferenceudskrift: tekstindholdet af --voice-sample (påkrævet)
--f5-steps16Flow- matching trin (standard 16; 32 for maksimal troværdighed)
--f5-cfg-strength2.0Klassifikatorfri styrestyrke
--f5-sway-1.0Svejsprøvningskoefficient
--f5-speed1.0Speaking- rate multiplikator
--f5-seed0Frø til deterministisk udgang
--f5-target-rms0.1Reference RMS normaliseringsmål
--f5-model-idHugging Face-model- id
--f5-bundle-dirIndlæs et bundt fra denne lokale mappe

Higgs TTS 3 Indstillinger

ValgmulighedStandardVarebeskrivelse
--higgs-ref-textReference-udskrift: tekstindholdet af --voice-sample (forbedrer kloning)
--higgs-temperature0.8Prøvetagningstemperatur (standard 0.8)
--higgs-top-pTærskel for udtagning af prøver af nucleus (som standard ikke medregnet)
--higgs-top-kTop- k sampling- cutoff (slukkes som standard)
--higgs-max-new-tokens2048Maksimal genereret lydramme (25 per sekund)
--higgs-seed0Frø til deterministisk udgang
--higgs-model-idHugging Face-model- id
--higgs-bundle-dirIndlæs et bundt fra denne lokale mappe

Magieindstillinger

NVIDIA Magpie- TTS Flersproget 357M, 9 sprog med 5 bagte højttalere. Vælg bagenden med --engine magpie (MLX, standard) eller --engine magpie-coreml (CoreML for de store modeller med MLX kører LocalTransformer + lydindlejringer). Magie guide for opdeling efter per- sprog G2P. Stemmekloning er ikke understøttet: --voice-sample, --speaker, og --instruct afvises med en nyttig fejl, der peger på --magpie-speaker I stedet.

ValgmulighedStandardVarebeskrivelse
--magpie-variantint4Kun MLX. Kvantisering: int4 (247 MB) eller int8 (411 MB). aufklarer/Magpie-TTS-Multilingual-357M-MLX-<variant>. CoreML motoren bruger INT8 CoreML bundtet og ignorerer dette flag.
--magpie-speakersofiaBages højttaler: sofia, aria, jason, leo, eller john. Identitet er konsekvent på tværs af alle 9 sprog og begge backends.
--magpie-temperature0.6Prøvetagningstemperatur (0 = grådig). 0.6 for japansk - grådige sidder fast på den første sætning.
--magpie-top-k80Top- k filter til prøvetagning.
--magpie-max-frames500Hårdt låg på codec rammer (~ 23 s).
--magpie-min-frames4Minimumsrammer før EOS tilladt.
--magpie-prephonemizedBehandl input som IPA / phoneme stream; spring over per- sprog G2P.
--list-speakersUdskriv de 5 bagte højttalere og afslut.

magpie- coreml caveats: den bundtede NanoCodec er sporet på en fast 64- frame vindue, så --stream er afvist. --language ja Auto-ruter til MLX bagenden med en stderr note (den CoreML bundt ikke sende JA Schedrizer aktiver endnu). CoreML motor lazy- belastes MLX bundt på første syntese til at køre LocalTransformer og gennemsnitlige lyd indlejringer; pure-CoreML implementering spores som en opfølgning.

Eksempler:

# Basic TTS
speech speak "Hello, world!" --output hello.wav

# Voice cloning (Qwen3-TTS)
speech speak "Hello in your voice" --voice-sample reference.wav -o cloned.wav

# Voice cloning (CosyVoice)
speech speak "Hello in your voice" --engine cosyvoice --voice-sample reference.wav -o cloned.wav

# Voice cloning (IndexTTS2)
speech speak "Hello in your voice" --engine indextts2 \
    --voice-sample reference.wav --indextts2-speaking-rate 1.35 \
    --indextts2-max-pause 0.05 -o indextts2.wav

# CosyVoice multilingual
speech speak "Hallo Welt" --engine cosyvoice --language german -o hallo.wav

# Multi-speaker dialogue
speech speak "[S1] Hello there! [S2] Hey, how are you?" \
    --engine cosyvoice --speakers s1=alice.wav,s2=bob.wav -o dialogue.wav

# Inline emotion/style tags
speech speak "(excited) Wow, amazing! (sad) But I have to go..." \
    --engine cosyvoice -o emotion.wav

# Combined: dialogue + emotions + voice cloning
speech speak "[S1] (happy) Great news! [S2] (surprised) Really?" \
    --engine cosyvoice --speakers s1=alice.wav,s2=bob.wav -o combined.wav

# Custom style instruction
speech speak "Hello world" --engine cosyvoice --cosy-instruct "Speak cheerfully" -o cheerful.wav

# Magpie multilingual TTS — same Aria voice across 9 languages
speech speak "Hello, world." --engine magpie --magpie-speaker aria \
    --magpie-temperature 0 -o en.wav
speech speak "Hola mundo." --engine magpie --language es --magpie-speaker aria \
    --magpie-temperature 0 -o es.wav
# Japanese needs stochastic sampling
speech speak "こんにちは世界、これは音声合成システムです。" \
    --engine magpie --language ja --magpie-temperature 0.6 \
    --magpie-top-k 80 --seed 42 -o ja.wav
speech speak --engine magpie --list-speakers

# Magpie CoreML backend (ANE-accelerated, 8 languages, no streaming)
speech speak "Hello world." --engine magpie-coreml --magpie-speaker aria -o en.wav
speech speak "Hola mundo." --engine magpie-coreml --language es \
    --magpie-speaker leo -o es.wav
# Japanese auto-routes to MLX (CoreML bundle has no JA tokenizer)
speech speak "こんにちは。" --engine magpie-coreml --language ja -o ja.wav

# Streaming synthesis
speech speak "Long text here..." --stream

# Batch synthesis from file
speech speak --batch-file texts.txt --batch-size 4

# VoxCPM2 — 48 kHz studio output
speech speak "Hello there." --engine voxcpm2 --voxcpm2-variant int8 -o hi.wav

# VoxCPM2 — voice design
speech speak "Welcome to the show." --engine voxcpm2 \
    --voxcpm2-instruct "A young woman, warm and gentle voice." -o design.wav

# VoxCPM2 — single-reference cloning
speech speak "This is a cloned voice." --engine voxcpm2 \
    --voice-sample speaker.wav -o clone.wav

Instruktion TTS muligheder

Eksperimentel: Byg native SDK støtte fra hovedkilden. Homebrew og andre præbyggede CLI udgivelser kan ikke inkludere disse motorer endnu.

Gennemførelse (PR # 541): main

Published MLX bundter: aufklarer/FireRedTTS3-Instruct-MLX-fp32 · aufklarer/MOSS-VoiceGenerator-MLX-bf16

Giv et tekstargument, --instruct, og præcis en bundt mappe eller kompatibel model ID. Reference lyd, faste højttalere og batch input er ikke understøttet.

Hvert tekst- og instruktionsfelt er begrænset til 32,768 UTF-8 bytes. Den komplette afleverede inddataport, herunder dens skabelon, skal passe inden for 4,096 tokens. Indgange, der overskrider begge grænser, afvises.

FireRedTTS3-Instruct bevarer Float32 model og dekoder vægte. Det returnerer buffered audio: udelt --stream. Engelsk og kinesisk --language aliaser accepteres. En generation grænse hæver en fejl i stedet for at returnere trunkeret succes.

MOSS- VoiceGenerator bibeholder BF16 sprogvægte og FP32 syntesecodec. Brug --stream til trinvis PCM. Omit --language og sætte sprogkrav i --instruct. Færdiggørelse dræn alle seksten kodebøger.

Instruction- følgende kvalitet er uscoret. Kortscriptmålinger beskriver den testede opsætning; eksisterende-model latency certificering forbliver ukonklusivt.

ValgmulighedStandardVarebeskrivelse
--fireredtts3-bundle-dir—Kompatibel lokal eksporteret bundt; vælg dette eller model- ID mulighed.
--fireredtts3-model-id—Offentliggjort kompatibelt MLX bundt ID; vælg dette eller en lokal mappe.
--fireredtts3-flow-steps10Flowtrin pr. akustisk patch.
--fireredtts3-max-patches400Generationslåg; når den når frem før færdiggørelsen, opstår der en fejl.
--moss-voicegenerator-bundle-dir—Kompatibel lokal eksporteret bundt; vælg dette eller model- ID mulighed.
--moss-voicegenerator-model-id—Offentliggjort kompatibelt MLX bundt ID; vælg dette eller en lokal mappe.
--moss-voicegenerator-max-frames750Generationslåg; når den når frem før færdiggørelsen, opstår der en fejl.
--moss-voicegenerator-chunk-frames3Komplet codec rammer pr PCM-stykke (1-32).
--seed2 / 42Anmoder om frø: FireRedTTS3 standard til 2; MOSS- VoiceGenerator til 42.

FireRedTTS3-Instruct · MOSS- VoiceGenerator

kokoro

Letvægts tekst- to- tale ved hjælp af Kokoro-82M på Neural Engine (CoreML). Non- autoregressive - enkelt forward pass, ~ 45ms latency.

speech kokoro "<text>" [options]
ValgmulighedStandardVarebeskrivelse
<text>Tekst der skal syntetiseres
--voiceaf_heartStemme forudindstillet (50 tilgængelige på tværs af 10 sprog)
--languageenSprogkode: en, es, fr, hi, it, ja, pt, zh, ko, de
--output, -okokoro_output.wavOutput WAV filsti
--list-voicesListe over alle tilgængelige stemmer og udgang
--model, -mHuggingFace-model- id

Eksempler:

# Basic Kokoro TTS
speech kokoro "Hello, world!" --voice af_heart -o hello.wav

# French voice
speech kokoro "Bonjour le monde" --voice ff_siwis --language fr -o bonjour.wav

# List all 50 voices
speech kokoro --list-voices

svar

Full- duplex speech- to- tale dialog ved hjælp af PersonaPlex 7B.

speech respond [options]
ValgmulighedStandardVarebeskrivelse
--input, -iInput lyd WAV fil (24kHz mono) (påkrævet)
--output, -oresponse.wavOutput response WAV- fil
--voiceNATM0Stemmeretspres (f.eks. NATM0, NATF1 og VARF0)
--system-promptassistantPreset: assistant, focused, customer-service, teacher
--system-prompt-textBrugerdefineret systemprompt tekst (tilsidesætter forudindstillet)
--max-steps200Maks. generering trin ved 12.5Hz (~ 16)
--streamEmit lydstykker under generationen
--compileAktivér kompileret transformator (varmelegeme + kernefusion)
--list-voicesListe over tilgængelige talekort
--list-promptsListe over tilgængelige systemprompt-forudindstillinger
--transcriptUdskriv modellens indre monolog tekst
--jsonOutput som JSON (udskrift, latency, audio path)
--verboseVis detaljeret timingsinfo

Prøveudtagning Overskridelser

ValgmulighedStandardVarebeskrivelse
--audio-temp0.8Lydprøvetagningstemperatur
--text-temp0.7Tekstprøvetagningstemperatur
--audio-top-k250Lydtop- k kandidater
--repetition-penalty1.2Audio repetitionsstraf (1.0 = deaktiveret)
--text-repetition-penalty1.2Tekst- repetitionsstraf (1.0 = deaktiveret)
--repetition-window30Gentager strafvindue i rammer
--silence-early-stop15Stilhed rammer før tidlig stop (0 = deaktiveret)
--entropy-threshold0Tekstentropitærskelværdi for tidlig stop (0 = deaktiveret)
--entropy-window10Konsistente lav- entropi trin før tidlig stop

Eksempler:

# Basic speech-to-speech
speech respond --input question.wav

# Use a female voice with compiled transformer
speech respond -i question.wav --voice NATF1 --compile

# Stream response and show transcript
speech respond -i question.wav --stream --transcript --verbose

voice- chat

Live full-duplex samtale med Soniqo, drevet af NVIDIA Nemotron VoiceChat 11B. Mikrofontilstand gør det muligt for Apple AEC, streaming RNN-T billedtekster, menneske-vender realtids målinger, adaptive 8→2→1-step stemme raffinement, og afgrænset input resynkronisering i stedet for en lang stille catch- up.

speech voice-chat [options]
ValgmulighedStandardVarebeskrivelse
--model, -maufklarer/VoiceChat-11B-Perception-MLX-int5Hugging Face model ID eller komplet lokalt bundt.
--revisionmainHub revision.
--system-promptTilsidesæt systemprompten.
--mcp-configLeverandør- neutral JSON konfiguration til MCP værktøj servere.
--mcp-serveralle konfigureretVælg en konfigureret server; gentag for at vælge mere.
--mcp-write-policyallowSkriv politik: øjeblikkeligt allow, model- medieret confirm, eller deny.
--mcp-timeout-seconds15MCP tool- call timeout; server opstart tillader mindst 60 sekunder.
--greetBed modellen hilse først.
--no-aecDeaktivér Apple akustisk ekko annullering.
--no-transcriptDeaktivér live RN- T bruger- billedtekster.
--no-rnnt-turn-takingDeaktivér NVIDIA RNN- T turn - tager sikkerhedssvigt.
--prebuffer-frames380 ms output rammer buffered før afspilning.
--max-buffered-frames8Maksimum i kø 80 ms mikrofon rammer før gamle lyd er faldet.
--max-secondsHold op med at fange levende efter så mange sekunder.
--inputLæs en lydfil i stedet for mikrofonen.
--output, -oSkriv den fuld- kontekst 22.05 kHz WAV.
--tail-seconds6Stilhed vedhæftet efter fil input.
--force-turn-at-endTving BOS ved fil EOF; kun regressionstest.
--plainBrug vedhæng-kun output i stedet for den faste redraw instrumentbræt.
--debug-timelineVis relativ frase og generated- pronciation- end tidsstempler plus dekodede værktøjs- call livscyklusbegivenheder.
--terminal-width120Terminal display bredde.
--temperature0Teksttemperatur; 0 er grådig.
--text-top-p1Tekst- p.
--guidance0.2EAR- TTS styrestyrke.
--speech-top-p0.95EAR- TTS top- p.
--speech-noise0.001EAR- TTS sampling støj.
--speech-iterations8EAR- TTS Maskingit iterationer per ramme.
--realtime-speech-iterations2Mellemliggende voice- raffinement budget bruges til at beskytte realtime hastighed; alvorlig overbelastning bruger et skridt.
--live-speech-context-seconds20Seneste EAR- TTS historie opbevares i live mode; 0 holder fuld historie.

Eksempler:

speech voice-chat

speech voice-chat --model /path/to/complete-bundle --prebuffer-frames 3

speech voice-chat --input question.wav --output response.wav

speech voice-chat --mcp-config Examples/VoiceChatMCP/apple-reminders.json

Med MCP aktiveret, model- native call JSON og returnerede værktøjs- svar tokens bruger NVIDIA 's tofaset asynkron funktion sti på en cachet stilhed embedding. Der er ingen udskrift router, regular- expression matcher, påmindelse udkast stat, argument reparation, eller scripteret assistent svar: checkpoint alene vælger et værktøj og dets argumenter. Koordinatoren validerer kun den indfødte JSON, anvender læse / skrive politik, udfører den valgte MCP operation, og returnerer strukturerede resultater gennem den trænede funktion kanal. Skrifter udfører straks under standard allow politik, fjerne den anden bekræftelse drejning fra påmindelser demo; en identisk afsluttet skrive er stadig undertrykt indtil frisk brugertale. Brug confirm kun når model- medieret bekræftelse udtrykkeligt ønskes, eller deny at nægte skriver. MCP kommandoer kører lokalt med den nuværende brugers filsystem og programtilladelser, så brug kun betroede konfigurationsfiler og serverpakker.

Mikrofonens opfattelse og RNN-T billedtekster fortsætter mellem modeltrin, mens eksterne MCP I / O kører i en separat opgave. Speech- bærende mikrofon regioner fanget, mens den delte funktion cache er optaget er bevaret som evaluerede indlejringer og afspilles kausalt efter resultatet, så en billedtekst opfølgning ikke længere kasseres. Replay er begrænset til en gammel semantisk ramme per levende callback; den tilsvarende nye ramme forbliver i kø, replay tekst er tvunget til PAD, og already- forløbet lyd er aldrig queued til højttaleren. Matching tomgang EAR- TTS cache positioner synkronisere senere i afgrænset eight- frame chunks. Dashboard adskiller indfødte opkald, den oprindelige opkald, MCP round trip, og tool- result cache synkronisering. Decode og resultatlinjer viser model / cache beregne plus live interleave, det restbeløb, der anvendes af skuespillerens udbytte, bogholderi og systemstrid; forgrundslyd RTF måler ingen af disse baggrundsarbejde. Når et opkald er åbent, den kraft- PAD tekst kanal springer sin ubrugte full-ordforråd projektion. Efter EOTC, tofaset sti fryser det delte sprog og EAR- TTS tidslinje, mens det eksterne resultat venter; mikrofon rammer forbliver live for opfattelse og RNN-T, men ikke bliver syntetisk PAD positioner før resultatet. Kendte resultater replay i afgrænset 16-token caJerusalem-prefill stykker. Liveløkken læser en sammenhængende funktion snapshot og en MCP snapshot hver 160 ms i stedet for at gøre flere skuespillere opkald efter hver mikrofon ramme. 40-frame RN- T sikkerhed fallback, mens en allerede foreslået native værktøj kandidat kan forpligte efter otte tomme rammer. Teksten og funktion kanaler stadig deler en Nemotron- H cache, så sammenhængende resultat- betinget tale starter først, når funktionen respons lukker; vilkårlig assisterende tale kan ikke sikkert køre som en anden årsagssammenhæng fremtid parallelt.

En ren M5 Pro 48 GB frigivelsesprofil målt 3.56–4.00 sekunder fra slutningen af tale til den første model- forfattet post- tool tale for tre påmindelser-liste frasings med en fast 200 ms udbyder. Indfødt JSON dekodning brugt 27–31 trin i 1.15–1.28 sekunder, og en 67-token resultat synkroniseret i 0.58–0.72 sekunder. Med en bevidst langsom to-sekunders udbyder, mikrofon arbejde under ventetiden forblev 19.6 ms p95 og 19.8 ms maximum. En endelig ren kørsel målt 118 ms microphone- service p95 og 139 ms p95 Forsinkelse 80 ms capture deadlines. Udbyderen tilføjer derfor svar latency uden frysning capture; den resterende computergrænse er native opkald dekodning plus shared- cache resultat spil igen.

Den bundtede demo udsætter kun list_reminders, create_reminder, og update_reminder; liste opdagelse forbliver adapter- private. En fladtrykt påmindelse læse dækker hver EventKit liste og erstatter lange udbyder UUID 'er med stabile, session- scoped referencer såsom r1. Opdateringer returnere en af disse model- synlige referencer, og adapteren løser det præcis før udførelse; det aldrig matcher talte navne eller udskrift tekst. No- op opdateringer og fraktionelle prioriteter afvises snarere end rapporteret som vellykkede ændringer. En kontrolleret opdatering regression faldt fra 67 indfødte trin / 5.25 sekunder med en realistisk UUID til 37 trin / om 2.29 sekund med r1. Opret kræver kun et navn, mens valgfri udbyder standard forbliver valgfri. streaming RNN-T frontend bruger NeMo- kompatibel refleksion polstring på rullende vindueskanter i stedet for nul polstring.

Filtilstand er den hardware- free reproducerbar sti. --force-turn-at-end er kun til kontrollerede regressionstest og må ikke rapporteres som naturlig turnus- tager latency.

audio- translate

Streaming speech- to- tale oversættelse ved hjælp af Kyutai Hibiki Zero-3B. FR / ES / PT / DE → EN, single binær, ingen sky. Fuld guide →

speech audio-translate <input.wav> [options]
ValgmulighedStandardVarebeskrivelse
<input>Source audio WAV fil (mono, reamped to 24 kHz internt) (påkrævet)
--output, -otranslated.wavOutput 24 kHz English WAV fil
--source-langfrKildesprogvink (fr, es, pt, de). Auto- detekteret; kun metadata. FR + ES er strenge E2E kanarier; PT + DE er bedst-indsats.
--quantization4bitVariant: 4bit (~ 2.7 GB) eller 8bit (~ 3.9 GB)
--model-idHuggingFace model- id - override (går forud for --quantization)
--compileKør den tidsmæssige transformator warm- up pass før oversættelse
--verboseUdskriv per- fase timing (Mimi encode, generation, Mimi dekode)
--transcriptUdskriv modellens inner- monolog rå SPM-token-id 'er (SPM-afkodning er en opfølgning)

Miljøvariabler

VariabelVirkning
HIBIKI_GREEDY=1Tving argmax afkodning for tekst + mål lyd. Reproducerbar - bruges af de strenge CI kanarier.
HIBIKI_MODEL_IDOverlad standardværdien aufklarer/Hibiki-Zero-3B-MLX-4bit Repo ved runtime.

Eksempler:

# Translate a French clip to English
speech audio-translate input_fr.wav -o out_en.wav --source-lang fr

# Spanish, 8-bit, verbose
speech audio-translate input_es.wav -o out.wav --source-lang es --quantization 8bit --verbose

# Deterministic mode (matches the CI regression canaries)
HIBIKI_GREEDY=1 speech audio-translate input_fr.wav -o out.wav --source-lang fr

vat

Offline voice aktivitet detektion ved hjælp af Pyannote segmentering.

speech vad <file> [options]
ValgmulighedVarebeskrivelse
<file>Lydfil at analysere
--model, -mHuggingFace-model- id
--onsetTærskel (talestart)
--offsetAfdelingstærskel (talens afslutning)
--min-speechMindste talevarighed i sekunder
--min-silenceMindste stilhed varighed i sekunder
--jsonOutput som JSON

vad- stream

Streaming af voice activity detection ved hjælp af Silero VAD v5. Processer tale i 32ms chunks.

speech vad-stream <file> [options]
ValgmulighedVarebeskrivelse
<file>Lydfil at analysere
--engineVAD motor: mlx (misligholdelse) eller coreml
--model, -mHuggingFace-model ID (automatisk valgt med motor)
--onsetTærskel
--offsetUdbudstærskel
--min-speechMindste talevarighed i sekunder
--min-silenceMindste stilhed varighed i sekunder
--jsonOutput som JSON
--smart-turnBekræft hver pause med Smart Turn før du slutter et segment; mellemsætning pauser flette i et segment
--turn-thresholdSmart Turn kompletteringstærskel (standard) 0.5)
--turn-max-silenceSekunder af tavshed efter en vetoed pause, der slutter segmentet alligevel (standard 2.0)

Drej

Ende- of- turn detektering med Smart Turn v3.2 (8M-params CoreML, 23 ). Scorer den sidste 8 s af en registreret udtale og udskriver sandsynligheden for, at højttaleren er færdig, den komplette / ufuldstændige dom, og inferens tid.

speech turn <file> [options]
ValgmulighedVarebeskrivelse
<file>Lydfil med én brugervending (en hvilken som helst prøverate); de sidste 8 sekunder bruges
--thresholdSandsynligheden for, at drejningen tæller som komplet (standard) 0.5)
--model, -mHuggingFace model ID. Standard til aufklarer/Smart-Turn-v3.2-CoreML
--model-dirLokal mappe smart_turn.mlmodelc og config.json; springer downloadet over
--jsonOutput som JSON
# Probability, verdict and inference time for one utterance
speech turn utterance.wav

# Custom threshold, JSON output
speech turn utterance.wav --threshold 0.7 --json

# Streaming VAD with Smart Turn confirming each pause
speech vad-stream call.wav --smart-turn --turn-threshold 0.6 --turn-max-silence 1.5

vågn

On- enhed wake- word / søgeord spotting ved hjælp af KWS Zipformer (3.49M-params CoreML INT8, 26× realtid, kun engelsk).

speech wake <file> [options]
ValgmulighedVarebeskrivelse
<file>Lydfil at analysere
--keywordsEt eller flere søgeord. Formater: "hey soniqo" (grådig BPE), "hey soniqo:0.15:0.5" (med tærskel / boost) eller "LIGHT UP|▁ L IGHT ▁UP:0.25:2.0" (sherpa- onnx- stil eksplicitte BPE stykker)
--keywords-fileNøgleordsfil, en indgang pr. linje (samme syntaks som --keywords); # for bemærkninger
--model, -mHuggingFace model ID. Standard til aufklarer/KWS-Zipformer-3M-CoreML-INT8
--jsonOutput som JSON
# Plain phrase, tuned defaults
speech wake recording.wav --keywords "hey soniqo"

# Explicit BPE pieces for phrases the greedy tokenizer gets wrong
speech wake recording.wav --keywords "LIGHT UP|▁ L IGHT ▁UP:0.25:2.0"

# Multiple phrases + JSON output
speech wake recording.wav \
  --keywords "lovely child|▁LOVE LY ▁CHI L D:0.25:2.0" \
             "for ever|▁FOR E VER:0.25:2.0" \
  --json

diarize

Foredragsholder Diarization - identificer hvem der talte hvornår.

speech diarize <file> [options]
ValgmulighedStandardVarebeskrivelse
<file>Lydfil at analysere
--enginepyannoteDiariseringsmotor: pyannote, community1 (CoreML + native PLDA / VBx), sortformer, eller nemotron3
--nemotron3-backendcoremlNemotron 3-motor: coreml eller mlx
--nemotron3-directoryValgfri lokal Nemotron 3 modelbundt
--nemotron3-compute-unitsaneCoreML computerenheder: ane, cpu, gpu, eller all
--community1-compute-unitsaneCommunity-1 CoreML computerenheder: ane, cpu, gpu, eller all
--num-speakersKendt præcis højttalertæller for Community-1
--min-speakers1Minimum højttaler for Community-1
--max-speakersHøjeste højttaler for Community-1
--target-speakerTilmelding lyd til mål højttaler ekstraktion (kun pyannote)
--embedding-enginemlxHøjttalerindlejringsmotor: mlx eller coreml (kun pyannote)
--vad-filterPre- filter med Silero VAD (kun pyannote)
--rttmOutput i RTTM-format
--jsonOutput som JSON
--score-againstReference RTTM fil til at beregne DER

Eksempler:

# Basic diarization (pyannote, default)
speech diarize meeting.wav

# Community-1 (CoreML + native PLDA/VBx)
speech diarize meeting.wav --engine community1 --min-speakers 2 --max-speakers 6

# End-to-end Sortformer (CoreML, Neural Engine)
speech diarize meeting.wav --engine sortformer

# Nemotron 3 (CoreML or MLX INT8)
speech diarize meeting.wav --engine nemotron3
speech diarize meeting.wav --engine nemotron3 --nemotron3-backend mlx

# RTTM output for evaluation
speech diarize meeting.wav --rttm

# Target speaker extraction (pyannote only)
speech diarize meeting.wav --target-speaker enrollment.wav

# Score against reference
speech diarize meeting.wav --score-against reference.rttm

indlejret-højttaler

Uddrag en højttaler indlejring vektor fra lyd.

speech embed-speaker <file> [options]
ValgmulighedVarebeskrivelse
<file>Lydfil der indeholder højttaler stemme
--enginemlx (misligholdelse) eller coreml for WeSpeaker 256- dim redimnet2 for persisterende identitet CoreML 192- dim; camplusplus for CAM + + CoreML 192- dim
--jsonOutput som JSON

language-id

Identificer det talte sprog i en lydfil.

speech language-id <file> [options]
ValgmulighedVarebeskrivelse
<file>Lydfil der skal klassificeres
--engineInferensmotor: mlx eller coreml
--modelTilsidesæt Hugging Face-model- ID
--topAntal rangerede sprogkandidater
--jsonUddata resultatet som JSON
speech language-id recording.wav --top 5
speech language-id recording.wav --engine coreml --json

denoise

Fjern baggrundsstøj ved brug af DeepFilterNet3 på Neural Engine.

speech denoise <file> [options]
ValgmulighedStandardVarebeskrivelse
<file>Input lydfil
--output, -oinput_clean.wavUddatafil sti
--model, -mHuggingFace-model- id

Eksempel:

speech denoise noisy-recording.wav -o clean.wav

komponér

Generér 30 s af musik fra en tekstprompt ved hjælp af MAGNET på MLX.

speech compose <prompt> [options]
ValgmulighedStandardVarebeskrivelse
<prompt>Tekstprompt beskriver den musik, der skal genereres (f.eks. "Lykkelig sten")
--output, -omagnet.wavOutput WAV sti (32 kHz mono)
--variantsmall-int4Model variant: small-int4, small-int8, medium-int4, eller medium-int8. Resolves til aufklarer/MAGNeT-{Small,Medium}-30secs-MLX-{4,8}bit.
--temperature3.0Prøvetagningstemperatur, afskærmet lineært pr. trin.
--top-p0.9Tærskel for udtagning af prøver af kerner.
--cfg-max10.0Maks. klassifikator- fri vejledningskoefficient.
--cfg-min1.0Min CFG-koefficient (annealed ved siden af masken tidsplan).
--steps20,10,10,10Kommasepareret afkodning iterationer pr. kodebog (4 værdier).
--seedTilfældigt frø til reproducerbar produktion.

Eksempler:

# Default: small-int4, ~10 s wall on M-series for a 30 s clip
speech compose "happy rock" -o happy_rock.wav

# Larger model — better prompt following, slower
speech compose "lo-fi hip hop with mellow piano" --variant medium-int4 -o lofi.wav

# Reproducible
speech compose "energetic EDM with synth lead" --seed 42 -o edm.wav

transcribe- batch

Transcribe en mappe med lydfiler; modellen er indlæst én gang.

speech transcribe-batch <input-dir> [options]
ValgmulighedStandardVarebeskrivelse
<input-dir>Register over lydfiler til transcribe (WAV, FLAC, osv.)
--output-dirOutputmappe for udskrifter
--engineqwen3ASR-motor (samme værdier som transcribe)
--jsonlOutput resultater som JSON linjer, en per fil

gendannelse

Gendan tale (denoise + dereverb) med Sidon - CoreML, 48 kHz output.

speech restore <audio-file> [options]
ValgmulighedStandardVarebeskrivelse
--output, -oinput_restored.wavOutput WAV filsti (48 kHz)
--variantfp16Præcision / bundvariant
--compute-unitsCore ML placering for begge faser: ane, gpu, cpu, all (standard: vocoder gpu og predictor auto)

separat

Separér et musikspor i stængler (vokal, trommer, bas, andet).

speech separate <input> [options]
ValgmulighedStandardVarebeskrivelse
--stemsvocals,drums,bass,otherStems at udtrække: vokal, trommer, bas, andre
--engineumxMotor: umx (standard) eller htdemucs (højere kvalitet)
--output-dirOutputmappe for udskrifter

upprope

Audio superopløsning med FlashSR - et-trins destilleret AudioSR, 48 kHz output.

speech upsample <audio-file> [options]
ValgmulighedStandardVarebeskrivelse
--output, -ohr.wavOutput WAV filsti (48 kHz)
--variantint4Præcision / bundvariant
--seedFrø til deterministisk udgang

qwen3-tts-coreml

Swift Understøtter 0.6B /256 og 1.7B /1024 bundter 0.6B forbliver standard. 1.7B bundfejl til CPU og kræver en forberedt 2048-kanal Float32 .npy højttaler indlejring via --speaker-embeddingGPU / ANE og iOS valideringen forbliver adskilt.

speech qwen3-tts-coreml "<text>" [options]
ValgmulighedStandardVarebeskrivelse
--output, -ooutput.wavOutput WAV filsti
--languageenglishUdgangssprog
--modelHugging Face-model- id
--model-directory—Lokal kompileret modelbundt; går forud for downloading --model.
--speaker-embedding—Tilberedt Float32 .npy højttalerindlejring, der matcher modelbredden (1024 eller 2048).

vibevoice

Tekst- to- tale med Microsoft VibeVoice (MLX).

speech vibevoice "<text>" --voice-cache <cache> [options]
ValgmulighedStandardVarebeskrivelse
--voice-cache, -vStemmecache fra vibevoice- encode- voice (påkrævet)
--stepsDPM- Solver inference trin (højere = bedre kvalitet)
--cfg1.3Klassifikatorfri styrestyrke
--long-formKnyttet lang form syntese for lange tekster

vibevoice- encode - voice

Mint en VibeVoice voice cache fra en reference optagelse plus udskrift.

speech vibevoice-encode-voice <input> "<transcript>" [options]
ValgmulighedStandardVarebeskrivelse
<input>Reference lydfil
<transcript>Udskrift af referencelyden (kun engelsk)
--output, -oOutput voice cache (.safetensors)

oversætter

Oversæt tekst til et målsprog med MADLAD-400 (MLX).

speech translate "<text>" --to <lang> [options]
ValgmulighedStandardVarebeskrivelse
--to, -tMålsprogkode (ISO 639-1, f.eks. es, zh, ja)
--streamStream tokens som de dekoder
--modelHugging Face-model- id

clef

Vælg mellem tilladte svar ved hjælp af Clef- flash lokalt på Apple Silicon. Udvikling forhåndsvisning.

speech clef decide request.json
speech clef decide request.json --model-dir /path/to/Clef-flash-9B-MLX-4bit
speech clef decide request.json --offline --max-tokens 4096

Anmodningen indeholder tekst i state og en bestilt questions Array. Hvert felt har en id og a type: choice med choices kort noul for sand / falsk, eller score med bestilt levels. Output er JSON med sandsynligheder, udvalgte svar, token tæller, model- belastning tid, og beslutning tid.

Som standard downloads kommandoen aufklarer/Clef-flash-9B-MLX-4bit. Brug --model-dir for eksisterende filer eller --offline for cachen. Den token grænse standard til 4096 og accepterer 1- 16384. Se Clefguide for en komplet forespørgsel og målt brug af hukommelse.

gliner

Schema- Conditioned tekst klassificering og enhed spænder med GLiNER2.5-Decide (MLX). Udvikling preview: endnu ikke i en udgivelse. Umit teksten til at læse stdin.

speech gliner classify "<text>" --labels <a,b,c> [options]
speech gliner extract "<text>" --labels <a,b,c> [options]
ValgmulighedStandardVarebeskrivelse
--variantint8Offentliggjorte vægte til download: fp32, fp16 eller int8
--modelHugging Face- register- override
--model-dirLokal modelmappe i stedet for at downloade
--labelsKommaseparerede kandidatetiketter (1 til 255, særskilte)
--descriptionEtiketbeskrivelse som etiket = tekst; repeterbar
--taskhandlingTaskenavn i skemaet prompt (kun klassificere)
--threshold0.5Minimum kalibreringsscore (kun ekstrakt)
--evaluate-layersEvaluere encoder lag en ad gangen for at sænke spidsbelastning hukommelse
--jsonJSON med enhver sandsynlighed, eller spænder med UTF-16 forskudt, plus timinger

avatar- motion

Generér NVIDIA Audio2Face-3D avatar- motion koefficient rammer fra tale lyd.

speech avatar-motion <input> [options]
ValgmulighedStandardVarebeskrivelse
--output, -oavatar-motion.jsonlUddata JSONL- filsti
--model…James-MLXAvatar identity bundt (James default; Claire og Mark tilgængelige)
--verboseUdskriv timing og rammetællinger

MOSS- TTS- Nano

Brug --voice-sample til stemmekloning; der er ikke behov for referencetryk. Mono-referencer kopieres til stereo, reamples til 48 kHz og poleres til en 80 ms grænse. Indkode en reference én gang og genbruge sine koder på tværs af anmodninger.

speech speak "Hello world." --engine moss-nano -o hello.wav
speech speak "The weather is nice today." --engine moss-nano \
  --voice-sample reference.wav --moss-nano-seed 1 -o cloned.wav
speech speak "Hello world." --engine moss-nano --stream --play -o streamed.wav
--moss-nano-modelaufklarer / MOSS-TTS-Nano-100M-CoreMLModel til arkiv eller lokal mappe
--moss-nano-compute-unitscpucpu eller gpu
--moss-nano-max-frames300Højst 80 ms stel; naturlig EOS påkrævet
--moss-nano-seed0Reproducerbar Swift-prøvetagningsfrø

MOSS- TTS- Nano

Lokal indfødt inferens

For 12B, gentagne tilstødende værktøjs- call lucking markører umiddelbart efter et komplet, valideret opkald forbruges med dette opkald. De skaber ikke et andet opkald eller ændre sine argumenter. Standalone markører og misdannede argumenter forbliver fejl; E4B bevarer streng håndtering.

For at beholde fejlbehæftede native chat-forespørgsler, sæt failureCaptureDirectory i inferens manifest. Fanget er som standard slukket. Mappen skal nægte gruppe og anden adgang; nye mapper bruges 0700 og fejlfiler bruger 0600. Filer omfatter den nøjagtige anmodning organ, anmode om ID og fejl. Færdiggjort 12B generationer også beholde den afleverede prompt, token id 'er, rå output og stop grund før fortolkning. E4B fejl har ingen rå generation rekord. Disse lokale filer indeholder samtale og værktøj indhold; HTTP fejl og succesfulde anmodninger ikke omfatter dem.

Valgfri agentDirectory indlæser en iscenesat Gemma 4 12B Ensartet INT4 tekstmodel ved siden af E4B. Brug model: "gemma4-12b-it"for chat med indfødte værktøjer, resultat historie, og annullering. E4B forbliver til rådighed for andre anmodninger. Gemma4UnifiedChat bruger den fæstnede MLX tekst implementering og frigiver hver anmodning KV cache. Response parsing fjerner kanal delimiters fra returneret tekst. Orphoned tool- call terminatorer afvises som misdannede svar.

Kildeopbygninger accepterer --inference-manifest models.json at indlæse iscenesat Gemma 4 E4B INT4, VoxCPM2, fuld Whisper Large-v3, og Silero VADDenne tjeneste starter offline og afviser uforenelige model identiteter.

speech-server --inference-manifest models.json --port 8080

API-oplysninger

Voxtral TTS

Voxtral 4B TTS 2603 kører lokalt Apple Silicon gennem Voxtral TTS-modulet: 20 forudindstillet stemmer, ni sprog, og 24 kHz mono tale.

speech speak "Hello, welcome to Voxtral." --engine voxtral --voxtral-voice casual_male --stream --voxtral-chunk-frames 3 -o hello.wav
speech speak --engine voxtral --list-speakers
speech speak "Bonjour." --engine voxtral --voxtral-voice fr_female --voxtral-max-frames 500 --voxtral-seed 0 -o bonjour.wav

Foretag kun stemmer; reference- audio kloning er ikke tilgængelig. Lydoutput strømme gennem SDK, CLI, WebSocket og HTTP PCM. Levere den komplette input tekst op foran. Model vægte bruge CC BY-NC 4.0.

Læs vejledningen Voxtral TTS

Fish Audio DramaCity in Italy 3

Eksperimentel indfødt MLX støtte til Drama 3 er tilgængelig gennem FishAudioDrama3ModelA 35B hybridopmærksomhed MoE rygrad, temporal audio tårn og Fish DAC codec producere 44.1 kHz mono audio. 4-bit checkpoint passerede kurveform og uafhængig ASR kontroller for text- only generation, reference kloning og CLI output på Apple M5 Pro. 8- bit og BF16 forblive uvalideret.

Hukommelsestilstand balanced er standard. Idle MLX buffere trimmes over 512 MiB på scenen grænser; dette er ikke en total-memory grænse. Globale tildelingsgrænser forbliver uændrede. Vælg --fish-drama3-memory-mode unrestricted eller memoryOptions: .unrestricted for ivrig lastning og den tidligere caching adfærd.

Tekst- kun generations deferers 794.4 MiB af referenceindkodningsvægte. Den første reference kodning belastninger og bevarer dem, så hold codec.safetensors tilgængelige indtil da. Præberegnede referencekoder behøver ikke encoder.

Giv komplet input tekst. Stemmekloning kræver et referenceklip og dens nøjagtige udskrift. Speaker tags 0- 15 og inline følelser er understøttet. PCM streaming er tilgængelig gennem generateStreaming, generateStream og --stream. Standard chunk indeholder 3 codec rammer, om 139 ms af lyd. Automatisk lang- tekst chunking og streamed tekst input forbliver utilgængelig. Når rammen grænse kaster en fejl.

speech speak "Hello from Drama 3." --engine fish-drama3 --fish-drama3-bundle-dir /path/to/bundle -o hello.wav
speech speak "Hello from Drama 3." --engine fish-drama3 --stream --fish-drama3-chunk-frames 3 -o streamed.wav
speech speak "Hello in the reference voice." --engine fish-drama3 --voice-sample reference.wav --fish-drama3-reference-text "The exact reference transcript." --seed 42 -o cloned.wav
import FishAudioTTS
let model = try await FishAudioDrama3Model.fromBundle(bundleURL, memoryOptions: .balanced)
let pcm = try await model.generate(text: "Hello from Drama 3.", options: .init(seed: 42))
ValgmulighedStandard
--fish-drama3-model-idmlx-community/fish-audio-drama-3-4bit
--fish-drama3-bundle-dir—
--fish-drama3-reference-text—
--fish-drama3-max-frames2048
--fish-drama3-temperature1
--fish-drama3-top-k30
--fish-drama3-top-p0.9
--voice-sample—
--seed0
--streamfalse
--fish-drama3-chunk-frames3
--fish-drama3-memory-modebalanced

Bygget med Fish Audio. Bundles bevarer fællesskabstilladelsen og ANMELDELSE.

4- bit benchmark