Methode
Datasetverwijzingen, geen handgekozen demo's
De referenties en doelteksten zijn afkomstig van de Google FLEURS testsplit: Engels, Duits, Arabisch, Spaans en Mandarijns Chinees. Voor elke taal hebben we tien referentiefragmenten geselecteerd en elk gekoppeld aan een andere wacht-out FLEURS doelzin, zodat de metrics minder gevoelig zijn voor één eenvoudige of slechte zin. Voor motoren die een referentie-transcript accepteren, werd het exacte FLEURS transcript met de audioprompt doorgegeven.
De scorevorm weerspiegelt de objectieve kant van de VoxCPM-stijl voice klonen evaluatie: begrijpelijkheid via WER/CER, en klonen via speaker-embedden cosinus overeenkomst. De luidspreker encoder hier is Soniqo. speech embed-speaker --engine mlx, dus vergelijk rijen binnen deze tabel, niet rechtstreeks met papieren SIM percentages.
UTMOS wordt berekend met utmos22_strong van SpeechMOS na het resampleren van gegenereerde clips naar 16 kHz. Het geeft een no-reference naturalness signaal dat WER en speaker cosinus missen, maar het is nog steeds een modelvoorspelling in plaats van een menselijke luisterstudie.
Qwen3-TTS Base wordt gemeten met de publieke speech-swift ICL API (Qwen3TTSModel.fromPretrainedWithEncoder + synthesizeWithVoiceCloneICL) met hetzelfde gebruik FLEURS referentie audio en transcript. Het wordt weggelaten voor Arabisch omdat de huidige Qwen3-TTS Hier is geen Arabisch taal ingesteld. ChatterboxDe huidige taallijst bevat Chinees, maar de huidige taallijst is niet beschikbaar. Swift frontend ondersteunt alleen het directe tokenizer pad voor en, ar, hi, de, es, fr, iten pt; de Chinese rij wordt opzettelijk weggelaten tot die frontend landt.
Waarom meerdere scores?
Een kloon kan klinken als de spreker, maar de verkeerde tekst zeggen, of de tekst duidelijk zeggen terwijl de spreker ontbreekt. Het kan ook overeenkomen met de tekst en luidspreker bij het dragen van hoorbare artefacten. Speaker cosine, WER/CER, en UTMOS vangen verschillende foutmodi, dus alle drie moeten zichtbaar zijn.