Metode
Datasett-referanser, ikke håndplukkede demoer
Referanser og måltekster kommer fra Google FLEURS testdeling: engelsk, tysk, arabisk, spansk og mandarinkinesisk. For hvert språk valgte vi ti referanseklipp og parret hver med en annen hold-out FLEURS målsetning, så metrikkene er mindre sensitive for en enkel eller dårlig setning. For motorer som aksepterer en referansetranskripsjon, nøyaktig FLEURS trankripsjon ble sendt med lydprompten.
Scoreformen speiler den objektive siden av VoxCPM-stil stemmekloning evaluering: intelligabilitet via WER/CER, og kloning via høyttaler-innbyggende cosinus likhet. Høyttalerkoderen her er Soniqos speech embed-speaker --engine mlx, så sammenligne rader i denne tabellen, ikke mot papir SIM-prosenter direkte.
UTMOS regnes med utmos22_strong fra SpeechMOS etter å ha omforsterkning generert klipp til 16 kHz. Det gir et ikke-referanse naturlighetssignal som WER og høyttaler cosinus misse, men det er fortsatt en modell forutsigelse i stedet for en menneskelig lyttestudie.
Qwen3-TTS Base måles med den offentlige speech-swift ICL API (Qwen3TTSModel.fromPretrainedWithEncoder + synthesizeWithVoiceCloneICL) ved bruk av det samme FLEURS referanselyd og transkripsjon. Det utelates for arabisk fordi det gjeldende Qwen3-TTS språksettet som eksponeres her inkluderer ikke arabisk. Chatterboxs oppstrøms språkliste inkluderer kinesisk, men den nåværende Swift frontend støtter bare den direkte polenizerstien for en, ar, hi, de, es, fr, it, og ptDen kinesiske raden er med vilje utelatt til den frontend lander.
Hvorfor flere poeng?
En klon kan høres ut som høyttaleren, men si feil tekst, eller si teksten tydelig mens man mangler høyttaleren. Den kan også matche teksten og høyttaleren mens man bærer hørbare gjenstander. Høyttaler cosinus, WER/CER, og UTMOS fange forskjellige feilmoduser, så alle tre må være synlige.