Tłumaczenie automatyczne · Oryginał angielski
Audio2Face-3D
Ta pierwsza strona Soniqo dokumentuje Audio2Face-3D z lokalnej implementacji speech-swift / speech-core. Hugging Face są połączone poniżej po notatkach integracyjnych.
Strona wewnętrzna pierwsza
Karty do lądowania i menu doków wskazują najpierw tutaj; model źródłowy i linki do pakietów pozostają dostępne na tej stronie.
At a Glance
| Wzór | Audio2Face-3D |
|---|---|
| Rola | Współczynniki ruchu przemówień do awatarów dla dalszych odźwiernych |
| Wstecz | MLX |
| Wyjście | Ramki JSONL: znacznik czasu plus cały wektor współczynnika |
| Języki | Niezależny od języka, napędzany audio |
| Licencja | NVIDIA Open Model License |
| Status | Gotowe poprzez awatar- ruch mowy i produkt Audio2Face3D Swift |
| Źródło | NVIDIA Audio2Face-3D |
| Produkt Swift | Audio2Face3D |
| CLI / runtime | speech avatar-motion |
Stosowanie
Poniższy fragment jest odzwierciedleniem bieżącego speech-swift API lub polecenia zdemaskowanego przez repo.
# Generate avatar motion coefficients from speech audio.
.build/release/speech avatar-motion input.wav --output motion.jsonl --verbose
.build/release/speech avatar-motion input.wav \
--model aufklarer/Audio2Face-3D-v2.3.1-Claire-MLX
Wzory linków
Uwagi do wdrożenia
- Trzy tożsamości są publikowane: James (domyślnie) i Claire w v2.3.1 z 169 współczynniki, znak na v2.3 z 301; współczynniki skórne żyją w oparciu o geometrię danej tożsamości, tak więc odźwierni potrzebują platformy dopasowującej lub rzutowania retarge.
- Regressor dwugałęziowy: przycięty enkoder audio Wav2Vec2 zmieszany z warstwami transformatora, plus gałąź częstotliwości autokorelacyjnej, złączona przez emocjonalnie uwarunkowane splątanie.
- Każde okno 8320- próbkowe o mocy 16 kHz mono audio (hop 4160) emituje jedną ramę, uwarunkowaną wektorem emocji o wartości 26- 16 domyślnych plus 10 wartości wyraźnych.
- Wykres MLX uruchamia pełną przepustkę do przodu modelu NVIDIA i jest sprawdzany parytetowo pod kątem uchwytu ONNX generowanego z oficjalnego wydania.