Phân tách nguồn

Open-Unmix HQ chia một bản nhạc stereo thành bốn stem độc lập — vocals, drums, bass và other. Bốn mô hình BiLSTM độc lập (mỗi mô hình cho một stem) tạo ra các mặt nạ biên độ trên STFT của bản phối; một bộ lọc hậu xử lý Wiener tùy chọn sẽ hòa hợp chúng. Mô hình chạy trên Apple Silicon qua MLX.

Tóm tắt

• 4 stem mỗi bản — vocals, drums, bass, other. Mỗi stem là tệp 2 kênh ở 44.1 kHz.
• Mô hình mặt nạ biên độ — mỗi mô hình stem dự đoán một mặt nạ không âm áp lên phổ của bản phối; pha lấy từ bản phối.
• Bộ lọc Wiener (tùy chọn) — tinh chỉnh mặt nạ mềm trên cả 4 stem để chúng cộng lại nhất quán thành bản phối. Tăng ~0.5 dB SDR.
• Dung lượng nhỏ — 8.9M tham số mỗi stem, tổng cộng ~136 MB cho cả 4 stem.
• Apache-2.0 — trọng số gốc theo MIT, bản chuyển đổi CoreML/MLX của chúng tôi theo Apache-2.0.

Kiến trúc

Bốn stem độc lập, mỗi cái là một bản sao của cùng một mạng:

Mô hình

Bắt đầu nhanh — Swift

import SourceSeparation
import AudioCommon

let separator = try await SourceSeparator.fromPretrained()

let stereo = try AudioFileLoader.loadStereo(
    url: URL(fileURLWithPath: "song.wav"),
    targetSampleRate: 44100
)

let stems = separator.separate(audio: stereo, sampleRate: 44100)
// stems[.vocals], stems[.drums], stems[.bass], stems[.other]
// Each is [[Float]] — left channel, right channel.

try WAVWriter.writeStereo(
    left: stems[.vocals]![0],
    right: stems[.vocals]![1],
    sampleRate: 44100,
    to: URL(fileURLWithPath: "vocals.wav")
)

Truyền wiener: true (mặc định) để có chất lượng tốt nhất. Truyền targets: [.vocals] để chỉ trích xuất một tập con các stem và bỏ qua các mô hình còn lại.

CLI

speech separate song.wav                              # all 4 stems into song_stems/
speech separate song.wav --stems vocals               # vocals only
speech separate song.wav --stems vocals,drums         # subset
speech separate song.wav --output-dir /tmp/stems/     # custom output dir
speech separate song.wav --verbose                    # show timing

Khi nào nên dùng