Awtomatikong salin · Orihinal sa Ingles

MADLAD-400 Salin (On-Device, 400+ Wika)

Ang MADLAD-400-3B-MT ay isang T5 v1.1 regulator-decoder na modelo mula sa Google na sinanay para sa maraming-to-maraming transaksyon ng makina 400+ mga wika. Apache 2.0. Ang Soniqo ay tumatakbo bilang quantated MLX Mga "beattensor " (mga larawan sa ibaba)INT4 / INT8) tungkol sa Apple Silicon na walang ulap, ihulog pagkatapos ASR para sa live na kapsiyon, pagkatapos TTS Paunahin para sa iba't ibang wika ng mga voice agent, o gamitin ito sa standalone.

Mabilis na Pasimula

import MADLADTranslation

let translator = try await MADLADTranslator.fromPretrained()

// Greedy decode (recommended default)
let es = try translator.translate("Hello, how are you?", to: "es")
// → "Hola, ¿cómo estás?"

let zh = try translator.translate("Where is the library?", to: "zh")
// → "图书馆在哪里？"

// Streaming
for try await piece in translator.translateStream("Good morning", to: "fr") {
    print(piece, terminator: "")
}

CLI

speech translate "Hello, how are you?" --to es
speech translate "Bonjour" --to en --quantization int8
speech translate "Hello world" --to es --stream
speech translate --to fr --json    # JSON with timing metrics

# Pipe from ASR
speech transcribe meeting.wav | speech translate --to es

Arkitektura

T5 v1.1 Decier-decoder, iX3B parameter. 32 STOR + 32 decoder layers, d_model = 1024, d_kv = 128, num_heads = 16, Payak na GeLU FFN (FFPN)d_ff = 8192) Posisyon impormasyon ang dumarating sa pamamagitan ng isang natutuhan pagtatangi sa posisyon (32 buckets, max distance 128) sa halip na mga position embeldings — bidirectional sa regulator, unidirectional (past-lamang) sa decoder.Ang digicio table ay nabubuhay lamang sa unang patong ng bawat salansan at dinadaglat sa mga kasunod na layer. hindi nasusukat ng 1/√d_k — iyan ay isang T5 compost.

Cross-tension K/V ay computed minsan mula sa regulator output at muling ginagamit para sa bawat decode step (binibigkas sa DecoderLayerCache.crossAttn). Decoder self-ttention KV cache lumago kada nalikhang token.Ang kasakimang decoding ay ang default at inirerekomenda para sa pagsasalin; ang temperatura / top-k /top-point-poink ay lantad para sa pag-friverse-stytition.

Modelong mga Variante

Mga Wikang Target

Ipakilala ang target bilang ang kodigo ng wika na ginagamit sa bokabularyo ng MADLAD (karaniwang ISO 639-1 gaya ng es, fr, zh, ja, kasama ang 400+ regional variants tulad ng yue Para sa mga Maton, min_nan Para sa Hokkien.Ang tokenizer ay nagpapasiya <2{lang}> sa pamamagitan ng direktang bukabularyo na tumitingin at naghahagis MADLADTranslationError.unsupportedLanguage Kung ang kodigo ay hindi kinikilala, ang wikang pinagmulan ay auto-detect mula sa input — hindi mo ito itinatakda.

// Errors out if the language code isn't in MADLAD's vocab.
do {
    let _ = try translator.translate("Hello", to: "xx")
} catch MADLADTranslationError.unsupportedLanguage(let code) {
    print("MADLAD doesn't support: \(code)")
}

Nakapangingilabot na Pagsang - ayon

let sampling = TranslationSamplingConfig(
    temperature: 0.0,        // greedy (default, recommended for MT)
    topK: 0,                 // disabled
    topP: 1.0,               // disabled
    maxTokens: 256,
    repetitionPenalty: 1.0
)
let result = try translator.translate("Long-form text…", to: "es", sampling: sampling)

Pagkumberte

Ang MLX na mga ligtas na tensor sa Aufklarer/MADLAD400-3B-MT-MLX ay inuuri mula sa orihinal google/madlad400-3b-mt sa pamamagitan mx.quantize (grupong sukat 64). q/k/v/o, wi_0/wi_1/wo, lm_head, at shared Ang embedding ay quantated; ang mga layer average scale at ang relatibong-posisyon-bias na mesa ay pinananatili bilang fp16. MADLAD's lamang HF embelding key (.decoder.embed_tokens.weight) ay muling pinanganlang shared.weight sa panahon ng pagbabagong - anyo, kapuwa ang tagapag - ayos at decoder ay muling gumamit nito.

Lisensiya

Apache 2.0 (namana mula sa ogle/madlad400-3b-mt). Model card ay nagtatala ng buong set ng suportadong mga kodigo ng wika.