Procházet zdrojové kódy

mtmd : fix embedding size for image input (#17123)

Georgi Gerganov před 2 měsíci
rodič
revize
b8595b16e6
1 změnil soubory, kde provedl 1 přidání a 1 odebrání
  1. 1 1
      tools/mtmd/mtmd-helper.cpp

+ 1 - 1
tools/mtmd/mtmd-helper.cpp

@@ -182,7 +182,7 @@ int32_t mtmd_helper_decode_image_chunk(
     }
 
     const llama_model * model = llama_get_model(lctx);
-    int n_mmproj_embd = llama_model_n_embd(model);
+    int n_mmproj_embd = llama_model_n_embd_inp(model);
     int n_pos_per_embd = mtmd_decode_use_mrope(ctx) ? 4 : 1;
 
     int32_t n_tokens = mtmd_input_chunk_get_n_tokens(chunk);