Quellcode durchsuchen

mtmd : fix embedding size for image input (#17123)

Georgi Gerganov vor 2 Monaten
Ursprung
Commit
b8595b16e6
1 geänderte Dateien mit 1 neuen und 1 gelöschten Zeilen
  1. 1 1
      tools/mtmd/mtmd-helper.cpp

+ 1 - 1
tools/mtmd/mtmd-helper.cpp

@@ -182,7 +182,7 @@ int32_t mtmd_helper_decode_image_chunk(
     }
 
     const llama_model * model = llama_get_model(lctx);
-    int n_mmproj_embd = llama_model_n_embd(model);
+    int n_mmproj_embd = llama_model_n_embd_inp(model);
     int n_pos_per_embd = mtmd_decode_use_mrope(ctx) ? 4 : 1;
 
     int32_t n_tokens = mtmd_input_chunk_get_n_tokens(chunk);