Преглед изворни кода

llama : fix incorrect Qwen2Moe ffn_moe_out graph callback (#12631)

Sigbjørn Skjæret пре 9 месеци
родитељ
комит
3714c3ee1a
1 измењених фајлова са 1 додато и 1 уклоњено
  1. 1 1
      src/llama-model.cpp

+ 1 - 1
src/llama-model.cpp

@@ -6323,7 +6323,7 @@ struct llm_build_qwen2moe : public llm_graph_context {
                         false, 0.0,
                         LLAMA_EXPERT_GATING_FUNC_TYPE_SOFTMAX,
                         il);
-            cb(cur, "ffn_moe_out", il);
+            cb(moe_out, "ffn_moe_out", il);
 
             // FFN shared expert
             {