Pārlūkot izejas kodu

llm : fix falcon norm after refactoring (#3837)

Georgi Gerganov 2 gadi atpakaļ
vecāks
revīzija
523e49b111
1 mainītis faili ar 1 papildinājumiem un 1 dzēšanām
  1. 1 1
      llama.cpp

+ 1 - 1
llama.cpp

@@ -3763,7 +3763,7 @@ struct llm_build_context {
             {
             {
                 if (model.layers[il].attn_norm_2) {
                 if (model.layers[il].attn_norm_2) {
                     // Falcon-40B
                     // Falcon-40B
-                    cur = llm_build_norm(ctx0, attn_norm, hparams,
+                    cur = llm_build_norm(ctx0, inpL, hparams,
                             model.layers[il].attn_norm_2,
                             model.layers[il].attn_norm_2,
                             model.layers[il].attn_norm_2_b,
                             model.layers[il].attn_norm_2_b,
                             LLM_NORM, cb, il);
                             LLM_NORM, cb, il);