Просмотр исходного кода

Fixed incorrectly applying RMS norm twice (#1925)

Johannes Gäßler 2 лет назад
Родитель
Сommit
0ede372a51
1 измененных файлов с 1 добавлено и 5 удалено
  1. 1 5
      llama.cpp

+ 1 - 5
llama.cpp

@@ -1657,11 +1657,7 @@ static bool llama_eval_internal(
     {
         cur = ggml_rms_norm(ctx0, inpL);
         offload_func_nr(cur);
-        ggml_set_name(cur, "rms_norm_inpL");
-
-        cur = ggml_rms_norm(ctx0, cur);
-        offload_func_nr(cur);
-        ggml_set_name(cur, "rms_norm_after");
+        ggml_set_name(cur, "rms_norm_2");
 
         // cur = cur*norm(broadcasted)
         cur = ggml_mul(ctx0, cur, model.norm);