Pārlūkot izejas kodu

ggml : fix bug in ggml_alibi

Georgi Gerganov 2 gadi atpakaļ
vecāks
revīzija
5d1830b99d
1 mainītis faili ar 1 papildinājumiem un 1 dzēšanām
  1. 1 1
      ggml.c

+ 1 - 1
ggml.c

@@ -6317,7 +6317,7 @@ struct ggml_tensor * ggml_alibi(
 
     ggml_scratch_save(ctx);
 
-    struct ggml_tensor * b = ggml_new_tensor_1d(ctx, GGML_TYPE_I32, 2);
+    struct ggml_tensor * b = ggml_new_tensor_1d(ctx, GGML_TYPE_I32, 3);
 
     ((int32_t *) b->data)[0] = n_past;
     ((int32_t *) b->data)[1] = n_head;