Преглед на файлове

Fix crash for 65B model with pre-allocated memory (#485)

Chris Kuehl преди 2 години
родител
ревизия
6f1ee4b640
променени са 1 файла, в които са добавени 1 реда и са изтрити 1 реда
  1. 1 1
      llama.cpp

+ 1 - 1
llama.cpp

@@ -239,7 +239,7 @@ static bool kv_cache_init(
     const int n_mem      = n_layer*n_ctx;
     const int n_elements = n_embd*n_mem;
 
-    cache.buf.resize(2*n_elements*ggml_type_size(wtype) + 2u*MB);
+    cache.buf.resize(2u*n_elements*ggml_type_size(wtype) + 2u*MB);
 
     struct ggml_init_params params;
     params.mem_size   = cache.buf.size();