Browse Source

llama-fit-params: force disable mlock (#18103)

Johannes Gäßler 1 tháng trước cách đây
mục cha
commit
d0794e89d9
1 tập tin đã thay đổi với 3 bổ sung2 xóa
  1. 3 2
      src/llama.cpp

+ 3 - 2
src/llama.cpp

@@ -71,8 +71,9 @@ static std::vector<llama_device_memory_data> llama_get_device_memory_data(
     }, &ud);
 
     llama_model_params mparams_copy = *mparams;
-    mparams_copy.no_alloc = true;
-    mparams_copy.use_mmap = false;
+    mparams_copy.no_alloc  = true;
+    mparams_copy.use_mmap  = false;
+    mparams_copy.use_mlock = false;
 
     llama_model * model = llama_model_load_from_file(path_model, mparams_copy);
     if (model == nullptr) {