Georgi Gerganov 2 лет назад
Родитель
Сommit
5a5aeb1e91
1 измененных файлов с 2 добавлено и 0 удалено
  1. 2 0
      llama.cpp

+ 2 - 0
llama.cpp

@@ -1053,6 +1053,8 @@ static void llama_model_load_internal(
 
         fprintf(stderr, "%s: [cublas] total VRAM used: %zu MB\n", __func__, vram_total / 1024 / 1024);
     }
+#else
+    (void) n_gpu_layers;
 #endif
 
     // loading time will be recalculate after the first eval, so