Просмотр исходного кода

speculative-simple : free batch on exit (#17985)

Georgi Gerganov 1 месяц назад
Родитель
Сommit
3c6391e748
1 измененных файлов с 2 добавлено и 0 удалено
  1. 2 0
      examples/speculative-simple/speculative-simple.cpp

+ 2 - 0
examples/speculative-simple/speculative-simple.cpp

@@ -255,6 +255,8 @@ int main(int argc, char ** argv) {
     LOG_INF("target:\n\n");
     common_perf_print(ctx_tgt, smpl);
 
+    llama_batch_free(batch_tgt);
+
     common_sampler_free(smpl);
     common_speculative_free(spec);