Просмотр исходного кода

graph : Pass the graph placeholder message in debug mode (#14748)

Without that condition, this debug log clutters the screen every batch treated in the prompt processing, or every token generated in Kobold.cpp.
Nexes the Elder 6 месяцев назад
Родитель
Сommit
09651d09ff
1 измененных файлов с 3 добавлено и 1 удалено
  1. 3 1
      src/llama-graph.cpp

+ 3 - 1
src/llama-graph.cpp

@@ -467,7 +467,9 @@ bool llm_graph_result::can_reuse(const llm_graph_params & params) {
     for (auto & input : inputs) {
         const bool cur = input->can_reuse(params);
 
-        LLAMA_LOG_DEBUG("  %s: can_reuse = %d\n", "placeholder", cur);
+        if (debug > 1) {
+            LLAMA_LOG_DEBUG("%s: can_reuse = %d\n", "placeholder", cur);
+        }
 
         res = res && cur;
     }