Преглед изворни кода

server : print the samplers chain for each request (#17070)

Georgi Gerganov пре 2 месеци
родитељ
комит
8c0d6bb455
1 измењених фајлова са 2 додато и 0 уклоњено
  1. 2 0
      tools/server/server.cpp

+ 2 - 0
tools/server/server.cpp

@@ -2823,6 +2823,8 @@ struct server_context {
                 send_error(task, "Failed to parse grammar", ERROR_TYPE_INVALID_REQUEST);
                 send_error(task, "Failed to parse grammar", ERROR_TYPE_INVALID_REQUEST);
                 return false;
                 return false;
             }
             }
+
+            SLT_INF(slot, "sampler chain: %s\n", common_sampler_print(slot.smpl).c_str());
         }
         }
 
 
         // initialize draft batch
         // initialize draft batch