Ver Fonte

server : print the samplers chain for each request (#17070)

Georgi Gerganov há 2 meses atrás
pai
commit
8c0d6bb455
1 ficheiros alterados com 2 adições e 0 exclusões
  1. 2 0
      tools/server/server.cpp

+ 2 - 0
tools/server/server.cpp

@@ -2823,6 +2823,8 @@ struct server_context {
                 send_error(task, "Failed to parse grammar", ERROR_TYPE_INVALID_REQUEST);
                 return false;
             }
+
+            SLT_INF(slot, "sampler chain: %s\n", common_sampler_print(slot.smpl).c_str());
         }
 
         // initialize draft batch