Răsfoiți Sursa

server : print the samplers chain for each request (#17070)

Georgi Gerganov 2 luni în urmă
părinte
comite
8c0d6bb455
1 a modificat fișierele cu 2 adăugiri și 0 ștergeri
  1. 2 0
      tools/server/server.cpp

+ 2 - 0
tools/server/server.cpp

@@ -2823,6 +2823,8 @@ struct server_context {
                 send_error(task, "Failed to parse grammar", ERROR_TYPE_INVALID_REQUEST);
                 return false;
             }
+
+            SLT_INF(slot, "sampler chain: %s\n", common_sampler_print(slot.smpl).c_str());
         }
 
         // initialize draft batch