Răsfoiți Sursa

server: fix "--grammar-file" parameter (#12285)

Victor 10 luni în urmă
părinte
comite
add2a3aa5a
1 a modificat fișierele cu 3 adăugiri și 1 ștergeri
  1. 3 1
      examples/server/utils.hpp

+ 3 - 1
examples/server/utils.hpp

@@ -621,7 +621,9 @@ static json oaicompat_completion_params_parse(
 
     llama_params["chat_format"]      = static_cast<int>(chat_params.format);
     llama_params["prompt"]           = chat_params.prompt;
-    llama_params["grammar"]          = chat_params.grammar;
+    if (!chat_params.grammar.empty()) {
+        llama_params["grammar"] = chat_params.grammar;
+    }
     llama_params["grammar_lazy"]     = chat_params.grammar_lazy;
     auto grammar_triggers = json::array();
     for (const auto & trigger : chat_params.grammar_triggers) {