瀏覽代碼

server : fix grammar being ignored (#4494)

Fix bug in identifying the grammar.
AdithyanI 2 年之前
父節點
當前提交
8edd2b40fd
共有 1 個文件被更改,包括 1 次插入1 次删除
  1. 1 1
      examples/server/server.cpp

+ 1 - 1
examples/server/server.cpp

@@ -2414,7 +2414,7 @@ json oaicompat_completion_params_parse(
     llama_params["ignore_eos"]        = json_value(body, "ignore_eos", false);
     llama_params["tfs_z"]             = json_value(body, "tfs_z", 0.0);
 
-    if (llama_params.count("grammar") != 0) {
+    if (body.count("grammar") != 0) {
         llama_params["grammar"] = json_value(body, "grammar", json::object());
     }