Преглед изворни кода

server : disable Nagle's algorithm (#12020)

Georgi Gerganov пре 11 месеци
родитељ
комит
cf756d6e0a
1 измењених фајлова са 2 додато и 0 уклоњено
  1. 2 0
      examples/server/utils.hpp

+ 2 - 0
examples/server/utils.hpp

@@ -7,6 +7,8 @@
 
 // increase max payload length to allow use of larger context size
 #define CPPHTTPLIB_FORM_URL_ENCODED_PAYLOAD_MAX_LENGTH 1048576
+// disable Nagle's algorithm
+#define CPPHTTPLIB_TCP_NODELAY true
 #include "httplib.h"
 
 // Change JSON_ASSERT from assert() to GGML_ASSERT: