 o7si
|
3ce7a65c2f
server: fix: /metrics endpoint returning JSON-escaped Prometheus format (#17386)
|
1 lună în urmă |
 Fredrik Hultin
|
ddf9f94389
server : add Anthropic Messages API support (#17570)
|
1 lună în urmă |
 Xuan-Son Nguyen
|
b8372eecd9
server: split server.cpp code into server/common/task/queue (#17362)
|
1 lună în urmă |
|
Xuan-Son Nguyen
|
0de8878c96
server: split HTTP into its own interface (#17216)
|
2 luni în urmă |
 Georgi Gerganov
|
5b2093becc
server : handle context overflow during decode (#17267)
|
2 luni în urmă |
|
Xuan-Son Nguyen
|
9b17d74ab7
mtmd: add mtmd_log_set (#17268)
|
2 luni în urmă |
|
Georgi Gerganov
|
d396b43748
server : fix "can batch with" bug (#17263)
|
2 luni în urmă |
|
Xuan-Son Nguyen
|
c4abcb2457
server: fixing naming conflict res_error (#17243)
|
2 luni în urmă |
|
Xuan-Son Nguyen
|
00c94083b3
server: (refactor) implement generator-based API for task results (#17174)
|
2 luni în urmă |
|
Xuan-Son Nguyen
|
ee8dd5c658
server: move res_error/res_ok to static function (#17167)
|
2 luni în urmă |
|
Georgi Gerganov
|
cb1adf8851
server : handle failures to restore host cache (#17078)
|
2 luni în urmă |
 Aidan
|
eeee367de5
server: fix correct time_ms calculation in prompt_progress (#17093)
|
2 luni în urmă |
|
Georgi Gerganov
|
8c0d6bb455
server : print the samplers chain for each request (#17070)
|
2 luni în urmă |
|
Georgi Gerganov
|
b7f9010d24
server : disable checkpoints with mtmd (#17045)
|
2 luni în urmă |
|
Georgi Gerganov
|
13b339bcd9
server : do not default to multiple slots with speculative decoding (#17017)
|
2 luni în urmă |
|
Georgi Gerganov
|
66d8eccd42
server : do context shift only while generating (#17000)
|
2 luni în urmă |
|
Georgi Gerganov
|
48bd26501b
server : add props.model_alias (#16943)
|
2 luni în urmă |
|
Xuan-Son Nguyen
|
070ff4d535
mtmd: add --image-min/max-tokens (#16921)
|
2 luni în urmă |
|
Georgi Gerganov
|
2f966b8ed8
clip : use FA (#16837)
|
2 luni în urmă |
|
Georgi Gerganov
|
cd5e3b5754
server : support unified cache across slots (#16736)
|
2 luni în urmă |
|
Georgi Gerganov
|
c22473b580
server : don't print user inputs to console (#16871)
|
2 luni în urmă |
 Daniel Bevenius
|
0f715b4e75
server : fix typos in server.cpp comments [no ci] (#16883)
|
2 luni în urmă |
|
Georgi Gerganov
|
b52edd2558
server : remove n_past (#16818)
|
2 luni în urmă |
|
Georgi Gerganov
|
85a7d8677b
memory : remove KV cache size padding (#16812)
|
2 luni în urmă |
 Johannes Gäßler
|
0bf47a1dbb
server: add memory breakdown print (#16740)
|
2 luni în urmă |
 matteo
|
8cf6b42d46
server : send partial stop string when <EOG> is reached (#15007)
|
2 luni în urmă |
|
Georgi Gerganov
|
17304cbcc1
server : fix img token logs (#16595)
|
3 luni în urmă |
|
Georgi Gerganov
|
554fd578a5
server : fix mtmd checkpoints (#16591)
|
3 luni în urmă |
|
Georgi Gerganov
|
bc07349a7f
server : dynamic token limit for prompt cache (#16560)
|
3 luni în urmă |
 Yann Follet
|
31d0ff1869
server / ranking : add sorting and management of top_n (#16403)
|
3 luni în urmă |
