 Georgi Gerganov
|
af37fd8b30
server : fix EOS token detection with disabled cache (#5938)
|
hace 1 año |
 Minsoo Cheong
|
55a2a900ff
server : add `/v1/completions` endpoint (#5914)
|
hace 1 año |
|
Georgi Gerganov
|
2002bc96bf
server : refactor (#5882)
|
hace 1 año |
|
Georgi Gerganov
|
29ae62d2ae
llama : fix embeddings (#5796)
|
hace 1 año |
 Xuan Son Nguyen
|
4ffcdce2ff
add alias for chat template (#5858)
|
hace 1 año |
 Pierrick Hymbert
|
8ef969afce
server : init http requests thread pool with --parallel if set (#5836)
|
hace 1 año |
|
Pierrick Hymbert
|
9731134296
server: tests: passkey challenge / self-extend with context shift demo (#5832)
|
hace 1 año |
|
Pierrick Hymbert
|
3ab8b3a92e
llama : cleanup unused mmq flags (#5772)
|
hace 1 año |
|
Pierrick Hymbert
|
5cb02b4a01
server: allow to override threads server pool with --threads-http (#5794)
|
hace 1 año |
|
Georgi Gerganov
|
f105471ef6
server : fix newlines in help (#5785)
|
hace 1 año |
|
Xuan Son Nguyen
|
052051d8ae
Server: normalize naming (#5779)
|
hace 1 año |
|
Xuan Son Nguyen
|
a693bea1e6
server : hit Ctrl+C twice to exit (#5734)
|
hace 1 año |
 Jorge A
|
efc72253f7
server : add "/chat/completions" alias for "/v1/...` (#5722)
|
hace 1 año |
|
Xuan Son Nguyen
|
b11a93df41
fix server hangs on empty prompt (#5733)
|
hace 1 año |
|
Georgi Gerganov
|
bf08e00643
llama : refactor k-shift implementation + KV defragmentation (#5691)
|
hace 1 año |
 compilade
|
f7625019c5
server : fix crash when system prompt is bigger than batch size (#5714)
|
hace 1 año |
|
Pierrick Hymbert
|
930b178026
server: logs - unified format and --log-format option (#5700)
|
hace 1 año |
|
Pierrick Hymbert
|
d52d7819b8
server: concurrency fix + monitoring - add /metrics prometheus compatible endpoint (#5708)
|
hace 1 año |
|
Georgi Gerganov
|
ab336a9d5e
code : normalize enum names (#5697)
|
hace 1 año |
|
Pierrick Hymbert
|
9e359a4f47
server: continue to update other slots on embedding concurrent request (#5699)
|
hace 1 año |
|
Pierrick Hymbert
|
525213d2f5
server: init functional tests (#5566)
|
hace 1 año |
 AlpinDale
|
fd43d66f46
server : add KV cache quantization options (#5684)
|
hace 1 año |
|
Xuan Son Nguyen
|
a46f50747b
server : fallback to chatml, add AlphaMonarch chat template (#5628)
|
hace 1 año |
 Jared Van Bortel
|
89febfed93
examples : do not assume BOS when shifting context (#5622)
|
hace 1 año |
|
Pierrick Hymbert
|
1ecea255eb
server: health: fix race condition on slots data using tasks queue (#5634)
|
hace 1 año |
 CJ Pais
|
6560bed3f0
server : support llava 1.6 (#5553)
|
hace 1 año |
|
Xuan Son Nguyen
|
9c405c9f9a
Server: use llama_chat_apply_template (#5593)
|
hace 1 año |
|
Pierrick Hymbert
|
c0a8c6db37
server : health endpoint configurable failure on no slot (#5594)
|
hace 1 año |
 Robey Holderith
|
5ee99c32f5
common, server : surface min_keep as its own parameter (#5567)
|
hace 1 año |
|
Pierrick Hymbert
|
c145f8a132
server : slots monitoring endpoint (#5550)
|
hace 1 año |
