wwoodsTM
|
ff252ea48e
llama : add DRY sampler (#9702)
|
1 год назад |
Michael Podvitskiy
|
d80fb71f8b
llama: string_split fix (#10022)
|
1 год назад |
Daniel Bevenius
|
674804a996
arg : fix typo in embeddings argument help [no ci] (#9994)
|
1 год назад |
Daniel Bevenius
|
94008cc760
arg : fix attention non-causal arg value hint (#9985)
|
1 год назад |
MaggotHATE
|
fbc98b748e
sampling : add XTC sampler (#9742)
|
1 год назад |
Georgi Gerganov
|
c7181bd294
server : reuse cached context chunks (#9866)
|
1 год назад |
Georgi Gerganov
|
1bde94dd02
server : remove self-extend features (#9860)
|
1 год назад |
Georgi Gerganov
|
95c76e8e92
server : remove legacy system_prompt feature (#9857)
|
1 год назад |
Georgi Gerganov
|
11ac9800af
llama : improve infill support and special token detection (#9798)
|
1 год назад |
Diego Devesa
|
7eee341bee
common : use common_ prefix for common library functions (#9805)
|
1 год назад |
Diego Devesa
|
0e9f760eb1
rpc : add backend registry / device interfaces (#9812)
|
1 год назад |
Xuan Son Nguyen
|
458367a906
server : better security control for public deployments (#9776)
|
1 год назад |
Daniel Kleine
|
133c7b46b3
Fixed RNG seed docs (#9723)
|
1 год назад |
Georgi Gerganov
|
f4d2b8846a
llama : add reranking support (#9510)
|
1 год назад |
Xuan Son Nguyen
|
afbbfaa537
server : add more env vars, improve gen-docs (#9635)
|
1 год назад |
Xuan Son Nguyen
|
0b3bf966f4
server : add --no-context-shift option (#9607)
|
1 год назад |
Bert Wagner
|
8b836ae731
arg : add env variable for parallel (#9513)
|
1 год назад |
Vinesh Janarthanan
|
441b72b91f
main : option to disable context shift (#9484)
|
1 год назад |
Georgi Gerganov
|
6262d13e0b
common : reimplement logging (#9418)
|
1 год назад |
Georgi Gerganov
|
0abc6a2c25
llama : llama_perf + option to disable timings during decode (#9355)
|
1 год назад |
Xuan Son Nguyen
|
6cd4e03444
arg : bring back missing ifdef (#9411)
|
1 год назад |
matteo
|
8d300bd35f
enable --special arg for llama-server (#9419)
|
1 год назад |
slaren
|
49006c67b4
llama : move random seed generation to the samplers (#9398)
|
1 год назад |
Xuan Son Nguyen
|
bfe76d4a17
common : move arg parser code to `arg.cpp` (#9388)
|
1 год назад |