 Georgi Gerganov
|
644fd71b44
sampling : refactor + optimize penalties sampler (#10803)
|
1 рік тому |
 Xuan Son Nguyen
|
adffa6ffd5
common : improve -ctv -ctk CLI arguments (#10806)
|
1 рік тому |
|
Xuan Son Nguyen
|
9fdb124304
common : add missing env var for speculative (#10801)
|
1 рік тому |
 Bartowski
|
ae4b922614
imatrix : Add imatrix to --no-context-shift (#10766)
|
1 рік тому |
 Yüg
|
a86ad841f1
server : add flag to disable the web-ui (#10762) (#10751)
|
1 рік тому |
|
Xuan Son Nguyen
|
f162d45a21
common : bring back --no-warmup to server (#10686)
|
1 рік тому |
|
Xuan Son Nguyen
|
642330ac7c
llama : add enum for built-in chat templates (#10623)
|
1 рік тому |
 Johannes Gäßler
|
890719311b
common: fix warning message when no GPU found (#10564)
|
1 рік тому |
|
Xuan Son Nguyen
|
9f912511bc
common : fix duplicated file name with hf_repo and hf_file (#10550)
|
1 рік тому |
 Diego Devesa
|
10bce0450f
llama : accept a list of devices to use to offload a model (#10497)
|
1 рік тому |
|
Georgi Gerganov
|
d9d54e498d
speculative : refactor and add a simpler example (#10362)
|
1 рік тому |
|
Johannes Gäßler
|
4e54be0ec6
llama/ex: remove --logdir argument (#10339)
|
1 рік тому |
|
Georgi Gerganov
|
8d8ff71536
llama : remove Tail-Free sampling (#10071)
|
1 рік тому |
 wwoodsTM
|
ff252ea48e
llama : add DRY sampler (#9702)
|
1 рік тому |
 Michael Podvitskiy
|
d80fb71f8b
llama: string_split fix (#10022)
|
1 рік тому |
 Daniel Bevenius
|
674804a996
arg : fix typo in embeddings argument help [no ci] (#9994)
|
1 рік тому |
|
Daniel Bevenius
|
94008cc760
arg : fix attention non-causal arg value hint (#9985)
|
1 рік тому |
 MaggotHATE
|
fbc98b748e
sampling : add XTC sampler (#9742)
|
1 рік тому |
|
Georgi Gerganov
|
c7181bd294
server : reuse cached context chunks (#9866)
|
1 рік тому |
|
Georgi Gerganov
|
1bde94dd02
server : remove self-extend features (#9860)
|
1 рік тому |
|
Georgi Gerganov
|
95c76e8e92
server : remove legacy system_prompt feature (#9857)
|
1 рік тому |
|
Georgi Gerganov
|
11ac9800af
llama : improve infill support and special token detection (#9798)
|
1 рік тому |
|
Diego Devesa
|
7eee341bee
common : use common_ prefix for common library functions (#9805)
|
1 рік тому |
|
Diego Devesa
|
0e9f760eb1
rpc : add backend registry / device interfaces (#9812)
|
1 рік тому |
|
Xuan Son Nguyen
|
458367a906
server : better security control for public deployments (#9776)
|
1 рік тому |
 Daniel Kleine
|
133c7b46b3
Fixed RNG seed docs (#9723)
|
1 рік тому |
|
Georgi Gerganov
|
f4d2b8846a
llama : add reranking support (#9510)
|
1 рік тому |
|
Xuan Son Nguyen
|
afbbfaa537
server : add more env vars, improve gen-docs (#9635)
|
1 рік тому |
|
Xuan Son Nguyen
|
0b3bf966f4
server : add --no-context-shift option (#9607)
|
1 рік тому |
 Bert Wagner
|
8b836ae731
arg : add env variable for parallel (#9513)
|
1 рік тому |
