 Georgi Gerganov
|
e92d53b29e
sampling : optimize samplers by reusing bucket sort (#15665)
|
vor 4 Monaten |
|
Georgi Gerganov
|
f9cd68398b
sampling : make sure samplers return at least 1 token (#13822)
|
vor 7 Monaten |
 DocShotgun
|
ffc727203a
sampling : make top_n_sigma no-op at <=0 or a single candidate (#13345)
|
vor 8 Monaten |
 Vinesh Janarthanan
|
27e8a23300
sampling: add Top-nσ sampler (#11223)
|
vor 11 Monaten |
|
Georgi Gerganov
|
4dd34ff831
cmake : add sanitizer flags for llama.cpp (#11279)
|
vor 1 Jahr |
|
Georgi Gerganov
|
644fd71b44
sampling : refactor + optimize penalties sampler (#10803)
|
vor 1 Jahr |
 Diego Devesa
|
7cc2d2c889
ggml : move AMX to the CPU backend (#10570)
|
vor 1 Jahr |
|
Georgi Gerganov
|
8d8ff71536
llama : remove Tail-Free sampling (#10071)
|
vor 1 Jahr |
 wwoodsTM
|
ff252ea48e
llama : add DRY sampler (#9702)
|
vor 1 Jahr |
|
Georgi Gerganov
|
55e47786e3
llama : default sampling changes + greedy update (#9897)
|
vor 1 Jahr |
 MaggotHATE
|
fbc98b748e
sampling : add XTC sampler (#9742)
|
vor 1 Jahr |
|
Georgi Gerganov
|
b0f27361f3
sampling : avoid expensive softmax during greedy sampling (#9605)
|
vor 1 Jahr |
|
slaren
|
5fb5e24811
llama : minor sampling refactor (2) (#9386)
|
vor 1 Jahr |
|
slaren
|
19f4a7b296
llama : refactor samplers internal implementation (#9370)
|
vor 1 Jahr |
|
Georgi Gerganov
|
df270ef745
llama : refactor sampling v2 (#9294)
|
vor 1 Jahr |
|
Georgi Gerganov
|
879275ac98
tests : fix compile warnings for unreachable code (#9185)
|
vor 1 Jahr |
|
slaren
|
2b1f616b20
ggml : reduce hash table reset cost (#8698)
|
vor 1 Jahr |
 Johannes Gäßler
|
26d4efd11e
sampling: fix top_k <= 0 (#5388)
|
vor 1 Jahr |
|
Johannes Gäßler
|
b2b2bf988c
Tests for min_p, sampling queue (#5147)
|
vor 2 Jahren |
|
Georgi Gerganov
|
d1031cf49c
sampling : refactor init to use llama_sampling_params (#3696)
|
vor 2 Jahren |
 Cebtenzzre
|
3aefaab9e5
check C++ code with -Wmissing-declarations (#3184)
|
vor 2 Jahren |
|
Georgi Gerganov
|
d01bccde9f
ci : integrate with ggml-org/ci (#2250)
|
vor 2 Jahren |
 Alex Renda
|
b061ba9e2a
llama : fix top-p sampling to match the canonical definition (#1953)
|
vor 2 Jahren |
 Borislav Stanimirov
|
9cbf50c041
build : fix and ignore MSVC warnings (#1889)
|
vor 2 Jahren |
|
Georgi Gerganov
|
6986c7835a
tests : add missing header
|
vor 2 Jahren |
|
Georgi Gerganov
|
4b7e245adf
minor : fix compile warnings
|
vor 2 Jahren |
 Jed Fox
|
3924088512
Remove default arguments from sampling functions (#1343)
|
vor 2 Jahren |
|
Georgi Gerganov
|
0e6cbff1b7
llama : fix compile warnings
|
vor 2 Jahren |
 Ivan Stepanov
|
dd7eff57d8
llama : new sampling algorithms (#1126)
|
vor 2 Jahren |
