 Georgi Gerganov
|
3ca63b4538
main : disable token count by default (#4874)
|
преди 2 години |
 pudepiedj
|
43f76bf1c3
main : print total token count and tokens consumed so far (#4874)
|
преди 2 години |
 howlger
|
1fc2f265ff
common : fix the short form of `--grp-attn-w`, not `-gat` (#4825)
|
преди 2 години |
|
Georgi Gerganov
|
52531fdff8
main : add self-extend support (#4815)
|
преди 2 години |
 automaticcat
|
24a447e20a
ggml : add ggml_cpu_has_avx_vnni() (#4589)
|
преди 2 години |
 Jared Van Bortel
|
8fe03ffdda
common : remove incorrect --model-draft default (#4568)
|
преди 2 години |
 Siwen Yu
|
9fb13f9584
common : add `--version` option to show build info in CLI (#4433)
|
преди 2 години |
|
Georgi Gerganov
|
bcc0eb4591
llama : per-layer KV cache + quantum K cache (#4309)
|
преди 2 години |
 Kerfuffle
|
5aa365d88f
llama : allow overriding GGUF metadata when loading model (#4092)
|
преди 2 години |
 MaggotHATE
|
52c8bc3cf3
sampling : custom samplers order (#4285)
|
преди 2 години |
|
Georgi Gerganov
|
6b0a7420d0
llama : KV cache view API + better KV cache management (#4170)
|
преди 2 години |
 Seb C
|
881800d1f0
main : Add ChatML functionality to main example (#4046)
|
преди 2 години |
 kchro3
|
262005ad9d
common : comma should be semicolon (#4137)
|
преди 2 години |
 Jannis Schönleber
|
9e87ef60e1
common : improve yaml log escaping (#4080)
|
преди 2 години |
|
Kerfuffle
|
91f6499393
Respect tokenizer.ggml.add_bos_token value when tokenizing (#4040)
|
преди 2 години |
 slaren
|
2833a6f63c
ggml-cuda : fix f16 mul mat (#3961)
|
преди 2 години |
|
Kerfuffle
|
d9ccce2e33
Allow common process_escapes to handle \x sequences (#3928)
|
преди 2 години |
|
Georgi Gerganov
|
8f961abdc4
speculative : change default p_accept to 0.5 + CLI args (#3919)
|
преди 2 години |
 cebtenzzre
|
b12fa0d1c1
build : link against build info instead of compiling against it (#3879)
|
преди 2 години |
|
cebtenzzre
|
898aeca90a
llama : implement YaRN RoPE scaling (#2268)
|
преди 2 години |
|
Georgi Gerganov
|
ff8f9a88da
common : minor (#3715)
|
преди 2 години |
 bandoti
|
0e40806c1c
common : allow caller to handle help/argument exceptions (#3715)
|
преди 2 години |
 kalomaze
|
238657db23
samplers : Min-P sampler implementation [alternative to Top P/Top K] (#3841)
|
преди 2 години |
|
Kerfuffle
|
6e08281e58
Extend llama_kv_cache_seq_rm to allow matching any sequence (#3843)
|
преди 2 години |
|
Georgi Gerganov
|
ee1a0ec9cb
llama : add option for greedy sampling with probs (#3813)
|
преди 2 години |
 Henk Poley
|
177461104b
common : print that one line of the syntax help *also* to standard output (#3823)
|
преди 2 години |
 Marcus Dunn
|
5be6c803fa
llama : remove token functions with `context` args in favor of `model` (#3720)
|
преди 2 години |
 vvhg1
|
d3956aea53
main : escape prompt for cfg_negative_prompt and consecutive inputs in main with interactive (#3623)
|
преди 2 години |
|
Georgi Gerganov
|
d1031cf49c
sampling : refactor init to use llama_sampling_params (#3696)
|
преди 2 години |
|
Georgi Gerganov
|
0e89203b51
speculative : add tree-based sampling example (#3624)
|
преди 2 години |
