Olivier Chafik
|
669912d9a5
`tool-call`: fix Qwen 2.5 Coder support, add micro benchmarks, support trigger patterns for lazy grammars (#12034)
|
10 місяців тому |
Xuan-Son Nguyen
|
c43a3e7996
llama : add Phi-4-mini support (supersede #12099) (#12108)
|
10 місяців тому |
Vitali Lovich
|
3e9a2860e9
llama : expose llama_model_n_head_kv in the API (#11997)
|
10 місяців тому |
Georgi Gerganov
|
68ff663a04
repo : update links to new url (#11886)
|
11 місяців тому |
Vinesh Janarthanan
|
27e8a23300
sampling: add Top-nσ sampler (#11223)
|
11 місяців тому |
Christian Fillion
|
7ee953a64a
llama : add llama_sampler_init for safe usage of llama_sampler_free (#11727)
|
11 місяців тому |
Olivier Chafik
|
8b576b6c55
Tool call support (generic + native for Llama, Functionary, Hermes, Mistral, Firefunction, DeepSeek) w/ lazy grammars (#9639)
|
11 місяців тому |
Olivier Chafik
|
6171c9d258
Add Jinja template support (#11016)
|
1 рік тому |
Radoslav Gerganov
|
667d72846c
rpc : early register backend devices (#11262)
|
1 рік тому |
David Renshaw
|
960ec65273
llama : fix deprecation message: vocabable -> vocab (#11269)
|
1 рік тому |
Xuan Son Nguyen
|
681149ced2
llama : add `llama_model_load_from_splits` (#11255)
|
1 рік тому |
Georgi Gerganov
|
08f10f69c3
llama : remove notion of CLS token (#11064)
|
1 рік тому |
Georgi Gerganov
|
afa8a9ec9b
llama : add `llama_vocab`, functions -> methods, naming (#11110)
|
1 рік тому |
Georgi Gerganov
|
47182dd03f
llama : update llama_model API names (#11063)
|
1 рік тому |
Georgi Gerganov
|
727368c60f
llama : use LLAMA_TOKEN_NULL (#11062)
|
1 рік тому |
fairydreaming
|
9394bbd484
llama : Add support for DeepSeek V3 (#11049)
|
1 рік тому |
Georgi Gerganov
|
f66f582927
llama : refactor `src/llama.cpp` (#10902)
|
1 рік тому |
Georgi Gerganov
|
0bf2d10c55
tts : add OuteTTS support (#10784)
|
1 рік тому |
Georgi Gerganov
|
644fd71b44
sampling : refactor + optimize penalties sampler (#10803)
|
1 рік тому |
HimariO
|
ba1cb19cdd
llama : add Qwen2VL support + multimodal RoPE (#10361)
|
1 рік тому |
kallewoof
|
484d2f31ae
bug-fix: snprintf prints NULL in place of the last character (#10419)
|
1 рік тому |
Djip007
|
19d8762ab6
ggml : refactor online repacking (#10446)
|
1 рік тому |
Riccardo Orlando
|
6fe6247831
llama : add Minerva 7B model support (#10673)
|
1 рік тому |
JFLFY2255
|
8d0cfd554a
llama: Support MiniCPM-1B (with & w/o longrope) (#10559)
|
1 рік тому |
Xuan Son Nguyen
|
3b4f2e33e2
llama : add missing LLAMA_API for llama_chat_builtin_templates (#10636)
|
1 рік тому |
Xuan Son Nguyen
|
642330ac7c
llama : add enum for built-in chat templates (#10623)
|
1 рік тому |
Diego Devesa
|
10bce0450f
llama : accept a list of devices to use to offload a model (#10497)
|
1 рік тому |
Georgi Gerganov
|
8e752a777b
llama : add check for KV cache shifts (#10401)
|
1 рік тому |
Johannes Gäßler
|
4e54be0ec6
llama/ex: remove --logdir argument (#10339)
|
1 рік тому |
Michael Podvitskiy
|
fb4a0ec083
llama : propagate the results of `graph_compute` (#9525)
|
1 рік тому |