 Piotr Wilkin
|
22ee5a971b
Add gate_sigmoid to callback
|
3 місяців тому |
 jacekpoplawski
|
8ff206097c
llama-bench: add --n-cpu-moe support (#15952)
|
4 місяців тому |
 Aman Gupta
|
6d758839ff
Add LLaDA-7b-MoE diffusion model (#16003)
|
4 місяців тому |
 Diego Devesa
|
50f4281a6f
llama : allow using iGPUs with --device (#15951)
|
4 місяців тому |
 Eric Curtin
|
4bf5549269
Add docker protocol support for llama-server model loading (#15790)
|
4 місяців тому |
 Eric Curtin
|
408ff524b4
Implement --log-colors with always/never/auto (#15792)
|
4 місяців тому |
 Eric Curtin
|
badb80cadb
Document the new max GPU layers default in help (#15771)
|
4 місяців тому |
 Johannes Gäßler
|
c466abe158
llama: -fa 1/0/-1 aliases for -fa on/off/auto (#15746)
|
4 місяців тому |
 Georgi Gerganov
|
0d161f021a
server : enable /slots by default and make it secure (#15630)
|
4 місяців тому |
|
Johannes Gäßler
|
e81b8e4b7f
llama: use FA + max. GPU layers by default (#15434)
|
4 місяців тому |
 Sigbjørn Skjæret
|
84ab83cc0b
model : jina-embeddings-v3 support (#13693)
|
4 місяців тому |
|
Georgi Gerganov
|
da54f9f1a2
presets : add qwen3-30B-a3b FIM (#15616)
|
4 місяців тому |
 Daniel Bevenius
|
fcca2182a1
common : add -m to bash completion for --model [no ci] (#15591)
|
4 місяців тому |
|
Georgi Gerganov
|
9ebebef62f
llama : remove KV cache defragmentation logic (#15473)
|
4 місяців тому |
|
Diego Devesa
|
54a241f505
sched : fix possible use of wrong ids tensor when offloading moe prompt processing (#15488)
|
4 місяців тому |
 Jie Fu (傅杰)
|
ec5ab1a36c
common : fix context shift help message (#15448)
|
5 місяців тому |
 Gian-Carlo Pascutto
|
1e19f5d462
common : Add top-nsigma sampler to help globally (#15428)
|
5 місяців тому |
|
Georgi Gerganov
|
d2fcd91cf9
server : disable context shift by default (#15416)
|
5 місяців тому |
|
Georgi Gerganov
|
d32e03f449
server : add SWA checkpoints (#15293)
|
5 місяців тому |
 Jonathan Graehl
|
5cdb27e091
finetune: SGD optimizer, more CLI args (#13873)
|
5 місяців тому |
|
Sigbjørn Skjæret
|
b3e16665e1
server : enable -td and -tbd parameters (#15172)
|
5 місяців тому |
 Copilot
|
d8914fc47e
common : add --override-tensor-draft, --cpu-moe-draft and --n-cpu-moe-draft parameters (#15191)
|
5 місяців тому |
 Xuan-Son Nguyen
|
53d0a12658
server : allow specifying reasoning_format in HTTP request (#15238)
|
5 місяців тому |
|
Georgi Gerganov
|
fd1234cb46
llama : add gpt-oss (#15091)
|
5 місяців тому |
|
Diego Devesa
|
ec428b02c3
llama : add --n-cpu-moe option (#15077)
|
5 місяців тому |
 compilade
|
19f68fa5a4
imatrix : warn when GGUF imatrix is saved without .gguf suffix (#15076)
|
5 місяців тому |
|
compilade
|
d31192b4ee
imatrix : use GGUF by default (#14842)
|
5 місяців тому |
|
Diego Devesa
|
a06ed5feae
llama : add simple option to enable CPU for MoE weights (--cpu-moe) (#14992)
|
5 місяців тому |
|
Diego Devesa
|
d6818d06a6
llama : allow other bufts when overriding to CPU, add --no-repack option (#14990)
|
5 місяців тому |
 g2mt
|
94933c8c2e
server : implement universal assisted decoding (#12635)
|
5 місяців тому |
