 Herman Semenov
|
5d3de51f97
ggml, common, examples, tests : fixed type arguments in printf (#5528)
|
há 1 ano atrás |
 bmwl
|
f486f6e1e5
ggml : add numa options (#5377)
|
há 1 ano atrás |
 Georgi Gerganov
|
b0034d93ce
examples : add passkey test (#3856)
|
há 2 anos atrás |
|
Georgi Gerganov
|
2b4ea35e56
cuda : add batched cuBLAS GEMM for faster attention (#3749)
|
há 2 anos atrás |
 Marcus Dunn
|
5be6c803fa
llama : remove token functions with `context` args in favor of `model` (#3720)
|
há 2 anos atrás |
|
Georgi Gerganov
|
22c69a2794
batched : add len CLI argument
|
há 2 anos atrás |
|
Georgi Gerganov
|
0e89203b51
speculative : add tree-based sampling example (#3624)
|
há 2 anos atrás |
|
Georgi Gerganov
|
8c70a5ff25
batched : add bench tool (#3545)
|
há 2 anos atrás |
 slaren
|
16bc66d947
llama.cpp : split llama_context_params into model and context params (#3301)
|
há 2 anos atrás |
|
Georgi Gerganov
|
ec893798b7
llama : custom attention mask + parallel decoding + no context swaps (#3228)
|
há 2 anos atrás |
