 slaren
|
5fb5e24811
llama : minor sampling refactor (2) (#9386)
|
1 vuosi sitten |
 Xuan Son Nguyen
|
1b9ae5189c
common : refactor arg parser (#9308)
|
1 vuosi sitten |
 Georgi Gerganov
|
df270ef745
llama : refactor sampling v2 (#9294)
|
1 vuosi sitten |
|
Georgi Gerganov
|
1442677f92
common : refactor cli arg parsing (#7675)
|
1 vuosi sitten |
 Pedro Cuenca
|
b97bc3966e
llama : support Llama 3 HF conversion (#6745)
|
1 vuosi sitten |
 bmwl
|
f486f6e1e5
ggml : add numa options (#5377)
|
1 vuosi sitten |
 Daniel Bevenius
|
23b5e12eb5
simple : update error message for KV cache check (#4324)
|
2 vuotta sitten |
 Thibault Terrasson
|
c8d6a1f34a
simple : fix batch handling (#3803)
|
2 vuotta sitten |
 Marcus Dunn
|
5be6c803fa
llama : remove token functions with `context` args in favor of `model` (#3720)
|
2 vuotta sitten |
|
Georgi Gerganov
|
0e89203b51
speculative : add tree-based sampling example (#3624)
|
2 vuotta sitten |
|
slaren
|
16bc66d947
llama.cpp : split llama_context_params into model and context params (#3301)
|
2 vuotta sitten |
|
Georgi Gerganov
|
ec893798b7
llama : custom attention mask + parallel decoding + no context swaps (#3228)
|
2 vuotta sitten |
 Cebtenzzre
|
e6616cf0db
examples : add compiler version and target to build info (#2998)
|
2 vuotta sitten |
 Przemysław Pawełczyk
|
cb6c44c5e0
build : do not use _GNU_SOURCE gratuitously (#2035)
|
2 vuotta sitten |
|
Georgi Gerganov
|
edd4c14817
llama : more tokenizer fixes (#2810)
|
2 vuotta sitten |
|
Georgi Gerganov
|
6381d4e110
gguf : new file format with flexible meta data (beta) (#2398)
|
2 vuotta sitten |
 Borislav Stanimirov
|
ff966e7ca6
build : fix several cast and printf warnings (#2499)
|
2 vuotta sitten |
 Evan Miller
|
5656d10599
mpi : add support for distributed inference via MPI (#2099)
|
2 vuotta sitten |
 zrm
|
b853d45601
ggml : add NUMA support (#1556)
|
2 vuotta sitten |
 Didzis Gosko
|
527b6fba1d
llama : make model stateless and context stateful (llama_state) (#1797)
|
2 vuotta sitten |
 SuperUserNameMan
|
b41b4cad6f
examples : add "simple" (#1840)
|
2 vuotta sitten |
