 Thibault Terrasson
|
c8d6a1f34a
simple : fix batch handling (#3803)
|
před 2 roky |
 Marcus Dunn
|
5be6c803fa
llama : remove token functions with `context` args in favor of `model` (#3720)
|
před 2 roky |
 Georgi Gerganov
|
0e89203b51
speculative : add tree-based sampling example (#3624)
|
před 2 roky |
 slaren
|
16bc66d947
llama.cpp : split llama_context_params into model and context params (#3301)
|
před 2 roky |
|
Georgi Gerganov
|
ec893798b7
llama : custom attention mask + parallel decoding + no context swaps (#3228)
|
před 2 roky |
 Cebtenzzre
|
e6616cf0db
examples : add compiler version and target to build info (#2998)
|
před 2 roky |
 Przemysław Pawełczyk
|
cb6c44c5e0
build : do not use _GNU_SOURCE gratuitously (#2035)
|
před 2 roky |
|
Georgi Gerganov
|
edd4c14817
llama : more tokenizer fixes (#2810)
|
před 2 roky |
|
Georgi Gerganov
|
6381d4e110
gguf : new file format with flexible meta data (beta) (#2398)
|
před 2 roky |
 Borislav Stanimirov
|
ff966e7ca6
build : fix several cast and printf warnings (#2499)
|
před 2 roky |
 Evan Miller
|
5656d10599
mpi : add support for distributed inference via MPI (#2099)
|
před 2 roky |
 zrm
|
b853d45601
ggml : add NUMA support (#1556)
|
před 2 roky |
 Didzis Gosko
|
527b6fba1d
llama : make model stateless and context stateful (llama_state) (#1797)
|
před 2 roky |
 SuperUserNameMan
|
b41b4cad6f
examples : add "simple" (#1840)
|
před 2 roky |
