cturan/llama.cpp

огледало от https://github.com/cturan/llama.cpp

Автор	SHA1 Съобщение	Дата
Kerfuffle	6e08281e58 Extend llama_kv_cache_seq_rm to allow matching any sequence (#3843)	преди 2 години
Georgi Gerganov	6961c4bd0b batched-bench : print params at start	преди 2 години
Georgi Gerganov	0e89203b51 speculative : add tree-based sampling example (#3624)	преди 2 години
Georgi Gerganov	8c70a5ff25 batched : add bench tool (#3545)	преди 2 години