 Georgi Gerganov
|
4e82b2ea3f
speculative : bug fixes
|
hace 2 años |
|
Georgi Gerganov
|
0e89203b51
speculative : add tree-based sampling example (#3624)
|
hace 2 años |
 Jhen-Jie Hong
|
c67fe68e41
metal : implement q5_0 and q5_1 kernels (#3648)
|
hace 2 años |
 shibe2
|
1117d06607
opencl : fix element-wise multiplication (#3656)
|
hace 2 años |
 slaren
|
cb33f43a2a
fix embeddings when using CUDA (#3657)
|
hace 2 años |
|
Georgi Gerganov
|
e1675d133c
llama : avoid fprintf in favor of LLAMA_LOG (#3538)
|
hace 2 años |
 BarfingLemurs
|
8402566a7c
readme : update hot-topics & models, detail windows release in usage (#3615)
|
hace 2 años |
|
shibe2
|
40e5ce054f
CLBlast: Fix temporary buffer size for f16 conversion (wsize)
|
hace 2 años |
|
slaren
|
a5e8c1d8c7
train-text-from-scratch : fix assert failure in ggml-alloc (#3618)
|
hace 2 años |
|
Georgi Gerganov
|
e74c705e15
editorconfig : remove trailing spaces
|
hace 2 años |
 coezbek
|
3ad1e3f1a1
server : documentation of JSON return value of /completion endpoint (#3632)
|
hace 2 años |
|
Georgi Gerganov
|
1142013da4
save-load-state : fix example + add ci test (#3655)
|
hace 2 años |
 ldwang
|
5fe268a4d9
readme : add Aquila2 links (#3610)
|
hace 2 años |
 staviq
|
1a159553f9
tokenizer : special token handling (#3538)
|
hace 2 años |
|
Georgi Gerganov
|
281ef73c25
k-quants : fix quantization ranges (#3646)
|
hace 2 años |
|
Georgi Gerganov
|
940efa95fe
llava : fix tokenization to not add bos between image embeddings and user prompt (#3645)
|
hace 2 años |
 cebtenzzre
|
11bff29045
MPT : support GQA for replit-code-v1.5 (#3627)
|
hace 2 años |
 M. Yusuf Sarıgöz
|
11dc1091f6
Honor -ngl option for Cuda offloading in llava (#3621)
|
hace 2 años |
 Daniel Bevenius
|
2a4bcbacea
llama : remove n_threads from llama_decode_internal (#3614)
|
hace 2 años |
|
slaren
|
424b6381c4
ggml : add context enumeration functions (#3605)
|
hace 2 años |
|
shibe2
|
1e0e873c37
CLBlast: Fix matrix-vector multiplication (#3544)
|
hace 2 años |
|
M. Yusuf Sarıgöz
|
370359e5ba
examples: support LLaVA v1.5 (multimodal model) (#3436)
|
hace 2 años |
 uint256_t
|
9e24cc6e2e
docs : fix typo GOMP_CPU_AFFINITY (#3597)
|
hace 2 años |
|
Georgi Gerganov
|
d28e572c02
cmake : fix add_compile_options on macOS
|
hace 2 años |
 Ian Scrivener
|
f3040beaab
typo : it is `--n-gpu-layers` not `--gpu-layers` (#3592)
|
hace 2 años |
|
Georgi Gerganov
|
1a8c8795d6
ci : check if there is enough VRAM (#3596)
|
hace 2 años |
 Aarni Koskela
|
b016596d90
server : add completion mode (no chat) (#3582)
|
hace 2 años |
|
Georgi Gerganov
|
6b3ae4da92
prompts : add mnemonics.txt
|
hace 2 años |
|
Georgi Gerganov
|
57dd55e2c7
server : fix kv cache management (#3588)
|
hace 2 años |
|
Georgi Gerganov
|
b8fe4b5cc9
main : fix session loading bug (#3400)
|
hace 2 años |
