 AT
|
f5ca054855
Early return for zero size calls to get_tensor. (#5482)
|
hace 1 año |
 John
|
6c00a06692
gguf : add python reader example (#5216)
|
hace 1 año |
 Jared Van Bortel
|
ea9c8e1143
llama : add support for Nomic Embed (#5468)
|
hace 1 año |
 Aarni Koskela
|
c4e6dd59e4
llama : allow raw byte in SPM vocabs; don't crash on nl 404 (#5478)
|
hace 1 año |
|
Aarni Koskela
|
037259be68
llama : make load error reporting more granular (#5477)
|
hace 1 año |
 Daniel Bevenius
|
263978904c
finetune : rename feed-forward tensors (w1/w2/w3) (#4839)
|
hace 1 año |
 Georgi Gerganov
|
cf45252a7c
tests : multi-thread the tokenizer tests (#5474)
|
hace 1 año |
 Douglas Hanley
|
03bf161eb6
llama : support batched embeddings (#5466)
|
hace 1 año |
 Johannes Gäßler
|
ad014bba97
make: add error message for bad CUDA version (#5444)
|
hace 1 año |
|
Georgi Gerganov
|
49cc1f7d67
bert : add tests + fix quantization (#5475)
|
hace 1 año |
|
Georgi Gerganov
|
99b8b43d7b
tests : disable moe test (#5473)
|
hace 1 año |
 Kawrakow
|
895407f31b
ggml-quants : fix compiler warnings (shadow variable) (#5472)
|
hace 1 año |
|
Georgi Gerganov
|
099afc6274
llama : fix quantization when tensors are missing (#5423)
|
hace 1 año |
|
Georgi Gerganov
|
df334a1125
swift : package no longer use ggml dependency (#5465)
|
hace 1 año |
 Lee
|
dbd8828eb0
py : fix persimmon `n_rot` conversion (#5460)
|
hace 1 año |
 Abhilash Majumder
|
43fe07c1a4
ggml-sycl: Replace 3d ops with macro (#5458)
|
hace 1 año |
|
Daniel Bevenius
|
4a46d2b792
llava : remove prog parameter from ArgumentParser (#5457)
|
hace 1 año |
|
Georgi Gerganov
|
3b169441df
sync : ggml (#5452)
|
hace 1 año |
|
Johannes Gäßler
|
3bdc4cd0f5
CUDA: mul_mat_vec_q tiling, refactor mul mat logic (#5434)
|
hace 1 año |
|
Douglas Hanley
|
2891c8aa9a
Add support for BERT embedding models (#5423)
|
hace 1 año |
 github-actions[bot]
|
97a336507e
flake.lock: Update
|
hace 1 año |
 Sergio López
|
c88c74f967
vulkan: only use M-sized matmul on Apple GPUs (#5412)
|
hace 1 año |
 Alexey Parfenov
|
a803333a4e
common : use enums for sampler types (#5418)
|
hace 1 año |
|
Alexey Parfenov
|
684780141a
server : allow to specify tokens as strings in logit_bias (#5003)
|
hace 1 año |
|
Georgi Gerganov
|
85910c5b30
main : ctrl+C print timing in non-interactive mode (#3873)
|
hace 1 año |
|
Georgi Gerganov
|
139b62a839
common : fix compile warning
|
hace 1 año |
|
Georgi Gerganov
|
0f2411f154
ggml : fix compile warnings (unused vars) (#4966)
|
hace 1 año |
 snadampal
|
a07d0fee1f
ggml : add mmla kernels for quantized GEMM (#4966)
|
hace 1 año |
|
Johannes Gäßler
|
e4640d8fdf
lookup: add print for drafting performance (#5450)
|
hace 1 año |
 Xuan Son Nguyen
|
907e08c110
server : add llama2 chat template (#5425)
|
hace 1 año |
