 Xuan Son Nguyen
|
842500144e
gguf-split: add --no-tensor-first-split (#7072)
|
vor 1 Jahr |
 Georgi Gerganov
|
9c67c2773d
ggml : add Flash Attention (#5021)
|
vor 1 Jahr |
|
Xuan Son Nguyen
|
7bb36ccf91
gguf : enforce that tensor names are unique (#6905)
|
vor 1 Jahr |
 slaren
|
e2764cd7ca
gguf : fix mismatch between alloc and free functions (#6929)
|
vor 1 Jahr |
|
Georgi Gerganov
|
83b72cb086
Merge pull request from GHSA-p5mv-gjc5-mwqv
|
vor 1 Jahr |
|
Georgi Gerganov
|
51543729ff
ggml : fix redefinition of vaddvq_f32 for 32-bit ARM (#6906)
|
vor 1 Jahr |
 Justine Tunney
|
192090bae4
llamafile : improve sgemm.cpp (#6796)
|
vor 1 Jahr |
|
slaren
|
0d56246f4b
ggml : group all experts in a single ggml_mul_mat_id (#6505)
|
vor 1 Jahr |
|
Georgi Gerganov
|
666867b799
ggml : fix llamafile sgemm wdata offsets (#6710)
|
vor 1 Jahr |
|
Justine Tunney
|
8cc91dc63c
ggml : add llamafile sgemm (#6414)
|
vor 1 Jahr |
|
slaren
|
fbbc030ba9
metal : unify mul_mv_id kernels (#6556)
|
vor 1 Jahr |
 jiez
|
91c736015b
llama : add gguf_remove_key + remove split meta during quantize (#6591)
|
vor 1 Jahr |
 Carolinabanana
|
5dc9dd7152
llama : add Command R Plus support (#6491)
|
vor 1 Jahr |
|
slaren
|
08a0c02060
ggml : mul_mat_id use the same tensor for all the experts (#6387)
|
vor 1 Jahr |
 0cc4m
|
ba0c7c70ab
Vulkan k-quant mmq and ggml-backend offload functionality (#6155)
|
vor 1 Jahr |
|
slaren
|
e5b89a441a
ggml : fix bounds checking of zero size views (#6347)
|
vor 1 Jahr |
 compilade
|
557410b8f0
llama : greatly reduce output buffer memory usage (#6122)
|
vor 1 Jahr |
 Kawrakow
|
55c1b2a3bb
IQ1_M: 1.75 bpw quantization (#6302)
|
vor 1 Jahr |
|
slaren
|
280345968d
cuda : rename build flag to LLAMA_CUDA (#6299)
|
vor 1 Jahr |
 Rick G
|
a32b77c4b2
Fix heap corruption from wmode out-of-bound writes on windows (#6272)
|
vor 1 Jahr |
 Meng, Hengyu
|
ddf6568510
[SYCL] offload op (#6217)
|
vor 1 Jahr |
 Jared Van Bortel
|
94d1b3b411
use _wfopen instead of fopen on Windows (#6248)
|
vor 1 Jahr |
|
slaren
|
2bf8d0f7c4
backend : offload large batches to GPU (#6083)
|
vor 1 Jahr |
 AmirAli Mirian
|
c47cf414ef
ggml : add AVX512F SIMD (#6088)
|
vor 1 Jahr |
 Ondřej Čertík
|
7ce2c77f88
gguf : add support for I64 and F64 arrays (#6062)
|
vor 1 Jahr |
|
slaren
|
f30ea47a87
llama : add pipeline parallelism support (#6017)
|
vor 1 Jahr |
 Michael Podvitskiy
|
3202361c5b
ggml, ci : Windows ARM runner and build fixes (#5979)
|
vor 1 Jahr |
|
Georgi Gerganov
|
5b09797321
ggml : remove old quantization functions (#5942)
|
vor 1 Jahr |
|
compilade
|
c2101a2e90
llama : support Mamba Selective State Space Models (#5328)
|
vor 1 Jahr |
|
Jared Van Bortel
|
e04e04f8fa
ggml : use SYS_get_cpu if SYS_getcpu is not defined (#5906)
|
vor 1 Jahr |
