Acasă Explorează Ajutor
Autentificare
cturan
/
llama.cpp
oglindă de https://github.com/cturan/llama.cpp
1
0
Bifurcare 0
Fisiere Probleme 0 Wiki
Arbore: 66ef1ceedf
Ramuri Etichete
llama.cpp
/
ggml-cuda
Johannes Gäßler 963552903f CUDA: fix broken oob check for FA vec f32 kernel (#7904) 1 an în urmă
..
template-instances 7d1a378b8f CUDA: refactor mmq, dmmv, mmvq (#7716) 1 an în urmă
acc.cu ae1f211ce2 cuda : refactor into multiple files (#6269) 1 an în urmă
acc.cuh ae1f211ce2 cuda : refactor into multiple files (#6269) 1 an în urmă
arange.cu ae1f211ce2 cuda : refactor into multiple files (#6269) 1 an în urmă
arange.cuh ae1f211ce2 cuda : refactor into multiple files (#6269) 1 an în urmă
argsort.cu 08a0c02060 ggml : mul_mat_id use the same tensor for all the experts (#6387) 1 an în urmă
argsort.cuh ae1f211ce2 cuda : refactor into multiple files (#6269) 1 an în urmă
binbcast.cu 0d56246f4b ggml : group all experts in a single ggml_mul_mat_id (#6505) 1 an în urmă
binbcast.cuh ae1f211ce2 cuda : refactor into multiple files (#6269) 1 an în urmă
clamp.cu bc4bba364f Introduction of CUDA Graphs to LLama.cpp (#6766) 1 an în urmă
clamp.cuh ae1f211ce2 cuda : refactor into multiple files (#6269) 1 an în urmă
common.cuh 1f0dabda8d CUDA: use tensor cores for MMQ (#7676) 1 an în urmă
concat.cu cce3dcffc5 cuda : non-cont concat support (#7610) 1 an în urmă
concat.cuh ae1f211ce2 cuda : refactor into multiple files (#6269) 1 an în urmă
convert.cu e84b71c2c6 ggml : drop support for QK_K=64 (#7473) 1 an în urmă
convert.cuh 5dc9dd7152 llama : add Command R Plus support (#6491) 1 an în urmă
cpy.cu bc4bba364f Introduction of CUDA Graphs to LLama.cpp (#6766) 1 an în urmă
cpy.cuh bc4bba364f Introduction of CUDA Graphs to LLama.cpp (#6766) 1 an în urmă
dequantize.cuh 5dc9dd7152 llama : add Command R Plus support (#6491) 1 an în urmă
diagmask.cu ae1f211ce2 cuda : refactor into multiple files (#6269) 1 an în urmă
diagmask.cuh ae1f211ce2 cuda : refactor into multiple files (#6269) 1 an în urmă
dmmv.cu 7d1a378b8f CUDA: refactor mmq, dmmv, mmvq (#7716) 1 an în urmă
dmmv.cuh d48ccf3ad4 sync : ggml (#6351) 1 an în urmă
fattn-common.cuh 1f0dabda8d CUDA: use tensor cores for MMQ (#7676) 1 an în urmă
fattn-tile-f16.cu 1f0dabda8d CUDA: use tensor cores for MMQ (#7676) 1 an în urmă
fattn-tile-f16.cuh 0fc1e820a9 CUDA: faster large batch FA without tensor cores (#7314) 1 an în urmă
fattn-tile-f32.cu 750f60c03e CUDA: fix Pascal FA, deq. KV to FP16 for batch > 8 (#7681) 1 an în urmă
fattn-tile-f32.cuh 0fc1e820a9 CUDA: faster large batch FA without tensor cores (#7314) 1 an în urmă
fattn-vec-f16.cuh 1f0dabda8d CUDA: use tensor cores for MMQ (#7676) 1 an în urmă
fattn-vec-f32.cuh 963552903f CUDA: fix broken oob check for FA vec f32 kernel (#7904) 1 an în urmă
fattn-wmma-f16.cuh 1f0dabda8d CUDA: use tensor cores for MMQ (#7676) 1 an în urmă
fattn.cu 750f60c03e CUDA: fix Pascal FA, deq. KV to FP16 for batch > 8 (#7681) 1 an în urmă
fattn.cuh 9c67c2773d ggml : add Flash Attention (#5021) 1 an în urmă
getrows.cu ae1f211ce2 cuda : refactor into multiple files (#6269) 1 an în urmă
getrows.cuh ae1f211ce2 cuda : refactor into multiple files (#6269) 1 an în urmă
im2col.cu ae1f211ce2 cuda : refactor into multiple files (#6269) 1 an în urmă
im2col.cuh ae1f211ce2 cuda : refactor into multiple files (#6269) 1 an în urmă
mma.cuh bdcb8f4222 CUDA: int8 tensor cores for MMQ (q4_K, q5_K, q6_K) (#7860) 1 an în urmă
mmq.cu 42b53d192f CUDA: revise q8_1 data layout for mul_mat_q (#7824) 1 an în urmă
mmq.cuh bdcb8f4222 CUDA: int8 tensor cores for MMQ (q4_K, q5_K, q6_K) (#7860) 1 an în urmă
mmvq.cu 7d1a378b8f CUDA: refactor mmq, dmmv, mmvq (#7716) 1 an în urmă
mmvq.cuh ae1f211ce2 cuda : refactor into multiple files (#6269) 1 an în urmă
norm.cu fb76ec31a9 ggml : fix YARN + add tests + add asserts (#7617) 1 an în urmă
norm.cuh ae1f211ce2 cuda : refactor into multiple files (#6269) 1 an în urmă
pad.cu ae1f211ce2 cuda : refactor into multiple files (#6269) 1 an în urmă
pad.cuh ae1f211ce2 cuda : refactor into multiple files (#6269) 1 an în urmă
pool2d.cu ae1f211ce2 cuda : refactor into multiple files (#6269) 1 an în urmă
pool2d.cuh ae1f211ce2 cuda : refactor into multiple files (#6269) 1 an în urmă
quantize.cu 42b53d192f CUDA: revise q8_1 data layout for mul_mat_q (#7824) 1 an în urmă
quantize.cuh 42b53d192f CUDA: revise q8_1 data layout for mul_mat_q (#7824) 1 an în urmă
rope.cu 2b3389677a ggml : refactor rope norm/neox (#7634) 1 an în urmă
rope.cuh ae1f211ce2 cuda : refactor into multiple files (#6269) 1 an în urmă
scale.cu bc4bba364f Introduction of CUDA Graphs to LLama.cpp (#6766) 1 an în urmă
scale.cuh ae1f211ce2 cuda : refactor into multiple files (#6269) 1 an în urmă
softmax.cu 133d99c599 CUDA: deduplicate FlashAttention code (#7352) 1 an în urmă
softmax.cuh ae1f211ce2 cuda : refactor into multiple files (#6269) 1 an în urmă
sumrows.cu ae1f211ce2 cuda : refactor into multiple files (#6269) 1 an în urmă
sumrows.cuh ae1f211ce2 cuda : refactor into multiple files (#6269) 1 an în urmă
tsembd.cu ae1f211ce2 cuda : refactor into multiple files (#6269) 1 an în urmă
tsembd.cuh ae1f211ce2 cuda : refactor into multiple files (#6269) 1 an în urmă
unary.cu a9cae48003 tests : add non-cont unary tests (#7857) 1 an în urmă
unary.cuh f5ef34e428 feat: implemented sigmoid function (ggml/806) 1 an în urmă
upscale.cu 48aa8fd1f2 ggml : add `ggml_upscale_ext` (ggml/814) 1 an în urmă
upscale.cuh ae1f211ce2 cuda : refactor into multiple files (#6269) 1 an în urmă
vecdotq.cuh 7d1a378b8f CUDA: refactor mmq, dmmv, mmvq (#7716) 1 an în urmă