Halaman utama Jelajahi Bantuan
Masuk
cturan
/
llama.cpp
cermin dari https://github.com/cturan/llama.cpp
1
0
Fork 0
Berkas Masalah 0 Wiki
Pohon: 9aa672490c
Ranting Tag
llama.cpp
/
ggml-cuda
Johannes Gäßler dc685be466 CUDA: add FP32 FlashAttention vector kernel (#7188) 1 tahun lalu
..
acc.cu ae1f211ce2 cuda : refactor into multiple files (#6269) 1 tahun lalu
acc.cuh ae1f211ce2 cuda : refactor into multiple files (#6269) 1 tahun lalu
arange.cu ae1f211ce2 cuda : refactor into multiple files (#6269) 1 tahun lalu
arange.cuh ae1f211ce2 cuda : refactor into multiple files (#6269) 1 tahun lalu
argsort.cu 08a0c02060 ggml : mul_mat_id use the same tensor for all the experts (#6387) 1 tahun lalu
argsort.cuh ae1f211ce2 cuda : refactor into multiple files (#6269) 1 tahun lalu
binbcast.cu 0d56246f4b ggml : group all experts in a single ggml_mul_mat_id (#6505) 1 tahun lalu
binbcast.cuh ae1f211ce2 cuda : refactor into multiple files (#6269) 1 tahun lalu
clamp.cu bc4bba364f Introduction of CUDA Graphs to LLama.cpp (#6766) 1 tahun lalu
clamp.cuh ae1f211ce2 cuda : refactor into multiple files (#6269) 1 tahun lalu
common.cuh dc685be466 CUDA: add FP32 FlashAttention vector kernel (#7188) 1 tahun lalu
concat.cu ae1f211ce2 cuda : refactor into multiple files (#6269) 1 tahun lalu
concat.cuh ae1f211ce2 cuda : refactor into multiple files (#6269) 1 tahun lalu
convert.cu bc4bba364f Introduction of CUDA Graphs to LLama.cpp (#6766) 1 tahun lalu
convert.cuh 5dc9dd7152 llama : add Command R Plus support (#6491) 1 tahun lalu
cpy.cu bc4bba364f Introduction of CUDA Graphs to LLama.cpp (#6766) 1 tahun lalu
cpy.cuh bc4bba364f Introduction of CUDA Graphs to LLama.cpp (#6766) 1 tahun lalu
dequantize.cuh 5dc9dd7152 llama : add Command R Plus support (#6491) 1 tahun lalu
diagmask.cu ae1f211ce2 cuda : refactor into multiple files (#6269) 1 tahun lalu
diagmask.cuh ae1f211ce2 cuda : refactor into multiple files (#6269) 1 tahun lalu
dmmv.cu 5dc9dd7152 llama : add Command R Plus support (#6491) 1 tahun lalu
dmmv.cuh d48ccf3ad4 sync : ggml (#6351) 1 tahun lalu
fattn-common.cuh dc685be466 CUDA: add FP32 FlashAttention vector kernel (#7188) 1 tahun lalu
fattn-vec-f16.cu dc685be466 CUDA: add FP32 FlashAttention vector kernel (#7188) 1 tahun lalu
fattn-vec-f16.cuh dc685be466 CUDA: add FP32 FlashAttention vector kernel (#7188) 1 tahun lalu
fattn-vec-f32.cu dc685be466 CUDA: add FP32 FlashAttention vector kernel (#7188) 1 tahun lalu
fattn-vec-f32.cuh dc685be466 CUDA: add FP32 FlashAttention vector kernel (#7188) 1 tahun lalu
fattn.cu dc685be466 CUDA: add FP32 FlashAttention vector kernel (#7188) 1 tahun lalu
fattn.cuh 9c67c2773d ggml : add Flash Attention (#5021) 1 tahun lalu
getrows.cu ae1f211ce2 cuda : refactor into multiple files (#6269) 1 tahun lalu
getrows.cuh ae1f211ce2 cuda : refactor into multiple files (#6269) 1 tahun lalu
im2col.cu ae1f211ce2 cuda : refactor into multiple files (#6269) 1 tahun lalu
im2col.cuh ae1f211ce2 cuda : refactor into multiple files (#6269) 1 tahun lalu
mmq.cu bc4bba364f Introduction of CUDA Graphs to LLama.cpp (#6766) 1 tahun lalu
mmq.cuh ae1f211ce2 cuda : refactor into multiple files (#6269) 1 tahun lalu
mmvq.cu bc4bba364f Introduction of CUDA Graphs to LLama.cpp (#6766) 1 tahun lalu
mmvq.cuh ae1f211ce2 cuda : refactor into multiple files (#6269) 1 tahun lalu
norm.cu ae1f211ce2 cuda : refactor into multiple files (#6269) 1 tahun lalu
norm.cuh ae1f211ce2 cuda : refactor into multiple files (#6269) 1 tahun lalu
pad.cu ae1f211ce2 cuda : refactor into multiple files (#6269) 1 tahun lalu
pad.cuh ae1f211ce2 cuda : refactor into multiple files (#6269) 1 tahun lalu
pool2d.cu ae1f211ce2 cuda : refactor into multiple files (#6269) 1 tahun lalu
pool2d.cuh ae1f211ce2 cuda : refactor into multiple files (#6269) 1 tahun lalu
quantize.cu 5dc9dd7152 llama : add Command R Plus support (#6491) 1 tahun lalu
quantize.cuh 5dc9dd7152 llama : add Command R Plus support (#6491) 1 tahun lalu
rope.cu ae1f211ce2 cuda : refactor into multiple files (#6269) 1 tahun lalu
rope.cuh ae1f211ce2 cuda : refactor into multiple files (#6269) 1 tahun lalu
scale.cu bc4bba364f Introduction of CUDA Graphs to LLama.cpp (#6766) 1 tahun lalu
scale.cuh ae1f211ce2 cuda : refactor into multiple files (#6269) 1 tahun lalu
softmax.cu 9cb317f77e ggml : full ALiBi support (#7192) 1 tahun lalu
softmax.cuh ae1f211ce2 cuda : refactor into multiple files (#6269) 1 tahun lalu
sumrows.cu ae1f211ce2 cuda : refactor into multiple files (#6269) 1 tahun lalu
sumrows.cuh ae1f211ce2 cuda : refactor into multiple files (#6269) 1 tahun lalu
tsembd.cu ae1f211ce2 cuda : refactor into multiple files (#6269) 1 tahun lalu
tsembd.cuh ae1f211ce2 cuda : refactor into multiple files (#6269) 1 tahun lalu
unary.cu f5ef34e428 feat: implemented sigmoid function (ggml/806) 1 tahun lalu
unary.cuh f5ef34e428 feat: implemented sigmoid function (ggml/806) 1 tahun lalu
upscale.cu ae1f211ce2 cuda : refactor into multiple files (#6269) 1 tahun lalu
upscale.cuh ae1f211ce2 cuda : refactor into multiple files (#6269) 1 tahun lalu
vecdotq.cuh 55c1b2a3bb IQ1_M: 1.75 bpw quantization (#6302) 1 tahun lalu