Johannes Gäßler 133d99c599 CUDA: deduplicate FlashAttention code (#7352) há 1 ano atrás
..
acc.cu ae1f211ce2 cuda : refactor into multiple files (#6269) há 1 ano atrás
acc.cuh ae1f211ce2 cuda : refactor into multiple files (#6269) há 1 ano atrás
arange.cu ae1f211ce2 cuda : refactor into multiple files (#6269) há 1 ano atrás
arange.cuh ae1f211ce2 cuda : refactor into multiple files (#6269) há 1 ano atrás
argsort.cu 08a0c02060 ggml : mul_mat_id use the same tensor for all the experts (#6387) há 1 ano atrás
argsort.cuh ae1f211ce2 cuda : refactor into multiple files (#6269) há 1 ano atrás
binbcast.cu 0d56246f4b ggml : group all experts in a single ggml_mul_mat_id (#6505) há 1 ano atrás
binbcast.cuh ae1f211ce2 cuda : refactor into multiple files (#6269) há 1 ano atrás
clamp.cu bc4bba364f Introduction of CUDA Graphs to LLama.cpp (#6766) há 1 ano atrás
clamp.cuh ae1f211ce2 cuda : refactor into multiple files (#6269) há 1 ano atrás
common.cuh 133d99c599 CUDA: deduplicate FlashAttention code (#7352) há 1 ano atrás
concat.cu ae1f211ce2 cuda : refactor into multiple files (#6269) há 1 ano atrás
concat.cuh ae1f211ce2 cuda : refactor into multiple files (#6269) há 1 ano atrás
convert.cu bc4bba364f Introduction of CUDA Graphs to LLama.cpp (#6766) há 1 ano atrás
convert.cuh 5dc9dd7152 llama : add Command R Plus support (#6491) há 1 ano atrás
cpy.cu bc4bba364f Introduction of CUDA Graphs to LLama.cpp (#6766) há 1 ano atrás
cpy.cuh bc4bba364f Introduction of CUDA Graphs to LLama.cpp (#6766) há 1 ano atrás
dequantize.cuh 5dc9dd7152 llama : add Command R Plus support (#6491) há 1 ano atrás
diagmask.cu ae1f211ce2 cuda : refactor into multiple files (#6269) há 1 ano atrás
diagmask.cuh ae1f211ce2 cuda : refactor into multiple files (#6269) há 1 ano atrás
dmmv.cu 5dc9dd7152 llama : add Command R Plus support (#6491) há 1 ano atrás
dmmv.cuh d48ccf3ad4 sync : ggml (#6351) há 1 ano atrás
fattn-common.cuh 133d99c599 CUDA: deduplicate FlashAttention code (#7352) há 1 ano atrás
fattn-tile-f16.cu 133d99c599 CUDA: deduplicate FlashAttention code (#7352) há 1 ano atrás
fattn-tile-f16.cuh 0fc1e820a9 CUDA: faster large batch FA without tensor cores (#7314) há 1 ano atrás
fattn-tile-f32.cu 133d99c599 CUDA: deduplicate FlashAttention code (#7352) há 1 ano atrás
fattn-tile-f32.cuh 0fc1e820a9 CUDA: faster large batch FA without tensor cores (#7314) há 1 ano atrás
fattn-vec-f16.cu 133d99c599 CUDA: deduplicate FlashAttention code (#7352) há 1 ano atrás
fattn-vec-f16.cuh dc685be466 CUDA: add FP32 FlashAttention vector kernel (#7188) há 1 ano atrás
fattn-vec-f32.cu 133d99c599 CUDA: deduplicate FlashAttention code (#7352) há 1 ano atrás
fattn-vec-f32.cuh dc685be466 CUDA: add FP32 FlashAttention vector kernel (#7188) há 1 ano atrás
fattn.cu 133d99c599 CUDA: deduplicate FlashAttention code (#7352) há 1 ano atrás
fattn.cuh 9c67c2773d ggml : add Flash Attention (#5021) há 1 ano atrás
getrows.cu ae1f211ce2 cuda : refactor into multiple files (#6269) há 1 ano atrás
getrows.cuh ae1f211ce2 cuda : refactor into multiple files (#6269) há 1 ano atrás
im2col.cu ae1f211ce2 cuda : refactor into multiple files (#6269) há 1 ano atrás
im2col.cuh ae1f211ce2 cuda : refactor into multiple files (#6269) há 1 ano atrás
mmq.cu bc4bba364f Introduction of CUDA Graphs to LLama.cpp (#6766) há 1 ano atrás
mmq.cuh ae1f211ce2 cuda : refactor into multiple files (#6269) há 1 ano atrás
mmvq.cu bc4bba364f Introduction of CUDA Graphs to LLama.cpp (#6766) há 1 ano atrás
mmvq.cuh ae1f211ce2 cuda : refactor into multiple files (#6269) há 1 ano atrás
norm.cu ae1f211ce2 cuda : refactor into multiple files (#6269) há 1 ano atrás
norm.cuh ae1f211ce2 cuda : refactor into multiple files (#6269) há 1 ano atrás
pad.cu ae1f211ce2 cuda : refactor into multiple files (#6269) há 1 ano atrás
pad.cuh ae1f211ce2 cuda : refactor into multiple files (#6269) há 1 ano atrás
pool2d.cu ae1f211ce2 cuda : refactor into multiple files (#6269) há 1 ano atrás
pool2d.cuh ae1f211ce2 cuda : refactor into multiple files (#6269) há 1 ano atrás
quantize.cu 5dc9dd7152 llama : add Command R Plus support (#6491) há 1 ano atrás
quantize.cuh 5dc9dd7152 llama : add Command R Plus support (#6491) há 1 ano atrás
rope.cu ae1f211ce2 cuda : refactor into multiple files (#6269) há 1 ano atrás
rope.cuh ae1f211ce2 cuda : refactor into multiple files (#6269) há 1 ano atrás
scale.cu bc4bba364f Introduction of CUDA Graphs to LLama.cpp (#6766) há 1 ano atrás
scale.cuh ae1f211ce2 cuda : refactor into multiple files (#6269) há 1 ano atrás
softmax.cu 133d99c599 CUDA: deduplicate FlashAttention code (#7352) há 1 ano atrás
softmax.cuh ae1f211ce2 cuda : refactor into multiple files (#6269) há 1 ano atrás
sumrows.cu ae1f211ce2 cuda : refactor into multiple files (#6269) há 1 ano atrás
sumrows.cuh ae1f211ce2 cuda : refactor into multiple files (#6269) há 1 ano atrás
tsembd.cu ae1f211ce2 cuda : refactor into multiple files (#6269) há 1 ano atrás
tsembd.cuh ae1f211ce2 cuda : refactor into multiple files (#6269) há 1 ano atrás
unary.cu f5ef34e428 feat: implemented sigmoid function (ggml/806) há 1 ano atrás
unary.cuh f5ef34e428 feat: implemented sigmoid function (ggml/806) há 1 ano atrás
upscale.cu 48aa8fd1f2 ggml : add `ggml_upscale_ext` (ggml/814) há 1 ano atrás
upscale.cuh ae1f211ce2 cuda : refactor into multiple files (#6269) há 1 ano atrás
vecdotq.cuh 55c1b2a3bb IQ1_M: 1.75 bpw quantization (#6302) há 1 ano atrás