 Howard Su
|
ff5d58faec
Fix compile error on Windows CUDA (#2207)
|
hace 2 años |
 Bodo Graumann
|
b782422a3e
devops : add missing quotes to bash script (#2193)
|
hace 2 años |
 Shouzheng Liu
|
1cbf561466
metal : new q4_0 matrix-vector kernel (#2188)
|
hace 2 años |
 Georgi Gerganov
|
975221e954
ggml : broadcast mul_mat + conv batch support (#2199)
|
hace 2 años |
|
Georgi Gerganov
|
4523d10d0c
ggml : add ggml_pool_1d and ggml_pool_2d
|
hace 2 años |
|
Georgi Gerganov
|
680e6f9177
cuda : add gelu support
|
hace 2 años |
|
Howard Su
|
4e7464ef88
FP16 is supported in CM=6.0 (#2177)
|
hace 2 años |
 Johannes Gäßler
|
2b5eb72e10
Fixed __dp4a compute capability: 6.0 -> 6.1 (#2189)
|
hace 2 años |
|
Georgi Gerganov
|
f7d278faf3
ggml : revert CUDA broadcast changes from #2183 (#2191)
|
hace 2 años |
|
Georgi Gerganov
|
20d7740a9b
ggml : sync (abort callback, mul / add broadcast, fix alibi) (#2183)
|
hace 2 años |
 Spencer Sutton
|
5bf2a27718
ggml : remove src0 and src1 from ggml_tensor and rename opt to src (#2178)
|
hace 2 años |
 Bach Le
|
c9c74b4e3f
llama : add classifier-free guidance (#2135)
|
hace 2 años |
 Jinwoo Jeong
|
3ec7e596b2
docker : add '--server' option (#2174)
|
hace 2 años |
 Chad Brewbaker
|
917831c63a
readme : fix zig build instructions (#2171)
|
hace 2 años |
|
Howard Su
|
2347463201
Support using mmap when applying LoRA (#2095)
|
hace 2 años |
 LostRuins
|
bbef28218f
Possible solution to allow K-quants on models with n_vocab!=32000 (#2148)
|
hace 2 años |
 Evan Miller
|
5656d10599
mpi : add support for distributed inference via MPI (#2099)
|
hace 2 años |
 oobabooga
|
1d16309969
llama : remove "first token must be BOS" restriction (#2153)
|
hace 2 años |
 Nigel Bosch
|
db4047ad5c
main : escape prompt prefix/suffix (#2151)
|
hace 2 años |
 JackJollimore
|
18780e0a5e
readme : update Termux instructions (#2147)
|
hace 2 años |
 clyang
|
3bbc1a11f0
ggml : fix buidling with Intel MKL but ask for "cblas.h" issue (#2104) (#2115)
|
hace 2 años |
 rankaiyx
|
2492a53fd0
readme : add more docs indexes (#2127)
|
hace 2 años |
|
Johannes Gäßler
|
64639555ff
Fixed OpenLLaMA 3b CUDA mul_mat_vec_q (#2144)
|
hace 2 años |
|
Johannes Gäßler
|
061f5f8d21
CUDA: add __restrict__ to mul mat vec kernels (#2140)
|
hace 2 años |
 dylan
|
84525e7962
docker : add support for CUDA in docker (#1461)
|
hace 2 años |
|
Georgi Gerganov
|
a7e20edf22
ci : switch threads to 1 (#2138)
|
hace 2 años |
 Qingyou Meng
|
1d656d6360
ggml : change ggml_graph_compute() API to not require context (#1999)
|
hace 2 años |
|
Georgi Gerganov
|
7242140283
ggml : remove sched_yield() call in ggml_graph_compute_thread() (#2134)
|
hace 2 años |
 Aarni Koskela
|
3e08ae99ce
convert.py: add mapping for safetensors bf16 (#1598)
|
hace 2 años |
|
Howard Su
|
481f793acc
Fix opencl by wrap #if-else-endif with \n (#2086)
|
hace 2 años |
