 Jose Maldonado
|
73643f5fb1
gitignore : changes for Poetry users + chat examples (#2284)
|
před 2 roky |
 Georgi Gerganov
|
a814d04f81
make : fix indentation
|
před 2 roky |
 Sky Yan
|
42c7c2e2e9
make : support customized LLAMA_CUDA_NVCC and LLAMA_CUDA_CCBIN (#2275)
|
před 2 roky |
 Jiří Podivín
|
54e3bc76fe
make : add new target for test binaries (#2244)
|
před 2 roky |
 Przemysław Pawełczyk
|
9cf022a188
make : fix embdinput library and server examples building on MSYS2 (#2235)
|
před 2 roky |
 wzy
|
7dabc66f3c
make : use pkg-config for OpenBLAS (#2222)
|
před 2 roky |
 James Reynolds
|
229aab351c
make : fix combination of LLAMA_METAL and LLAMA_MPI (#2208)
|
před 2 roky |
 Evan Miller
|
5656d10599
mpi : add support for distributed inference via MPI (#2099)
|
před 2 roky |
 dylan
|
84525e7962
docker : add support for CUDA in docker (#1461)
|
před 2 roky |
 Johannes Gäßler
|
924dd22fd3
Quantized dot products for CUDA mul mat vec (#2067)
|
před 2 roky |
 Henri Vasserman
|
acc111caf9
Allow old Make to build server. (#2098)
|
před 2 roky |
 ZhouYuChen
|
23c7c6fc91
Update Makefile: clean simple (#2097)
|
před 2 roky |
 ningshanwutuobang
|
cfa0750bc9
llama : support input embeddings directly (#1910)
|
před 2 roky |
 Kawrakow
|
6769e944c7
k-quants : support for super-block size of 64 (#2001)
|
před 2 roky |
|
Johannes Gäßler
|
16b9cd1939
Convert vector to f16 for dequantize mul mat vec (#1913)
|
před 2 roky |
|
Georgi Gerganov
|
ce2c7d72e2
metal : handle buffers larger than device's maxBufferLength (#1826)
|
před 2 roky |
|
Georgi Gerganov
|
b2416493ab
make : do not print help for simple example
|
před 2 roky |
 DaniAndTheWeb
|
86c7571864
make : update for latest Arch (#1701)
|
před 2 roky |
 Randall Fitzgerald
|
794db3e7b9
Server Example Refactor and Improvements (#1570)
|
před 2 roky |
 SuperUserNameMan
|
b41b4cad6f
examples : add "simple" (#1840)
|
před 2 roky |
|
Kawrakow
|
3d01122610
CUDA : faster k-quant dot kernels (#1862)
|
před 2 roky |
 daboe01
|
cf267d1c71
make : add train-text-from-scratch (#1850)
|
před 2 roky |
 sandyiscool
|
37e257c48e
make : clean *.so files (#1857)
|
před 2 roky |
 Kerfuffle
|
74d4cfa343
Allow "quantizing" to f16 and f32 (#1787)
|
před 2 roky |
 rankaiyx
|
555275a693
make : add SSSE3 compilation use case (#1659)
|
před 2 roky |
|
Georgi Gerganov
|
5c64a0952e
k-quants : allow to optionally disable at compile time (#1734)
|
před 2 roky |
|
Georgi Gerganov
|
2d43387daf
ggml : fix builds, add ggml-quants-k.o (close #1712, close #1710)
|
před 2 roky |
|
Kawrakow
|
99009e72f8
ggml : add SOTA 2,3,4,5,6 bit k-quantizations (#1684)
|
před 2 roky |
|
Georgi Gerganov
|
ecb217db4f
llama : Metal inference (#1642)
|
před 2 roky |
|
Johannes Gäßler
|
3b126f654f
LLAMA_DEBUG adds debug symbols (#1617)
|
před 2 roky |
