 rankaiyx
|
555275a693
make : add SSSE3 compilation use case (#1659)
|
преди 2 години |
 Robert Sung-wook Shin
|
98ed165574
OpenCL: Add release memory (#1741)
|
преди 2 години |
 Johannes Gäßler
|
ae9663f188
Windows nvcc workaround (#1753)
|
преди 2 години |
 Georgi Gerganov
|
b33dee282f
metal : fix build "tanhf" -> "tanh"
|
преди 2 години |
 AT
|
92f44ff7f7
metal : add GELU implementation (#1770)
|
преди 2 години |
 Kawrakow
|
245fc3c37d
metal : faster q4_0 (#1775)
|
преди 2 години |
|
Kawrakow
|
72ff5282bf
metal : add Q2_K implementation (#1762)
|
преди 2 години |
|
Georgi Gerganov
|
0bf7cf1b29
Revert "ggml : load data into int8x16x4_t using vld4q_s8 on arm64 (#1738)"
|
преди 2 години |
 le.chang
|
8432d4d9f7
ggml : load data into int8x16x4_t using vld4q_s8 on arm64 (#1738)
|
преди 2 години |
|
Kawrakow
|
0f291e1f65
metal : Q6_K implementation (#1752)
|
преди 2 години |
 qingfengfenga
|
8fc8179919
Add llama.cpp docker support for non-latin languages (#1673)
|
преди 2 години |
 Steven Roussey
|
b50b570ed9
ggml : fix fprintf warnings (#1720)
|
преди 2 години |
|
Georgi Gerganov
|
53aba3f393
clang-tidy : restore dot file from accidental deletion
|
преди 2 години |
|
Kawrakow
|
4161bdc04d
metal : add Q4_K implementation (#1733)
|
преди 2 години |
 johnson442
|
0035858273
k-quants : add missing compile definition to CMakeLists (#1748)
|
преди 2 години |
|
Georgi Gerganov
|
5c64a0952e
k-quants : allow to optionally disable at compile time (#1734)
|
преди 2 години |
 jacobi petrucciani
|
5b57a5b726
flake : update to support metal on m1/m2 (#1724)
|
преди 2 години |
|
Georgi Gerganov
|
4dc62c545d
readme : add June roadmap
|
преди 2 години |
 Willy Tarreau
|
35a84916fb
main: add the possibility to open the prompt cache read-only (#1640)
|
преди 2 години |
|
Georgi Gerganov
|
2d7bf110ed
llama : fix vram_scratch var
|
преди 2 години |
|
Georgi Gerganov
|
2a4e41a086
llama : fix compile warnings
|
преди 2 години |
|
Johannes Gäßler
|
17366df842
Multi GPU support, CUDA refactor, CUDA scratch buffer (#1703)
|
преди 2 години |
|
Georgi Gerganov
|
44f906e853
metal : add f16 support
|
преди 2 години |
 LostRuins
|
d5b111f53d
Clblast fixes + enhancements to save VRAM and offload more layers (#1675)
|
преди 2 години |
|
Georgi Gerganov
|
2d43387daf
ggml : fix builds, add ggml-quants-k.o (close #1712, close #1710)
|
преди 2 години |
|
Georgi Gerganov
|
7ad7750c5c
gitignore : add .clang-tidy
|
преди 2 години |
|
Georgi Gerganov
|
7a74dee6b4
llama : temporary disable Q6_K output quantization (#1711)
|
преди 2 години |
 Spencer Sutton
|
590250f7a9
metal : add checks for buffer size (#1706)
|
преди 2 години |
 Yuval Peled
|
f4c55d3bd7
docs : add performance troubleshoot + example benchmark documentation (#1674)
|
преди 2 години |
 Foul-Tarnished
|
f1465624c2
readme : fix typo (#1700)
|
преди 2 години |
