 Eve
|
a7fac013cf
ci : use intel sde when ci cpu doesn't support avx512 (#3949)
|
2 роки тому |
 slaren
|
48ade94538
cuda : revert CUDA pool stuff (#3944)
|
2 роки тому |
 Kerfuffle
|
f28af0d81a
gguf-py: Support 01.AI Yi models (#3943)
|
2 роки тому |
 Peter Sugihara
|
d9b33fe95b
metal : round up to 16 to fix MTLDebugComputeCommandEncoder assertion (#3938)
|
2 роки тому |
 Xiao-Yong Jin
|
5ba3746171
ggml-metal: fix yarn rope (#3937)
|
2 роки тому |
|
slaren
|
abb77e7319
ggml-cuda : move row numbers to x grid dim in mmv kernels (#3921)
|
2 роки тому |
 Georgi Gerganov
|
8f961abdc4
speculative : change default p_accept to 0.5 + CLI args (#3919)
|
2 роки тому |
|
Georgi Gerganov
|
05816027d6
common : YAYF (yet another YARN fix) (#3925)
|
2 роки тому |
 cebtenzzre
|
3fdbe6b66b
llama : change yarn_ext_factor placeholder to -1 (#3922)
|
2 роки тому |
|
Kerfuffle
|
629f917cd6
cuda : add ROCM aliases for CUDA pool stuff (#3918)
|
2 роки тому |
 Andrei
|
51b2fc11f7
cmake : fix relative path to git submodule index (#3915)
|
2 роки тому |
|
Georgi Gerganov
|
224e7d5b14
readme : add notice about #3912
|
2 роки тому |
|
Georgi Gerganov
|
c7743fe1c1
cuda : fix const ptrs warning causing ROCm build issues (#3913)
|
2 роки тому |
 Oleksii Maryshchenko
|
d6069051de
cuda : use CUDA memory pool with async memory allocation/deallocation when available (#3903)
|
2 роки тому |
|
Georgi Gerganov
|
4ff1046d75
gguf : print error for GGUFv1 files (#3908)
|
2 роки тому |
|
slaren
|
21958bb393
cmake : disable LLAMA_NATIVE by default (#3906)
|
2 роки тому |
|
Georgi Gerganov
|
2756c4fbff
gguf : remove special-case code for GGUFv1 (#3901)
|
2 роки тому |
|
Georgi Gerganov
|
1efae9b7dc
llm : prevent from 1-D tensors being GPU split (#3697)
|
2 роки тому |
|
cebtenzzre
|
b12fa0d1c1
build : link against build info instead of compiling against it (#3879)
|
2 роки тому |
|
Georgi Gerganov
|
4d719a6d4e
cuda : check if this fixes Pascal card regression (#3882)
|
2 роки тому |
|
Georgi Gerganov
|
183b3fac6c
metal : fix build errors and kernel sig after #2268 (#3898)
|
2 роки тому |
|
cebtenzzre
|
2fffa0d61f
cuda : fix RoPE after #2268 (#3897)
|
2 роки тому |
|
cebtenzzre
|
0eb332a10f
llama : fix llama_context_default_params after #2268 (#3893)
|
2 роки тому |
|
slaren
|
d02e98cde0
ggml-cuda : compute ptrs for cublasGemmBatchedEx in a kernel (#3891)
|
2 роки тому |
|
cebtenzzre
|
898aeca90a
llama : implement YaRN RoPE scaling (#2268)
|
2 роки тому |
|
Georgi Gerganov
|
c43c2da8af
llm : fix llm_build_kqv taking unused tensor (benign, #3837)
|
2 роки тому |
|
Georgi Gerganov
|
523e49b111
llm : fix falcon norm after refactoring (#3837)
|
2 роки тому |
|
Georgi Gerganov
|
e16b9fa4ba
metal : multi-simd softmax (#3710)
|
2 роки тому |
|
Georgi Gerganov
|
ff8f9a88da
common : minor (#3715)
|
2 роки тому |
|
Georgi Gerganov
|
50337961a6
llm : add llm_build_context (#3881)
|
2 роки тому |
