 Xuan Son Nguyen
|
6e7d133a5f
server : refactor multitask handling (#9274)
|
hai 1 ano |
 Guoliang Hua
|
b60074f1c2
llama-cli : remove duplicated log message (#9275)
|
hai 1 ano |
 Tushar
|
9c1ba55733
build(nix): Package gguf-py (#5664)
|
hai 1 ano |
 Georgi Gerganov
|
c6d4cb4655
llama : minor style
|
hai 1 ano |
 Molly Sophia
|
8f1d81a0b6
llama : support RWKV v6 models (#8980)
|
hai 1 ano |
 Echo Nolan
|
a47667cff4
nix: fix CUDA build - replace deprecated autoAddOpenGLRunpathHook
|
hai 1 ano |
 Srihari-mcw
|
ea5d7478b1
sgemm : improved Q4_0 and Q8_0 performance via 4xN and Mx4 gemm (#8908)
|
hai 1 ano |
 Daniel Bevenius
|
49271efbaf
llama : fix typo in xcda_array_view comment [no ci] (#9132)
|
hai 1 ano |
 Sutou Kouhei
|
0ab30f8d82
llama : fix llama_split_mode enum values in main_gpu document (#9057)
|
hai 1 ano |
 蕭澧邦
|
cddae4884c
Correct typo run_llama2.sh > run-llama2.sh (#9149)
|
hai 1 ano |
 tc-mb
|
7ea8d80d53
llava : the function "clip" should be int (#9237)
|
hai 1 ano |
 Faisal Zaghloul
|
42c76d1358
Threadpool: take 2 (#8672)
|
hai 1 ano |
 Jan Boon
|
9f7d4bcf5c
server : fix crash when error handler dumps invalid utf-8 json (#9195)
|
hai 1 ano |
|
Georgi Gerganov
|
1d1ccce676
flake.lock: Update (#9162)
|
hai 1 ano |
 slaren
|
9fe94ccac9
docker : build images only once (#9225)
|
hai 1 ano |
|
slaren
|
66b039a501
docker : update CUDA images (#9213)
|
hai 1 ano |
|
Georgi Gerganov
|
20f1789dfb
vulkan : fix build (#0)
|
hai 1 ano |
|
Georgi Gerganov
|
231cff5f6f
sync : ggml
|
hai 1 ano |
 Xie Yanbo
|
3246fe84d7
Fix minicpm example directory (#9111)
|
hai 1 ano |
 compilade
|
78eb487bb0
llama : fix qs.n_attention_wv for DeepSeek-V2 (#9156)
|
hai 1 ano |
|
Xuan Son Nguyen
|
a77feb5d71
server : add some missing env variables (#9116)
|
hai 1 ano |
 CausalLM
|
2e59d61c1b
llama : fix ChatGLM4 wrong shape (#9194)
|
hai 1 ano |
 Carsten Kragelund Jørgensen
|
75e1dbbaab
llama : fix llama3.1 rope_freqs not respecting custom head_dim (#9141)
|
hai 1 ano |
 arch-btw
|
ad76569f8e
common : Update stb_image.h to latest version (#9161)
|
hai 1 ano |
|
slaren
|
7d787ed96c
ggml : do not crash when quantizing q4_x_x with an imatrix (#9192)
|
hai 1 ano |
|
Georgi Gerganov
|
06658ad7c3
metal : separate scale and mask from QKT in FA kernel (#9189)
|
hai 1 ano |
|
Georgi Gerganov
|
fc18425b6a
ggml : add SSM Metal kernels (#8546)
|
hai 1 ano |
|
Georgi Gerganov
|
879275ac98
tests : fix compile warnings for unreachable code (#9185)
|
hai 1 ano |
|
Georgi Gerganov
|
7a3df798fc
ci : add VULKAN support to ggml-ci (#9055)
|
hai 1 ano |
|
Georgi Gerganov
|
e5edb210cd
server : update deps (#9183)
|
hai 1 ano |
