 Xuan Son Nguyen
|
91c36c269b
server : (web ui) Various improvements, now use vite as bundler (#10599)
|
1 год назад |
 Georgi Gerganov
|
1cd3df46bd
scripts : remove amx sync
|
1 год назад |
|
Georgi Gerganov
|
c505471857
sync : ggml
|
1 год назад |
 mahorozte
|
e9e661bd59
CUDA: remove unnecessary warp reduce in FA (ggml/1032)
|
1 год назад |
 PAB
|
efb6ae9630
feat: add `GGML_UNARY_OP_ARGMAX` Metal kernel (ggml/1019)
|
1 год назад |
|
PAB
|
667d70d170
metal : add `GGML_OP_CONV_TRANSPOSE_1D` kernels (ggml/1026)
|
1 год назад |
|
Xuan Son Nguyen
|
3b4f2e33e2
llama : add missing LLAMA_API for llama_chat_builtin_templates (#10636)
|
1 год назад |
 Nikolaos Pothitos
|
82bca2257b
readme : add option, update default value, fix formatting (#10271)
|
1 год назад |
|
Georgi Gerganov
|
0115df2f65
metal : small-batch mat-mul kernels (#10581)
|
1 год назад |
|
Georgi Gerganov
|
515d4e5372
github : minify link [no ci] (revert)
|
1 год назад |
|
Georgi Gerganov
|
844e2e1fee
github : minify link [no ci]
|
1 год назад |
|
Georgi Gerganov
|
70b98fadbc
server : fix default draft model parameters (#10586)
|
1 год назад |
|
Xuan Son Nguyen
|
642330ac7c
llama : add enum for built-in chat templates (#10623)
|
1 год назад |
|
Georgi Gerganov
|
8648c52101
make : deprecate (#10514)
|
1 год назад |
 haopeng
|
64ed2091b2
server: Add "tokens per second" information in the backend (#10548)
|
1 год назад |
 Akarshan Biswas
|
991f8aabee
SYCL: Fix and switch to GGML_LOG system instead of fprintf (#10579)
|
1 год назад |
|
Georgi Gerganov
|
4cb003dd8d
contrib : refresh (#10593)
|
1 год назад |
 Juk Armstrong
|
917786f43d
Add `mistral-v1`, `mistral-v3`, `mistral-v3-tekken` and `mistral-v7` chat template types (#10572)
|
1 год назад |
|
Georgi Gerganov
|
5e1ed95583
grammars : add English-only grammar (#10612)
|
1 год назад |
 Wang Qin
|
5c7a5aa0c3
ci: add error handling for Python venv creation in run.sh (#10608)
|
1 год назад |
 Diego Devesa
|
3420909dff
ggml : automatic selection of best CPU backend (#10606)
|
1 год назад |
 alek3y
|
86dc11c5bc
server : bind to any port when specified (#10590)
|
1 год назад |
|
Georgi Gerganov
|
6acce39710
readme : update the usage section with examples (#10596)
|
1 год назад |
|
Wang Qin
|
43957ef203
build: update Makefile comments for C++ version change (#10598)
|
1 год назад |
 Adrien Gallouët
|
0c39f44d70
ggml-cpu: replace AArch64 NEON assembly with intrinsics in ggml_gemv_q4_0_4x4_q8_0() (#10567)
|
1 год назад |
|
Georgi Gerganov
|
3e0ba0e604
readme : remove old badge
|
1 год назад |
|
Georgi Gerganov
|
abadba05be
readme : refresh (#10587)
|
1 год назад |
 Eve
|
0533e7fb38
vulkan: Dynamic subgroup size support for Q6_K mat_vec (#10536)
|
1 год назад |
|
Diego Devesa
|
7cc2d2c889
ggml : move AMX to the CPU backend (#10570)
|
1 год назад |
|
Xuan Son Nguyen
|
b782e5c7d4
server : add more test cases (#10569)
|
1 год назад |
