 Xuan Son Nguyen
|
5896c65232
server : add OAI compat for /v1/completions (#10974)
|
1 tahun lalu |
 ymcki
|
bc7b1f8632
convert : fix Llama-3_1-Nemotron-51B rope settings (#11008)
|
1 tahun lalu |
 Peter
|
6e1531aca5
common, examples, ggml : fix MSYS2 GCC compiler errors and warnings when building with LLAMA_CURL=ON and GGML_OPENCL=ON (#11013)
|
1 tahun lalu |
 Jeff Bolz
|
716bd6dec3
vulkan: optimize mul_mat for small values of N (#10991)
|
1 tahun lalu |
 ag2s20150909
|
c250ecb315
android : fix llama_batch free (#11014)
|
1 tahun lalu |
|
Jeff Bolz
|
a813badbbd
vulkan: im2col and matmul optimizations for stable diffusion (#10942)
|
1 tahun lalu |
|
Jeff Bolz
|
fdd2188912
vulkan: Use push constant offset to handle misaligned descriptors (#10987)
|
1 tahun lalu |
 Isaac McFadyen
|
f865ea149d
server: added more docs for response_fields field (#10995)
|
1 tahun lalu |
 Alexey Parfenov
|
16cdce7b68
server : fix token duplication when streaming with stop strings (#10997)
|
1 tahun lalu |
 Eve
|
d79d8f39b4
vulkan: multi-row k quants (#10846)
|
1 tahun lalu |
|
Peter
|
d283d02bf2
examples, ggml : fix GCC compiler warnings (#10983)
|
1 tahun lalu |
 Reza Kakhki
|
9ba399dfa7
server : add support for "encoding_format": "base64" to the */embeddings endpoints (#10967)
|
1 tahun lalu |
 Djip007
|
2cd43f4900
ggml : more perfo with llamafile tinyblas on x86_64 (#10714)
|
1 tahun lalu |
 NeverLucky
|
09fe2e7613
server: allow filtering llama server response fields (#10940)
|
1 tahun lalu |
 Georgi Gerganov
|
30caac3a68
llama : the WPM vocabs use the CLS token as BOS (#10930)
|
1 tahun lalu |
 Diego Devesa
|
60cfa728e2
ggml : use wstring for backend search paths (#10960)
|
1 tahun lalu |
|
Diego Devesa
|
3327bb0f8d
ggml : fix arm enabled features check (#10961)
|
1 tahun lalu |
|
Diego Devesa
|
32d6ee6385
ggml : fix const usage in SSE path (#10962)
|
1 tahun lalu |
|
Xuan Son Nguyen
|
14b699ecde
server : fix missing model id in /model endpoint (#10957)
|
1 tahun lalu |
|
Xuan Son Nguyen
|
485dc01214
server : add system_fingerprint to chat/completion (#10917)
|
1 tahun lalu |
 Radoslav Gerganov
|
86bf31cfe6
rpc-server : add support for the SYCL backend (#10934)
|
1 tahun lalu |
 Yun Dou
|
b92a14a841
llama : support InfiniAI Megrez 3b (#10893)
|
1 tahun lalu |
|
ymcki
|
6f0c9e034b
llama : support for Llama-3_1-Nemotron-51B (#10669)
|
1 tahun lalu |
 Eric Curtin
|
dab76c92cc
llama-run : include temperature option (#10899)
|
1 tahun lalu |
 yuri@FreeBSD
|
7024d59e6a
ggml : fix run-time on FreeBSD in get_executable_path() (#10948)
|
1 tahun lalu |
 Rudi Servo
|
7c0e285858
devops : add docker-multi-stage builds (#10832)
|
1 tahun lalu |
 Billel Mokeddem
|
7ae33a616f
llama : add Falcon3 support (#10883)
|
1 tahun lalu |
|
Jeff Bolz
|
ebdee9478c
vulkan: build fixes for 32b (#10927)
|
1 tahun lalu |
|
Georgi Gerganov
|
5cd85b5e00
convert : add BertForMaskedLM (#10919)
|
1 tahun lalu |
|
Jeff Bolz
|
a91a41364b
vulkan: optimize coopmat2 dequant functions (#10855)
|
1 tahun lalu |
