 Johannes Gäßler
|
9241c3a2ac
Apply min_p to unsorted tokens (#5115)
|
2 年 前 |
|
Johannes Gäßler
|
b2b2bf988c
Tests for min_p, sampling queue (#5147)
|
2 年 前 |
 Marcus Dunn
|
af4980bfed
readme : add link to rust bindings (#5148)
|
2 年 前 |
 sharpHL
|
f2e69d28c0
llama : add support for Orion-14B (#5118)
|
2 年 前 |
 Kyle Mistele
|
39baaf55a1
docker : add server-first container images (#5157)
|
2 年 前 |
 John
|
6db2b41a76
llava : support for Yi-VL and fix for mobileVLM (#5093)
|
2 年 前 |
 Georgi Gerganov
|
753eafed0e
sync : ggml
|
2 年 前 |
 Judd
|
e976423005
ggml : check ggml_add src1 type (ggml/708)
|
2 年 前 |
 Michael Klimenko
|
35a2ee9143
Remove unused data and add fixes (#5154)
|
2 年 前 |
 Maximilian Winter
|
ec903c0341
server : add self-extend support (#5104)
|
2 年 前 |
 0cc4m
|
a1d6df129b
Add OpenCL add kernel (#5151)
|
2 年 前 |
 Jared Van Bortel
|
bbe7c56c99
cmake : pass CPU architecture flags to nvcc (#5146)
|
2 年 前 |
 slaren
|
62fead3ea0
cuda : fix tensor size calculation for non-split buffer (#5145)
|
2 年 前 |
|
slaren
|
15b4538ff2
ggml-alloc : add 10% margin to the buffer sizes (#5149)
|
2 年 前 |
 snadampal
|
7032f4f634
ggml : update softmax n_task calculation (#5126)
|
2 年 前 |
|
Georgi Gerganov
|
5f1925a8ce
scripts : move run-with-preset.py from root to scripts folder
|
2 年 前 |
|
Georgi Gerganov
|
3b7c914de2
tests : gitignore test-c.o
|
2 年 前 |
 Xuan Son Nguyen
|
48c857aa10
server : refactored the task processing logic (#5065)
|
2 年 前 |
 crasm
|
413e7b0559
ci : add model tests + script wrapper (#4586)
|
2 年 前 |
 Paul Tsochantaris
|
6dd3c28c9c
metal : remove unused `n_buffers` and `buffers` (#5129)
|
2 年 前 |
 Riceball LEE
|
38b431de23
gguf : fix "general.alignment" type in gguf_reader.py (#5136)
|
2 年 前 |
|
Georgi Gerganov
|
aad0b01d73
readme : update hot topics
|
2 年 前 |
 Kawrakow
|
1182cf4d4f
Another bucket sort (#5109)
|
2 年 前 |
 XiaotaoChen
|
fe54033b69
readme : add MobileVLM 1.7B/3B to the supported models list (#5107)
|
2 年 前 |
 l3utterfly
|
5eaf9964fc
llama : dynamic temperature sampling (#4972)
|
2 年 前 |
|
Jared Van Bortel
|
d292f4f204
examples : make pydantic scripts pass mypy and support py3.8 (#5099)
|
2 年 前 |
 Valentin Konovalov
|
256d1bb0dd
android : use release cmake build type by default (#5123)
|
2 年 前 |
|
Kawrakow
|
faa3526a1e
Fix Q3_K_XS for MoE models (#5113)
|
2 年 前 |
|
Georgi Gerganov
|
ddc5a5033f
metal : show compile log messages
|
2 年 前 |
 Engininja2
|
cd4fddb29f
cuda : fix 2-bit quants on amd hip (#5105)
|
2 年 前 |
