 Georgi Gerganov
|
d48c88cbd5
ggml : remove ggml_flash_attn and ggml_flash_ff (#7463)
|
hai 1 ano |
|
Georgi Gerganov
|
e84b71c2c6
ggml : drop support for QK_K=64 (#7473)
|
hai 1 ano |
 0cc4m
|
1b1e27cb49
Update vulkan rope implementation to support frequency factors (#7475)
|
hai 1 ano |
|
Georgi Gerganov
|
fbf777d2b9
main : minor (#7462)
|
hai 1 ano |
 Johannes Gäßler
|
cd93a28cb1
CUDA: fix FA out-of-bounds reads (#7479)
|
hai 1 ano |
 HanishKVC
|
1e374365d1
SimpleChat: a simple and dumb web front end for testing /chat/completions and /completions end points and try chat (#7350)
|
hai 1 ano |
|
Georgi Gerganov
|
197ff91462
build : remove zig (#7471)
|
hai 1 ano |
|
Georgi Gerganov
|
6ff13987ad
common : normalize naming style (#7462)
|
hai 1 ano |
|
Johannes Gäßler
|
38c03478a3
CUDA: fix FA out-of-bounds writes (#7465)
|
hai 1 ano |
 slaren
|
b18532a4ef
phi3 : duplicate rope factors in each layer (#7447)
|
hai 1 ano |
 k.h.lai
|
fcda1128bc
vulkan: add workaround for iterator boundary check to fix clang-cl debug build (#7426)
|
hai 1 ano |
 Justine Tunney
|
03d8900ebe
llama : add missing model type names (#7445)
|
hai 1 ano |
|
Georgi Gerganov
|
9b3d833189
cuda : fix compile warning (#7454)
|
hai 1 ano |
|
Johannes Gäßler
|
95fb0aefab
CUDA: remove incorrect precision check (#7454)
|
hai 1 ano |
|
Georgi Gerganov
|
3e5faa8503
cuda : fix rope + add tests (#7452)
|
hai 1 ano |
 liuwei-git
|
201cc11afa
llama : add phi3 128K model support (#7225)
|
hai 1 ano |
|
Georgi Gerganov
|
6369bf0433
metal : handle F16 inf values, fix FA partial offload (#7434)
|
hai 1 ano |
 Olivier Chafik
|
e402de364b
`grammars`: fix resampling logic regression (#7424)
|
hai 1 ano |
|
Johannes Gäßler
|
fcf6538ba6
CUDA: fix unused warning in mmq.cu (#7442)
|
hai 1 ano |
|
Georgi Gerganov
|
c3f8d58356
tests : test-tokenizer-0.sh print more info (#7402)
|
hai 1 ano |
 Amir
|
11474e756d
examples: cache hf model when --model not provided (#7353)
|
hai 1 ano |
|
Johannes Gäßler
|
d8ee902227
CUDA: deduplicate mmq code (#7397)
|
hai 1 ano |
 jaime-m-p
|
d7e852c1bc
Tokenizer SPM fixes for phi-3 and llama-spm (bugfix) (#7425)
|
hai 1 ano |
|
jaime-m-p
|
917dc8cfa6
Tokenizer SPM fixes for phi-3 and llama-spm (#7375)
|
hai 1 ano |
|
Georgi Gerganov
|
fabf30b4c4
llama : remove Persimmon (#7408)
|
hai 1 ano |
|
Johannes Gäßler
|
20385cebcc
perplexity: update README FP16 results [no ci] (#7413)
|
hai 1 ano |
 Radoslav Gerganov
|
db10f01310
rpc : track allocated buffers (#7411)
|
hai 1 ano |
|
Georgi Gerganov
|
3bc10cb485
server : fix temperature + disable some tests (#7409)
|
hai 1 ano |
 AidanBeltonS
|
6bf9b66fa3
[SYCL] Update SYCL upscale operation (#7321)
|
hai 1 ano |
 Bingan
|
26cd4237bc
Update README.md (#7410)
|
hai 1 ano |
