 Markus Tavenrath
|
6a2f0b3474
Implement non-mapped async IO for CUDA on Windows. (#7896)
|
hai 1 ano |
 Georgi Gerganov
|
21be9cab94
rpc : fix load/store misaligned addresses (#7948)
|
hai 1 ano |
 Brian
|
006167aaf6
gguf-dump.py: add --markdown dump output (#7853)
|
hai 1 ano |
 Neo Zhang
|
df68d4fa5d
[SYCL] Update README-sycl.md for Chapter "Recommended release" and "News" (#7946)
|
hai 1 ano |
 Calvin Laurenson
|
43b35e38ba
Add support for sqrt on CUDA (#7953)
|
hai 1 ano |
|
Georgi Gerganov
|
19b7a836f6
cuda : fix bounds check for src0 rows in MMVQ kernel (whisper/2231)
|
hai 1 ano |
 Hong Bo PENG
|
b5fcf8ef5c
ggml : fix and optimize ppc64le (ggml/849)
|
hai 1 ano |
 Daniel Bevenius
|
398105ff43
ggml : remove duplicate include of ggml-common.h (ggml/853)
|
hai 1 ano |
|
Georgi Gerganov
|
bc6c457fa3
flake.lock: Update (#7951)
|
hai 1 ano |
|
Georgi Gerganov
|
52399254b3
unicode : avoid char32_t (#7957)
|
hai 1 ano |
 hopkins385
|
6fe1c62741
readme : update UI list [no ci] (#7958)
|
hai 1 ano |
|
Georgi Gerganov
|
cddaf028ad
ggml : fix handling of zero blocks in IQ quants (#7955)
|
hai 1 ano |
|
Georgi Gerganov
|
c8a82194a8
github : update pr template
|
hai 1 ano |
 0cc4m
|
7c7836d9d4
Vulkan Shader Refactor, Memory Debugging Option (#7947)
|
hai 1 ano |
 Xuan Son Nguyen
|
0c7b3595b9
Add `cvector-generator` example (#7514)
|
hai 1 ano |
 Meng, Hengyu
|
7b2f4a7d19
[SYCL] remove global variables (#7710)
|
hai 1 ano |
 olexiyb
|
f8ec8877b7
ci : fix macos x86 build (#7940)
|
hai 1 ano |
 Johannes Gäßler
|
76d66ee0be
CUDA: faster q2_K, q3_K MMQ + int8 tensor cores (#7921)
|
hai 1 ano |
|
Georgi Gerganov
|
66ef1ceedf
metal : utilize max shared memory for mul_mat_id (#7935)
|
hai 1 ano |
 Radoslav Gerganov
|
e65bbf606c
llama-bench : fix RPC indication (#7936)
|
hai 1 ano |
 Sigbjørn Skjæret
|
6fcd1331ef
llama : more checks before assuming FIM tokens (#7644)
|
hai 1 ano |
 Elaine
|
41b9260f18
convert : add Poro-34B-chat tokenizer support (#7713)
|
hai 1 ano |
|
Radoslav Gerganov
|
172c825684
rpc : fix ggml_backend_rpc_supports_buft() (#7918)
|
hai 1 ano |
 Galunid
|
a55eb1bf0f
readme : Remove outdated instructions from README.md (#7914) [no ci]
|
hai 1 ano |
 slaren
|
f578b86b21
move BLAS to a separate backend (#6210)
|
hai 1 ano |
 Olivier Chafik
|
1c641e6aac
`build`: rename main → llama-cli, server → llama-server, llava-cli → llama-llava-cli, etc... (#7809)
|
hai 1 ano |
|
Johannes Gäßler
|
963552903f
CUDA: fix broken oob check for FA vec f32 kernel (#7904)
|
hai 1 ano |
|
Georgi Gerganov
|
a9cae48003
tests : add non-cont unary tests (#7857)
|
hai 1 ano |
|
Georgi Gerganov
|
bfaa676b08
ggml : improve ggml_is_contiguous logic (#7856)
|
hai 1 ano |
|
Georgi Gerganov
|
704a35b183
server : restore numeric prompts (#7883)
|
hai 1 ano |
