slaren
|
f30ea47a87
llama : add pipeline parallelism support (#6017)
|
1 tahun lalu |
slaren
|
d8fd0ccf6a
test-backend-ops : skip CPU backend by default (#6028)
|
1 tahun lalu |
AidanBeltonS
|
b3d978600f
Update get version (#6025)
|
1 tahun lalu |
Xuan Son Nguyen
|
99b71c068f
Server: Use multi-task for embeddings endpoint (#6001)
|
1 tahun lalu |
slaren
|
306d34be7a
ci : remove tidy-review (#6021)
|
1 tahun lalu |
Georgi Gerganov
|
8030da7afe
ggml : reuse quantum structs across backends (#5943)
|
1 tahun lalu |
Georgi Gerganov
|
184215e783
ggml : fix UB in IQ2_S and IQ3_S (#6012)
|
1 tahun lalu |
Georgi Gerganov
|
48358b2e5b
sycl : update IQ1_S kernels (WIP - not working!) (#5995)
|
1 tahun lalu |
gliptic
|
5cdb371731
grammar : fix unnecessarily retained pointer to rules (#6003)
|
1 tahun lalu |
Kawrakow
|
44ca159faf
1.5 bit: we can do even better (#5999)
|
1 tahun lalu |
Georgi Gerganov
|
05b06210c9
llama : more consistent names of count variables (#5994)
|
1 tahun lalu |
Georgi Gerganov
|
83796e62bc
llama : refactor unicode stuff (#5992)
|
1 tahun lalu |
Jakub N
|
828defefb6
Update server docker image URLs (#5997)
|
1 tahun lalu |
Xuan Son Nguyen
|
caa106d4e0
Server: format error to json (#5961)
|
1 tahun lalu |
Michael Podvitskiy
|
3202361c5b
ggml, ci : Windows ARM runner and build fixes (#5979)
|
1 tahun lalu |
Minsoo Cheong
|
332bdfd798
server : maintain chat completion id for streaming responses (#5988)
|
1 tahun lalu |
Gilad S
|
ecab1c75de
cmake : fix subdir for `LLAMA_METAL_EMBED_LIBRARY` (#5985)
|
1 tahun lalu |
Georgi Gerganov
|
ee35600b90
llama : fix F16/F32 downcast + improve names (#5980)
|
1 tahun lalu |
Kawrakow
|
be858f6205
Better 1.5 bit quantization (#5971)
|
1 tahun lalu |
Abhilash Majumder
|
ef3ced26a3
[SYCL] Add q3_s and q1_s (#5886)
|
1 tahun lalu |
AidanBeltonS
|
3814a07392
[SYCL] Add support for SYCL Nvidia target (#5738)
|
1 tahun lalu |
Georgi Gerganov
|
bb6d00bbf9
metal : move mm_id indices to shared mem (#5982)
|
1 tahun lalu |
Dean
|
7ab7b733bb
android : fix utf8 decoding error (#5935)
|
1 tahun lalu |
Georgi Gerganov
|
d9f65c97c3
readme : update hot topics
|
1 tahun lalu |
Georgi Gerganov
|
b838b53ad6
sync : ggml
|
1 tahun lalu |
Georgi Gerganov
|
df4dc3e7cb
ggml : try fix 32-bit arm compat (whisper/1938)
|
1 tahun lalu |
Georgi Gerganov
|
bf47a5eefc
ggml : remove __constant__ specifier for CUDA tables (#5940)
|
1 tahun lalu |
Pierrick Hymbert
|
fa8a809a91
server: ci: windows build and tests (#5968)
|
1 tahun lalu |
DAN™
|
bcebd7dbf6
llama : add support for GritLM (#5959)
|
1 tahun lalu |
Clint Herron
|
2960eae847
grammar : verify parsed state (#5950)
|
1 tahun lalu |