 DannyDaemonic
|
f4cef87edf
Add git-based build information for better issue tracking (#1232)
|
2 vuotta sitten |
 slaren
|
58b367c2d7
cuBLAS: refactor and optimize f16 mat mul performance (#1259)
|
2 vuotta sitten |
 xloem
|
ea3a0ad6b6
llama : update stubs for systems without mmap and mlock (#1266)
|
2 vuotta sitten |
 Kerfuffle
|
2bdc09646d
ggml : fix ggml_used_mem() (#1264)
|
2 vuotta sitten |
 Georgi Gerganov
|
70269cae37
llama : fix session load / save (#1263)
|
2 vuotta sitten |
|
slaren
|
b925f1f1b0
cuBLAS: fall back to pageable memory if pinned alloc fails (#1233)
|
2 vuotta sitten |
 Alex Klinkhamer
|
90b19bd6ee
llama : let context be const when accessing const data (#1261)
|
2 vuotta sitten |
|
Georgi Gerganov
|
7ff0dcd320
ggml : fix UB (int << 31)
|
2 vuotta sitten |
 Pavol Rusnak
|
6f79699286
build: add armv{6,7,8} support to cmake (#1251)
|
2 vuotta sitten |
 jon-chuang
|
a5d30b1f53
common : better default number of threads (#934)
|
2 vuotta sitten |
 0cc4m
|
76a884920a
ggml : add CLBlast q5_0, q5_1, q8_0 dequant kernels (#1225)
|
2 vuotta sitten |
|
Georgi Gerganov
|
6bc4400e67
ggml : add Q5 WASM SIMD + GGML_FTYPE
|
2 vuotta sitten |
 Stephan Walter
|
f0d70f147d
Various fixes to mat_mul benchmark (#1253)
|
2 vuotta sitten |
|
Georgi Gerganov
|
3e5aa8a1c4
ggml : fix labels for GGML_OP_ALIBI
|
2 vuotta sitten |
|
Georgi Gerganov
|
c3ca7a5f05
ggml : fix 32-bit ARM NEON
|
2 vuotta sitten |
|
Georgi Gerganov
|
e8c051611a
ggml : use vzip instead of vuzp for consistency
|
2 vuotta sitten |
|
Georgi Gerganov
|
0b5a935099
ggml : fix visibility and unused warnings
|
2 vuotta sitten |
|
Georgi Gerganov
|
ec728e44d7
ggml : fix #if for f32_f32 mul_mat (CLBlast) (#1229)
|
2 vuotta sitten |
|
Georgi Gerganov
|
214b6a3570
ggml : adjust mul_mat_f16 work memory (#1226)
|
2 vuotta sitten |
|
Georgi Gerganov
|
305eb5afd5
build : fix reference to old llama_util.h
|
2 vuotta sitten |
|
Georgi Gerganov
|
84ca9c2ecf
examples : fix save-load-state + rename llama-util.h
|
2 vuotta sitten |
|
Georgi Gerganov
|
334637e43e
common : change default parameters to pre-#1126 (#1223)
|
2 vuotta sitten |
 Ivan Stepanov
|
dd7eff57d8
llama : new sampling algorithms (#1126)
|
2 vuotta sitten |
|
slaren
|
7fc50c051a
cuBLAS: use host pinned memory and dequantize while copying (#1207)
|
2 vuotta sitten |
 Henri Vasserman
|
b1ee8f59b4
cuBLAS: non-contiguous tensor support (#1215)
|
2 vuotta sitten |
|
Stephan Walter
|
36d19a603b
Remove Q4_3 which is no better than Q5 (#1218)
|
2 vuotta sitten |
|
Georgi Gerganov
|
7f15c5c477
readme : update hot topics
|
2 vuotta sitten |
|
Georgi Gerganov
|
55390bcaf2
ggml : sync ggml (ggml_alibi)
|
2 vuotta sitten |
 CRD716
|
5fba3c016b
examples : add Jeopardy example (#1168)
|
2 vuotta sitten |
 Evan Jones
|
1481a9cf25
llama : add session file format and saved sessions in main (#1169)
|
2 vuotta sitten |
