 Johannes Gäßler
|
affc76edfd
cuda : loading models directly into VRAM, norm calculation on GPU, broadcasting for ggml_mul (#1483)
|
2 ani în urmă |
 Maxime
|
503db28849
llama : fix name shadowing and C4146 (#1526)
|
2 ani în urmă |
 Georgi Gerganov
|
4fd3e29297
ggml : fix scalar implementation of Q4_1 dot
|
2 ani în urmă |
|
Georgi Gerganov
|
2d5db48371
ggml : use F16 instead of F32 in Q4_0, Q4_1, Q8_0 (#1508)
|
2 ani în urmă |
 Ilya Kurdyukov
|
42627421ec
~7% faster Q5_1 AVX2 code (#1477)
|
2 ani în urmă |
 xaedes
|
79b2d5b69d
ggml : alternative fix for race condition bug in non-inplace ggml_compute_forward_diag_mask_f32 (#1454)
|
2 ani în urmă |
|
Georgi Gerganov
|
13c351ad72
ggml : various fixes (#1450)
|
2 ani în urmă |
 katsu560
|
60f8c361ca
ggml : add AVX support based on AVX2 code (#1430)
|
2 ani în urmă |
|
Georgi Gerganov
|
66841fdb0e
ggml : multi-thread mul and diag_mask ops (#1428)
|
2 ani în urmă |
|
Johannes Gäßler
|
905d87b70a
ggml : GPU-accelerated token generation (#1412)
|
2 ani în urmă |
|
xaedes
|
f954edda93
ggml : implement backward pass for llama + small training-llama-from-scratch example (#1360)
|
2 ani în urmă |
|
Georgi Gerganov
|
f048af0230
ggml : sync alibi fix from ggml repo
|
2 ani în urmă |
 3ooabkhxtn
|
ac0cd259d5
Adding SSE instructions to ggml_vec_dot_q4_0_q8_0 (#1413)
|
2 ani în urmă |
|
Georgi Gerganov
|
b9fd7eee57
ggml : remove bit shuffling (#1405)
|
2 ani în urmă |
 Sami Farin
|
9f8dbc4787
use pause asm insn in busyloop to run the CPU (13600K) 10 °C cooler (#1314)
|
2 ani în urmă |
 swittk
|
1b0fd45465
ggml : Allow usage of CLBlast alongside Accelerate.framework (#1336)
|
2 ani în urmă |
 Ron Jailall
|
20fbf2a2a0
ggml : change immintrin.h to intrin.h for compatibility (#1307)
|
2 ani în urmă |
|
Georgi Gerganov
|
799fdc1b5d
ggml : vectorize Q8_0 quantization
|
2 ani în urmă |
|
Georgi Gerganov
|
5d5817ca60
ggml : fix 32-bit ARM
|
2 ani în urmă |
 Marvin Gießing
|
cc0bb7235c
ggml : fix ppc64le build error and make cmake detect Power processors (#1284)
|
2 ani în urmă |
 slaren
|
2d099e5193
ggml: add names to tensors (#1268)
|
2 ani în urmă |
 slaren
|
58b367c2d7
cuBLAS: refactor and optimize f16 mat mul performance (#1259)
|
2 ani în urmă |
 Kerfuffle
|
2bdc09646d
ggml : fix ggml_used_mem() (#1264)
|
2 ani în urmă |
|
Georgi Gerganov
|
7ff0dcd320
ggml : fix UB (int << 31)
|
2 ani în urmă |
|
Georgi Gerganov
|
6bc4400e67
ggml : add Q5 WASM SIMD + GGML_FTYPE
|
2 ani în urmă |
|
Georgi Gerganov
|
3e5aa8a1c4
ggml : fix labels for GGML_OP_ALIBI
|
2 ani în urmă |
|
Georgi Gerganov
|
c3ca7a5f05
ggml : fix 32-bit ARM NEON
|
2 ani în urmă |
|
Georgi Gerganov
|
e8c051611a
ggml : use vzip instead of vuzp for consistency
|
2 ani în urmă |
|
Georgi Gerganov
|
0b5a935099
ggml : fix visibility and unused warnings
|
2 ani în urmă |
|
Georgi Gerganov
|
ec728e44d7
ggml : fix #if for f32_f32 mul_mat (CLBlast) (#1229)
|
2 ani în urmă |
