Thomas Klausner
|
41be0a3b3d
Add NetBSD support. (#90)
|
hace 2 años |
Georgi Gerganov
|
84d9015c4a
Use vdotq_s32 to improve performance (#67)
|
hace 2 años |
Georgi Gerganov
|
c80e2a8f2a
Revert "10% performance boost on ARM"
|
hace 2 años |
Georgi Gerganov
|
54a0e66ea0
Check for vdotq_s32 availability
|
hace 2 años |
Georgi Gerganov
|
543c57e991
Ammend to previous commit - forgot to update non-QRDMX branch
|
hace 2 años |
Georgi Gerganov
|
113a9e83eb
10% performance boost on ARM
|
hace 2 años |
Sebastián A
|
eb062bb012
Windows fixes (#31)
|
hace 2 años |
Georgi Gerganov
|
f1eaff4721
Add AVX2 support for x86 architectures thanks to @Const-me !
|
hace 2 años |
Georgi Gerganov
|
007a8f6f45
Support all LLaMA models + change Q4_0 quantization storage
|
hace 2 años |
Georgi Gerganov
|
26c0846629
Initial release
|
hace 2 años |