Przeglądaj źródła

ggml : block interleaving support for Q4_K quantization for x86 AVX2 architecture (#12332)

* Add block interleaving support for Q4_K quantization

* Remove whitespaces and fix CI/CD issues

* Update pointer of bsums from int16_t to const int16_t

* Add vector version of quantize_q8_K_4x8 function

* Update code formatting based on review comments
Srihari-mcw 10 miesięcy temu
rodzic
commit
3d82dbcbce
1 zmienionych plików z 1349 dodań i 0 usunięć
  1. 1349 0
      ggml/src/ggml-cpu/ggml-cpu-aarch64.cpp

Plik diff jest za duży
+ 1349 - 0
ggml/src/ggml-cpu/ggml-cpu-aarch64.cpp


Niektóre pliki nie zostały wyświetlone z powodu dużej ilości zmienionych plików