Переглянути джерело

ggml : block interleaving support for Q4_K quantization for x86 AVX2 architecture (#12332)

* Add block interleaving support for Q4_K quantization

* Remove whitespaces and fix CI/CD issues

* Update pointer of bsums from int16_t to const int16_t

* Add vector version of quantize_q8_K_4x8 function

* Update code formatting based on review comments
Srihari-mcw 10 місяців тому
батько
коміт
3d82dbcbce
1 змінених файлів з 1349 додано та 0 видалено
  1. 1349 0
      ggml/src/ggml-cpu/ggml-cpu-aarch64.cpp

Різницю між файлами не показано, бо вона завелика
+ 1349 - 0
ggml/src/ggml-cpu/ggml-cpu-aarch64.cpp


Деякі файли не було показано, через те що забагато файлів було змінено