cturan/llama.cpp

ggml : block interleaving support for Q4_K quantization for x86 AVX2 architecture (#12332)

* Add block interleaving support for Q4_K quantization

* Remove whitespaces and fix CI/CD issues

* Update pointer of bsums from int16_t to const int16_t

* Add vector version of quantize_q8_K_4x8 function

* Update code formatting based on review comments

Srihari-mcw 10 сар өмнө

parent

732b5fbf5e

commit

3d82dbcbce

1 өөрчлөгдсөн 1349 нэмэгдсэн , 0 устгасан

Өөрчлөлтийг ялгаж харах Өөрчлөлтийн статистик харах

				
					Файлын зөрүү хэтэрхий том тул дарагдсан байна
					
						+ 1349
						
						- 0
					
ggml/src/ggml-cpu/ggml-cpu-aarch64.cpp

			
				Энэ ялгаанд хэт олон файл өөрчлөгдсөн тул зарим файлыг харуулаагүй болно

ggml : block interleaving support for Q4_K quantization for x86 AVX2 architecture (#12332)

Файлын зөрүү хэтэрхий том тул дарагдсан байна + 1349 - 0 ggml/src/ggml-cpu/ggml-cpu-aarch64.cpp

Энэ ялгаанд хэт олон файл өөрчлөгдсөн тул зарим файлыг харуулаагүй болно

Файлын зөрүү хэтэрхий том тул дарагдсан байна
+ 1349 - 0
ggml/src/ggml-cpu/ggml-cpu-aarch64.cpp