cturan/llama.cpp

ggml : remove assert for AArch64 GEMV and GEMM Q4 kernels (#9217)

* ggml : remove assert for AArch64 GEMV and GEMM Q4 kernels

* added fallback mechanism when the offline re-quantized model is not
optimized for the underlying target.

* fix for build errors

* remove prints from the low-level code

* Rebase to the latest upstream

Charles Xu il y a 1 an

Parent

afbbfaa537

commit

1e43630218

1 fichiers modifiés avec 648 ajouts et 670 suppressions

Vue séparée Afficher les stats Diff

				
					Fichier diff supprimé car celui-ci est trop grand
					
						+ 648
						
						- 670
					
ggml/src/ggml-aarch64.c

			
				Certains fichiers n'ont pas été affichés car il y a eu trop de fichiers modifiés dans ce diff

ggml : remove assert for AArch64 GEMV and GEMM Q4 kernels (#9217)

Fichier diff supprimé car celui-ci est trop grand + 648 - 670 ggml/src/ggml-aarch64.c

Certains fichiers n'ont pas été affichés car il y a eu trop de fichiers modifiés dans ce diff

Fichier diff supprimé car celui-ci est trop grand
+ 648 - 670
ggml/src/ggml-aarch64.c