cturan/llama.cpp

ggml : remove assert for AArch64 GEMV and GEMM Q4 kernels (#9217)

* ggml : remove assert for AArch64 GEMV and GEMM Q4 kernels

* added fallback mechanism when the offline re-quantized model is not
optimized for the underlying target.

* fix for build errors

* remove prints from the low-level code

* Rebase to the latest upstream

Charles Xu před 1 rokem

rodič

afbbfaa537

revize

1e43630218

1 změnil soubory, kde provedl 648 přidání a 670 odebrání

Rozdělené zobrazení Ukázat statistiku rozdílových dat

				
					Rozdílová data souboru nebyla zobrazena, protože soubor je příliš velký
					
						+ 648
						
						- 670
					
ggml/src/ggml-aarch64.c

			
				Některé soubory nejsou zobrazeny, neboť je v těchto rozdílových datech změněno mnoho souborů

ggml : remove assert for AArch64 GEMV and GEMM Q4 kernels (#9217)

Rozdílová data souboru nebyla zobrazena, protože soubor je příliš velký + 648 - 670 ggml/src/ggml-aarch64.c

Některé soubory nejsou zobrazeny, neboť je v těchto rozdílových datech změněno mnoho souborů

Rozdílová data souboru nebyla zobrazena, protože soubor je příliš velký
+ 648 - 670
ggml/src/ggml-aarch64.c