cturan/llama.cpp

ggml : remove assert for AArch64 GEMV and GEMM Q4 kernels (#9217)

* ggml : remove assert for AArch64 GEMV and GEMM Q4 kernels

* added fallback mechanism when the offline re-quantized model is not
optimized for the underlying target.

* fix for build errors

* remove prints from the low-level code

* Rebase to the latest upstream

Charles Xu 1 tahun lalu

induk

afbbfaa537

melakukan

1e43630218

1 mengubah file dengan 648 tambahan dan 670 penghapusan
Tampilan Split Tampilkan Statistik Diff

648 670
ggml/src/ggml-aarch64.c

File diff ditekan karena terlalu besar
+ 648 - 670
ggml/src/ggml-aarch64.c

Beberapa file tidak ditampilkan karena terlalu banyak file yang berubah dalam diff ini

ggml : remove assert for AArch64 GEMV and GEMM Q4 kernels (#9217)

File diff ditekan karena terlalu besar + 648 - 670 ggml/src/ggml-aarch64.c

Beberapa file tidak ditampilkan karena terlalu banyak file yang berubah dalam diff ini

File diff ditekan karena terlalu besar
+ 648 - 670
ggml/src/ggml-aarch64.c