cturan/llama.cpp

Retire the ggml_mul_mat() branch for transposed src0 (#500)

* Retire the ggml_mul_mat() for transposed src0

- It can always be made contiguous with ggml_cpy()
- The code is now simplified
- The results are deterministic in respect to num threads

* SIMD-ify dequantize_row_q4_0() for ARM_NEON (#502)

* Attempt to SIMD-ify dequantize_row_q4_0() for ARM_NEON

* Fix dequantization - forgot to interleave the quants

Georgi Gerganov %!s(int64=2) %!d(string=hai) anos

pai

502a400192

achega

ecbe466a36

Modificáronse 1 ficheiros con 166 adicións e 559 borrados

Dividir vista Mostrar estatísticas de Diff

				
					A diferenza do arquivo foi suprimida porque é demasiado grande
					
						+ 166
						
						- 559
					
ggml.c

			
				Algúns arquivos non se mostraron porque demasiados arquivos cambiaron neste cambio

Retire the ggml_mul_mat() branch for transposed src0 (#500)

A diferenza do arquivo foi suprimida porque é demasiado grande + 166 - 559 ggml.c

Algúns arquivos non se mostraron porque demasiados arquivos cambiaron neste cambio

A diferenza do arquivo foi suprimida porque é demasiado grande
+ 166 - 559
ggml.c