cuda : fix LLAMA_CUDA_F16 build (#6298) · 2f34b865b6 - Git

Selaa lähdekoodia

cuda : fix LLAMA_CUDA_F16 build (#6298)

slaren 1 vuosi sitten

vanhempi

ae1f211ce2

sitoutus

2f34b865b6

1 muutettua tiedostoa jossa 1 lisäystä ja 0 poistoa

Jaettu näkymä Näytä diff tilastot

						
							+ 1
							
							- 0
						
ggml-cuda/dmmv.cu
							 
								Näytä tiedosto
							
				@@ -1,5 +1,6 @@
			
				 #include "dmmv.cuh"
			
				 #include "dequantize.cuh"
			
				+#include "convert.cuh"
			
				 // dmmv = dequantize_mul_mat_vec
			
				 #ifndef GGML_CUDA_DMMV_X