Explorar o código

cuda : fix convert function (#1412)

Georgi Gerganov %!s(int64=2) %!d(string=hai) anos
pai
achega
08737ef720
Modificáronse 1 ficheiros con 1 adicións e 1 borrados
  1. 1 1
      ggml-cuda.cu

+ 1 - 1
ggml-cuda.cu

@@ -414,7 +414,7 @@ static dequantize_mul_mat_vec_cuda_t ggml_get_dequantize_mul_mat_vec_cuda(ggml_t
         case GGML_TYPE_Q8_0:
         case GGML_TYPE_Q8_0:
             return dequantize_mul_mat_vec_q8_0_cuda;
             return dequantize_mul_mat_vec_q8_0_cuda;
         case GGML_TYPE_F16:
         case GGML_TYPE_F16:
-            return dequantize_mul_mat_vec_q8_0_cuda;
+            return convert_mul_mat_vec_f16_cuda;
         default:
         default:
             return nullptr;
             return nullptr;
     }
     }