Explorar o código

HIP: Enable support for ggml_backend_cuda_register_host_buffer (#15615)

uvos hai 4 meses
pai
achega
47373271f9
Modificáronse 1 ficheiros con 1 adicións e 1 borrados
  1. 1 1
      ggml/src/ggml-cuda/ggml-cuda.cu

+ 1 - 1
ggml/src/ggml-cuda/ggml-cuda.cu

@@ -3106,7 +3106,7 @@ bool ggml_backend_cuda_register_host_buffer(void * buffer, size_t size) {
         return false;
         return false;
     }
     }
 
 
-#if CUDART_VERSION >= 11010 || defined(GGML_USE_MUSA)
+#if CUDART_VERSION >= 11010 || defined(GGML_USE_MUSA) || defined(GGML_USE_HIP)
     cudaError_t err = cudaHostRegister(buffer, size, cudaHostRegisterPortable | cudaHostRegisterReadOnly);
     cudaError_t err = cudaHostRegister(buffer, size, cudaHostRegisterPortable | cudaHostRegisterReadOnly);
     if (err != cudaSuccess) {
     if (err != cudaSuccess) {
         // clear the error
         // clear the error