Sfoglia il codice sorgente

CANN: Add RoPE contiguous check for 310I DUP device (#15735)

hipudding 4 mesi fa
parent
commit
5eae934883
1 ha cambiato i file con 5 aggiunte e 1 eliminazioni
  1. 5 1
      ggml/src/ggml-cann/ggml-cann.cpp

+ 5 - 1
ggml/src/ggml-cann/ggml-cann.cpp

@@ -2417,7 +2417,11 @@ static bool ggml_backend_cann_supports_op(ggml_backend_dev_t dev,
             if (mode & GGML_ROPE_TYPE_VISION) {
                 return false;
             }
-
+#ifdef ASCEND_310P
+            if(!ggml_is_contiguous(op->src[0])){
+                return false;
+            }
+#endif
             return true;
         }
         case GGML_OP_UPSCALE: {