瀏覽代碼

disable rms norm mul rope for chips with no fp16 rte (#17134)

Eve 2 月之前
父節點
當前提交
7d019cff74
共有 1 個文件被更改,包括 6 次插入0 次删除
  1. 6 0
      ggml/src/ggml-vulkan/ggml-vulkan.cpp

+ 6 - 0
ggml/src/ggml-vulkan/ggml-vulkan.cpp

@@ -12670,6 +12670,12 @@ static bool ggml_vk_can_fuse_rms_norm_mul_rope(ggml_backend_vk_context * ctx, co
         return false;
     }
 
+    // conditions for pipeline creation
+    if (!(ctx->device->float_controls_rte_fp16 &&
+        sizeof(vk_op_rms_norm_mul_rope_push_constants) <= ctx->device->properties.limits.maxPushConstantsSize)) {
+        return false;
+    }
+
     return true;
 }