Explorar o código

CUDA: fix typo in FlashAttention code (#13926)

Johannes Gäßler hai 7 meses
pai
achega
e562eece7c
Modificáronse 1 ficheiros con 1 adicións e 1 borrados
  1. 1 1
      ggml/src/ggml-cuda/fattn-mma-f16.cuh

+ 1 - 1
ggml/src/ggml-cuda/fattn-mma-f16.cuh

@@ -1246,7 +1246,7 @@ static __global__ void flash_attn_ext_f16(
         NO_DEVICE_CODE;
         return;
     }
-#endif __CUDA_ARCH__ == GGML_CUDA_CC_TURING
+#endif // __CUDA_ARCH__ == GGML_CUDA_CC_TURING
 
     static_assert(!mla || DKQ >= DV, "MLA needs DKQ >= DV");