Просмотр исходного кода

vulkan: predicate max operation in soft_max shaders/soft_max (#10437)

Fixes #10434
Jeff Bolz 1 год назад
Родитель
Сommit
9abe9eeae9
1 измененных файлов с 3 добавлено и 1 удалено
  1. 3 1
      ggml/src/ggml-vulkan/vulkan-shaders/soft_max.comp

+ 3 - 1
ggml/src/ggml-vulkan/vulkan-shaders/soft_max.comp

@@ -73,7 +73,9 @@ void soft_max(uint num_iters) {
 
 
         FLOAT_TYPE v = a * p.scale + slope * b;
         FLOAT_TYPE v = a * p.scale + slope * b;
 
 
-        max_val = max(max_val, v);
+        if (col < p.KX) {
+            max_val = max(max_val, v);
+        }
 
 
         if (idx < DATA_CACHE_SIZE) {
         if (idx < DATA_CACHE_SIZE) {
             data_cache[idx] = v;
             data_cache[idx] = v;