Kaynağa Gözat

ggml : fix scalar implementation of Q4_1 dot

Georgi Gerganov 2 yıl önce
ebeveyn
işleme
4fd3e29297
1 değiştirilmiş dosya ile 1 ekleme ve 1 silme
  1. 1 1
      ggml.c

+ 1 - 1
ggml.c

@@ -2481,7 +2481,7 @@ static void ggml_vec_dot_q4_1_q8_1(const int n, float * restrict s, const void *
             sumi += (v0 * y[i].qs[j]) + (v1 * y[i].qs[j + qk/2]);
             sumi += (v0 * y[i].qs[j]) + (v1 * y[i].qs[j + qk/2]);
         }
         }
 
 
-        sumf += (GGML_FP16_TO_FP32(x[i]).d*y[i].d)*sumi + GGML_FP16_TO_FP32(x[i].m)*y[i].s;
+        sumf += (GGML_FP16_TO_FP32(x[i].d)*y[i].d)*sumi + GGML_FP16_TO_FP32(x[i].m)*y[i].s;
     }
     }
 
 
     *s = sumf;
     *s = sumf;