Explorar o código

ggml : fix scalar implementation of Q4_1 dot

Georgi Gerganov %!s(int64=2) %!d(string=hai) anos
pai
achega
4fd3e29297
Modificáronse 1 ficheiros con 1 adicións e 1 borrados
  1. 1 1
      ggml.c

+ 1 - 1
ggml.c

@@ -2481,7 +2481,7 @@ static void ggml_vec_dot_q4_1_q8_1(const int n, float * restrict s, const void *
             sumi += (v0 * y[i].qs[j]) + (v1 * y[i].qs[j + qk/2]);
         }
 
-        sumf += (GGML_FP16_TO_FP32(x[i]).d*y[i].d)*sumi + GGML_FP16_TO_FP32(x[i].m)*y[i].s;
+        sumf += (GGML_FP16_TO_FP32(x[i].d)*y[i].d)*sumi + GGML_FP16_TO_FP32(x[i].m)*y[i].s;
     }
 
     *s = sumf;