فهرست منبع

ggml : refactor llamafile_sgemm PPC code (#14673)

Remove un-necessary templates from class definition and packing functions
Reduce deeply nested conditionals, if-else switching in mnapck function
Replace repetitive code with inline functions in Packing functions

2 ~ 7% improvement in Q8 Model
15 ~ 50% improvement in Q4 Model

Signed-off-by: Shalini Salomi Bodapati <Shalini.Salomi.Bodapati@ibm.com>
shalinib-ibm 6 ماه پیش
والد
کامیت
55c509daf5
1فایلهای تغییر یافته به همراه172 افزوده شده و 691 حذف شده
  1. 172 691
      ggml/src/ggml-cpu/llamafile/sgemm.cpp

تفاوت فایلی نمایش داده نمی شود زیرا این فایل بسیار بزرگ است
+ 172 - 691
ggml/src/ggml-cpu/llamafile/sgemm.cpp


برخی فایل ها در این مقایسه diff نمایش داده نمی شوند زیرا تعداد فایل ها بسیار زیاد است