فهرست منبع

Vulkan Bugfixes and Improvements (#7084)

* Modify mat mat mul shader for mul_mat_id, modify mat vec mul shaders for single call batch operation

* Further work towards MoE, disabled for now

* Disable MoE code (not ready yet), fix a number of bugs in shaders and Vulkan code

* Add softmax with f16 mask and pos buffer support

* Disable mul_mat_id shaders for now

* Fix flake8

* Fix validation errors caused by empty buffers on larger batch sizes
0cc4m 1 سال پیش
والد
کامیت
befddd0f15
3فایلهای تغییر یافته به همراه2152 افزوده شده و 1114 حذف شده
  1. 733 708
      ggml-vulkan-shaders.hpp
  2. 901 250
      ggml-vulkan.cpp
  3. 518 156
      ggml_vk_generate_shaders.py

تفاوت فایلی نمایش داده نمی شود زیرا این فایل بسیار بزرگ است
+ 733 - 708
ggml-vulkan-shaders.hpp


تفاوت فایلی نمایش داده نمی شود زیرا این فایل بسیار بزرگ است
+ 901 - 250
ggml-vulkan.cpp


تفاوت فایلی نمایش داده نمی شود زیرا این فایل بسیار بزرگ است
+ 518 - 156
ggml_vk_generate_shaders.py


برخی فایل ها در این مقایسه diff نمایش داده نمی شوند زیرا تعداد فایل ها بسیار زیاد است