Parcourir la source

metal : refactor kernel loading code (#4794)

* metal : detect more GPU families

* metal : refactor kernel loading

* metal : set kernel family requirements

* metal : fix kernel init + fix compile options

* metal : take into account simdgroup reduction support

* metal : print only skipped kernels

* metal : fix check for simdgroup reduction support

* metal : check for Metal 3

* metal : free allocations

* metal : normalize encoder:setComputePipelineStatus calls

ggml-ci

* metal : fix Metal3 family check

ggml-ci

* metal : check for simdgroup matrix mul. feature

ggml-ci
Georgi Gerganov il y a 2 ans
Parent
commit
b38b5e93ae
1 fichiers modifiés avec 377 ajouts et 417 suppressions
  1. 377 417
      ggml-metal.m

Fichier diff supprimé car celui-ci est trop grand
+ 377 - 417
ggml-metal.m


Certains fichiers n'ont pas été affichés car il y a eu trop de fichiers modifiés dans ce diff