Commit History

Автор SHA1 Съобщение Дата
  Johannes Gäßler f64d44a9b9 CUDA: Fixed OpenLLaMA 3b mmq, reduced compile time (#2590) преди 2 години
  Johannes Gäßler 4f6b60c776 CUDA: Fix models with output size != 32000 (#2480) преди 2 години
  Johannes Gäßler b772bba42e CUDA: fixed cmake F16 option (#2471) преди 2 години
  Johannes Gäßler 0728c5a8b9 CUDA: mmq CLI option, fixed mmq build issues (#2453) преди 2 години
  slaren a113689571 ggml : add graph tensor allocator (#2411) преди 2 години
  Johannes Gäßler 11f3ca06b8 CUDA: Quantized matrix matrix multiplication (#2160) преди 2 години
  Cebtenzzre 6df1f5940f make : build with -Wmissing-prototypes (#2394) преди 2 години
  wzy 78a3d13424 flake : remove intel mkl from flake.nix due to missing files (#2277) преди 2 години
  wzy 45a1b07e9b flake : update flake.nix (#2270) преди 2 години
  wzy b1f4290953 cmake : install targets (#2256) преди 2 години
  Howard Su 4e7464ef88 FP16 is supported in CM=6.0 (#2177) преди 2 години
  Evan Miller 5656d10599 mpi : add support for distributed inference via MPI (#2099) преди 2 години
  clyang 3bbc1a11f0 ggml : fix buidling with Intel MKL but ask for "cblas.h" issue (#2104) (#2115) преди 2 години
  Johannes Gäßler 924dd22fd3 Quantized dot products for CUDA mul mat vec (#2067) преди 2 години
  Tobias Lütke 7ee76e45af Simple webchat for server (#1998) преди 2 години
  Daniel Drake b213227067 cmake : don't force -mcpu=native on aarch64 (#2063) преди 2 години
  Kawrakow 6769e944c7 k-quants : support for super-block size of 64 (#2001) преди 2 години
  Johannes Gäßler bbca06e269 cmake: revert CUDA arch default to 52, 61 if f16 (#1959) преди 2 години
  Georgi Gerganov 23fc5c219a cmake : fix trailing whitespaces преди 2 години
  Howard Su 1e3abfcef0 cmake : fix build shared ggml when CUDA is enabled (#1929) преди 2 години
  Johannes Gäßler 16b9cd1939 Convert vector to f16 for dequantize mul mat vec (#1913) преди 2 години
  Howard Su 57cd69460f cmake : add CUDA_ARCHITECTURES to new target ggml_static (#1917) преди 2 години
  Kerfuffle b4c6f46f17 Allow cmake to build ggml as a library (#1896) преди 2 години
  Zenix 13fe9d2d84 cmake : add auto detection of BLAS_INCLUDE_DIRS (#1886) преди 2 години
  Kawrakow 3d01122610 CUDA : faster k-quant dot kernels (#1862) преди 2 години
  Georgi Gerganov bed9275617 cmake : remove whitespaces преди 2 години
  Igor Okulist 3559433fec cmake : set include path for OpenBlas (#1830) преди 2 години
  Georgi Gerganov 4de0334f5c cmake : fix Metal build (close #1791) преди 2 години
  Andrei 303f5809f1 metal : fix issue with ggml-metal.metal path. Closes #1769 (#1782) преди 2 години
  johnson442 0035858273 k-quants : add missing compile definition to CMakeLists (#1748) преди 2 години