Halaman utama Jelajahi Bantuan
Masuk
cturan
/
llama.cpp
cermin dari https://github.com/cturan/llama.cpp
1
0
Fork 0
Berkas Masalah 0 Wiki
Pohon: 64cc19b4fe
Ranting Tag

Komit Sejarah

Pembuat SHA1 Pesan Tanggal
  Johannes Gäßler 254a7a7a5f CUDA full GPU acceleration, KV cache in VRAM (#1827) 2 tahun lalu
  xaedes e32089b2c2 train : improved training-from-scratch example (#1652) 2 tahun lalu
  Kerfuffle 74d4cfa343 Allow "quantizing" to f16 and f32 (#1787) 2 tahun lalu
  Georgi Gerganov 17c10acfb4 ggml : force no_alloc == false when creating opt tensors (close #1699) 2 tahun lalu
  Xingchen Song(宋星辰) ef3171d162 ggml : workaround for missing _mm256_setr_m128i in GCC < 8 (#1638) 2 tahun lalu
  Steven Roussey b50b570ed9 ggml : fix fprintf warnings (#1720) 2 tahun lalu
  Georgi Gerganov 5c64a0952e k-quants : allow to optionally disable at compile time (#1734) 2 tahun lalu
  Georgi Gerganov 2a4e41a086 llama : fix compile warnings 2 tahun lalu
  Johannes Gäßler 17366df842 Multi GPU support, CUDA refactor, CUDA scratch buffer (#1703) 2 tahun lalu
  Georgi Gerganov 2d43387daf ggml : fix builds, add ggml-quants-k.o (close #1712, close #1710) 2 tahun lalu
  kiltyj 9d0693bce3 metal : use shared buffers between CPU and GPU (#1696) 2 tahun lalu
  grahameth efe0507632 ggml : fix internal overflow in ggml_time_us on Windows (#1702) 2 tahun lalu
  Kawrakow 99009e72f8 ggml : add SOTA 2,3,4,5,6 bit k-quantizations (#1684) 2 tahun lalu
  Georgi Gerganov ecb217db4f llama : Metal inference (#1642) 2 tahun lalu
  0cc4m dcb2ed4826 OpenCL: Fix duplication of layers in VRAM and RAM, add GPU mul kernel (#1653) 2 tahun lalu
  Georgi Gerganov 7552ac5863 ggml : sync cgraph import / export API 2 tahun lalu
  Georgi Gerganov 5d1830b99d ggml : fix bug in ggml_alibi 2 tahun lalu
  apcameron a6704643b6 ggml : add support for the RISCV architecture (#1616) 2 tahun lalu
  Georgi Gerganov 93618031c7 ggml : add ggml_tensor_overhead() 2 tahun lalu
  Georgi Gerganov bdbda1b17a ggml : sync ggml core (minor additions, e.g. ggml_get_tensor_by_name()) 2 tahun lalu
  0cc4m 2e6cd4b025 OpenCL Token Generation Acceleration (#1459) 2 tahun lalu
  Georgi Gerganov 265db9834e ggml : output 3d sizes in ggml_graph_dump_dot() 2 tahun lalu
  Georgi Gerganov fab49c685e ggml : update WASM SIMD 2 tahun lalu
  Georgi Gerganov 3de84b2606 ggml : add ggml_clamp() (#1539) 2 tahun lalu
  Johannes Gäßler affc76edfd cuda : loading models directly into VRAM, norm calculation on GPU, broadcasting for ggml_mul (#1483) 2 tahun lalu
  Maxime 503db28849 llama : fix name shadowing and C4146 (#1526) 2 tahun lalu
  Georgi Gerganov 4fd3e29297 ggml : fix scalar implementation of Q4_1 dot 2 tahun lalu
  Georgi Gerganov 2d5db48371 ggml : use F16 instead of F32 in Q4_0, Q4_1, Q8_0 (#1508) 2 tahun lalu
  Ilya Kurdyukov 42627421ec ~7% faster Q5_1 AVX2 code (#1477) 2 tahun lalu
  xaedes 79b2d5b69d ggml : alternative fix for race condition bug in non-inplace ggml_compute_forward_diag_mask_f32 (#1454) 2 tahun lalu

Terbaru Lawas