Commit History

Автор SHA1 Съобщение Дата
  Georgi Gerganov f3f65429c4 llama : reorganize source code + improve CMake (#8006) преди 1 година
  Johannes Gäßler a818f3028d CUDA: use MMQ instead of cuBLAS by default (#8075) преди 1 година
  slaren 95f57bb5d5 ggml : remove ggml_task_type and GGML_PERF (#8017) преди 1 година
  Clint Herron c5a8d4b749 JSON Schema to GBNF integration tests (#7790) преди 1 година
  Ulrich Drepper 61665277af Allow compiling with CUDA without CUDA runtime installed (#7989) преди 1 година
  0cc4m 7c7836d9d4 Vulkan Shader Refactor, Memory Debugging Option (#7947) преди 1 година
  Xuan Son Nguyen 0c7b3595b9 Add `cvector-generator` example (#7514) преди 1 година
  slaren f578b86b21 move BLAS to a separate backend (#6210) преди 1 година
  Olivier Chafik 1c641e6aac `build`: rename main → llama-cli, server → llama-server, llava-cli → llama-llava-cli, etc... (#7809) преди 1 година
  Johannes Gäßler 7d1a378b8f CUDA: refactor mmq, dmmv, mmvq (#7716) преди 1 година
  Georgi Gerganov 554c247caf ggml : remove OpenCL (#7735) преди 1 година
  Georgi Gerganov 0cd6bd3483 llama : remove beam search (#7736) преди 1 година
  Radoslav Gerganov bde7cd3cd9 llama : offload to RPC in addition to other backends (#7640) преди 1 година
  Masaya, Kato a5735e4426 ggml : use OpenMP as a thread pool (#7606) преди 1 година
  Johannes Gäßler 0b832d53ba make: fix debug options not being applied to NVCC (#7714) преди 1 година
  Yazan Agha-Schrader 2e666832e6 server : new UI (#7633) преди 1 година
  Johannes Gäßler 9b596417af CUDA: quantized KV support for FA vec (#7527) преди 1 година
  Daniele 30e238b246 Improve HIP compatibility (#7672) преди 1 година
  Johannes Gäßler 10b1e45876 make: add --device-debug to NVCC debug flags (#7542) преди 1 година
  Georgi Gerganov e84b71c2c6 ggml : drop support for QK_K=64 (#7473) преди 1 година
  junchao-loongson 65c58207ec ggml : add loongarch lsx and lasx support (#6454) преди 1 година
  slaren d359f30921 llama : remove MPI backend (#7395) преди 1 година
  Gavin Zhao 82ca83db3c ROCm: use native CMake HIP support (#5966) преди 1 година
  agray3 bc4bba364f Introduction of CUDA Graphs to LLama.cpp (#6766) преди 1 година
  Georgi Gerganov 92139b90af tests : add test-tokenizer-0.sh + fix some tokenizers (#7036) преди 1 година
  Georgi Gerganov f4ab2a4147 llama : fix BPE pre-tokenization (#6920) преди 1 година
  Przemysław Pawełczyk 577277ffd2 make : change GNU make default CXX from g++ to c++ (#6966) преди 1 година
  Pierrick Hymbert 0c4d489e29 quantize: add imatrix and dataset metadata in GGUF (#6658) преди 1 година
  Justine Tunney 192090bae4 llamafile : improve sgemm.cpp (#6796) преди 1 година
  Olivier Chafik 5cf5e7d490 `build`: generate hex dump of server assets during build (#6661) преди 1 година