Commit Verlauf

Autor SHA1 Nachricht Datum
  Georgi Gerganov ef47ec18da ggml : add ggml_soft_max_ext (#4256) vor 2 Jahren
  Kerfuffle 6e08281e58 Extend llama_kv_cache_seq_rm to allow matching any sequence (#3843) vor 2 Jahren
  Georgi Gerganov 6961c4bd0b batched-bench : print params at start vor 2 Jahren
  Georgi Gerganov 0e89203b51 speculative : add tree-based sampling example (#3624) vor 2 Jahren
  Georgi Gerganov 8c70a5ff25 batched : add bench tool (#3545) vor 2 Jahren