Commit History

Auteur SHA1 Bericht Datum
  Georgi Gerganov 22c69a2794 batched : add len CLI argument 2 jaren geleden
  Georgi Gerganov 0e89203b51 speculative : add tree-based sampling example (#3624) 2 jaren geleden
  Georgi Gerganov 8c70a5ff25 batched : add bench tool (#3545) 2 jaren geleden
  slaren 16bc66d947 llama.cpp : split llama_context_params into model and context params (#3301) 2 jaren geleden
  Georgi Gerganov ec893798b7 llama : custom attention mask + parallel decoding + no context swaps (#3228) 2 jaren geleden