Commit History

Автор SHA1 Съобщение Дата
  Erik Scholz 0b366e7357 Command line switch to use F16 for memory_k and memory_v (refactor of #154) (#294) преди 2 години
  Georgi Gerganov 70f01cb863 Drop trailing new line from file prompts (#80) преди 2 години
  Georgi Gerganov 9e1707218a Add "--instruct" argument for usage with Alpaca (#240) преди 2 години
  Gary Linscott a81d0c2a17 Fix n^2 loop in tokenization (#254) преди 2 години
  thement c9f670a177 Implement non-greedy tokenizer that tries to maximize token lengths (#242) преди 2 години
  Stephan Walter 367946c668 Don't tell users to use a bad number of threads (#243) преди 2 години
  Matvey Soloviev 904d2a8d6a Q4_1 quantization (#193) преди 2 години
  Justin Suess 2d64715ad4 added ctx_size parameter (#148) преди 2 години
  Thomas Klausner 41be0a3b3d Add NetBSD support. (#90) преди 2 години
  Matvey Soloviev 96ea727f47 Add interactive mode (#61) преди 2 години
  Ben Garney f385f8dee8 Allow using prompt files (#59) преди 2 години
  beiller 02f0c6fe7f Add back top_k (#56) преди 2 години
  Sebastián A eb062bb012 Windows fixes (#31) преди 2 години
  beiller 129c7d1ea8 Add repetition penalty (#20) преди 2 години
  Georgi Gerganov 007a8f6f45 Support all LLaMA models + change Q4_0 quantization storage преди 2 години
  Jean-Michaël Celerier 9dcf4dba45 Add missing headers for memcpy and assert (#3) преди 2 години
  Georgi Gerganov 70bc0b8b15 Fix a bug in the rope calculation преди 2 години
  Georgi Gerganov 319cdb3e1f Final touches преди 2 години
  Georgi Gerganov 26c0846629 Initial release преди 2 години