Olivier Chafik cbaadc9294 grammars: 1.5x faster inference w/ complex grammars (vector reserves / reuses) (#6609) 1 год назад
..
baby-llama ab336a9d5e code : normalize enum names (#5697) 1 год назад
batched 95d576b48e metal : pad n_ctx by 32 (#6177) 1 год назад
batched-bench 87e21bbacd bench : make n_batch and n_ubatch configurable in Batched bench (#6500) 1 год назад
batched.swift f486f6e1e5 ggml : add numa options (#5377) 1 год назад
beam-search f486f6e1e5 ggml : add numa options (#5377) 1 год назад
benchmark 5b09797321 ggml : remove old quantization functions (#5942) 1 год назад
convert-llama2c-to-ggml 2ab4f00d25 llama2c : open file as binary (#6332) 1 год назад
embedding 1b67731e18 BERT tokenizer fixes (#6498) 1 год назад
eval-callback b804b1ef77 eval-callback: Example how to use eval callback for debugging (#6576) 1 год назад
export-lora 6e4e973b26 ci : add an option to fail on compile warning (#3952) 1 год назад
finetune ab336a9d5e code : normalize enum names (#5697) 1 год назад
gbnf-validator cbaadc9294 grammars: 1.5x faster inference w/ complex grammars (vector reserves / reuses) (#6609) 1 год назад
gguf 8228b66dbc gguf : add option to not check tensor data (#6582) 1 год назад
gguf-split f7fc5f6c6f split: allow --split-max-size option (#6343) 1 год назад
gritlm b5f4ae09c3 gritlm : add initial README.md (#6086) 1 год назад
imatrix b804b1ef77 eval-callback: Example how to use eval callback for debugging (#6576) 1 год назад
infill 1b67731e18 BERT tokenizer fixes (#6498) 1 год назад
jeopardy a8777ad84e parallel : add option to load external prompt file (#3416) 2 лет назад
llama-bench 280345968d cuda : rename build flag to LLAMA_CUDA (#6299) 1 год назад
llama.android 7ab7b733bb android : fix utf8 decoding error (#5935) 1 год назад
llama.swiftui f30ea47a87 llama : add pipeline parallelism support (#6017) 1 год назад
llava 1b67731e18 BERT tokenizer fixes (#6498) 1 год назад
lookahead 1b67731e18 BERT tokenizer fixes (#6498) 1 год назад
lookup 1b67731e18 BERT tokenizer fixes (#6498) 1 год назад
main 1b67731e18 BERT tokenizer fixes (#6498) 1 год назад
main-cmake-pkg 280345968d cuda : rename build flag to LLAMA_CUDA (#6299) 1 год назад
parallel 557410b8f0 llama : greatly reduce output buffer memory usage (#6122) 1 год назад
passkey 9d533a77d0 llama : fix defrag bugs + add parameter (#5735) 1 год назад
perplexity 1b67731e18 BERT tokenizer fixes (#6498) 1 год назад
quantize 08a0c02060 ggml : mul_mat_id use the same tensor for all the experts (#6387) 1 год назад
quantize-stats 52bb63c708 refactor : switch to emplace_back to avoid extra object (#5291) 1 год назад
retrieval 64e7b47c69 examples : add "retrieval" (#6193) 1 год назад
save-load-state beea6e1b16 llama : save and restore kv cache for single seq id (#6341) 1 год назад
server b3a96f27f0 minor layout improvements (#6572) 1 год назад
simple f486f6e1e5 ggml : add numa options (#5377) 1 год назад
speculative 1b67731e18 BERT tokenizer fixes (#6498) 1 год назад
sycl 95ad616cdd [SYCL] fix SYCL backend build on windows is break by LOG() error (#6290) 1 год назад
tokenize 1b67731e18 BERT tokenizer fixes (#6498) 1 год назад
train-text-from-scratch 6e0438da3c gguf : fix resource leaks (#6061) 1 год назад
CMakeLists.txt b804b1ef77 eval-callback: Example how to use eval callback for debugging (#6576) 1 год назад
Miku.sh 019fe257bb MIKU MAYHEM: Upgrading the Default Model for Maximum Fun 🎉 (#2287) 2 лет назад
alpaca.sh a17a2683d8 alpaca.sh : update model file name (#2074) 2 лет назад
base-translate.sh 96e80dabc6 examples : improve base-translate.sh script (#4783) 2 лет назад
chat-13B.bat d9ad104440 Create chat-13B.bat (#592) 2 лет назад
chat-13B.sh 6daa09d879 examples : read chat prompts from a template file (#1196) 2 лет назад
chat-persistent.sh ac2219fef3 llama : fix session saving/loading (#3400) 2 лет назад
chat-vicuna.sh c36e81da62 examples : add chat-vicuna.sh (#1854) 2 лет назад
chat.sh 8341a25957 main : log file (#2748) 2 лет назад
gpt4all.sh 107980d970 examples : add -n to alpaca and gpt4all scripts (#706) 2 лет назад
json-schema-pydantic-example.py 5b7b0ac8df json-schema-to-grammar improvements (+ added to server) (#5978) 1 год назад
json-schema-to-grammar.py 72114edf06 json-schema-to-grammar : fix order of props + non-str const/enum (#6232) 1 год назад
llama.vim 125d03a503 llama.vim : added api key support (#5090) 2 лет назад
llama2-13b.sh 73643f5fb1 gitignore : changes for Poetry users + chat examples (#2284) 2 лет назад
llama2.sh 73643f5fb1 gitignore : changes for Poetry users + chat examples (#2284) 2 лет назад
llm.vim ad9ddcff6e llm.vim : stop generation at multiple linebreaks, bind to <F2> (#2879) 2 лет назад
make-ggml.py ac43576124 make-ggml.py : compatibility with more models and GGUF (#3290) 2 лет назад
pydantic-models-to-grammar-examples.py d292f4f204 examples : make pydantic scripts pass mypy and support py3.8 (#5099) 2 лет назад
pydantic_models_to_grammar.py d292f4f204 examples : make pydantic scripts pass mypy and support py3.8 (#5099) 2 лет назад
reason-act.sh 7c2227a197 chmod : make scripts executable (#2675) 2 лет назад
regex-to-grammar.py 5b7b0ac8df json-schema-to-grammar improvements (+ added to server) (#5978) 1 год назад
server-embd.py 2002bc96bf server : refactor (#5882) 1 год назад
server-llama2-13B.sh 7c2227a197 chmod : make scripts executable (#2675) 2 лет назад
ts-type-to-grammar.sh 5b7b0ac8df json-schema-to-grammar improvements (+ added to server) (#5978) 1 год назад