Trang chủ Khám phá Trợ giúp
Đăng nhập
cturan
/
llama.cpp
mirror of https://github.com/cturan/llama.cpp
1
0
Fork 0
Các tập tin Các vấn đề 0 Wiki
Tree: 24ecb58168
Branches Tags
llama.cpp
/
examples
Pierrick Hymbert 24ecb58168 Revert "server bench: fix bench not waiting for model load (#7284)" (#7334) 1 năm trước cách đây
..
baby-llama ab336a9d5e code : normalize enum names (#5697) 1 năm trước cách đây
batched b97bc3966e llama : support Llama 3 HF conversion (#6745) 1 năm trước cách đây
batched-bench 9c67c2773d ggml : add Flash Attention (#5021) 1 năm trước cách đây
batched.swift 40f74e4d73 llama : add option to render special/control tokens (#6807) 1 năm trước cách đây
beam-search b97bc3966e llama : support Llama 3 HF conversion (#6745) 1 năm trước cách đây
benchmark 5b09797321 ggml : remove old quantization functions (#5942) 1 năm trước cách đây
convert-llama2c-to-ggml 07cd41d096 TypoFix (#7162) 1 năm trước cách đây
embedding ea3b0590ee embedding : free the batch after execution (#7297) 1 năm trước cách đây
eval-callback eaf4bd8b39 eval-callback : fix conversion to float (#7184) 1 năm trước cách đây
export-lora 6e4e973b26 ci : add an option to fail on compile warning (#3952) 1 năm trước cách đây
finetune 3855416027 ggml : introduce bfloat16 support (#6412) 1 năm trước cách đây
gbnf-validator cbaadc9294 grammars: 1.5x faster inference w/ complex grammars (vector reserves / reuses) (#6609) 1 năm trước cách đây
gguf 8228b66dbc gguf : add option to not check tensor data (#6582) 1 năm trước cách đây
gguf-split 842500144e gguf-split: add --no-tensor-first-split (#7072) 1 năm trước cách đây
gritlm 8a56075b07 gritlm : add --outdir option to hf.sh script (#6699) 1 năm trước cách đây
imatrix 48b2f9c1fc Fixed save_imatrix to match old behaviour for MoE (#7099) 1 năm trước cách đây
infill b97bc3966e llama : support Llama 3 HF conversion (#6745) 1 năm trước cách đây
jeopardy a8777ad84e parallel : add option to load external prompt file (#3416) 2 năm trước cách đây
llama-bench e849648888 llama-bench : add pp+tg test type (#7199) 1 năm trước cách đây
llama.android 1265c670fd Revert "move ndk code to a new library (#6951)" (#7282) 1 năm trước cách đây
llama.swiftui 40f74e4d73 llama : add option to render special/control tokens (#6807) 1 năm trước cách đây
llava 344f9126cc ggml : tag ggml_tensor::backend as deprecated (#7290) 1 năm trước cách đây
lookahead b97bc3966e llama : support Llama 3 HF conversion (#6745) 1 năm trước cách đây
lookup 28103f4832 Server: fix seed for multiple slots (#6835) 1 năm trước cách đây
main 4e3880978f Fix memory bug in grammar parser (#7194) 1 năm trước cách đây
main-cmake-pkg b8a7a5a90f build(cmake): simplify instructions (`cmake -B build && cmake --build build ...`) (#6964) 1 năm trước cách đây
parallel b97bc3966e llama : support Llama 3 HF conversion (#6745) 1 năm trước cách đây
passkey b97bc3966e llama : support Llama 3 HF conversion (#6745) 1 năm trước cách đây
perplexity 1c570d8bee perplexity: add BF16 vs. FP16 results (#7150) 1 năm trước cách đây
quantize ad52d5c259 doc: add references to hugging face GGUF-my-repo quantisation web tool. (#7288) 1 năm trước cách đây
quantize-stats 8843a98c2b Improve usability of --model-url & related flags (#6930) 1 năm trước cách đây
retrieval 64e7b47c69 examples : add "retrieval" (#6193) 1 năm trước cách đây
rpc 9afdffe70e rpc : get available mem for the CPU backend 1 năm trước cách đây
save-load-state beea6e1b16 llama : save and restore kv cache for single seq id (#6341) 1 năm trước cách đây
server 24ecb58168 Revert "server bench: fix bench not waiting for model load (#7284)" (#7334) 1 năm trước cách đây
simple b97bc3966e llama : support Llama 3 HF conversion (#6745) 1 năm trước cách đây
speculative b97bc3966e llama : support Llama 3 HF conversion (#6745) 1 năm trước cách đây
sycl 04976db7a8 docs: fix typos (#7124) 1 năm trước cách đây
tokenize 1b67731e18 BERT tokenizer fixes (#6498) 1 năm trước cách đây
train-text-from-scratch 8b1b1f4982 train : add general name (#6752) 1 năm trước cách đây
CMakeLists.txt 5e31828d3e ggml : add RPC backend (#6829) 1 năm trước cách đây
Miku.sh 019fe257bb MIKU MAYHEM: Upgrading the Default Model for Maximum Fun 🎉 (#2287) 2 năm trước cách đây
alpaca.sh a17a2683d8 alpaca.sh : update model file name (#2074) 2 năm trước cách đây
base-translate.sh 96e80dabc6 examples : improve base-translate.sh script (#4783) 2 năm trước cách đây
chat-13B.bat d9ad104440 Create chat-13B.bat (#592) 2 năm trước cách đây
chat-13B.sh 6daa09d879 examples : read chat prompts from a template file (#1196) 2 năm trước cách đây
chat-persistent.sh ac2219fef3 llama : fix session saving/loading (#3400) 2 năm trước cách đây
chat-vicuna.sh c36e81da62 examples : add chat-vicuna.sh (#1854) 2 năm trước cách đây
chat.sh 8341a25957 main : log file (#2748) 2 năm trước cách đây
gpt4all.sh 107980d970 examples : add -n to alpaca and gpt4all scripts (#706) 2 năm trước cách đây
json-schema-pydantic-example.py 5b7b0ac8df json-schema-to-grammar improvements (+ added to server) (#5978) 1 năm trước cách đây
json_schema_to_grammar.py ab9a3240a9 JSON schema conversion: ⚡️ faster repetitions, min/maxLength for strings, cap number length (#6555) 1 năm trước cách đây
llama.vim 125d03a503 llama.vim : added api key support (#5090) 2 năm trước cách đây
llama2-13b.sh 73643f5fb1 gitignore : changes for Poetry users + chat examples (#2284) 2 năm trước cách đây
llama2.sh 73643f5fb1 gitignore : changes for Poetry users + chat examples (#2284) 2 năm trước cách đây
llm.vim ad9ddcff6e llm.vim : stop generation at multiple linebreaks, bind to <F2> (#2879) 2 năm trước cách đây
make-ggml.py ac43576124 make-ggml.py : compatibility with more models and GGUF (#3290) 2 năm trước cách đây
pydantic-models-to-grammar-examples.py d292f4f204 examples : make pydantic scripts pass mypy and support py3.8 (#5099) 2 năm trước cách đây
pydantic_models_to_grammar.py d292f4f204 examples : make pydantic scripts pass mypy and support py3.8 (#5099) 2 năm trước cách đây
reason-act.sh 7c2227a197 chmod : make scripts executable (#2675) 2 năm trước cách đây
regex-to-grammar.py ab9a3240a9 JSON schema conversion: ⚡️ faster repetitions, min/maxLength for strings, cap number length (#6555) 1 năm trước cách đây
server-embd.py 2002bc96bf server : refactor (#5882) 1 năm trước cách đây
server-llama2-13B.sh 7c2227a197 chmod : make scripts executable (#2675) 2 năm trước cách đây
ts-type-to-grammar.sh ab9a3240a9 JSON schema conversion: ⚡️ faster repetitions, min/maxLength for strings, cap number length (#6555) 1 năm trước cách đây