 Stephan Walter
|
81040f10aa
llama : do not allocate KV cache for "vocab_only == true" (#682)
|
před 2 roky |
 Fabian
|
c4f89d8d73
make : use -march=native -mtune=native on x86 (#609)
|
před 2 roky |
 Murilo Santana
|
5b70e7de4c
fix default params for examples/main (#697)
|
před 2 roky |
 Ikko Eltociear Ashimine
|
a717cba844
py: huggingface -> Hugging Face (#686)
|
před 2 roky |
 rimoliga
|
d0a7f742e7
readme: replace termux links with homepage, play store is deprecated (#680)
|
před 2 roky |
 Slaren
|
0d054e292e
Show error message when -f fails
|
před 2 roky |
|
Stephan Walter
|
3525899277
Enable -std= for cmake builds, fix warnings (#598)
|
před 2 roky |
|
slaren
|
1d08882afa
Optimize AVX2 ggml_vec_dot_q4_0 (#642)
|
před 2 roky |
 perserk
|
02c5b27e91
Add AVX acceleration (#617)
|
před 2 roky |
 Pavol Rusnak
|
cbef542879
py : cleanup the code
|
před 2 roky |
|
Pavol Rusnak
|
9733104be5
drop quantize.py (now that models are using a single file)
|
před 2 roky |
 Georgi Gerganov
|
3df890aef4
readme : update supported models
|
před 2 roky |
 Justine Tunney
|
ee0c40dd6d
Introduce GGML migration tool for new file format
|
před 2 roky |
|
Justine Tunney
|
6f23ba5ee2
Ensure --mlock works properly with mmap() support
|
před 2 roky |
|
Justine Tunney
|
78ca9838ee
Make loading weights 10-100x faster
|
před 2 roky |
|
Slaren
|
a017390358
Initial windows support (untested)
|
před 2 roky |
|
Slaren
|
ac184d5147
Always initialize mm_addr and mm_length in llama_model
|
před 2 roky |
|
Slaren
|
276e5b7811
Unmap the file in llama_free
|
před 2 roky |
|
Slaren
|
d68c5dc435
Make mmap_file static
|
před 2 roky |
|
Slaren
|
64bde3ffd4
Fix ggml_init_params in quantize
|
před 2 roky |
|
Slaren
|
c03ae8dca1
Add mmap support for model files
|
před 2 roky |
|
Stephan Walter
|
3bcc129ba8
cmake : properly invoke CTest (#629)
|
před 2 roky |
 Casey Primozic
|
a4755cf288
Remove unused variable (#607)
|
před 2 roky |
 david raistrick
|
1f0414feec
make : fix darwin f16c flags check (#615)
|
před 2 roky |
|
Georgi Gerganov
|
77efdf5a50
ggml : fix NEON signs (close #620, #622)
|
před 2 roky |
|
slaren
|
ed3c680bcd
Fix GGML_F32Cx8_STORE in AVX without F16C path (#619)
|
před 2 roky |
 anzz1
|
9cbc404ba6
ci : re-enable AVX512 testing (Windows-MSVC) (#584)
|
před 2 roky |
|
Georgi Gerganov
|
b51c717d5c
ggml : init time on first ggml_init() call
|
před 2 roky |
|
Georgi Gerganov
|
0ba76c1e73
llama : fix compile warnings when reading the vocab
|
před 2 roky |
|
Georgi Gerganov
|
cea1c85948
ggml : add ARM_NEON dequantize_row_q4_1()
|
před 2 roky |
