 Slaren
|
0d054e292e
Show error message when -f fails
|
před 2 roky |
 Stephan Walter
|
3525899277
Enable -std= for cmake builds, fix warnings (#598)
|
před 2 roky |
|
slaren
|
1d08882afa
Optimize AVX2 ggml_vec_dot_q4_0 (#642)
|
před 2 roky |
 perserk
|
02c5b27e91
Add AVX acceleration (#617)
|
před 2 roky |
 Pavol Rusnak
|
cbef542879
py : cleanup the code
|
před 2 roky |
|
Pavol Rusnak
|
9733104be5
drop quantize.py (now that models are using a single file)
|
před 2 roky |
 Georgi Gerganov
|
3df890aef4
readme : update supported models
|
před 2 roky |
 Justine Tunney
|
ee0c40dd6d
Introduce GGML migration tool for new file format
|
před 2 roky |
|
Justine Tunney
|
6f23ba5ee2
Ensure --mlock works properly with mmap() support
|
před 2 roky |
|
Justine Tunney
|
78ca9838ee
Make loading weights 10-100x faster
|
před 2 roky |
|
Slaren
|
a017390358
Initial windows support (untested)
|
před 2 roky |
|
Slaren
|
ac184d5147
Always initialize mm_addr and mm_length in llama_model
|
před 2 roky |
|
Slaren
|
276e5b7811
Unmap the file in llama_free
|
před 2 roky |
|
Slaren
|
d68c5dc435
Make mmap_file static
|
před 2 roky |
|
Slaren
|
64bde3ffd4
Fix ggml_init_params in quantize
|
před 2 roky |
|
Slaren
|
c03ae8dca1
Add mmap support for model files
|
před 2 roky |
|
Stephan Walter
|
3bcc129ba8
cmake : properly invoke CTest (#629)
|
před 2 roky |
 Casey Primozic
|
a4755cf288
Remove unused variable (#607)
|
před 2 roky |
 david raistrick
|
1f0414feec
make : fix darwin f16c flags check (#615)
|
před 2 roky |
|
Georgi Gerganov
|
77efdf5a50
ggml : fix NEON signs (close #620, #622)
|
před 2 roky |
|
slaren
|
ed3c680bcd
Fix GGML_F32Cx8_STORE in AVX without F16C path (#619)
|
před 2 roky |
 anzz1
|
9cbc404ba6
ci : re-enable AVX512 testing (Windows-MSVC) (#584)
|
před 2 roky |
|
Georgi Gerganov
|
b51c717d5c
ggml : init time on first ggml_init() call
|
před 2 roky |
|
Georgi Gerganov
|
0ba76c1e73
llama : fix compile warnings when reading the vocab
|
před 2 roky |
|
Georgi Gerganov
|
cea1c85948
ggml : add ARM_NEON dequantize_row_q4_1()
|
před 2 roky |
|
Georgi Gerganov
|
f202ada131
ggml : add ARM_NEON quantize_row_q4_1()
|
před 2 roky |
|
Georgi Gerganov
|
3b44d30d9b
ggml : add ARM_NEON ggml_vec_dot_q4_1()
|
před 2 roky |
|
Pavol Rusnak
|
61cbfff5c9
rename convert_ggml_to_pth.py -> convert-ggml-to-pth.py (#600)
|
před 2 roky |
 Thérence
|
d9ad104440
Create chat-13B.bat (#592)
|
před 2 roky |
|
Georgi Gerganov
|
b467702b87
readme : fix typos
|
před 2 roky |
