Georgi Gerganov
|
77a73403ca
ggml : add new Q4_2 quantization (ARM only) (#1046)
|
2 ani în urmă |
slaren
|
315a95a4d3
Add LoRA support (#820)
|
2 ani în urmă |
Georgi Gerganov
|
9190e8eac8
llama : merge llama_internal.h into llama.h
|
2 ani în urmă |
Stephan Walter
|
e7f6997f89
Don't crash on ftype (formerly f16) == 4 (#917)
|
2 ani în urmă |
Stephan Walter
|
3e6e70d8e8
Add enum llama_ftype, sync ggml_type to model files (#709)
|
2 ani în urmă |
comex
|
f963b63afa
Rewrite loading code to try to satisfy everyone:
|
2 ani în urmă |
unbounded
|
62cfc54f77
Add quantize-stats command for testing quantization (#728)
|
2 ani în urmă |
Christian Falch
|
e986f94829
Added api for getting/setting the kv_cache (#685)
|
2 ani în urmă |
Justine Tunney
|
78ca9838ee
Make loading weights 10-100x faster
|
2 ani în urmă |
anzz1
|
a5c42c4b13
Fix typo in llama.h (#593)
|
2 ani în urmă |
anzz1
|
7f4c5c6651
llama : fix linkage with mingw (#551)
|
2 ani în urmă |
Stephan Walter
|
436e561931
all : be more strict about converting float to double (#458)
|
2 ani în urmă |
Stephan Walter
|
c1f885067c
ggml : introduce structs for the q4 data blocks (#356)
|
2 ani în urmă |
Georgi Gerganov
|
03f7e33560
Cleanup STL headers + fix embedding examples + minor stuff
|
2 ani în urmă |
Jed Fox
|
58e6c9f36f
Add support for file load progress reporting callbacks (#434)
|
2 ani în urmă |
Doomsdayrs
|
36d07532ef
Add missing struct annotation (#483)
|
2 ani în urmă |
comex
|
563cdc391d
Support calling mlock() on loaded model data on Linux and macOS (#453)
|
2 ani în urmă |
Luciano
|
8d4a855c24
Add embedding mode with arg flag. Currently working (#282)
|
2 ani în urmă |
Georgi Gerganov
|
f5a77a629b
Introduce C-style API (#370)
|
2 ani în urmă |