Alberto
|
235b610d65
readme : fixed termux instructions (#1973)
|
2 年 前 |
Alex Renda
|
b061ba9e2a
llama : fix top-p sampling to match the canonical definition (#1953)
|
2 年 前 |
Didzis Gosko
|
527b6fba1d
llama : make model stateless and context stateful (llama_state) (#1797)
|
2 年 前 |
eiery
|
d7b7484f74
Add OpenLLaMA instructions to the README (#1954)
|
2 年 前 |
Erik Scholz
|
7487137227
rework convert.py to read hyper-parameters from config.json (#1958)
|
2 年 前 |
Johannes Gäßler
|
bbca06e269
cmake: revert CUDA arch default to 52, 61 if f16 (#1959)
|
2 年 前 |
Rahul Vivek Nair
|
fb98254f99
Fix typo in README.md (#1961)
|
2 年 前 |
Georgi Gerganov
|
049aa16b8c
readme : add link to p1
|
2 年 前 |
Xiake Sun
|
2322ec223a
Fix typo (#1949)
|
2 年 前 |
Ettore Di Giacinto
|
aacdbd4056
llama : fix params struct slignment (#1936)
|
2 年 前 |
Henri Vasserman
|
20568fe60f
[Fix] Reenable server embedding endpoint (#1937)
|
2 年 前 |
Georgi Gerganov
|
18b35625c3
ggml : fix bug in LBFGS optimizer (found by ggml tests)
|
2 年 前 |
l3utterfly
|
ba4e85a833
llama : use aligned memory during ggml_init call from loading saved sessions (#1934)
|
2 年 前 |
Georgi Gerganov
|
23fc5c219a
cmake : fix trailing whitespaces
|
2 年 前 |
Kawrakow
|
cb40dfca69
llama : only use Q6_K for output weights if tensor size is multiple of 256 (#1932)
|
2 年 前 |
Kawrakow
|
ca7c3f4da5
cuda : faster k-quants on older GPUs (#1930)
|
2 年 前 |
Georgi Gerganov
|
b97ca431db
ggml : sync latest ggml repo (#1924)
|
2 年 前 |
Howard Su
|
1e3abfcef0
cmake : fix build shared ggml when CUDA is enabled (#1929)
|
2 年 前 |
Johannes Gäßler
|
16b9cd1939
Convert vector to f16 for dequantize mul mat vec (#1913)
|
2 年 前 |
Johannes Gäßler
|
b24c3049d9
Added tokens per second to info prints (#1928)
|
2 年 前 |
Johannes Gäßler
|
0ede372a51
Fixed incorrectly applying RMS norm twice (#1925)
|
2 年 前 |
l3utterfly
|
8596af4277
ggml : fix bug in ggml_compute_forward_add_q_f32 (#1918)
|
2 年 前 |
Mike
|
e1886cf4fe
readme : update Android build instructions (#1922)
|
2 年 前 |
Kawrakow
|
8ab8ba62eb
llama : prevent usage of k-quants when tensor size is not a multiple of 256 (#1921)
|
2 年 前 |
Kawrakow
|
90cc59d6ab
examples : fix examples/metal (#1920)
|
2 年 前 |
Georgi Gerganov
|
ce2c7d72e2
metal : handle buffers larger than device's maxBufferLength (#1826)
|
2 年 前 |
Howard Su
|
57cd69460f
cmake : add CUDA_ARCHITECTURES to new target ggml_static (#1917)
|
2 年 前 |
Georgi Gerganov
|
b2416493ab
make : do not print help for simple example
|
2 年 前 |
Georgi Gerganov
|
4f9c43e3bd
minor : warning fixes
|
2 年 前 |
Johannes Gäßler
|
2c9380dd2f
Only one CUDA stream per device for async compute (#1898)
|
2 年 前 |