jukofyork
|
97877eb10b
Control vector loading fixes (#8137)
|
1 an în urmă |
Xuan Son Nguyen
|
49c03c79cd
cvector: better prompt handling, add "mean vector" method (#8069)
|
1 an în urmă |
Xuan Son Nguyen
|
48e6b92cc3
Add chat template support for llama-cli (#8068)
|
1 an în urmă |
HatsuneMikuUwU33
|
f702a90e24
Update control vector help (#8104)
|
1 an în urmă |
Yann Follet
|
646ef4a9cf
embedding : more cli arguments (#7458)
|
1 an în urmă |
Xuan Son Nguyen
|
3e58b0ee35
cvector: fix CI + correct help message (#8064)
|
1 an în urmă |
Douglas Hanley
|
80ea089d77
llama : allow pooled embeddings on any model (#7477)
|
1 an în urmă |
Johannes Gäßler
|
abd894ad96
common: fix warning (#8036)
|
1 an în urmă |
Xuan Son Nguyen
|
0c7b3595b9
Add `cvector-generator` example (#7514)
|
1 an în urmă |
Olivier Chafik
|
d4d915d351
url: save -mu downloads to new cache location (#7826)
|
1 an în urmă |
sasha0552
|
7a16ce7db2
server : smart slot selection using Longest Common Prefix (#7728)
|
1 an în urmă |
Georgi Gerganov
|
ee459f40f6
server : fix --threads-http arg (#7801)
|
1 an în urmă |
Georgi Gerganov
|
f83351f9a6
imatrix : migrate to gpt_params (#7771)
|
1 an în urmă |
Georgi Gerganov
|
1442677f92
common : refactor cli arg parsing (#7675)
|
1 an în urmă |
Georgi Gerganov
|
554c247caf
ggml : remove OpenCL (#7735)
|
1 an în urmă |
0cc4m
|
3d7ebf6312
Vulkan Mixture of Experts (MoE) support (#7628)
|
1 an în urmă |
Brian
|
d298382ad9
main: replace --no-special with --special (#7534)
|
1 an în urmă |
Justine Tunney
|
00c6390793
main : don't print special tokens with --grammar (#6923)
|
1 an în urmă |
Masaya, Kato
|
faa0e6979a
ggml: aarch64: SVE kernels for q8_0_q8_0, q4_0_q8_0 vector dot (#7433)
|
1 an în urmă |
Xuan Son Nguyen
|
902184dd3a
fix missing slash in `fs_get_cache_directory()` (#7503)
|
1 an în urmă |
Georgi Gerganov
|
6ff13987ad
common : normalize naming style (#7462)
|
1 an în urmă |
Amir
|
11474e756d
examples: cache hf model when --model not provided (#7353)
|
1 an în urmă |
Herman Semenov
|
359cbe3f46
ggml-quants, llama : removed excess checks (#7274)
|
1 an în urmă |
Radoslav Gerganov
|
5e31828d3e
ggml : add RPC backend (#6829)
|
1 an în urmă |
Justine Tunney
|
4e3880978f
Fix memory bug in grammar parser (#7194)
|
1 an în urmă |
HanishKVC
|
f89fe2732c
Main+: optionally allow special tokens from user in interactive mode (#7097)
|
1 an în urmă |
Johannes Gäßler
|
c12452c7ae
JSON: [key] -> .at(key), assert() -> GGML_ASSERT (#7143)
|
1 an în urmă |
Dawid Potocki
|
83330d8cd6
main : add --conversation / -cnv flag (#7108)
|
1 an în urmă |
viric
|
fcd84a0f5a
Fix Linux /sys cpu path to guess number of cores (#7064)
|
1 an în urmă |
Georgi Gerganov
|
9c67c2773d
ggml : add Flash Attention (#5021)
|
1 an în urmă |