 Olivier Chafik
|
a83f528688
`tool-call`: fix llama 3.x and functionary 3.2, play nice w/ pydantic_ai package, update readme (#11539)
|
11 luni în urmă |
|
Olivier Chafik
|
8b576b6c55
Tool call support (generic + native for Llama, Functionary, Hermes, Mistral, Firefunction, DeepSeek) w/ lazy grammars (#9639)
|
11 luni în urmă |
 Isaac McFadyen
|
496e5bf46b
server : (docs) added response format for /apply-template [no ci] (#11503)
|
11 luni în urmă |
 Daniel Bevenius
|
e0449763a4
server : update json snippets in README.md [no ci] (#11492)
|
11 luni în urmă |
 Nigel Bosch
|
eb7cf15a80
server : add /apply-template endpoint for additional use cases of Minja functionality (#11489)
|
11 luni în urmă |
|
Daniel Bevenius
|
e51c47b401
server : update auto gen files comments [no ci] (#11484)
|
11 luni în urmă |
|
Olivier Chafik
|
6171c9d258
Add Jinja template support (#11016)
|
1 an în urmă |
 Georgi Gerganov
|
a3c1232c3f
arg : option to exclude arguments from specific examples (#11136)
|
1 an în urmă |
 Xuan Son Nguyen
|
0da5d86026
server : allow using LoRA adapters per-request (#10994)
|
1 an în urmă |
|
Xuan Son Nguyen
|
5896c65232
server : add OAI compat for /v1/completions (#10974)
|
1 an în urmă |
|
Isaac McFadyen
|
f865ea149d
server: added more docs for response_fields field (#10995)
|
1 an în urmă |
 NeverLucky
|
09fe2e7613
server: allow filtering llama server response fields (#10940)
|
1 an în urmă |
|
Xuan Son Nguyen
|
485dc01214
server : add system_fingerprint to chat/completion (#10917)
|
1 an în urmă |
|
Xuan Son Nguyen
|
57bb2c40cd
server : fix logprobs, make it OAI-compatible (#10783)
|
1 an în urmă |
|
Georgi Gerganov
|
152610eda9
server : output embeddings for all tokens when pooling = none (#10861)
|
1 an în urmă |
|
Georgi Gerganov
|
0e70ba686e
server : add "tokens" output (#10853)
|
1 an în urmă |
|
Georgi Gerganov
|
644fd71b44
sampling : refactor + optimize penalties sampler (#10803)
|
1 an în urmă |
|
Xuan Son Nguyen
|
adffa6ffd5
common : improve -ctv -ctk CLI arguments (#10806)
|
1 an în urmă |
 CentricStorm
|
5555c0c1f6
docs: update server streaming mode documentation (#9519)
|
1 an în urmă |
|
CentricStorm
|
4b4d92b098
docs: fix server documentation formatting (#10776)
|
1 an în urmă |
 Yüg
|
a86ad841f1
server : add flag to disable the web-ui (#10762) (#10751)
|
1 an în urmă |
|
Xuan Son Nguyen
|
3573fa8e7b
server : (refactor) no more json in server_task input (#10691)
|
1 an în urmă |
|
Georgi Gerganov
|
ce4a7b8493
server : various fixes (#10704)
|
1 an în urmă |
|
Xuan Son Nguyen
|
6c5bc0625f
server : (refactoring) do not rely on JSON internally (#10643)
|
1 an în urmă |
|
Xuan Son Nguyen
|
91c36c269b
server : (web ui) Various improvements, now use vite as bundler (#10599)
|
1 an în urmă |
 Nikolaos Pothitos
|
82bca2257b
readme : add option, update default value, fix formatting (#10271)
|
1 an în urmă |
|
Xuan Son Nguyen
|
642330ac7c
llama : add enum for built-in chat templates (#10623)
|
1 an în urmă |
|
Georgi Gerganov
|
8648c52101
make : deprecate (#10514)
|
1 an în urmă |
 haopeng
|
64ed2091b2
server: Add "tokens per second" information in the backend (#10548)
|
1 an în urmă |
|
Georgi Gerganov
|
47f931c8f9
server : enable cache_prompt by default (#10501)
|
1 an în urmă |
