 compilade
|
11a3811164
memory : handle kv_unified for hybrid models (#15050)
|
6 месяцев назад |
 Diner Burger
|
496957e1cb
llama : fix parameter order for hybrid memory initialization (#14725)
|
6 месяцев назад |
 Georgi Gerganov
|
225e7a1438
llama : add high-throughput mode (#14363)
|
6 месяцев назад |
|
Georgi Gerganov
|
67d1ef23c6
batch : add optional for sequential equal split (#14511)
|
7 месяцев назад |
|
Georgi Gerganov
|
c79184d2d1
batch : add n_used count (#14512)
|
7 месяцев назад |
|
Georgi Gerganov
|
a70c8a0c4b
kv-cache : use ggml_set_rows (#14285)
|
7 месяцев назад |
|
Georgi Gerganov
|
745f11fed0
memory : correctly handle failure in apply() (#14438)
|
7 месяцев назад |
|
Georgi Gerganov
|
692e3cdd0a
memory : rename interface to llama_memory_context_i (#14296)
|
7 месяцев назад |
|
Georgi Gerganov
|
4c9fdfbe15
ubatch : new splitting logic (#14217)
|
7 месяцев назад |
 Gabe Goodhart
|
edc4a29eff
memory : Hybrid recurrent cache (#13979)
|
7 месяцев назад |
