 Xuan Son Nguyen
|
3ba780e2a8
lora : fix llama conversion script with ROPE_FREQS (#9117)
|
1 년 전 |
 piDack
|
a07c32ea54
llama : use F32 precision in GLM4 attention and no FA (#9130)
|
1 년 전 |
 Akarshan Biswas
|
11b84eb457
[SYCL] Add a space to supress a cmake warning (#9133)
|
1 년 전 |
 luoyu-intel
|
1731d4238f
[SYCL] Add oneDNN primitive support (#9091)
|
1 년 전 |
 compilade
|
a1631e53f6
llama : simplify Mamba with advanced batch splits (#8526)
|
1 년 전 |
|
Xuan Son Nguyen
|
fc54ef0d1c
server : support reading arguments from environment variables (#9105)
|
1 년 전 |
 Younes Belkada
|
b40eb84895
llama : support for `falcon-mamba` architecture (#9074)
|
1 년 전 |
 fairydreaming
|
f63f603c87
llava : zero-initialize clip_ctx structure fields with aggregate initialization 908)
|
1 년 전 |
 Daniel Bevenius
|
8455340b87
llama : std::move llm_bigram_bpe from work_queue (#9062)
|
1 년 전 |
 Changyeon Kim
|
2f3c1466ff
llava: Add ACC OP for GPU acceleration to the Vulkan backend in the LLAVA CLIP model. (#8984)
|
1 년 전 |
 Meng, Hengyu
|
50addec9a5
[SYCL] fallback mmvq (#9088)
|
1 년 전 |
 zhentaoyu
|
4f8d19ff17
[SYCL] Fix SYCL `im2col` and `convert` Overflow with Large Dims (#9052)
|
1 년 전 |
|
fairydreaming
|
90db8146d5
tests : add missing comma in grammar integration tests (#9099)
|
1 년 전 |
 wangshuai09
|
cfac111e2b
cann: add doc for cann backend (#8867)
|
1 년 전 |
 Radoslav Gerganov
|
1b6ff90ff8
rpc : print error message when failed to connect endpoint (#9042)
|
1 년 전 |
|
Radoslav Gerganov
|
18eaf29f4c
rpc : prevent crashes on invalid input (#9040)
|
1 년 전 |
 Georgi Gerganov
|
554b049068
flake.lock: Update (#9068)
|
1 년 전 |
 ltoniazzi
|
2339a0be1c
tests : add integration test for lora adapters (#8957)
|
1 년 전 |
 Yoshi Suhara
|
2fb9267887
Fix incorrect use of ctx_split for bias tensors (#9063)
|
1 년 전 |
|
Xuan Son Nguyen
|
8b3befc0e2
server : refactor middleware and /health endpoint (#9056)
|
1 년 전 |
 tc-mb
|
d565bb2fd5
llava : support MiniCPM-V-2.6 (#8967)
|
1 년 전 |
 Farbod Bijary
|
ee2984bdaf
py : fix wrong input type for raw_dtype in ggml to gguf scripts (#8928)
|
1 년 전 |
 Aisuko
|
c8ddce8560
Fix inference example lacks required parameters (#9035)
|
1 년 전 |
|
compilade
|
23fd453544
gguf-py : bump version from 0.9.1 to 0.10.0 (#9051)
|
1 년 전 |
 Minsoo Cheong
|
c679e0cb5c
llama : add EXAONE model support (#9025)
|
1 년 전 |
 Liu Jia
|
fb487bb567
common : add support for cpu_get_num_physical_cores() on Windows (#8771)
|
1 년 전 |
 Yoshi Suhara
|
2a24c8caa6
Add Nemotron/Minitron GGUF Conversion & Inference Support (#8922)
|
1 년 전 |
 Nico Bosshard
|
e3f6fd56b1
ggml : dynamic ggml_sched_max_splits based on graph_size (#9047)
|
1 년 전 |
 gtygo
|
4b9afbbe90
retrieval : fix memory leak in retrieval query handling (#8955)
|
1 년 전 |
 Riceball LEE
|
37501d9c79
server : fix duplicated n_predict key in the generation_settings (#8994)
|
1 년 전 |
