 Jinwoo Jeong
|
3ec7e596b2
docker : add '--server' option (#2174)
|
vor 2 Jahren |
 Chad Brewbaker
|
917831c63a
readme : fix zig build instructions (#2171)
|
vor 2 Jahren |
 Howard Su
|
2347463201
Support using mmap when applying LoRA (#2095)
|
vor 2 Jahren |
 LostRuins
|
bbef28218f
Possible solution to allow K-quants on models with n_vocab!=32000 (#2148)
|
vor 2 Jahren |
 Evan Miller
|
5656d10599
mpi : add support for distributed inference via MPI (#2099)
|
vor 2 Jahren |
 oobabooga
|
1d16309969
llama : remove "first token must be BOS" restriction (#2153)
|
vor 2 Jahren |
 Nigel Bosch
|
db4047ad5c
main : escape prompt prefix/suffix (#2151)
|
vor 2 Jahren |
 JackJollimore
|
18780e0a5e
readme : update Termux instructions (#2147)
|
vor 2 Jahren |
 clyang
|
3bbc1a11f0
ggml : fix buidling with Intel MKL but ask for "cblas.h" issue (#2104) (#2115)
|
vor 2 Jahren |
 rankaiyx
|
2492a53fd0
readme : add more docs indexes (#2127)
|
vor 2 Jahren |
 Johannes Gäßler
|
64639555ff
Fixed OpenLLaMA 3b CUDA mul_mat_vec_q (#2144)
|
vor 2 Jahren |
|
Johannes Gäßler
|
061f5f8d21
CUDA: add __restrict__ to mul mat vec kernels (#2140)
|
vor 2 Jahren |
 dylan
|
84525e7962
docker : add support for CUDA in docker (#1461)
|
vor 2 Jahren |
 Georgi Gerganov
|
a7e20edf22
ci : switch threads to 1 (#2138)
|
vor 2 Jahren |
 Qingyou Meng
|
1d656d6360
ggml : change ggml_graph_compute() API to not require context (#1999)
|
vor 2 Jahren |
|
Georgi Gerganov
|
7242140283
ggml : remove sched_yield() call in ggml_graph_compute_thread() (#2134)
|
vor 2 Jahren |
 Aarni Koskela
|
3e08ae99ce
convert.py: add mapping for safetensors bf16 (#1598)
|
vor 2 Jahren |
|
Howard Su
|
481f793acc
Fix opencl by wrap #if-else-endif with \n (#2086)
|
vor 2 Jahren |
|
Georgi Gerganov
|
dfd9fce6d6
ggml : fix restrict usage
|
vor 2 Jahren |
 Judd
|
36680f6e40
convert : update for baichuan (#2081)
|
vor 2 Jahren |
 tslmy
|
a17a2683d8
alpaca.sh : update model file name (#2074)
|
vor 2 Jahren |
 Tobias Lütke
|
31cfbb1013
Expose generation timings from server & update completions.js (#2116)
|
vor 2 Jahren |
 Jesse Jojo Johnson
|
983b555e9d
Update Server Instructions (#2113)
|
vor 2 Jahren |
|
Georgi Gerganov
|
ec326d350c
ggml : fix bug introduced in #1237
|
vor 2 Jahren |
|
Georgi Gerganov
|
1b6efeab82
tests : fix test-grad0
|
vor 2 Jahren |
 Stephan Walter
|
1b107b8550
ggml : generalize `quantize_fns` for simpler FP16 handling (#1237)
|
vor 2 Jahren |
|
Jesse Jojo Johnson
|
8567c76b53
Update server instructions for web front end (#2103)
|
vor 2 Jahren |
|
Johannes Gäßler
|
924dd22fd3
Quantized dot products for CUDA mul mat vec (#2067)
|
vor 2 Jahren |
|
Howard Su
|
051c70dcd5
llama: Don't double count the sampling time (#2107)
|
vor 2 Jahren |
|
Johannes Gäßler
|
9e4475f5cf
Fixed OpenCL offloading prints (#2082)
|
vor 2 Jahren |
