Nigel Bosch
|
db4047ad5c
main : escape prompt prefix/suffix (#2151)
|
2 tahun lalu |
JackJollimore
|
18780e0a5e
readme : update Termux instructions (#2147)
|
2 tahun lalu |
clyang
|
3bbc1a11f0
ggml : fix buidling with Intel MKL but ask for "cblas.h" issue (#2104) (#2115)
|
2 tahun lalu |
rankaiyx
|
2492a53fd0
readme : add more docs indexes (#2127)
|
2 tahun lalu |
Johannes Gäßler
|
64639555ff
Fixed OpenLLaMA 3b CUDA mul_mat_vec_q (#2144)
|
2 tahun lalu |
Johannes Gäßler
|
061f5f8d21
CUDA: add __restrict__ to mul mat vec kernels (#2140)
|
2 tahun lalu |
dylan
|
84525e7962
docker : add support for CUDA in docker (#1461)
|
2 tahun lalu |
Georgi Gerganov
|
a7e20edf22
ci : switch threads to 1 (#2138)
|
2 tahun lalu |
Qingyou Meng
|
1d656d6360
ggml : change ggml_graph_compute() API to not require context (#1999)
|
2 tahun lalu |
Georgi Gerganov
|
7242140283
ggml : remove sched_yield() call in ggml_graph_compute_thread() (#2134)
|
2 tahun lalu |
Aarni Koskela
|
3e08ae99ce
convert.py: add mapping for safetensors bf16 (#1598)
|
2 tahun lalu |
Howard Su
|
481f793acc
Fix opencl by wrap #if-else-endif with \n (#2086)
|
2 tahun lalu |
Georgi Gerganov
|
dfd9fce6d6
ggml : fix restrict usage
|
2 tahun lalu |
Judd
|
36680f6e40
convert : update for baichuan (#2081)
|
2 tahun lalu |
tslmy
|
a17a2683d8
alpaca.sh : update model file name (#2074)
|
2 tahun lalu |
Tobias Lütke
|
31cfbb1013
Expose generation timings from server & update completions.js (#2116)
|
2 tahun lalu |
Jesse Jojo Johnson
|
983b555e9d
Update Server Instructions (#2113)
|
2 tahun lalu |
Georgi Gerganov
|
ec326d350c
ggml : fix bug introduced in #1237
|
2 tahun lalu |
Georgi Gerganov
|
1b6efeab82
tests : fix test-grad0
|
2 tahun lalu |
Stephan Walter
|
1b107b8550
ggml : generalize `quantize_fns` for simpler FP16 handling (#1237)
|
2 tahun lalu |
Jesse Jojo Johnson
|
8567c76b53
Update server instructions for web front end (#2103)
|
2 tahun lalu |
Johannes Gäßler
|
924dd22fd3
Quantized dot products for CUDA mul mat vec (#2067)
|
2 tahun lalu |
Howard Su
|
051c70dcd5
llama: Don't double count the sampling time (#2107)
|
2 tahun lalu |
Johannes Gäßler
|
9e4475f5cf
Fixed OpenCL offloading prints (#2082)
|
2 tahun lalu |
Nigel Bosch
|
7f0e9a775e
embd-input: Fix input embedding example unsigned int seed (#2105)
|
2 tahun lalu |
Georgi Gerganov
|
b472f3fca5
readme : add link web chat PR
|
2 tahun lalu |
Georgi Gerganov
|
ed9a54e512
ggml : sync latest (new ops, macros, refactoring) (#2106)
|
2 tahun lalu |
jwj7140
|
f257fd2550
Add an API example using server.cpp similar to OAI. (#2009)
|
2 tahun lalu |
Tobias Lütke
|
7ee76e45af
Simple webchat for server (#1998)
|
2 tahun lalu |
Henri Vasserman
|
acc111caf9
Allow old Make to build server. (#2098)
|
2 tahun lalu |