 Georgi Gerganov
|
dfd9fce6d6
ggml : fix restrict usage
|
před 2 roky |
 Judd
|
36680f6e40
convert : update for baichuan (#2081)
|
před 2 roky |
 tslmy
|
a17a2683d8
alpaca.sh : update model file name (#2074)
|
před 2 roky |
 Tobias Lütke
|
31cfbb1013
Expose generation timings from server & update completions.js (#2116)
|
před 2 roky |
 Jesse Jojo Johnson
|
983b555e9d
Update Server Instructions (#2113)
|
před 2 roky |
|
Georgi Gerganov
|
ec326d350c
ggml : fix bug introduced in #1237
|
před 2 roky |
|
Georgi Gerganov
|
1b6efeab82
tests : fix test-grad0
|
před 2 roky |
 Stephan Walter
|
1b107b8550
ggml : generalize `quantize_fns` for simpler FP16 handling (#1237)
|
před 2 roky |
|
Jesse Jojo Johnson
|
8567c76b53
Update server instructions for web front end (#2103)
|
před 2 roky |
 Johannes Gäßler
|
924dd22fd3
Quantized dot products for CUDA mul mat vec (#2067)
|
před 2 roky |
 Howard Su
|
051c70dcd5
llama: Don't double count the sampling time (#2107)
|
před 2 roky |
|
Johannes Gäßler
|
9e4475f5cf
Fixed OpenCL offloading prints (#2082)
|
před 2 roky |
 Nigel Bosch
|
7f0e9a775e
embd-input: Fix input embedding example unsigned int seed (#2105)
|
před 2 roky |
|
Georgi Gerganov
|
b472f3fca5
readme : add link web chat PR
|
před 2 roky |
|
Georgi Gerganov
|
ed9a54e512
ggml : sync latest (new ops, macros, refactoring) (#2106)
|
před 2 roky |
 jwj7140
|
f257fd2550
Add an API example using server.cpp similar to OAI. (#2009)
|
před 2 roky |
|
Tobias Lütke
|
7ee76e45af
Simple webchat for server (#1998)
|
před 2 roky |
 Henri Vasserman
|
acc111caf9
Allow old Make to build server. (#2098)
|
před 2 roky |
 ZhouYuChen
|
23c7c6fc91
Update Makefile: clean simple (#2097)
|
před 2 roky |
 Erik Scholz
|
698efad5fb
CI: make the brew update temporarily optional. (#2092)
|
před 2 roky |
 Govlzkoy
|
14a2cc71f6
[ggml] fix index for ne03 value in ggml_cl_mul_f32 (#2088)
|
před 2 roky |
|
Henri Vasserman
|
1cf14ccef1
fix server crashes (#2076)
|
před 2 roky |
|
Howard Su
|
cc45a7feb8
Fix crash of test-tokenizer-0 under Debug build (#2064)
|
před 2 roky |
|
Howard Su
|
55dbb915cc
[llama] No need to check file version when loading vocab score (#2079)
|
před 2 roky |
 WangHaoranRobin
|
d7d2e6a0f0
server: add option to output probabilities for completion (#1962)
|
před 2 roky |
|
Georgi Gerganov
|
46088f7231
ggml : fix build with OpenBLAS (close #2066)
|
před 2 roky |
|
Johannes Gäßler
|
0bc2cdfc87
Better CUDA synchronization logic (#2057)
|
před 2 roky |
|
Johannes Gäßler
|
befb3a3562
Test-based VRAM scratch size + context adjustment (#2056)
|
před 2 roky |
 Daniel Drake
|
b213227067
cmake : don't force -mcpu=native on aarch64 (#2063)
|
před 2 roky |
 Aaron Miller
|
2f8cd979ec
metal : release buffers when freeing metal context (#2062)
|
před 2 roky |
