 Georgi Gerganov
|
70f01cb863
Drop trailing new line from file prompts (#80)
|
před 2 roky |
|
Georgi Gerganov
|
9e1707218a
Add "--instruct" argument for usage with Alpaca (#240)
|
před 2 roky |
 Ronsor
|
d7def1a752
Warn user if a context size greater than 2048 tokens is specified (#274)
|
před 2 roky |
 Alex Nguyen
|
d3f202d57b
Remove unused code since n_vocab is model.hparams.n_vocab (#262)
|
před 2 roky |
 Justin Suess
|
e03e359730
fixed warning with std::ignore about unused function result (#151)
|
před 2 roky |
 thement
|
c9f670a177
Implement non-greedy tokenizer that tries to maximize token lengths (#242)
|
před 2 roky |
 hoangmit
|
6eac39ba95
Add RMS norm and use it (#187)
|
před 2 roky |
 Rickey Bowers Jr
|
2d15d6c9a9
add SIGINT support for _WIN32 environments (#120)
|
před 2 roky |
|
Justin Suess
|
2d64715ad4
added ctx_size parameter (#148)
|
před 2 roky |
|
Justin Suess
|
16b2c61a22
fixed color reset on exit (#149)
|
před 2 roky |
|
Georgi Gerganov
|
4497ad819c
Print system information
|
před 2 roky |
 Pavol Rusnak
|
671d5cac15
Use fprintf for diagnostic output (#48)
|
před 2 roky |
 uint256_t
|
63fd76fbb0
Reduce model loading time (#43)
|
před 2 roky |
 Val Kharitonov
|
2a20f48efa
Fix UTF-8 handling (including colors) (#79)
|
před 2 roky |
 Matvey Soloviev
|
a169bb889c
Gate signal support on being on a unixoid system. (#74)
|
před 2 roky |
|
Matvey Soloviev
|
460c482540
Fix token count accounting
|
před 2 roky |
|
Matvey Soloviev
|
404fac0d62
Fix color getting reset before prompt output done (#65)
|
před 2 roky |
|
Matvey Soloviev
|
96ea727f47
Add interactive mode (#61)
|
před 2 roky |
 beiller
|
02f0c6fe7f
Add back top_k (#56)
|
před 2 roky |
 Sebastián A
|
eb062bb012
Windows fixes (#31)
|
před 2 roky |
|
beiller
|
129c7d1ea8
Add repetition penalty (#20)
|
před 2 roky |
|
Georgi Gerganov
|
7d9ed7b25f
Bump memory buffer
|
před 2 roky |
|
Georgi Gerganov
|
007a8f6f45
Support all LLaMA models + change Q4_0 quantization storage
|
před 2 roky |
|
Georgi Gerganov
|
70bc0b8b15
Fix a bug in the rope calculation
|
před 2 roky |
|
Georgi Gerganov
|
319cdb3e1f
Final touches
|
před 2 roky |
|
Georgi Gerganov
|
26c0846629
Initial release
|
před 2 roky |
