Почетна Преглед Помоћ
Пријавите се
cturan
/
llama.cpp
огледало од https://github.com/cturan/llama.cpp
1
0
Креирај огранак 0
Датотеке Дискусије 0 Вики
Дрво: e2bd725f4b
Гране Ознаке
llama.cpp
/
examples
/
speculative
Georgi Gerganov 1f5cd83275 examples : add readme files пре 2 година
..
CMakeLists.txt b12fa0d1c1 build : link against build info instead of compiling against it (#3879) пре 2 година
README.md 1f5cd83275 examples : add readme files пре 2 година
speculative.cpp 40a34fe8d0 speculative : fix prompt tokenization in speculative example (#4025) пре 2 година

README.md

llama.cpp/examples/speculative

Demonstartion of speculative decoding and tree-based speculative decoding techniques

More info: