This website works better with JavaScript
Головна сторінка
Огляд
Довідка
Увійти
cturan
/
llama.cpp
дзеркало
https://github.com/cturan/llama.cpp
Слідкувати
1
Зірка
0
Відгалуження
0
Файли
Проблеми
0
Wiki
Дерево:
d273c1402b
Гілки
Теги
k2v2
master
minimax
qwen3_next
qwen3_next_optimized
toolinjection
test
b6814
llama.cpp
/
examples
/
speculative
Pedro Cuenca
b97bc3966e
llama : support Llama 3 HF conversion (
#6745
)
1 рік тому
..
CMakeLists.txt
b12fa0d1c1
build : link against build info instead of compiling against it (
#3879
)
2 роки тому
README.md
6d341ab6c5
speculative : implement stochastic speculative sampling (
#5625
)
1 рік тому
speculative.cpp
b97bc3966e
llama : support Llama 3 HF conversion (
#6745
)
1 рік тому
README.md
llama.cpp/examples/speculative
Demonstration of speculative decoding and tree-based speculative decoding techniques
More info:
https://github.com/ggerganov/llama.cpp/pull/2926
https://github.com/ggerganov/llama.cpp/pull/3624
https://github.com/ggerganov/llama.cpp/pull/5625