Почетна Преглед Помоћ
Пријавите се
cturan
/
llama.cpp
огледало од https://github.com/cturan/llama.cpp
1
0
Креирај огранак 0
Датотеке Дискусије 0 Вики
Дрво: e81b8e4b7f
Гране Ознаке
llama.cpp
/
examples
/
diffusion
Johannes Gäßler e81b8e4b7f llama: use FA + max. GPU layers by default (#15434) пре 4 месеци
..
CMakeLists.txt ab14019821 Support diffusion models: Add Dream 7B (#14644) пре 6 месеци
README.md 8a4a856277 Add LLaDA 8b Diffusion model (#14771) пре 5 месеци
diffusion-cli.cpp e81b8e4b7f llama: use FA + max. GPU layers by default (#15434) пре 4 месеци

README.md

Diffusion Text Generation

This directory contains implementations for Diffusion LLMs (DLLMs)

More Info:

Example of using Dream architechture: llama-diffusion-cli -m dream7b.gguf -p "write code to train MNIST in pytorch" -ub 512 --diffusion-eps 0.001 --diffusion-algorithm 3 --diffusion-steps 256 --diffusion-visual

Example of using LLaDA architechture: llama-diffusion-cli -m llada-8b.gguf -p "write code to train MNIST in pytorch" -ub 512 --diffusion-block-length 32 --diffusion-steps 256 --diffusion-visual