cturan/llama.cpp

vulkan: remove the need for the dryrun (#16826)

* vulkan: remove the need for the dryrun

Allocate pipelines and descriptor sets when requested.

Reallocate the prealloc buffers when needed, and flush any pending work
before reallocating.

For rms_partials and total_mul_mat_bytes, use the sizes computed the last time
the graph was executed.

* remove dryrun parameters

Jeff Bolz 2 kuukautta sitten

vanhempi

66d8eccd42

sitoutus

ad51c0a720

1 muutettua tiedostoa jossa 157 lisäystä ja 168 poistoa

Jaettu näkymä Näytä diff tilastot

				
					Tiedoston diff-näkymää rajattu, sillä se on liian suuri
					
						+ 157
						
						- 168
					
ggml/src/ggml-vulkan/ggml-vulkan.cpp

			
				Kaikkia tiedostoja ei voida näyttää, sillä liian monta tiedostoa muuttui tässä diffissä

vulkan: remove the need for the dryrun (#16826)

Tiedoston diff-näkymää rajattu, sillä se on liian suuri + 157 - 168 ggml/src/ggml-vulkan/ggml-vulkan.cpp

Kaikkia tiedostoja ei voida näyttää, sillä liian monta tiedostoa muuttui tässä diffissä

Tiedoston diff-näkymää rajattu, sillä se on liian suuri
+ 157 - 168
ggml/src/ggml-vulkan/ggml-vulkan.cpp