|
|
@@ -477,6 +477,7 @@ extern "C" {
|
|
|
LLAMA_API int32_t llama_model_n_embd (const struct llama_model * model);
|
|
|
LLAMA_API int32_t llama_model_n_layer (const struct llama_model * model);
|
|
|
LLAMA_API int32_t llama_model_n_head (const struct llama_model * model);
|
|
|
+ LLAMA_API int32_t llama_model_n_head_kv (const struct llama_model * model);
|
|
|
|
|
|
// Get the model's RoPE frequency scaling factor
|
|
|
LLAMA_API float llama_model_rope_freq_scale_train(const struct llama_model * model);
|