Просмотр исходного кода

fix missing parameters in `llama_init_from_gpt_params` (#1293)

slaren 2 лет назад
Родитель
Сommit
bf4b22ffe4
1 измененных файлов с 2 добавлено и 0 удалено
  1. 2 0
      examples/common.cpp

+ 2 - 0
examples/common.cpp

@@ -414,6 +414,8 @@ struct llama_context * llama_init_from_gpt_params(const gpt_params & params) {
     lparams.f16_kv     = params.memory_f16;
     lparams.use_mmap   = params.use_mmap;
     lparams.use_mlock  = params.use_mlock;
+    lparams.logits_all = params.perplexity;
+    lparams.embedding  = params.embedding;
 
     llama_context * lctx = llama_init_from_file(params.model.c_str(), lparams);