Sfoglia il codice sorgente

fix missing parameters in `llama_init_from_gpt_params` (#1293)

slaren 2 anni fa
parent
commit
bf4b22ffe4
1 ha cambiato i file con 2 aggiunte e 0 eliminazioni
  1. 2 0
      examples/common.cpp

+ 2 - 0
examples/common.cpp

@@ -414,6 +414,8 @@ struct llama_context * llama_init_from_gpt_params(const gpt_params & params) {
     lparams.f16_kv     = params.memory_f16;
     lparams.use_mmap   = params.use_mmap;
     lparams.use_mlock  = params.use_mlock;
+    lparams.logits_all = params.perplexity;
+    lparams.embedding  = params.embedding;
 
     llama_context * lctx = llama_init_from_file(params.model.c_str(), lparams);