Просмотр исходного кода

convert.py : fix llama/llama2 conversion due to vocab_size=-1 (#4258)

slaren 2 лет назад
Родитель
Сommit
f4d973cecb
1 измененных файлов с 1 добавлено и 1 удалено
  1. 1 1
      convert.py

+ 1 - 1
convert.py

@@ -267,7 +267,7 @@ class Params:
             n_ctx = 2048
 
         return Params(
-            n_vocab          = config.get("vocab_size", model["tok_embeddings.weight"].shape[0]),
+            n_vocab          = model["tok_embeddings.weight"].shape[0],
             n_embd           = config["dim"],
             n_layer          = config["n_layers"],
             n_ctx            = n_ctx,