Просмотр исходного кода

gguf-py: Support 01.AI Yi models (#3943)

Kerfuffle 2 лет назад
Родитель
Сommit
f28af0d81a
1 измененных файлов с 2 добавлено и 0 удалено
  1. 2 0
      gguf-py/gguf/gguf.py

+ 2 - 0
gguf-py/gguf/gguf.py

@@ -393,6 +393,7 @@ class TensorNameMap:
             "layers.{bid}.attention_norm",                         # llama-pth
             "encoder.layer.{bid}.attention.output.LayerNorm",      # bert
             "language_model.encoder.layers.{bid}.input_layernorm", # persimmon
+            "model.layers.{bid}.ln1",                              # yi
         ),
 
         # Attention norm 2
@@ -464,6 +465,7 @@ class TensorNameMap:
             "layers.{bid}.ffn_norm",                                        # llama-pth
             "encoder.layer.{bid}.output.LayerNorm",                         # bert
             "language_model.encoder.layers.{bid}.post_attention_layernorm", # persimmon
+            "model.layers.{bid}.ln2",                                       # yi
         ),
 
         # Feed-forward up