Просмотр исходного кода

model : restore support for T5Encoder (#12590)

HighDoping 9 месяцев назад
Родитель
Сommit
953c2a62cf
1 измененных файлов с 5 добавлено и 4 удалено
  1. 5 4
      src/llama-model.cpp

+ 5 - 4
src/llama-model.cpp

@@ -11846,10 +11846,11 @@ llm_graph_result_ptr llama_model::build_graph(
                         GGML_ABORT("invalid graph type");
                 };
             } break;
-            //case LLM_ARCH_T5ENCODER:
-            //    {
-            //        llm.build_t5_enc(gf);
-            //    } break;
+        case LLM_ARCH_T5ENCODER:
+            {
+                llm = std::make_unique<llm_build_t5_enc>(*this, params, gf);
+            }
+            break;
         case LLM_ARCH_JAIS:
             {
                 llm = std::make_unique<llm_build_jais>(*this, params, gf);