llama_internal.h 329 B

123456789101112
  1. // Internal header to be included by llama.cpp and tests/benchmarks only.
  2. #ifndef LLAMA_INTERNAL_H
  3. #define LLAMA_INTERNAL_H
  4. #include <vector>
  5. #include <string>
  6. struct ggml_tensor;
  7. std::vector<std::pair<std::string, struct ggml_tensor *>>& llama_internal_get_tensor_map(struct llama_context * ctx);
  8. #endif // LLAMA_INTERNAL_H