Explorar o código

llama : fix compile warnings in llama_set_state_data()

Georgi Gerganov %!s(int64=2) %!d(string=hai) anos
pai
achega
8a203f9fa1
Modificáronse 2 ficheiros con 3 adicións e 3 borrados
  1. 2 2
      llama.cpp
  2. 1 1
      llama.h

+ 2 - 2
llama.cpp

@@ -2618,8 +2618,8 @@ size_t llama_copy_state_data(struct llama_context * ctx, uint8_t * dst) {
 }
 
 // Sets the state reading from the specified source address
-size_t llama_set_state_data(struct llama_context * ctx, const uint8_t * src) {
-    const uint8_t * inp = src;
+size_t llama_set_state_data(struct llama_context * ctx, uint8_t * src) {
+    uint8_t * inp = src;
 
     // set rng
     {

+ 1 - 1
llama.h

@@ -138,7 +138,7 @@ extern "C" {
 
     // Set the state reading from the specified address
     // Returns the number of bytes read
-    LLAMA_API size_t llama_set_state_data(struct llama_context * ctx, const uint8_t * src);
+    LLAMA_API size_t llama_set_state_data(struct llama_context * ctx, uint8_t * src);
 
     // Save/load session file
     LLAMA_API bool llama_load_session_file(struct llama_context * ctx, const char * path_session, llama_token * tokens_out, size_t n_token_capacity, size_t * n_token_count_out);