首页 发现 帮助
登录
cturan
/
llama.cpp
镜像自地址 https://github.com/cturan/llama.cpp
1
0
派生 0
文件 工单管理 0 Wiki
目录树: 14f83526cd
分支列表 标签列表
llama.cpp
/
examples
/
gguf-split
Christian Zhou-Zheng c00fad71e5 gguf-split : change binary multi-byte units to decimal (#7803) 1 年之前
..
CMakeLists.txt d0d5de42e5 gguf-split: split and merge gguf per batch of tensors (#6135) 1 年之前
README.md 8800226d65 Fix --split-max-size (#6655) 1 年之前
gguf-split.cpp c00fad71e5 gguf-split : change binary multi-byte units to decimal (#7803) 1 年之前
tests.sh 1442677f92 common : refactor cli arg parsing (#7675) 1 年之前

README.md

GGUF split Example

CLI to split / merge GGUF files.

Command line options:

  • --split: split GGUF to multiple GGUF, default operation.
  • --split-max-size: max size per split in M or G, f.ex. 500M or 2G.
  • --split-max-tensors: maximum tensors in each split: default(128)
  • --merge: merge multiple GGUF to a single GGUF.