Georgi Gerganov e093dd2382 tests : re-enable tokenizer tests (#8611) 1 tahun lalu
..
.editorconfig 6381d4e110 gguf : new file format with flexible meta data (beta) (#2398) 2 tahun lalu
ggml-vocab-aquila.gguf ff5a3f0c09 Work on the BPE tokenizer (#3252) 2 tahun lalu
ggml-vocab-baichuan.gguf daab3d7f45 Add more tokenizer tests (#3742) 2 tahun lalu
ggml-vocab-bert-bge.gguf f4ab2a4147 llama : fix BPE pre-tokenization (#6920) 1 tahun lalu
ggml-vocab-bert-bge.gguf.inp 807b0c49ff Inference support for T5 and FLAN-T5 model families (#5763) 1 tahun lalu
ggml-vocab-bert-bge.gguf.out 807b0c49ff Inference support for T5 and FLAN-T5 model families (#5763) 1 tahun lalu
ggml-vocab-command-r.gguf 889bdd7686 command-r : add BPE pre-tokenization (#7063) 1 tahun lalu
ggml-vocab-command-r.gguf.inp 807b0c49ff Inference support for T5 and FLAN-T5 model families (#5763) 1 tahun lalu
ggml-vocab-command-r.gguf.out 807b0c49ff Inference support for T5 and FLAN-T5 model families (#5763) 1 tahun lalu
ggml-vocab-deepseek-coder.gguf f4ab2a4147 llama : fix BPE pre-tokenization (#6920) 1 tahun lalu
ggml-vocab-deepseek-coder.gguf.inp 807b0c49ff Inference support for T5 and FLAN-T5 model families (#5763) 1 tahun lalu
ggml-vocab-deepseek-coder.gguf.out 807b0c49ff Inference support for T5 and FLAN-T5 model families (#5763) 1 tahun lalu
ggml-vocab-deepseek-llm.gguf f4ab2a4147 llama : fix BPE pre-tokenization (#6920) 1 tahun lalu
ggml-vocab-deepseek-llm.gguf.inp 807b0c49ff Inference support for T5 and FLAN-T5 model families (#5763) 1 tahun lalu
ggml-vocab-deepseek-llm.gguf.out 807b0c49ff Inference support for T5 and FLAN-T5 model families (#5763) 1 tahun lalu
ggml-vocab-falcon.gguf f4ab2a4147 llama : fix BPE pre-tokenization (#6920) 1 tahun lalu
ggml-vocab-falcon.gguf.inp 807b0c49ff Inference support for T5 and FLAN-T5 model families (#5763) 1 tahun lalu
ggml-vocab-falcon.gguf.out 807b0c49ff Inference support for T5 and FLAN-T5 model families (#5763) 1 tahun lalu
ggml-vocab-gpt-2.gguf f4ab2a4147 llama : fix BPE pre-tokenization (#6920) 1 tahun lalu
ggml-vocab-gpt-2.gguf.inp 807b0c49ff Inference support for T5 and FLAN-T5 model families (#5763) 1 tahun lalu
ggml-vocab-gpt-2.gguf.out 807b0c49ff Inference support for T5 and FLAN-T5 model families (#5763) 1 tahun lalu
ggml-vocab-gpt-neox.gguf daab3d7f45 Add more tokenizer tests (#3742) 2 tahun lalu
ggml-vocab-llama-bpe.gguf f4ab2a4147 llama : fix BPE pre-tokenization (#6920) 1 tahun lalu
ggml-vocab-llama-bpe.gguf.inp 807b0c49ff Inference support for T5 and FLAN-T5 model families (#5763) 1 tahun lalu
ggml-vocab-llama-bpe.gguf.out 807b0c49ff Inference support for T5 and FLAN-T5 model families (#5763) 1 tahun lalu
ggml-vocab-llama-spm.gguf f4ab2a4147 llama : fix BPE pre-tokenization (#6920) 1 tahun lalu
ggml-vocab-llama-spm.gguf.inp 807b0c49ff Inference support for T5 and FLAN-T5 model families (#5763) 1 tahun lalu
ggml-vocab-llama-spm.gguf.out 807b0c49ff Inference support for T5 and FLAN-T5 model families (#5763) 1 tahun lalu
ggml-vocab-mpt.gguf f4ab2a4147 llama : fix BPE pre-tokenization (#6920) 1 tahun lalu
ggml-vocab-mpt.gguf.inp 807b0c49ff Inference support for T5 and FLAN-T5 model families (#5763) 1 tahun lalu
ggml-vocab-mpt.gguf.out 807b0c49ff Inference support for T5 and FLAN-T5 model families (#5763) 1 tahun lalu
ggml-vocab-phi-3.gguf 3b38d48609 Per token attributes (#7685) 1 tahun lalu
ggml-vocab-phi-3.gguf.inp 807b0c49ff Inference support for T5 and FLAN-T5 model families (#5763) 1 tahun lalu
ggml-vocab-phi-3.gguf.out 807b0c49ff Inference support for T5 and FLAN-T5 model families (#5763) 1 tahun lalu
ggml-vocab-qwen2.gguf 229ffff872 llama : add BPE pre-tokenization for Qwen2 (#7114) 1 tahun lalu
ggml-vocab-qwen2.gguf.inp 807b0c49ff Inference support for T5 and FLAN-T5 model families (#5763) 1 tahun lalu
ggml-vocab-qwen2.gguf.out 807b0c49ff Inference support for T5 and FLAN-T5 model families (#5763) 1 tahun lalu
ggml-vocab-refact.gguf 92139b90af tests : add test-tokenizer-0.sh + fix some tokenizers (#7036) 1 tahun lalu
ggml-vocab-refact.gguf.inp 807b0c49ff Inference support for T5 and FLAN-T5 model families (#5763) 1 tahun lalu
ggml-vocab-refact.gguf.out 807b0c49ff Inference support for T5 and FLAN-T5 model families (#5763) 1 tahun lalu
ggml-vocab-starcoder.gguf f4ab2a4147 llama : fix BPE pre-tokenization (#6920) 1 tahun lalu
ggml-vocab-starcoder.gguf.inp 807b0c49ff Inference support for T5 and FLAN-T5 model families (#5763) 1 tahun lalu
ggml-vocab-starcoder.gguf.out 807b0c49ff Inference support for T5 and FLAN-T5 model families (#5763) 1 tahun lalu