Georgi Gerganov 0abc6a2c25 llama : llama_perf + option to disable timings during decode (#9355) 1 an în urmă
..
Sources 0abc6a2c25 llama : llama_perf + option to disable timings during decode (#9355) 1 an în urmă
.gitignore 24ba3d829e examples : add batched.swift + improve CI for swift (#3562) 2 ani în urmă
Makefile 1c641e6aac `build`: rename main → llama-cli, server → llama-server, llava-cli → llama-llava-cli, etc... (#7809) 1 an în urmă
Package.swift 1c641e6aac `build`: rename main → llama-cli, server → llama-server, llava-cli → llama-llava-cli, etc... (#7809) 1 an în urmă
README.md 1c641e6aac `build`: rename main → llama-cli, server → llama-server, llava-cli → llama-llava-cli, etc... (#7809) 1 an în urmă

README.md

This is a swift clone of examples/batched.

$ make $ ./llama-batched-swift MODEL_PATH [PROMPT] [PARALLEL]