Эхлэл Бүгдийг харах Тусламж
Нэвтрэх
cturan
/
llama.cpp
-ын хуулбар https://github.com/cturan/llama.cpp
1
0
Салаа 0
Файлууд Асуудлууд 0 Мэдлэгийн сан
Мод: c41ea36eaa
Салаанууд Тагууд
llama.cpp
/
examples
/
batched.swift
Georgi Gerganov 0e89203b51 speculative : add tree-based sampling example (#3624) 2 жил өмнө
..
Sources 0e89203b51 speculative : add tree-based sampling example (#3624) 2 жил өмнө
.gitignore 24ba3d829e examples : add batched.swift + improve CI for swift (#3562) 2 жил өмнө
Makefile 24ba3d829e examples : add batched.swift + improve CI for swift (#3562) 2 жил өмнө
Package.swift 24ba3d829e examples : add batched.swift + improve CI for swift (#3562) 2 жил өмнө
README.md 24ba3d829e examples : add batched.swift + improve CI for swift (#3562) 2 жил өмнө

README.md

This is a swift clone of examples/batched.

$ make $ ./swift MODEL_PATH [PROMPT] [PARALLEL]