Преглед на файлове

Add temporary helper script for Alpaca chat

Georgi Gerganov преди 2 години
родител
ревизия
edeba28366
променени са 1 файла, в които са добавени 6 реда и са изтрити 0 реда
  1. 6 0
      chat.sh

+ 6 - 0
chat.sh

@@ -0,0 +1,6 @@
+#!/bin/bash
+#
+# Temporary script - will be removed in the future
+#
+
+./main -m ./models/ggml-alpaca-7b-q4.bin --color -f ./prompts/alpaca.txt -ins --top_k 10000 --temp 0.96 --repeat_penalty 1 -t 7