Просмотр исходного кода

batched-bench : fix pp batch contents (#13492)

Georgi Gerganov 8 месяцев назад
Родитель
Сommit
b89d605a91
1 измененных файлов с 2 добавлено и 2 удалено
  1. 2 2
      tools/batched-bench/batched-bench.cpp

+ 2 - 2
tools/batched-bench/batched-bench.cpp

@@ -123,8 +123,8 @@ int main(int argc, char ** argv) {
 
                 common_batch_clear(batch);
 
-                for (int i = 0; i < pp; ++i) {
-                    for (int j = 0; j < (is_pp_shared ? 1 : pl); ++j) {
+                for (int j = 0; j < (is_pp_shared ? 1 : pl); ++j) {
+                    for (int i = 0; i < pp; ++i) {
                         common_batch_add(batch, 0, i, { j }, false);
                     }
                 }