llama : increase max nodes (#4115)

slaren · web-flow · commit bbecf3f41579 · 2023-11-17T21:39:11.000+02:00
diff --git a/llama.cpp b/llama.cpp
@@ -91,7 +91,7 @@
 #define LLAMA_ATTRIBUTE_FORMAT(...)
 #endif
 
-#define LLAMA_MAX_NODES 4096
+#define LLAMA_MAX_NODES 8192
 
 //
 // logging
