diff --git a/config/qwen3.5-4b-jarvis.Modelfile b/config/qwen3.5-4b-jarvis.Modelfile index 7961427..3ba043b 100644 --- a/config/qwen3.5-4b-jarvis.Modelfile +++ b/config/qwen3.5-4b-jarvis.Modelfile @@ -15,4 +15,4 @@ FROM qwen3.5:4b PARAMETER num_gpu 24 -PARAMETER num_ctx 8192 +PARAMETER num_ctx 6144 diff --git a/nucleo/cerebro/Modelfile b/nucleo/cerebro/Modelfile index bb00e76..32335e4 100644 --- a/nucleo/cerebro/Modelfile +++ b/nucleo/cerebro/Modelfile @@ -23,4 +23,4 @@ PARAMETER top_k 20 PARAMETER num_predict 300 # 24 de 32 capas en la grafica: deja sitio a whisper en los 4 GB. PARAMETER num_gpu 24 -PARAMETER num_ctx 8192 +PARAMETER num_ctx 6144