Update app.py

app.py

@@ -14,9 +14,9 @@ huggingface_token = st.secrets["FIREWORKS"]
 login(huggingface_token)
 
 # Configurar modelo Fireworks con cuantización int8
-quant_config = BitsAndBytesConfig.from_model_type(
-    "int8",  # Cuantización para reducir el tamaño y acelerar
-    quantization_scheme="gptq"
+quant_config = BitsAndBytesConfig(
+    load_in_8bit=True,  # Activar la carga en int8
+    quantization_scheme="gptq"  # Especificar el esquema GPTQ
 )
 
 model_id = "fireworks-ai/firefunction-v2"