diff --git a/.env b/.env index ae5938c0..e9c62fb8 100644 --- a/.env +++ b/.env @@ -49,7 +49,7 @@ MAX_BATCH_PREFILL_TOKENS=32818 #MAX_BATCH_PREFILL_TOKENS=8242 ################################################################################ -# Mixtral 8X7B Instruct v0.1 - AWQ +# Mixtral 8x7B Instruct v0.1 - AWQ ################################################################################ #MODEL_ID=casperhansen/mixtral-instruct-awq #MAX_INPUT_TOKENS=32767