diff --git a/README.md b/README.md index 810cc4b6..8236983e 100644 --- a/README.md +++ b/README.md @@ -77,6 +77,7 @@ _✨ 通过标准的 OpenAI API 格式访问所有的大模型,开箱即用 12. 现在,它会根据**配置加载**用于**本地开发的 .env 文件**或运行服务器的二进制文件。 13. 它集成了用于错误跟踪和监控的 **Sentry** 功能。这有助于更高效地发现和解决问题。 > 有关如何将 Sentry 集成到项目中的更多信息,请参阅[官方文档](https://docs.sentry.io/)。 +14: `TOKEN_ENCODER_STARTUP_INIT_DISABLED=true` 环境变量现在可以**禁用**自动将Token计数器编码器启动到内存中,禁用会减少空闲内存消耗,但对性能略有影响。 ## 功能 diff --git a/main.go b/main.go index 265ac9bf..ec98f40c 100644 --- a/main.go +++ b/main.go @@ -103,7 +103,9 @@ func main() { common.SysLog("batch update enabled with interval " + strconv.Itoa(common.BatchUpdateInterval) + "s") model.InitBatchUpdater() } - // controller.InitTokenEncoders() + if os.Getenv("TOKEN_ENCODER_STARTUP_INIT_DISABLED") != "true" { + controller.InitTokenEncoders() + } // Initialize HTTP server server := gin.Default()