feat: TOKEN_ENCODER_STARTUP_INIT_DISABLED

This commit is contained in:
ckt1031 2023-09-07 17:06:55 +08:00
parent 5c1ce11273
commit d4c5166886
2 changed files with 4 additions and 1 deletions

View File

@ -77,6 +77,7 @@ _✨ 通过标准的 OpenAI API 格式访问所有的大模型,开箱即用
12. 现在,它会根据**配置加载**用于**本地开发的 .env 文件**或运行服务器的二进制文件。
13. 它集成了用于错误跟踪和监控的 **Sentry** 功能。这有助于更高效地发现和解决问题。
> 有关如何将 Sentry 集成到项目中的更多信息,请参阅[官方文档](https://docs.sentry.io/)。
14: `TOKEN_ENCODER_STARTUP_INIT_DISABLED=true` 环境变量现在可以**禁用**自动将Token计数器编码器启动到内存中禁用会减少空闲内存消耗但对性能略有影响。
## 功能

View File

@ -103,7 +103,9 @@ func main() {
common.SysLog("batch update enabled with interval " + strconv.Itoa(common.BatchUpdateInterval) + "s")
model.InitBatchUpdater()
}
// controller.InitTokenEncoders()
if os.Getenv("TOKEN_ENCODER_STARTUP_INIT_DISABLED") != "true" {
controller.InitTokenEncoders()
}
// Initialize HTTP server
server := gin.Default()