feat: TOKEN_ENCODER_STARTUP_INIT_DISABLED
This commit is contained in:
parent
5c1ce11273
commit
d4c5166886
@ -77,6 +77,7 @@ _✨ 通过标准的 OpenAI API 格式访问所有的大模型,开箱即用
|
||||
12. 现在,它会根据**配置加载**用于**本地开发的 .env 文件**或运行服务器的二进制文件。
|
||||
13. 它集成了用于错误跟踪和监控的 **Sentry** 功能。这有助于更高效地发现和解决问题。
|
||||
> 有关如何将 Sentry 集成到项目中的更多信息,请参阅[官方文档](https://docs.sentry.io/)。
|
||||
14: `TOKEN_ENCODER_STARTUP_INIT_DISABLED=true` 环境变量现在可以**禁用**自动将Token计数器编码器启动到内存中,禁用会减少空闲内存消耗,但对性能略有影响。
|
||||
|
||||
|
||||
## 功能
|
||||
|
4
main.go
4
main.go
@ -103,7 +103,9 @@ func main() {
|
||||
common.SysLog("batch update enabled with interval " + strconv.Itoa(common.BatchUpdateInterval) + "s")
|
||||
model.InitBatchUpdater()
|
||||
}
|
||||
// controller.InitTokenEncoders()
|
||||
if os.Getenv("TOKEN_ENCODER_STARTUP_INIT_DISABLED") != "true" {
|
||||
controller.InitTokenEncoders()
|
||||
}
|
||||
|
||||
// Initialize HTTP server
|
||||
server := gin.Default()
|
||||
|
Loading…
Reference in New Issue
Block a user