From c9d2e42a9e827d966721533f3acbe0c03d4432dc Mon Sep 17 00:00:00 2001 From: JustSong Date: Sun, 30 Jul 2023 22:20:42 +0800 Subject: [PATCH 1/2] fix: fix sse not ending properly in some case --- controller/relay-openai.go | 4 ++-- 1 file changed, 2 insertions(+), 2 deletions(-) diff --git a/controller/relay-openai.go b/controller/relay-openai.go index b986822c..8d7b432b 100644 --- a/controller/relay-openai.go +++ b/controller/relay-openai.go @@ -46,7 +46,7 @@ func openaiStreamHandler(c *gin.Context, resp *http.Response, relayMode int) (*O err := json.Unmarshal([]byte(data), &streamResponse) if err != nil { common.SysError("error unmarshalling stream response: " + err.Error()) - return + continue // just ignore the error } for _, choice := range streamResponse.Choices { responseText += choice.Delta.Content @@ -56,7 +56,7 @@ func openaiStreamHandler(c *gin.Context, resp *http.Response, relayMode int) (*O err := json.Unmarshal([]byte(data), &streamResponse) if err != nil { common.SysError("error unmarshalling stream response: " + err.Error()) - return + continue } for _, choice := range streamResponse.Choices { responseText += choice.Text From 30a7f1a1c7a4a23cb157dedf066a74b81617b242 Mon Sep 17 00:00:00 2001 From: JustSong Date: Sun, 30 Jul 2023 22:24:07 +0800 Subject: [PATCH 2/2] docs: update README --- README.md | 1 + 1 file changed, 1 insertion(+) diff --git a/README.md b/README.md index f32495b2..55b2ecec 100644 --- a/README.md +++ b/README.md @@ -314,6 +314,7 @@ https://openai.justsong.cn + 额度 = 分组倍率 * 模型倍率 * （提示 token 数 + 补全 token 数 * 补全倍率） + 其中补全倍率对于 GPT3.5 固定为 1.33，GPT4 为 2，与官方保持一致。 + 如果是非流模式，官方接口会返回消耗的总 token，但是你要注意提示和补全的消耗倍率不一样。 + + 注意，One API 的默认倍率就是官方倍率，是已经调整过的。 2. 账户额度足够为什么提示额度不足？ + 请检查你的令牌额度是否足够，这个和账户额度是分开的。 + 令牌额度仅供用户设置最大使用量，用户可自由设置。