Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

api调用的速度越来越慢,10多分钟才有响应 #269

Closed
huangzejian365 opened this issue Jan 13, 2025 · 4 comments
Closed

api调用的速度越来越慢,10多分钟才有响应 #269

huangzejian365 opened this issue Jan 13, 2025 · 4 comments

Comments

@huangzejian365
Copy link

在cline中,api调用的速度异常的缓慢,任务刚开始还好,调用了几次之后,开始就变得异常的缓慢,搞得我不得不切换其他的api,花了20多块,我宁愿把这20多块充值到你的账户里面。是不是我没有充钱的原因,但是你们送的这500w的token,这种调用速度,估计到期都用不完。

@mowentian
Copy link
Contributor

谢谢支持,不过和充值没啥关系。。。
详见

我们注意到最近在使用 Cline + DeepSeek API 时,部分用户遇到了延时较高的问题。其成因主要是长上下文窗口及多并发引起的队列,为了优化使用体验,我们整理了一些建议:

  1. 关闭 Cline 的 Auto Approve 功能:建议在使用 DeepSeek 时,关闭 Cline 的 Auto Approve 功能,以降低资源消耗,降低多请求因并发带来的卡顿风险。

  2. 使用 Cline 改版:例如 Roo-Cline 或 ALine。这些改版携带的上下文相对短,处理请求时表现更为流畅,且缓存命中率更高,可以帮助节省 API 调用成本。

  3. 慎用 DeepSeek 处理大型工程:对于大型代码工程,不建议使用 DeepSeek + Cline。大型工程通常会携带大量代码上下文,会导致 API 请求处理速度明显变慢。

  4. 更换其他 LLM 提供商:建议您在使用 Cline 时,更换其他 LLM 提供商,以获得更流畅的体验。

@mowentian
Copy link
Contributor

#265

@dale0525
Copy link

dale0525 commented Jan 14, 2025

#265

不仅是cline。包括roo-cline、普通的openai sdk调用api、openrouter调用,全都间歇性抽风,已经持续~3天了。而且和上下文长度也没关系,有时候api上下文就几百个token,也会请求失败。

@wning13
Copy link

wning13 commented Jan 14, 2025

一样的问题,我是用openai sdk调用的。 然后新注册了一个免费账号访问就正常了,不清楚果不是对账号有啥限制。

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Labels
None yet
Projects
None yet
Development

No branches or pull requests

4 participants