GLM 推理服务响应慢且使用限制严
问题概述
用户在使用 GLM 通过 z.ai 接口时,发现响应速度迟钝、并受到严格的调用配额限制,导致无法进行长时间或大规模的推理作业。
痛点标签
- 推理响应速度慢
- 使用配额限制导致无法长时间运行
待验证问题
- 目前 GLM 的平均响应延迟是多少?
- 使用配额的具体上限是多少,是否可以提升?
- 用户对替代推理平台的需求程度如何?
证据
原话
If only this infrastructure could handle all the traffic. I've tried using glm via z.ai - and it's a snail kind of slow.And at the same time you have pretty strict limits to your usage, so in many cases you can't even let it work all night, as you will reach your limit faster than that.
免责声明:本卡片由 AI 从社区讨论中提炼,属于「痛点证据」,是需求分析与验证的起点,不等同于「已验证的市场需求」。AI 存在分析局限,关键决策前请打开上方原始讨论人工复核。