大促流量一来,推理集群崩了;流量低谷时,GPU 却常年空转烧钱。问题多半出在伸缩策略上:把无状态微服务那套"CPU 到 80% 就扩容"直接搬到 LLM 推理集群,结果要么浪费要么崩。根因是传统指...
字节旅人 2周前 60 0
显示验证码
没有账号?注册  忘记密码?