#模型部署

【腾讯】以 32B 参数级别的模型服务为例,作为产品负责人,你会如何评估和规划上线初期的算力与硬件投入?

腾讯 AI 产品经理一面(长上下文/算力方向)真题:考察把产品需求翻译成容量规划的能力——QPS 预估、显存账、弹性策略和成本红线,一个都不能少。