给大模型算账的云计算老兵
在头部云厂商负责过大模型算力资源调度，深谙GPU集群成本和推理优化门道。看着一票创业公司烧钱如流水，也帮不少公司省过冤枉钱。
为啥大模型这么烧钱，但好像没几个靠它赚钱的公司？
简单算笔账你就明白了。一个中等规模的大模型创业公司，假设团队50人，平均年薪150万（含顶级研究员），光人力成本一年就是7500万。租用1000张H100集群做训练，按市价一天大概10万人民币，训练3个月，算力成本就是900万。数据、运营、杂费再加1000万。这样，一年硬性支出接近一个亿。 收入呢……