摘要：我们约的见面时间是下午一点半，一直聊到五点，从当前特别火的Agent聊到底座模型能力，从产品应用聊到算力Infra，从团队管理聊到招人经验...
hi家人们，端午假期开心嘛！
除了休息工作，这次假期，我还和一位好久不见的老朋友约了一个聊天局。
先说下这位朋友的情况，00后，清华博士，创业公司第一年就跑出千万年营收。
我们约的见面时间是下午一点半，一直聊到五点，从当前特别火的Agent聊到底座模型能力，从产品应用聊到算力Infra，从团队管理聊到招人经验...
虽然创业做的事情方向不同，但是聊到最后，我俩简直是一拍即合，找到了无数相同的槽点和泪点。
特别感同身受的是，身为公司的1号位角色，对外看着是光鲜亮丽，但实际上每天眼睛一睁，就是铺天盖地的和各个线条对接，什么都得操心，还得在无数个不确定性中做出最关键的决策，错了可能就万劫不复。
更别提那永远悬在头上的“钱”字，融资、现金流，哪一样不让人焦虑。聊到“钱”这个话题，他和我说：
“你猜国内现在哪些AI应用真正在赚钱？”
和他聊了很多行业“内幕”后，我总结了一下：
不是那些听起来高大上、动辄改变世界的AI大模型应用，反而是那些扎根在细分场景、看起来不那么起眼，但实实在在解决用户某个小痛点，能快速产生现金流的“小生意”。
这些应用可能不会天天上头条，但它们真的在默默赚钱。
我好奇地问：“你怎么知道的？”
他笑着说：“因为这些应用，很多都跑在我们平台上”
一聊才发现，为啥人家能做出来千万的营收，是真真戳中了现在AI应用落地的一个大痛点——算力，而且解决方案还很巧妙。
所以这篇文章，我决定聊聊他们的产品。
现在各种开源模型、低代码平台这么多，AI应用的门槛其实在降低。很多个人开发者或者小团队，都能快速搞出一些有意思、能解决实际问题的AI应用。
但是，最大、也是最怕的问题就是算力成本和运维问题。
具体来说，我这朋友他们做的产品，是一个专门给AI推理场景用的GPU Serverless平台，尤其适合AI初创公司、小型开发团队、一人AI团队。
先放传送门：
第一个问题，什么是Serverless？
理解这个问题之前，得搞明白以前“非Serverless”的平台是怎么搞AI推理的？
第一种，自己买卡，自己组装服务器，自己装系统、配驱动、搭环境、写代码。这种属于土豪玩家，有钱又有团队。第二种， 从阿里云、腾讯云这些云厂商那儿按月或按年租带GPU的虚拟机，虽然不用买硬件了，但是服务器的管理、应用部署还得自己来，想租到又便宜、又稳定、又能弹性扩缩的卡几乎不可能。Serverless，你可以把它想象成用“共享充电宝”，需要时扫码借一个，用完插回去，用多少，付多少。
你只需要把你的AI模型代码（打包成Docker镜像）往平台上一扔，选择好用几块卡，就能跑起来了。
“那这不就是国外的Runpod吗？” 我当时就想到了这个。
Runpod在国外AI圈子里挺火的，它提供了Serverless GPU的服务模式，让很多独立开发者和小型团队能用上便宜又弹性的GPU资源。但因为是国外的平台，网络、支付、技术支持这些，对国内用户来说还是有些不方便。
而他们就是在做‘中国的Runpod’，只不过，做的更适合国内开发者。
第二个问题，为啥是他们解决了AI推理算力的痛点问题？
首先是开发者最关心的问题——价格。
GPU价格贵，还常常没好卡，特别是像4090这种明星卡，要不就是一卡难求，要么太贵了，项目还没开始赚钱，就已经被成本劝退了。
但是在他们平台上，4090单卡推理最高才1.68元/小时，这价格是目前市面上我见过最便宜的。（PS：他们产品的海报真的好抽象hh）
看一个更直观的价格对比——
聊到这里我就好奇了，现在4090这么紧俏，你们怎么能保证有卡呢？他解释说，他们家最核心的其实是一套自研的“闲时算力智能调度平台”。
这套系统特别牛，它能把金山云、火山引擎等等国内26多家智算平台、甚至是个人手里的闲置算力都整合起来。
所以不止便宜，还资源管饱！
然后是部署超级简单，几乎0成本运维。
他们把所有AI模型都容器化了（支持Docker），你只需要把你的模型打包成Docker镜像，往他们平台一扔，两步操作就能搞定，然后就可以直接提供在线推理服务了。
第一步：选择GPU；
第二步：提供镜像地址，或者是选择平台上提供的现成可以直接玩的镜像。
第三步：点击部署服务即可。
我自己跑了一下，不到1分钟就拉起一个图生视频的服务。
我当时就觉得，这简直是解放生产力啊，终于可以把宝贵的精力用到模型和业务上了！
最后一点是弹性！弹性！还是弹性！
比如你的AI应用，白天用户多，晚上没人用，或者突然来了个大流量活动。你如果提前租一堆GPU，那波峰的时候可能不够用，用户卡顿流失；波谷的时候呢，又浪费大把钱，看着闲置的GPU心疼肉疼。
在他们平台上，你不用预估流量，不用提前租卡。比如当你的AI应用请求增加时，只要在页面上点一下，增加到两个节点，就能秒级拉起新服务，按秒级计费。流量回落了，同样也能秒级释放。完全不用操心后台的扩缩容和资源管理。
另外，服务启动/停止、扩容/缩容等操作，都支持了API脚本控制，在本地写一个python或者Linux脚本，批量操作所有任务，不必要上平台手动点击，也是相当方便。
算力场景下，有一个不可能三角， "弹性、稳定、低价"。
弹性：根据需求快速增加或减少算力，就像弹性橡皮筋一样，灵活应对不同的负载。稳定：算力供应可靠，保持连续和不断稳定的运行，不会频繁中断。低价：用户可以用更少的钱获得弹性& 稳定的GPU。想要稳定，你需要长期锁定资源，租金就不会便宜；
想要弹性，随用随停，还要保证稳定，价格也会上去了。
他们做这个平台，就是想打破这个“魔咒”。让AI推理的算力真正做到“弹性、稳定、低价”，这在以前，基本是个“不可能三角”。
共绩算力（suanli.cn）这样的Serverless GPU平台，它也不是说能完美地让三者都达到极致（那真是神仙了），但它通过技术创新（智能调度闲置算力）和模式创新（Serverless按需付费），努力找一个平衡点，给开发者一个性价比更高、更省心的选择，尤其是在AI推理这种对弹性、成本、效率都有很高要求的场景下。
在AI应用爆发的这个鼓点上，他们真的有在解决那些敏捷迭代的小型AI团队，最头疼的推理算力问题。
总的来说，如果你也有AI推理服务的算力需求：
成本低到感人弹性好到想哭部署简单到起飞运维省心到可以摸鱼（开玩笑）那我觉得，共绩算力（suanli.cn）这个平台，你真的可以去了解一下。
来源：夕小瑶科技说一点号
