,不少业内分析指出,大模型已经开始从“卷大模型技术”向“卷大模型应用”转变,但推理成本过高依然是制约大模型规模化应用的关键因素。
在武汉ai智领者峰会现场,阿里云智能集团资深副总裁、公共云事业部总裁刘伟光称:“阿里云这次大幅降低大模型推理价格,就是希望加速ai应用的爆发。我们预计2024年大模型api的日调用次数有望突破100亿。”
刘伟光判断,不管是开源模型还是商业化模型,公共云+api将成为企业使用大模型的主流方式。云上调用成本远对于私有云部署。在追求更大尺寸的模型时,企业要面对gpu采购、软件部署、网络费用、电费、人力成本等等。随着大模型的规模变大,对于私有化部署的成本和复杂性会越来越高。去年还有不少企业考虑购买上百台gpu服务器,来搭建计算网络集群。但今年很多公司已经放弃了自建百台集群的大模型研发。
百度创始人李彦宏也在业绩会表示,模型推理是最重要的长期机会之一,这将成为云业务的关键驱动力。4月,文心大模型api日调用量为2亿次。去年12月时,该数据为5000万次。
谁能抢抓模型推理的市场机遇?
谈及通义千问的这次降价幅度,多名大模型行业专家在接受《科创板日报》记者采访时评价,“力度很大”、“很便宜了”。
不过,实际作用还是要看“疗效”。市面上大模型太多了。疗效好,多少都不贵;如果疗效不好,多少都是贵。
目前头部企业都会选择多家模型接入,在不同应用场景选择更合适的模型,这意味大模型厂商之间的竞争十分激烈。
比如,小米在接入文心大模型api的同时,小米旗下的人工智能助手“小爱同学”也宣布与阿里云通义大模型展开合作,强化其在图片生成、图片理解等方面的多模态ai生成能力。
在刚刚发布的今年一季度财报中,阿里、百度均提及了生成式ai对收入增长带来的正面影响。百度智能云收入为47亿人民币,同比增长12,其中生成式ai带来的收入占比69。测算下来,百度的生成式ai一季度收入约为324亿元。
在阿里财报电话会上,阿里集团ceo吴泳铭表示,