分享好友 最新动态首页 最新动态分类 切换频道
AI范式转变,国内机会会更多
2024-12-26 20:32

分析认为,明年AI的重点是推理。如果说训练还有技术封锁,推理是很难封锁的。推理比拼的不仅仅是技术,还有商业上能否建立良性内循环,这点从豆包、字节体系、其他国内巨头上都看到了希望。

AI范式转变,国内机会会更多

过去2年国内炒AI基本都是映射。但显然“豆包”这次完全是A股独立行情,虽然恰逢美股炒软件应用,但两者背后逻辑完全不同。尤其是上周美股软件高位调整下跌的情况下,A股应用依然在涨。当然大多没办法深究基本面,但底层逻辑有些微妙的变化。

博通的600-900亿、Ilya的“预训练放缓”,都指向了一点:明年AI的重点就是推理。对于国内来说,训练阶段不仅被技术封锁,还容易被海外开源降维打击,导致只看国内本身,从商业上没有形成良性生态,最终可参与的AI投资机会自然寥寥,真能算账的也就少数NV链上游。但推理和应用生态,理论上可以建立完善体系。

首先算力本身,如果说训练还有技术封锁,推理是很难封锁的。按照老黄的理论,训练用最新卡,推理用“N-1”代足够,参考NV这迭代速度,N-1代大概率结局就是过剩,过剩的产品会追着卖给你。何况现在有一个关键问题待解答,如果scaling的重心变了o1主张的test-time compute、强化学习post-train,还需要GPU“一年一迭代”这么快吗?如果说之前预训练Scaling law范式下,巨大的MoE参数、巨大的模型并行通信开销,都在呼唤Blackwell、Rubin等等更快出现。推理需求为主的市场,需要如此紧绷的迭代吗?显然o1在B卡还没部署的情况下,依靠H卡集群依然在每天快速进步。另一方面,一年一迭代也在推动FLops成本指数降低,这点无疑依然有巨大价值。但相比训练的价值逻辑变了(没你不行 vs 有你更好没你也行)。对于中国的推理需求来说,就是“有你更好,没你也行”。

其次,训练阶段能不能成,标准很单一。应用生态能否跑通,取决于每个国家的成本结构、商业模式、经济模型、产品供给能力,大家各有不同,是个复杂的商业问题。比如中国互联网的产品能力冠绝全球,从创意到执行到运营,但凡卷到海外去都是横扫。中国的商业生态又很极端,付费意识的整体薄弱让saas软件寸草不生,但充满智慧的互联网人又可以找到“free to play” “皮肤抽卡” “小R大R”、“to C再to B”等等商业模式创新,最终这些巨头一样赚得盆满钵满。因此AI应用推理这件事,到了中国互联网公司手里,能给你玩出花来...

之前一直有个困惑,就是由于我们买不到最新卡,单位Flops的推理成本永远比海外贵一点,同时我们的人力成本低从过去的优势变成了劣势(AI替换门槛高),很多场景ROI打正是不是会比北美难一点?结果最近刚刚得知,某些国内模型厂的to B业务已经盈利,在API价格战打骨折的行情下盈利!这背后的推理优化,隐含了大量“中国式”创新,之前文章我们说过,GPU采购受限的情况下,算力简直“八国联军”,倒逼中国infra出现了各种“工程式创新”,比如kimi的pre-fill、decode存算分离,deepseek幻方的分布式架构减少通信开销。虽然略显无奈,但国内推理优化进展比大家想象要快。

因此推理比拼的不仅仅是技术,还有商业上能否建立良性内循环这点从豆包、字节体系、其他国内巨头上都看到了希望。的确模型训练的结果可能决定了推理和应用的能力天花板,国内何时能追上o1和o2都是个未知数。但正如微软CEO Satya一直唠叨的,模型在“通用商品化”,开源模型的进步也很快(这点对我们很关键)。

一旦上述成立,很多投资机会自然打开,不需要完全照搬映射美股。比如美股的saas和软件在讲agent,我们回头先看看自己的软件和saas生态在哪里?

算力不再仅限于NV链,推理infra打开了很多机会。一方面北美链还在,而中国自己的CSP capex链条也可以挖(而且总盘子也不小)。其次ASIC链条机会核心在于,将NV内化的那部分价值,释放给行业上下游。比如networking(光/铜/交换机)、封装、甚至流片。为什么周五博通能带着台积电大涨?GPU过去让台积电赚不到5%的辛苦钱,ASIC薄利多销的特点,实质上提升了台积电在整个CSP资本支出中的蛋糕分配比例。铜缆和AEC这些就不说了,光模块是不是也有逻辑改善?按照博通说的几家CSP都是百万卡、且都是singe fabric,更不用提Ciena这种DCI直接受益的。以及训练完全集中于数据中心,而推理一定会在端侧泛化,新旧终端的机会可能才刚刚开始。

文章来源:信息平权,原文标题:《AI范式转变,国内机会会更多》

风险提示及免责条款

最新文章
陈升号普洱茶收藏指南:如何评估其价值与收藏潜力
普洱茶,作为中国茶文化中的一颗璀璨明珠,不仅因其特别的口感和丰富的历史背景而备受推崇,更因其潜在的投资价值而成为许多茶友和投资者的心头好。特别是在众多中,陈升号普洱茶凭借其卓越的品质和深厚的文化底蕴成为了收藏家们竞相追逐的
高清美女写真生成技巧大揭秘,AI工具带你玩转虚拟摄影!
限时免费,点击体验最近超火的AI生图神器,坐拥3000美女的大男主就是你! https://ai.sohu.com/pc/generate/textToImg?_trans_=030001_yljdaimn 伴随AI技术的迅速发展,越来越多的人开始涉足虚拟摄影这一领域。你是否曾想象过,自己可以通
网站建设公司怎么推广产品,精细分析解释定义_9DM11.71.96
摘要:,,关于网站建设公司如何推广产品,这涉及到一系列的策略ࡴ
智能坐便器有哪些品牌 智能坐便器十大知名品牌介绍【详解】
  对于国产智能马桶盖和进口智能马桶盖,很多消费者都选择去相信进口智能马桶盖,特别是日本的品牌,很多人不惜花重金远洋购买,其实国产中也有不错的品牌,以下的十大智能坐便器就有很多国产品牌,我们一起来看看。  十大智能坐便器和
SEO小白必学,轻松入门搜索引擎优化
本教程将带你轻松入门SEO,从基础概念到优化技巧,助你快速掌握搜索引擎优化,提升网站排名。随着互联网的快速发展,搜索引擎()已经成为网站中不可或缺的一环,SEO不仅可以提高网站的曝光度,还能提升用户体验,从而带来更多的流量和,本
怎么开发微信小程序百科-零基础,如何入门并开发出一个微信小程序?
随着移动互联网的发展,微信小程序已成为越来越多商家入驻的必选之一。但是对于零基础的开发者来说,怎么开发微信小程序却是一道难题。微信官方推出了一款专业的小程序开发工具——“微信开发者工具”,它可以帮助你创建、编辑、调试和预览
高清美女写真生成工具评测:用AI让你打造专属女神!
通过上述比较,可以看出搜狐简单AI在功能与易用性方面具有显著优势。如果你在寻找一个不需要专业知识,能够快速上手的工具,搜狐简单AI绝对值得你尝试!使用搜狐简单AI生成美女写真步骤 现在,我们开始进入具体的使用教程部分,让你在实际
谷歌最新量子芯片突破! 5分钟完成目前超算需要“10的25次方”年的运算
2019年,谷歌曾在《Nature》发布了一项量子计算突破,在世界第一超级计算机需要计算1万年的实验中,谷歌研究的量子计算机只用了短短3分20秒。当时,谷歌CEO桑达尔皮查伊(Sundar Pichai)将此次突破比作莱特兄弟的首飞。12月10日,谷歌在官
百度极速版与百度app的区别在哪里?核心差异就在这里
百度作为搜索引擎是知名度非常的高,而且是国内非常多人使用的搜索方式。市面上出现了两个版本,第1个就是百度极速版,第2个就是百度本身,所以百度极速版和百度有什么区别?大家有没有发现,自从其他APP出了极速版像爱奇艺、百度、抖音、
长合汽车金融全国24小时人工客服电话
长合汽车金融全国24小时人工客服电话00861-82913-38043二线00861-52030-84830长合汽车金融:推动汽车产业与金融服务的深度融合随着汽车产业的飞速发展,汽车金融作为连接汽车产业与金融服务的桥梁,正逐渐成为推动汽车市场繁荣的重要力量,
相关文章
推荐文章
发表评论
0评