发财搭子 EP37

AI产业链6月刊-META鬼故事 PK 存储爆裂财报-硬件的下半场

Meta 的算力叙事、美光的存储财报与国产算力,AI 硬件下半场的几条线索。

本期节目笔记

美光财报全面超预期都阻挡不了高位行情下的风吹草动,下半年第一周吹来的一阵去杠杆的狂风。本期尝试解答AI硬件下半场几个关键问题:Meta出租算力是不是算力过剩?存储板块接下去怎么投?从尖端HBM到老旧但疯涨的DDR4到底意味着什么?国产卡到底能不能做训练?先进封装的产业链地位如何?大模型下半年还有什么好期待的?

  1. 06:51存储成为第一主线:GPU之外,为什么HBM、DDR和NAND也被重新定价
  2. 11:34美光财报与长协:印钞机般的毛利率、SCA/LTA怎样提高供给可见度
  3. 21:38为什么DDR4会比DDR5贵,以及长鑫、长江的窗口
  4. 33:03eSSD进入推理链路:智能体为什么会把固态硬盘从“仓库”推成“工作层”
  5. 37:15韩国存储、杠杆ETF和资金面风险
  6. 41:46Meta算力过剩鬼故事:从扎克伯格股东会原话,到数据中心云化和ROIC
  7. 53:58美团LongCat:五万卡国产算力训练,怎样挑战“训练必须依赖达子卡”的旧叙事
  8. 59:15先进封装为什么越来越重要:热压键合、混合键合和3D堆叠
  9. 01:10:13模型和应用层:Claude/GPT、开源追赶、模型路由、视频模型和Coding Agent
00:00

开场

马克汤00:00

欢迎收听本期的发财搭子。发财搭子是一档专业有趣的财富伙伴闲聊节目,和各位听众大家子们一起聊聊市场,聊聊前沿产业和AI科技。我是主播马克汤。本期的录制时间是2026年的7月6日晚上八点半,请大家注意信息的时效性。

马克汤00:18

本期是8台大家子AI产业链的六月刊。七月份刚刚开始,市场也围绕着AI产业链突然多了非常多刺耳的问题,包含了疯狂的鬼故事,以及鬼故事之后全球的疯狂找补。关于这个meta的算力到底是不是过剩,是不是冗余类,存储的涨价是不是能够继续持续,国产的算力是不是只能够停留在推理,模型降价之后上来的硬件会不会被重新定价很多很多的问题。那么今天我也不会在开场把答案就给大家讲完,还是希望逐层的去给大家去做一些拆解包含了我们会从美光的财报入手,然后去分析一下存储各个细分模组的一些价格的变动情况,然后也通过分析meta的一些新闻,还有咱们国产替代的一些趣事,和大家分析一下包含了先进封装等等的一些问题。我们真的想最终再回到一个终极问题,就是AI产业链是不是已经要开始从概念炒作进入了最终这个业绩交付期了。好吧?今天的节目也会从硬件再到大模型,再到最后的AI应用,这是这三层跟大家逐步的去展开。然后在节目正式开启之前,再次播报一下本台的长期赞助商财大子AI最近我们上线了最新的AA卷的功能,并且正在持续更新。

马克汤01:50

如果你想创建一个专属策略,想更好的对持仓和自选进行钉盘,或者这种苦恼不知道从哪里开始,你的投资探索之旅,欢迎大家一定要去试试彩搭子。你可以在各大应用商店搜索彩搭子,也欢迎使用我的邀请码,大发特发的拼音价格感叹号来领取专属福利。本期播客仅分析和总结录制时可见的一些公开信息。好吧,不构成任何投资建议。

马克汤02:16

AI产业链是一个波动非常大的,现在估值有点偏高的,然后这个财报、订单、供应链等各个口径的数据在不断更新的一个产业链。所以也希望大家在做出你的决策之前,一定要去了解到最新的信息。我相信六月结束的时候,那些听了哥们儿五月份AI产业链月刊的这个搭子们,应该还是美滋滋的。我也想问一下,到底是谁听了我的节目超过1个小时还不去给我点赞的?你们动动你们的小手好吧,不然以后这个系列我要考虑一下了。我就发现我的这个平均完播时间超过1个小时,但是点赞人数严重不及预期大家帮帮忙。

马克汤03:00

七月份一上来,上来了没几天,但是整个市场是狂风暴雨,我在上海,就如同上海梅雨季节这个暴雨一模一样。AI产业链出现了巨大的回撤,把市场也砸出了一个大窟窿。但是我也在这两天静下心来去想了一想,结合这两天观察到的一些分化的细分赛道,确实最终我们是要探讨今天的这个主要话题,就是现在的市场你说AI是一个非常高位的一个位置,但市场其实并没有放弃AI它只是从最早的说凡是AI就能投资,对吧?凡是跟AI沾点边儿的,我就能by everything AI逐渐切换到我们要关注业绩质量,要关注这个公司的执行力,要关心这个公司的研发进展,投产速度等等一些细节的账本了。这个故事就从了原来的题材炒作,逐渐的切换到了真刀实枪的业绩考核。

马克汤04:00

我们也会今天再分析一下,像在亚太股市,也现在变成全球投资者非常关注的一个市场。这个SK海力士、三星,然后台积电这三家公司其实贡献了整个MSCI亚太指数的年内涨幅的大约80%。那为什么在这个已经足够分化的市场里面,因为都分化到AI赛道了。那在AI赛道里面为什么人就会继续分化?就这么多板块都在百花齐放,那为什么这三家人就能够力压群雄?

马克汤04:30

黄那也是是我们今天会展开的另外一点,二季度结束了,所以也跟大家同步一下,二季度整个美国的费城半导体指数。这个也是作为全世界线大家关注半导体板块AI硬件板块非常重要的一个指数。这个指数在二季度涨了88%,然后标普500在同期只涨了14%。

马克汤04:50

这也就能看出了半导体系在整个市场里面也是分化的主要驱动力。上次和135老师在科网泡沫复盘的那一期里面也给大家预警了,咱们要观测的除了AI产链本身,你还要去观测其他板块的一些动向,就能帮助我们更好的判断当前是不是真正的出现了顶部拐点的可能性。所以我觉得现在七月份来看,我们也不能绝对说虽然出现了一波回撤,但不能简单的就是说半导体景气度就结束了。我觉得在马上到来的中报的披露的时间窗口,我们还是会看到很多公司有非常经验炸裂的业绩表现。就比如说上周五我们终于放出来了一个结果,就是大招江波龙一样,还会有很多的业绩非常好的公司出现。但是我们要紧盯的就是现在股价已经被一些做了提前交易了。所以说股价的这个幅度和它基本面的幅度是需要做同等的考虑的,好吧?

马克汤05:52

就是我们要量本结合的去看这个事情,最后再在这个正进入正式话题之前,也给大家说一下全世界的这个动量因子。也就是说我们动量因子就是说我越涨它涨的越猛。历史上涨的好的板块在未来涨的越好的。这个因子在从6月22号开始,它冲高回落已经10%几了,将近20%的一个回撤的力度。所以说之前比较拥挤的这些赛道,比较顺的这些仓位,都遭到了集体的减仓和降温。甚至说我们从数据上来也看到有很多的基金进行了去杠杆的一个动作,所以大家其实都是在等这个中期的,就是今年年终的这个财报季,那到底是怎么样再去决定后面的一个动作。所以大家这个月要做好防御,我觉得是对于我们关注AI产业链非常重要的一点。

06:51

存储成为第一主线:GPU之外,为什么HBM、DDR和NAND也被重新定价

马克汤06:51

好,接下来我们就正式开启今天这个分析今天的主要部分我觉得从最开始我还是想跟大家聊聊存储存储这个事儿。我其实在上一集的月刊里面,我就给大家重点讲过长期协议,长协也就是LTA的这个说法了。你要是没有听过当时的这个LTA的分析,我非常建议你去复习一下去考古一下。我当时把整个LTA的来龙去脉,以及它在未来的一个重要性都讲的应该是比较清楚的了。我其实在今天也想重新来简单给大家总结一下,从去年10月份开始,存储行业到底是怎么个运转的,以及存储板块里面的细分的这些零部件到底出现了一些怎么样的变动。

马克汤07:41

我们要知道AI其实他从非常依赖GPU开始,它现在已经不只是我有算力芯片就够了,我更需要去准备好。因为我实时计算的时候,会有非常多的临时计算的东西和计算出来的结果。我这两个东西都要找地方去放,并且要支持我快速的读写。这也是带高了整个存储的一个需求,现在没有比较好的存储的硬件,GPU即使再牛逼,他也没有办法稳定的干活。而且尤其当我们可以看到英伟达老黄家的这个GPU?他对存储的要求简直是越来越高了,从最之前的这个d ram一直到现在的HBM,HBM的规格也逐渐的抬高,这也是对整整个行业那面行业里的技术要求变得越来越高了。这个行当也开始变成了一个技术高壁垒的行业。从最早的这个DRAM的需求,现在已经完全变成了HBM的强需求了。

马克汤08:43

而且大家要知道,就HBM它是把你可以理解它是把这个DRM的芯片去做多层的堆叠,让它在一个平面里面能有更高的性能,就比你就假设他把十几片d ram叠到一起了,对吧?那它这本身就是一个非常难的一个事情,但它就是为了压榨极致的性能,多层堆叠的技术。我在后面我会给大家展开先进封装的一些概念。

马克汤09:09

这也就导致了因为这个行业的技术壁垒如此之高,所以它的利润率也特别高。因为只有这几家能把东西生产出来,且符合我们老黄的标准,对不对?所以说这个利润率,我们说HBM的利润率基本上就跟硬钱差不多了。

马克汤09:24

我们如果去看御三家,也就是三星、海力士和美光,他们的一个HBM的毛利就简直是啊将近要90%了,所以它是一个非常夸张的一个一个零部件。那就是因为它太赚钱了,所以导致了什么呢?导致御三家就会纷纷的挪出产线,对吧?就是我原来工厂里一共是分了HBM1点份额,分了land一点份额,这个分了derive一点份额。现在大家都说HBM这么赚钱,那我就把所有的产能都往HBM里面那里去堆,那正好HBM也很缺,对吧?所以说大家就把产线跟wafer都都腾出来去生产HBM。那就包含了一些老芯片的原来的产能。比如说DDR4,它就出现了产能的空缺,我就直接停产了。

马克汤10:16

但是这些老的芯片,它又作为非AI行业和一些AI行业非核心部件的模块人就在广泛应用的一个芯片的需求。也就是说这些老版本的存储,也就是因为产能下降出现了涨价潮。甚至也就也推演到咱们消费电子里面要用的。比如说LPDDR也因为产能分配到了HBM,分配到了DDR5,所以它的产能也下来了。它产能下来了就会导致它的供需出现了问题,价格就要上涨。咱们看到小米,苹果也好,出现了很多成本端的挤压,都是因为这个简单的道理,甚至连这个供应链管理大师,苹果都只能被迫上调它的全系的产品售价,对吧?

马克汤11:05

我们就可以从整个趋势里面发现,它是一个技术要求逐渐变高,更多的资金和产能都涌向了利润率最高的。因为资本是这个逐逐粒的,他会自动的去涌到这个利润率最高的一些细分的模块。那些利润率稍微低一点的模块,就会受到产能降低引发的供需失衡,导致它的价格大幅的抬升,大概就是这么个趋势。

11:34

美光财报与长协:印钞机般的毛利率、SCA/LTA怎样提高供给可见度

马克汤11:34

好吧,我们今天先来看一下美光的财报。美光2026年财年的第三季度,也就是截止五月底的这个季度,整个收入是达来到了414.6亿美元,很夸张。环比是增长了73%,同比是增长了345%,很夸张。然后最夸张的是毛利率将近去到了85%,来到了84.9%。

马克汤12:00

这个数据为什么我们所有的机构、卖方、买方在财报出来的那一天都纷纷说这是大超预期的业绩呢?很简单,就是因为在业绩出来之前,一般我们业绩出来之前会去看几个事情。第一个是公司原先的指引。第二个是华尔街上所有权威机构对于这家公司的一个预期。第三个就这些预期主要是这个投行,就是卖方给出的。第三个是全市场所有参与者的一些调研报告,里面可能包含了比如说买方的对冲基金,比如说买方的共同基金,公募基金的。

马克汤12:38

会去让大家一起给一个你们觉得这家公司财报出来是大概是个什么结果?一般来看,就是你在这个业绩达标之后,你需要超过你原来公司给出来的指引,那你就很棒了,对不对?现在说大家觉得在财报披露之前,所有人的这个预期都打的特别高。所以你会发现在所有卖方分析师的视角里面,他们会比公司原来的指引高很多。然后我们把这个视角打到买方,他的要求就会更高。但是美光把所有的这些提前的预期全部打爆掉,我们就是一个absolute beat好不好?全面的一个打包,就是他这一个季度的包含了收入、毛利率、EPS这三个维度,全部是明显的高于前面我说的这三个所有的指引和预期是非常夸张的。同时它针对后续的,也就是说今年的Q3,今年的Q4给到的收入和毛利率,还有EPS的指引也是高于市场原来的预期,美光自己给出来的指引,在下个季度已经会去到500亿美金,毛利率会带来到恐怖的86%。

马克汤13:52

就你想有个生意,你成你这个卖100块钱,其中86块钱是毛利,就这就是个印钞机的生意,好吧?所以是非常夸张的一个财报,完全的total beat。财报之后,我们也可以看到很多家机构,所有的卖方的机构,基本上都把美光的这次业绩开始吹的天花乱坠。比如说BOA美国银行把这次的这个财报叫成了memorable beat,也就是令人难忘的一次超预期,把目标价直接抬到了1550美金,然后其他的还有说这是一个存储行业的新纪元,把目标价抬到了两千美金,就特别多。大家都在纷纷的上调自己的预期,并且会把未来的关注的重点放在供需的紧张,还有长期协议这两件事情上面。好吧。所以说现在我们说美光的这个财报超预期已经不仅仅是一个情绪的形容词了。就是说它已经是真实的发现,它的季度的业绩是远高于华尔街和所有的这个调研报告的一个预期。下一个季度的指引人就是非常高中,长期的盈利预测也是不断的在往上修好吧?然后机构纷纷开始去重写他们的目标价和整个的趋势,这是第一点。

马克汤15:11

下面我们就要来看一看,美光这家公司和我上期五月刊里面给大家提到的这个LTA,它到底是实际的进展是什么样子的。为什么我们要关注长期协议呢?或者为什么要关注长协呢?就是存储行业的长期协定。也就是说,有越来越多的比如说云厂商要和这些存储公司去商定未来一年、两年、三年甚至更正常时间的一个订单的提前锁定。并且我都能把地板价给你写进合同,也就是说我把你未来多少的产能直接包掉了,而且我承诺我是会交钱的,也就是说他他甚至是你需要提前打定金下来的,所以这是一个能够代表了未来供需关系的一个情况。

马克汤15:57

因为这么多云厂商担心在未来哪买不到存储了,所以我要提前把这个产能给你定下来。同时我也能通过提前把这个定下来,来发现这些存储公司未来订单的一个未来的能见度。这对于我们所有的投资者来愈预判这些存储公司在未来的一个业绩表现是非常有帮助的一件事情。美光这次财报披露出来,他已经是签了16个SCA了。

马克汤16:24

而SCA也就是另外一个说法的这个LTA,它也是一个长期协议。它的英文就是strategic customer agreement,长期战略客户协议。好吧,那这个些协议对应的基本上就是未来大约1000亿美金的一个地板收入,它也包含了比如说220亿美金的客户的预付款和存款。从占比上来看,基本上大约覆盖的是20%的dram的量和33%的nand的量。这个你就可以知道,反正未来美光一半的收入已经被这个SCA包圆了,你不用再去猜了,他未来打底的收入已经放在那里了。

马克汤17:06

因为这些SCA也好,或者叫LTA或这种长写,它跟普通的订单是不一样的。它不是说我这一个季度要买多少,它是未来几年我要定这么多的存储的一个产能。因为这些云厂商自己本身也在投入大规模的资本开支去建新的数据中心,去建新的AI集群。那他就需要提前去锁定这些产能,不然到时候这个房子盖好了,芯片准备插了,结果这个存储芯片买不到了,那不是白瞎,那整个数据中心它就跑不起来了。所以说大家就会纷纷的去做这个长期协议的一个制定。你也可以发现这个产业链里面的地位就跟供需关系是对等的。这些存储的御三家在现在在供应链里面完成整个的地位都是出现了非常大的增加,就从全球来看,现在三季度的也就是26年三季度的DD2的合约价,也是从之前的预测说环比上涨17%,已经上周到三季度要同比上涨百环比上涨,就较二季度还要再上涨32%。

马克汤18:14

然后四季度,原来是预测要涨12%的,现在又接着上修到18%,这些都是环比,季度环比,这个是我们要知道在26年的二季度,也就是刚刚结束的这个二季度,环比已经上涨67%的情况下了。而且我们当时在一季度的时候说的,今年二季度只要涨30%几,你就想,就这个环比是不断的在往上叠加。很多机构也开始预测这个DRM的需求,基本上到28年的第二季度都仍旧会供不应求。就是现在市场上如此多的说算力过剩,说存储周期性又要重新来了,要降价了,产能上去之后就会降价,这实际上是空穴来风,或者说他就是鬼故事。从27年来看,27年整个的bit级别的需求bit也就是说比如说我要两GB那我的bit需求就是2GB的bit。2027年的bit的需求方已经增长了36.2%,但是预计27年的bit的这个供给只会增长19.3%。

马克汤19:20

所以他们中间的供需缺口会进一步放大。进一步放大就会必然导致了它的价格会持续的上升。这组数字也某种程度上解释了为什么这么多客户愿意去在现在这个时间点就去签署这么长时间段这么高昂的LTA和SCA。因为大家怕的不是今天贵一点点,他真的是怕未来我这个房子盖完了,然后你跟我说存储芯片没货了。

马克汤19:47

现在很多人就说这个d ram已经要变成整个AI产业链里面那个瓶颈,唯一的瓶颈the bottleneck之前我们可能说瓶颈是covers。Covers就是从芯片到金源,再到整个的基板封装,台积电的一个产能是整个产业链里面的瓶颈。那么现在来看,这个叙事已经从call was要逐渐的转移到咱们的这个存储了,以后再也不会有人非天天盯着说台积电的这个封装到底够不够。现在都开始问海力士、三星、美光他们的HBM和服务器的内存到底是哪些云厂商能够提前订得到货,真的是缺货。

马克汤20:31

我们可以看到就是过去的存储,它就像之前存储一直被人说粥。夫妻品,因为他必定会经历涨价扩产,然后库存高磊,然后就跌价,然后周而复始。现在的数据中心它不像原来的这个周期品,它是每个季度去盘,后面要买多少。他现在是未来几年他都要提前去定制整个扩集群的一个存储供给的方案。那现在就要把产能完全定下来好吧?但是我们也要知道,虽然说这个LTA跟SCA,你说是把这个价格完全定死写在合同里,但真的如果未来出现一些供需反转的叙事,很可能这些长期的协议也需要去做一些改动,所以我们还是要看整个的叙事它是不是反转。现在的长期协议无非是给我们增加未来判断的可见性提供一些帮助,所以大家一定要去关注现在每一家存储厂商,只要他发财报,所有市场都会去关注他的LTA签署的情况到底是怎么样一个事儿。

21:38

为什么DDR4会比DDR5贵,以及长鑫、长江的窗口

马克汤21:38

然后跟大家说第二个存储相关的事儿,第二个事儿就是关于old memory,我有一些过去美好的回忆,其实过去的美好的回忆指的是老版本的存储。咱们要知道,现在的内存芯片,最新的叫DDR5,上一代叫DDR4对吧?这个大家可能应该知道,都是属于d ram的这样的一个芯片。那这个DDR5就有一个非常反直觉的事儿,我相信很多人都不知道,你可能在我播客是第一个听到的,也就是说相同规格的DDR5会比相同规格的DDR4来的便宜。也就是说下一代制成的一个同样作用的一个存储芯片,会比老版本的便宜,而且便宜的不少,而且是从去年年底就开始便宜的,就不知道到底中间发生了什么事情,好吧,今天跟大家讲一讲,现在的这个16GB的DDR4的现货价格差不多是75美金。然后现在16GBDDR5的现货价格是46.8美金,不到47美金好吧?所以中间还是差了挺多钱的,差了将近有30块钱,大半了。所以说你就不知道为什么一个贵的东西反而是更更沉的一个技术。

马克汤23:02

首先我们要明确一点,就是DDR5肯定是比DDR4技术规格和价值更高的一个产品。它的整个带宽,它的容量的扩展,它的标准的电压,它的子通道设计都会更适合所有的新平台。但是现在的现货市场的定价,它不是看技术先进型,他不是仅仅看技术的先进性,他还要关注的是编辑的稀缺。

马克汤23:27

为什么就是DDS的主板它会应用在比如说工控设备、老服务器、网络设备,他不会是你你有新的DDR,我就把能把新的这个DDR5的芯片插到老的DDR4才能用的主板上,插不进去的。因为所有的CPU的一个调度,然后它的主板的一个技术的方式,它的擦槽,它的电气规范都是不一样的。所以说这些的这些对于存量设备来说,就是DDR5再好,它的技术能力再强,它的使用价值也等于0。因为我买了我插不上去,他插不上我的这个老板子。所以说DDS现在就像一种这种停产的老零件,你知道吧?性能它肯定不如新款,但是老玩意儿必须用,因为你想咱们英伟达这个年年都更新换代,换代的太快了。但是其他的一些产品,一些这种工控设备,这种没有太多太先进技术含量的设备,它换代是很慢的。所以老设备还没来得及换,你新设备已经啪啪啪往前跑了,这个价格就会被推高。

马克汤24:36

为什么?因为DDR4的供给变得非常少,DDR4的产能全部被阉割掉了。为什么被阉割掉了?

马克汤24:42

因为其他东西太赚钱了,吧?御三家都把产能调去HBM。我前我在前面给大家讲了,都把产能调到高端的net上了,SLC的net上了,都把产能调到了DDR5上了。没有人去生产DDR4了,所以说DDR4的价格反而被推高了。所以为什么这个AI它能把旧存储的这些需求也拉起来了。如果都是一些老设备,它应该用量也不多。那肯定是有新的这个需求,才能把把DDR4这些主板,这些工控设备,这些成就的东西的需求重新带起来。

马克汤25:19

就是因为现在整个AI硬件的技术站,它不只是有咱们平时知道的口口相传的GPU和HBM,对吧?它还包含了比如说启动盘控制面、日志遥测、故障恢复、电源管理、外围控制工等等等等一系列的模块。这些模块都需要用DDR4才能去解决。

马克汤25:43

除了DDR4以外,还有比如说SLC的land,SLC的nand是net中的一个种类,它是一个性能更加高的,但是容量比较小的一种land的存储。还有比如说nor对吧?比如说这个boot drive这些成熟的器件,它是都依赖之前的这个生产线的。他们负责让这个系统能够稳定的开机监控恢复和运行,所以说到这里大家应该就能清楚了,现在的所有的产业链里面的上下游都被带起来了,对吧?

马克汤26:20

大家也发现了,在过去的大半年的时间内,整个AI产业链也出现了非常多的扩散。你会开始最开始比如说玩PCB的,然后开始发现上游的CCL也开始缺货了,上游的童博也开始缺货了。你最开始玩CPO的,你开始网上发现光源也缺货了,你后面发现MLCC也缺货了等等等等的,就是他的需求的紧俏程度是会扩散的这也导致了很多之前的老品种也被带起来了。它是一整套的一个机柜,那整个机柜的需求量上去之后,所有是这个机柜上用到的所有的零部件,它的需求都会上来。你宁可是卖叶轮里面那个转换头的,卖那些插槽的,卖线的,都纷纷的涨价是一样的。现在老设备跟不上产能,老设备没有对应的产线了,都那就成为了他涨价的一个非常重要的一个原因,对吧?那这个时候就有其他公司杀出来了,就是咱们中国的存储,因为中国的存储是这么个情况,就是咱们的DDR5的研发还没有到能够非常牛逼的状态,所以说我们比如说这个长兴的DRM的这个份额,也是在过去的很长时间内出现了提升。很大一部分就是因为我们对于DDR4的生产还是爽快把掐的,好吧?

马克汤27:52

中国的双雄这个长兴跟长江在上一期的月刊里面给大家讲过了。今天就再细致的再讲一讲一些细节和这个月出现的一些新的新闻。首先咱们要知道长江存储的net的份额是从5.1提升到了6.8。长兴存储的d ram的份额从6.4提升到了7.5。这个大家应该知道了,长兴是做d ram和HBM的,长江存储是做nand的。如果你还不知dram和nand有什么区别,请你自己去复习一下之前的节目,好吧,我就不再赘述了。

马克汤28:25

市场上也有很多研究机构,对于长兴做了非常激进的跟踪。他们提到第一个点是长兴在26年第一个季度的收入是已经去到了73亿1美金,同比增长700%,就是非常夸张的一个增长速度,同时大家预测长兴的这个HBM的wafer wafer就是经营员。他在27年的金源的整个的体量应该会达到5.5万片金源的投片量每个月。然后在2028年达到10万片金源投片量的每个月。所以说它在整个的wifi的市占率会出现一个比较大的提升,这是一个比较重要的点。也就是大家已经开始预测咱们长兴能在明年27年开始有HBM的一些产能了,好吧,这是非常振奋人心的事情。因为长兴在过去它其实只具备DRM的生产能力,它在HBM上还差点意思。但我们相信随着这两年国产设备,半导体设备的一些成熟的良率的提升,也会带动这些高精尖的HBM的生产的一个良率的体现。

马克汤29:39

后面我们还要关注的就是这个应用侧的一些需求,对吧?咱们说应用不是AI应用,就是指这些存储到底有没有比较多的买家去买单。路透社在这个月报道一条新闻,就是腾讯和长兴会有一条约30亿美金级别的服务器DRM的长期协议。这也是国内的这这两家厂商终于开始了进入LTA的时代,也说明这两家的技术能力也开始被重视起来,大家开始纷纷的锁定未来的一个产能。所以他很可能跟御三家一样,在未来我们是一定要去关注,尤其是上市之后,一定要去关注他的长期协议的订单的能见度。好吧?

马克汤30:24

然后第二条新闻也就是说苹果正在寻求长芯存储芯片的许可。这个是一个从这个新闻上来说是一个很重磅的信息。因为咱们要知道长兴是被美国封锁的,所以理论上来说美国的苹果公司它是不能够去采购中国的长江长兴的存储设备了,好吧?所以而且这条新闻也是这个媒体报道,他也不是官方披露。

马克汤30:54

我们完全不能说长兴已经进入了苹果的主供应链,这是基本上是不太可能的。苹果其实主要也很难去大规模的采用长兴的DRAM。除了美国的限制以外,它整个对规格的要求,它对功耗的要求,还有采购量的要求都是比较大的。那么现在长兴很可能还没有能够符合苹果这么大规模的一个集中采购。

马克汤31:24

现在市场上比较好的解读,我觉得是长兴他可能会作为苹果和其他的供应商谈判的一个筹码,他可能会跟海力士说,你看我这个长兴都要给我供货了,你给我便宜点,你不便宜我找长兴去买了。他放出这一点消息?来恐吓韩国欧巴,我觉得这个做法是很成熟的供应链管理大师苹果能做得出来的。好吧?我们也不完全现在不能下结论说苹果未来会买长兴,或者说全球的消费电子的供应链会向创新倾斜,我觉得这个是为时尚早。我们只能说未来有一个这样的美好的期许,对吧?

马克汤32:05

咱们两家巨头长兴和长江,在整个全球的存储资源重新包括上游的金源的资源的重新的配置之后,我们中国的本土的d ram和net的供给,这个确定性就需要由这两家厂家来给我们保障。尤其是其实他在整个世界里面也会起到一个不同角色的一个分工。就御三家他可能就是去做HBMDDR5或者说ESSD这种高端的毛利更高的服务。因为他确实技术要求更高精尖,我们很难在短期就实现真正意义上的赶超。但是对于本土的一些比如说服务器,或者相对没技术要求没有那么高的一些产品,消费电子这些服务器终端客户都会需要一个可控的成本,成本可控,供给可控的一个存储的供应池。

33:03

eSSD进入推理链路:智能体为什么会把固态硬盘从“仓库”推成“工作层”

马克汤33:03

在这是这个事情上面。长兴和长江市政渠道非常重要的产业链的地位。所以我们真的不会指望中国的这两家公司快速的全面替代海外的高端产品。但是在全球发生巨变的当下,我们也是能给供应链带来一些新的变化,也会给大家多一个供给的选项,对吧?你考虑我呗。好,前面也提到了这个ESSD,SSD大家应该知道,如果你买过,比如说我出去摄影对吧,那我就我出去旅游的时候要拍巨量的照片,我每次出去要拍几百G的照片,那我几百G的照片我就需要一个至少一TB或者2TB的SSD固态硬盘跟着我。那我就我之前也非常喜欢买SSD。

马克汤33:48

SSD它的优点它就比较快,因为它就是这个读写都会比较快。我前面提到这个ESSD的这个E其实意思是enterprise,enterprise就是企业级的SSD。所以说ESSD它就是针对服务器、数据中心、云厂商和AI集群的企业级SSD。它的规格要求会比SSD高非常多,它有它的核心的性能要求,主要是在稳定性,在奈血,在低延迟,不断电,不丢数据,然后能够扛住7乘24小时的高强度读写。对,因为你在数据中心里面,你不可能说,我今天把电脑关了,我晚上休息的话关个机,不可能他一直要读写全世界的这个不请求都会打到服务器上面,服务器疯狂的去调用SSD去进行高强度的读写。所以对持续性的性能,对于整个延迟性的要求会非常高。这就是ESSD为什么在过去的一个季度也出现了价格的一个疯狂的上涨。

马克汤34:49

ESSD其实在今年的三季度,我们人就会预计其他的一个价格会环比上涨30%左右,这个数字也是从之前的17%上调出来的。而且nan的整体的上行周期至少会持续到27年的第四季度,甚至比d ram的整个的供需的问题会更加严重。然后包括这些产品的整个的平均价格,ASP都会全面的突破新高。

马克汤35:20

那么我们就要问一个问题了,为什么这个agent不是说对d ram和HBM的要求非常高?为什么现在还拉动了SSD的需求呢?因为现在如果你用了非常多的AI应用,codex cloud code菜单子都行,对吧?

马克汤35:36

你不要把agent问答就想成一次简单的一问一答。他每一个任务他都会拆成很多步骤。比如说他先帮你查资料,上网搜索一下,然后上网搜索的时候读个网页,然后再调用一些分析工具帮你扫一下代码库,然后写一些中间的思考过程,然后再检索一下知识库,然后再做一下这个上下文的压缩,最终经过多轮校验,给你输出一个最重要的答案。彩达就是这么做的,特别复杂,所以说它整个过程中对于如此多请求,读和写的请求是非常高的。

马克汤36:13

现在整个的agent的调度都会伴随着非常多非常大量的小块的随机的持续的读写。所以在当前的这个A院的时代,ESSE的角色就不只是说把数据存起来了,而不是我拍完照片要把这个照片存在我的call,在我的卡里。它是用于整个的,比如说向量库的检索,咱们知道的这个rag,对不对?然后包含长上下文,现在这个上下文动辄就是100万token,以及这个KV cache的分层和落盘代码,仓库的扫描日志和中间状态的保存,它都会把SSE去推到整个推理链路里面,变成一个活跃的工作层。它不只是一个存储用的存储了GPU负责算,但是一个agent的系统能够。我不断的持续稳定低延迟的跑起来,很大程度上就取决于这个数据能不能被很快的从SSD里面读出来写回去读出来写回去读出来写回去不断的一步一步的调调用。

37:15

韩国存储、杠杆ETF和资金面风险

马克汤37:15

所以从以上我们的这个分析当中,你就可以看出来,现在整个市场的对于存储板块的一个预期。已经从最早的大家只盯着御三家的HB和DDR5开始扩散到了old memory DDR4对吧?以及这个长江和长兴的国产替代的叙事,以及ESSD,以及nand以及nor,整个的存储板块都会被带动起来。我们要知道韩国是作为本次存储周期最大的受益者,因为御三家里面的双雄三星和海力士都来自于韩国。韩国整个六月份的半导体出口已经去到了448亿美元,环比最增长21%,同比反弹200%。

马克汤38:01

整个三季度dram的一个预期的平均售价也是继续的上调,就这些数字都能某种上某种程度上表明存储的基本面短期是非常强劲的。但是强劲的基本面不等于说这个就能买。因为在这个市场上就是大家都知道你基本面好,所以大家都抢着去买。这就导致了这几家公司它的交易是非常的拥挤的,截止2026年的六月底,三星海力士相关的单股杠杆和反向ETF资产约190亿美元,是他约45亿美元日均成交额的四倍以上,杠杆资金是它日均成交额的四倍以上的。三星相关的这个杠杆ETF资产是124亿美元,它日均的交易量是45亿美元的,高出176%。

马克汤38:58

美光的杠杆ETF资产是99亿美元,低于他275亿美元的日均成交量,相对稳健。但这里的一个点就是三星和海力士这两家公司,它是在韩国交易的,但是海力士马上就要在美国去发行他的LDR进ADR进行美股市场的上市。到那个时候,它的交易量可能会出现进一步的抬升,也可能会反向作用,就是把这些杠杆类的资金进一步的往上抬了。我相信因为这个数据是六月底的,在七月份的过去的这几天,他的杠杆率应该是下来不少,很多机构投资者应该也去做了一个去杠杆交易。

马克汤39:37

相比之下,我们看传统的这些高波动的成长股票,英伟达和特斯拉,特斯拉就是最早的这个杠杆ETF单股杠杆ETF的鼻祖,特斯拉之前还有两倍做空特斯拉的ETF。在美国英伟达的特斯拉作为之前的被杠杆ETF盯上的标的之二,这两家公司在杠杆ETF的现在的一个成交量是远远低于他们的日均成交量的。就说明所有的交易其实往存储板块拥挤是非常明显的,它甚至比英伟达本身的交易拥挤程度都高,这是我们要注意的一个要点。因为杠杆资金很容易出现踩踏事件,就是因为它容易被迫平仓。它杠杆很高,它容易被迫平仓。被迫平仓那它就会纷纷卖出,纷纷卖出就会导致更多的被迫平仓,导致市场出现踩踏。

马克汤40:32

这个月拥挤度特别高,是不是就是说HBM的需求见顶了?那也不是,对吧?那只是说大家都看好他,都知道他的基本面特别的强劲。确实种种的迹象,种种的数据都表明它不是马上就会结束的一个存储周期,它至少还会持续一年左右的时间,后面还能持续多久我们就不知道了,好不好?但至少在未来的小一年的时间里,应该整个从基本面上来讲,包括从订单的这个能见度上来讲,存储板块的产业逻辑是非常强的。所以说大家在交易的时候,我通过基本面去做选股没问题。

马克汤41:11

但是你同时要结合资金面和技术面去做一些小小的择时,去寻找一个比较好的买入和卖出的时间点。这时候也给大家推荐一下,采纳最近更新的这个技术面和资金面的分析的一个功能。你们可以去每一个股票的页面里面有这个在在行情图上面就会有个技术面的标签。你点进去之后就会可以看到比较要丰富的这个技术面的专业的分析和解读。同时下面会有一张图,给你画出关键的阻力位、箱体,希望能给大家有一些帮助,好吧?

41:46

Meta算力过剩鬼故事:从扎克伯格股东会原话,到数据中心云化和ROIC

马克汤41:46

讲完了存储,下一段咱们就讲这个meta。Meta也是七月份这个鬼故事的重大来源,对吧?7月1号彭博等媒体就开始报道,meta正在规划或考虑把部分AI计算和模型的访问能力包装成对外的云业务。然后就开始各种鬼故事了。大家说AI的算力过剩了,meta的算力用不掉了,要开始抛售了,恐怖。然后市场就一开始1 7月份一开始就开始搞这种样子的鬼故事,meta自己的公开口径仍旧是非常高的。资本开支,他们把26年的资本开支的指引,提高到将近应该是1250亿美金以上了。都快要我记得上上延可能会碰到1450亿美金,整个的产业链的组件价格变高,他们要扩建的这个数据中心的容量也变多,双重的压力导致这个资本开支是不会低的那为什么大家都要去说这个事儿呢?

马克汤42:51

就其实扎克伯格在26年5月27号的一个麦达年度的股东会上,他回答过类似的问题,当时他的口述跟这今天这个版本完全不一样。当时大家说的是有公司问说这个meta能不能提供API服务,或者说把你的这个算力按照meta的成本去做一个转售。然后小扎的说法是mate现在还没有这么做对吧?首先他觉得现在这些我们的这个公司各个应用,它是能够用掉这么多算力的,它不会过剩。然后他说他觉得如果自己在未来,如果overbuild overbuild就是过度建造了,对吧?

马克汤43:37

建多了造多了,那出售或者说出租算力也可以是一个可以考虑的选项。就这个事儿它是五月底就发生的,然后在六月底七月初被重新翻出来。然后把这个叙事一下就变成了扎克伯格突然承认这个算力过剩,这简直是啊有点硬熬的一个需求,就像是主力的一个出货信号,对吧?大家就是那现因为市场现在真的特别高,所以大家都很恐慌。恐慌的时候,但凡有个风吹草动,大家就疯狂的开始卖,我觉得这个是很可能会出现的这个事情。就换句话来说,咱们之前也说到这个space x也在出售算力,对吧?他他卖了这么多计划的算力给topic甚至卖给了google。

马克汤44:24

那为什么人扎克伯格卖一卖,你就变成了这个需求过剩了呢?为什么马斯克做这个事情你们就觉得马斯克商业化牛逼?为什么扎克伯格做这个事情你们就要觉得是不是算力过剩了?小渣是不是觉得造多了算数据中心,就这个事儿很奇怪,好吧,这事儿很奇怪。所以说从基本面上来说,基本上这个事儿是不会存在的。而且换句话说,即使是要卖,我觉得也很正常。为什么就是你现在能把你的这个算力中心对外出租或者出售?其实本质上都代表着你的运营能力和你的资本变现能力是很高的。

马克汤45:06

首先我们要知道一个事情,就是美国有一家公司叫CoreWeave,这家公司咱们可以说AIGPU的云厂商,他就是像各个云厂商去出租或者说售卖他的AI算例,比如说matter,OpenAI,然后英伟达都是他的客户,就meta和CoreWeave的这个关于AI云容量的一个协议金额差不多是210美元。服务会延续到2032年。然后CoreWeave和OpenAI的合同差不多也是有220多亿美元,就就是这么个规模。那说明大家其实都还是在,和这些云服务厂商去建这些数据中心。因为他就专门做这个云房东,或者说咱们说算力包工作的时候头对吧?他自己做这个建设,会拿到购买大量的英伟达的GPU,去帮你把配套的GPU集群和数据中心都给你造完了,然后你就现成就用。

马克汤46:09

那你就知道meta和cool wave签了这么长时间的合约,他已经买下或者说锁定了这么大量的数据中心、电力GPU云合同和这么多未来的容量,它肯定是要做事情的。那资本市场也需要它去说明,你买了租了这么多的东西,你怎么变成最终的收入和现金流。那我觉得你把里面的东西去做二道贩子再去卖,你能卖更高的价格,你有你有更高的现金流,你有更高的利润。那这为什么是一轮坏的生意呢?就如果我们假设meta能拿出250兆瓦的算力容量,按每瓦40美元去把算力去进行一个出租,那它理论上也能带来将近三美金EPS增量。

马克汤46:53

就不是说就不能这么做这个事情了,对吧?我去租我去买AI数据中心就可以当做我的一个成本。然后我把它重新包装一下,我结合我的这个API,我结合大模型或者应用的能力,广告服务的能力,我把它包装成一个能够去收费的基础设施资产。又有什么问题?我就不知道为什么大家都觉得这个有问题,这个很正常。

马克汤47:16

我再说一遍,就是马斯克也在干这个事情。大家都觉得马斯克是天才,对吧?那其实未来算力的一个租赁,它就是一个非常非常好的一个生意。因为他考验的就是你整个数据中心的运营服务和建造能力。

马克汤47:32

那我们说马斯克为什么在这个事儿上这么擅长?因为他建工厂的能力很屌,所以他能很快的把一个一G瓦1.5G瓦的一个数据中心花很短时间间就能造起来。他又能搞定老黄家这么多卡,对吧?所以说我们其实最后要看的是什么呢?我们最后要看的就是每季瓦的算力一年能产生多少的收入。

马克汤47:54

然后我去来去评定一下你整个的算力中心运营的一个能力,对吧?那你每机瓦能卖的更多钱,那就是你厉害,你总有一点过人之处,或者说这玩意就是稀缺总有一些能力。我们看啊现在的价格来看,传统的new cloud新云厂商,他五年的一个租约差不多是就五长达五年期的一个租约,差不多是每季瓦,每年要消耗120米美金的租金。

马克汤48:25

但这个数字就为什么说云厂,它其实提供的就是长期的租云的基础设施,就比如说前面提到的这个core weave企业租的其实是服务器GPU网络和机房的整体的能力。如果我们不通过这些新的云厂商去进行租的话,我们还有几个选项。比如说我们直接的去按需购买B300的卡,就找老黄家去买B300的卡,然后我也不需要去签非常长时间的固定的租约,我需要的时候再买。需要的时候再买,其实就意味着你是这个不是批发,那不是批发,它的单价就会更高。

马克汤49:05

这个差不多是每年每季瓦要消耗290亿美金,就是前面那个如果你连续租五年,是给你能给你120对吧?但我们要看啊有另外两个神奇的数字是马斯克space x对外出租给anthropic的时候,他能收到镁基瓦310美元,然后他对外出租给google转手能卖美基瓦每年480亿美金哦啊所以说重点就是说同样的一瓦殿,同样的一批GPU对吧?你怎么从一个长期批发租约变成一个稀缺的高端的算力服务。那市场给你的定位,给你的估值就是不一样。你的这个数据中心为什么人家愿意花这么多钱?那肯定是因为你稳定,因为你高效,你这个延迟小、损耗低,电费耗电少,对吧?那大家买你肯定是有原因的对吧?市场上又不是唯一。读你一虽然说以伊朗伊龙马的这个数据中心确实很可能是世界上独一份儿,但是事实上就是这样。

马克汤50:05

你能把这个事儿盘活了,那就是你厉害。你别管我是出租还是自己用用我自己用,我也得最终产生应用层面的价值。我对外出租,我是直接换取现金流。如果他的IOIC是正的那为什么不是一件喜闻乐见的事情?所以我觉得这个就是市场上的一个鬼故事,说meta算力过剩,对外出租算力是代表算力过剩,完全不是。就是现在你要出租是很多人会来抢着来买的。他不是说市场上GPU和算力中心是一个已经过剩的东西,还是一个香饽饽还是一个香饽饽。

马克汤50:40

还有一个价格信号大家可以知道一下,就AWS也就是亚马逊的云。他在7月1号的时候,把所有他的下面的这个计算单元都进行了统一的价格上调。B300是从原来的一小时11.7美金调到了14.04美金。B200是从十美金调到了12。2.36美金,它这个的调整幅度还是不低的,至少有20%的幅度。所以说高端的GPU的云,如果你是可预留的容量,那市场是绝对不是说宽松的一个状态,还是非常紧俏的一个香饽饽。好吧,那最后我们就是要看你投进去的这个钱。你们花这么多资本开支,造这么多数据中心,买这么多芯片,买这么多存储,买这么多PCP,买这么多那啥的,你最终能不能把这个投进去的钱变成最终的回报,变成最终的现金流,对吧?

马克汤51:36

数据中心其实还有一点大家也可以去关注一下,也就是现在在整个数据中心里面的店是一个大问题,就是电能的消耗,尤其针对对于美国来说,电网是一个非常有困难。它不像我们国家的国家电网和南方电网,能把电力设施铺到这么远的地方,能这么稳定的给这么多数据中心提供稳定的电力,美国人做不到。因为他们不是,他们是私人公司去做的这个电网,它不是一个联邦去支撑做这么伟大的宏观的事情。

马克汤52:11

美国数据中心的净新增的容量将会从2026年到2023年,分别是新增21G瓦、39G瓦、54G瓦、66G瓦和84G瓦的用户侧的缺口在2027年可能就来到了15G瓦左右,到2030年电力的缺口可能会去到65.7G瓦,所以是一个非常大的规模,好不好?所以说这是为什么美国人要开始搞核电站?因为实在是搞不定这么多的店了。AI不只是缺GPU,也缺能把GPU点亮的这个店,对吧?不然这个灯泡是一直不亮的。

马克汤52:50

但是我们要知道,就中国为什么说咱们的数据中心如此,或者说咱们中国为什么这个token这么便宜?其实跟店便宜也是有关系的。我之前跟大家科普过一个概念叫TCO,我反复说这个概念对吧?Total cost of Operating你整个GPU的运行成本,其中主要的一个消耗就是电费。所以说你等于是拿电费去换token的价值,你token的价值比电费贵,你就能赚钱。

马克汤53:17

数据中心就是这么一个生意。所以说中国的电费它很便宜,这也是导致了它的token有更高的议价空间,因为它成本端能控制的更好。这也是我们国家的一个非常重要的优势,也是我们讲token出海的一个非常重要的趋势。就是我们用我们国家的电,因为电变成了token的生产成本,变成了token的原材料,对吧?那你原材料便宜,你的价你最终成品的价格也便宜,你成品的价格便宜,你对外去去出海去做出口的话,你的利润率也就会更高,或者说你有更高的议价空间,对吧?

53:58

美团LongCat:五万卡国产算力训练,怎样挑战“训练必须依赖达子卡”的旧叙事

马克汤53:58

好了,咱们讲完海外的这个激情斗争之后,我们也要把目光拿回来。我们要看到美国这么多云厂商以如此大规模的资本开支在推动AI的基础设施建设。那么回到咱们中国的话,咱们自己是该怎么做呢?咱们能不能砸出几千亿美金的一个公司去砸出几千亿美金的这个cap x去压住呢?我觉得从目前来看,我们的几个老登科技股公司是挺难拿出这么多笔钱的。虽然说也不少,但是真的到不了人家那个级别,所以我们就必须需要一些物廉价美的玩意儿。

马克汤54:35

我们今天要首先讲的就是美团的这个long cat,作为我们一个非常重要的国产替代的一个公开样本,美团在6月30日官方发布了long cat 2.0。这个模型层面没有什么好聊的对吧?模型现在已经很难给人惊喜感了,大家只能去看看faber 5,看看GPT5.6,能给人是一种,这个东西真牛逼炸裂,天他了,又有一个新的东西,把之前的东西所有都颠覆掉了,这种短视频标题才会出来,没有人会这么说美团那个模型对吧?

马克汤55:07

那为什么美团这个模型这么重要?是因为他写的很清楚,他的训练全程是由国产芯片完成的。我们之前也给大家讲过,deep seek为什么它掀起了一次对于国产芯片的利好?就是因为deep sick v4是在华为轩腾950PR的芯片上去做过推理层面的定向优化的。它能让950PR跑deep seek是跑的最好的,对吧?那就是推理卡层面去完成全面的国产替代,包括这个质朴的GOM5.2也是从D0开始,就是在这个升腾的芯片以及所有的国产的咱们吉小龙的这个什么木樨、避震、寒武纪、摩尔这样去跑的对吧?

马克汤55:56

但是大家都始终是在推理卡上去做国产替代,并没有在训练上做过,为什么?因为训练卡的要求是比退利卡高非常多的,他要求非常低的容错率。因为我如果跑到一半停了,那我的损失是非常大的。或者我跑到一半卡死了,那我这损失非常大的。

马克汤56:20

我们要知道现在的顶尖的这个frontier的前沿的大模型去跑训练的参数量都是非常大的。你像美团的这个参数也是总参数量来到了1.6万亿参数,平均激活是45B但是它的总参数是1.6T他也是从零开始预训练,原生支持100万的超长上下文token这个东西就是说他要能在5万卡的集群上去完成这个万亿参数的模型训练。他是不仅仅考验了GPU的能力,他还考验了你整个集群的稳定性,包含了软件生态。

马克汤57:00

就为什么我们之前说哭大和英伟达是强绑定的?因为英伟达的哭的他就是能让你推理起来,让你训练起来,很放心,即插即用。你很简单就能完成万卡集群的训练,不但会出问题,就像一个尖子生一样。

马克汤57:18

但是你国产卡之前可不是这样的对吧?你国产卡会出各种各样的bug。因为你不适配酷大的生态,你是一套新的生态。那所有的软件层都可能需要重新写。甚至比如说很多python的代码都需要去做特殊的编译才能在国产卡上去跑的比较顺利。所以这是一个非常大的问题。

马克汤57:40

但现在我们就可以看到美团的这次5万卡,国产卡的1.6T的大模型训练,就代表了一个比较大的突破。他也没说是具体哪家公司的卡,但市场上普遍猜测还是华为的卡。毕竟这个华为的卡还是最有希望跑出来的,能够用于训练的卡。我们后面拭目以待,看看后面这个会不会有更多的一些细节的信息披露出来。

马克汤58:12

这里大家一定要注意一点,就是我前面提的,它不只是一个GPU1张显卡,出现了替代的可能性。它是整个国产算力的集群能够完成完整的训练到部署的闭环。好吧?它包含了软件生态,它包含了网络测试工具,集群的管理,故障的处理,他不是一件很简单的事情,好不好?所以说大家就拭目以待,看看后面会不会有更多的咱们国产优秀的开源模型,在国产卡上完成更强大的训练的一个升级。什么时候如果我们国家能够训练出来fable 5,训练出来CPT5.6级别的前沿模型,然后这个玩意是在国产卡上训练出来的,那这个世界可能就会真的变天了,好不好?那个时候就是国产替代一个新的无限利好的一个证据。

59:15

先进封装为什么越来越重要:热压键合、混合键合和3D堆叠

马克汤59:15

好,那么国产化除了咱们前面提到的这个要堆卡堆环境以外,我们还差什么呢?我们还是差这个硬件的硬实力。这个硬实力就比如说拿前面的这个HBM对吧?咱聊这个HBM来说,HBM是把很多张的d ram堆在一起,组成的一个垂直堆叠的一个芯片的一个模组,来让它实现非常高性能的计算,那这个玩意儿它就得堆起来,它堆起来怎么堆?它就是一个非常难的技术问题,我们现在就管它叫先进封装。也就是说原来我就是做平面,那我先进封装就是最后一道,我去封一下,我就交给下游就去拿去卖了。它好像是产业链里面不太起眼的一个小点。但是从HBM的时代开始,先进封装变成了非常重要的不可或缺的一部分。

马克汤01:00:10

好吧,今天给大家主要来讲一讲这个先进封装到底是怎么回事。2027年全球的这个powers的需求预计的估算是270万片的waffle。这里有几个变化,第一个,首先英伟达人就是最大的客户,对吧?他占据全球金源最大的份额,但是除他以外,后面的队伍就开始变长了。首先高通AMD media tech这些asic和自研芯片的客户的需求就会被明显的上修。所以说call us不再只是英伟达封装产能的故事,它是整个AI芯片产业都在抢一种关键的工艺。

马克汤01:00:54

你可以这么理解,call boss它实际干的是什么事情呢?它是把比如说GPU或者HBM,他把GPU和HBM这种东西放到同一个高速封装系统里面,让GPU能跟HBM离得更近,数据搬得更快。我们传统意义上认为cowboys就是分两步。第一步就是把芯片放到金源集的封装结构上。然后第二步就是把这套东西接到底层基本和系统里面。分成call war和wars两步,对吧?统称就是call wars。

马克汤01:01:28

那这个玩意儿,台积电在2027年的这个coward这个部分,目标是200万片。但是它只建模180万片的输出,就中间是有折损的对吧?它这个200万片的输入只有180万片的输出。就是因为这个东西它不完全由台积电自己控制,就是先进制成的瓶颈。它不是一台机器搞定就结束了,它是整个生产线都要跟上这个节奏的,好吧?那这里面主要的瓶颈其实也不只是先进制成,对吧?

马克汤01:02:06

我们现在说制成是被卡脖子非常重要的一点。它还包含了后端的整个封装的产能,然后包括像基板、互联、供电还散热,这是一整套的基础设施都要跟上。那么明显现在co was在was这一版,就是在底层基本和系统里面是存在一定的瓶颈的。Cos的产能增长已经完全不能等同于GPU或者ACC的出货增长,之前大家是把这两个画等号的那现在因为这个ABF几百,包括封装的尺寸、层数,然后复杂的基本设计,都会把这个事情带来更多的约束,也就是说你们中间的这个折损可能会更加高。整个先进封装的设备设备链的上修,其实背后就是都是像d ram还有HBM一起再把这些还有先进封装,等于一起再把设备的业绩的指引往上去修。

马克汤01:03:05

那么为什么咱们说现在需要先进封装?因为AI芯片它已经很难靠一个GPU芯片就能解决所有问题是吧?之前我们知道英伟达之前的这个H系列的芯片,一直到现在的GB系列的芯片,再到下一代的variables系列的芯片。它其实每一次的迭代你都会发现它变得更加更全能了。

马克汤01:03:27

最早就是一个叫GPU的东西,后面是GPU加HB页面要焊在一起,在后面要把这个CPU vera rubin,就是vera是CPU rubin是GPU,他要把CPU跟GPU要搞在一起。其实最终就是希望所有东西都含在一起,包含了这个HBM,包含了GPU,包含了这个缓存等等等等东西。都要在短距离里面能够去进行高速的交换数据。它不只是说这个东西都是一块分一块,你干你的,我干我的,干完你的干你的,他不是,他变完成了所有东西的一体化。未来瓶颈就是数据搬的够不够快,电池够不够稳定,然后这个产生的热量能不能排出去,就是这一点就是这三个东西任何一项卡住这个新片理论上的这个算力是发挥不出来的,好吧?这里面就非常依赖着先进封装,才能把这些东西做非常好的拼接。

马克汤01:04:23

先进封装起来分两种,这个技术第一种叫热压键合thermal compression bonding,thermal就是热量,然后压就是这个压强他是怎么弄的呢?首先我们要知道先进封装它本质上就是你可以就理解堆叠好吧,我就理理解两块板子要合在一起,而两块板子为什么要合在一起呢?就是因为他们能在相同的这个面积上面,但是能拥有多块板子的计算能力。那两块板子合在一起需要什么?他不能光合在一起对吧?

马克汤01:04:56

他要把两块板子的电路要通起来,这两块板子之间是有协同作用的,它形成了一个共同努力的一个算力单元。把两块板子合在一起,我们要做哪些事情呢?我们首先要把芯片和芯片之间进行精准的对准,然后我合到一起,这个时候两块芯片之间就都有小的凸点,就是这个凸点和凸点它就会碰到一起。碰到一起之后,我进行加热和加压,让这些微小的凸点连接在一起,它不就连起来了吗?等于两块板子就这么贴合在了一起。所以说这个TCB也就是热压键合,现在是HBM堆叠里面相对成熟的一个量产路径。基本上的这个常见是能做到20到40微米的这个量级。现在也能进行快速的交付,良率的经验也比较高,设备和供应链相对成熟。

马克汤01:05:53

缺点是什么呢?缺点就是因为他现在要做到很多很多很密集的这个线,几千条线要堆在一起。所以说当你把这个线弄得越来越细的时候,它的焊接的这个焊点、助焊剂和热应力,还有翘曲,还有清洁都会变得非常的困难。就是你想同样的一个平面里面,如果你本来放的是十根线,它两个东西合在一起对吧?就相对简单。你要是两个板子里面都放了1000根线,它中间再要去合并起来,并且能实现点对点的合并不出错,这就是一个非常高超的记忆了。

马克汤01:06:33

那么除了这个热压建合以外,现在还有一个方法是一个更加下一代的一个先进方案,叫做混合键和hybrid bonding。所以他就是不依赖一个焊点了。因为之前前面给大家讲到的这个热压键和它依赖着两块板子,分别上面都有一个一个一个小的凸点,然后他再把这两块板子进行合并。但是如果我们变道混合键和有的时候他就不再依赖一个小的焊点了。他就是让两块板子合在一起,让铜和铜戒指和戒指在非常平整的、非常干净的,没有灰尘的地方进行直接结合。这样他就能把整个的互联的引征,他做到10微米以下。所以他就能够在更细的尺度上来满足未来更高密度的cheap light和3D堆叠的一个技术需求。

马克汤01:07:29

简单来说你就可以理解,现在TCB热压建禾已经相对稳健了。但是混合建合是下一代的技术标准,就因为我们未来这个东西越做越小,越做越高,因为它堆叠率越来越高,你每一层里面要放的东西,放的线就要越多,那么它对于这个精度的要求就更高。现在的混合液压建合在未来是没办法用的,用不了。所以它必须要用到先进的新的这个混合建禾的技术。混合件和现在的这些设备,也是处在一个研发的周期里面,不是要建合。现在已经在HBM这些产品里面大量使用了,所以也是现在交付的主力工艺。混合建合在一些图像传感器,在部分的3d nand这些里面做堆叠也相对成熟。但是在高性能计算的这些场景里面它这个爬坡难度,产能爬坡和良率的压力会比较高。

马克汤01:08:29

热压建禾和混合建合在咱们A股和港股都有一些上市公司,大家可以去研究一下。如果你找你可以去财大的里面问一问。在节目里我就不太方便跟大家说具体的细节。就整个设备的成本还是在这两年有目共睹的。

马克汤01:08:48

我说到了这个30D堆叠的时候事情,大家应该也能联想到几个东西。第一个是华为的套定律,第二个就是长江存储的x packing。然后第33个就是最近IBM新发布的nano stack。它本质上都是在论证这个垂直堆叠的路线变得越来越重要的一个方向样本。那就是因为在平面你做2D的事情已经没用了,你必须要做到3D你要垂直的对接起来,才能发挥单位的这个空间下面最大的计算性能。你把整体的这个计算性能全部压榨出来,你会发现咱们这个AI产业链的月刊已经越聊越技术,越聊越细节了。所以也欢迎大家关注我在各个社交媒体的账号,好吧?就是我会在里面去做做一些视频,你看起来可能会更加的绘声绘色一些。

马克汤01:09:39

我们也知道这个AI芯片的性能不能再说来自于单科技PU了,现在你应该知道了,他会需要是整个芯片之间的距离要越来越近,互联要越来越快,供电也好,散热也要好。整个封装从后面的这个配角已经升级成了AI硬件,整个流水线里面非常重要的提供性能来源的一个重要部分。所以大家对于这个先进封装可以再进一步的关注一下。好,硬件今天咱们就说的差不多了,说的也不少了,希望对大家有一些帮助。

01:10:13

模型和应用层:Claude/GPT、开源追赶、模型路由、视频模型和Coding Agent

马克汤01:10:13

下面我们来看一看模型和应用层,这个模型其实围绕着整个六月份,重要的还是anthropic加的fable 5和GPT即将发布的GPT5.6。这两家顶尖的frontier lab其实在六月份都交付了非常顶的模型,就比如说faber 5拥有非常强大的这个能力。就是他能直接你不用跟他说太多细节,但是他就能帮你把方案想好,然后去做具体的执行。中间碰到问题也不会就戛然而止,他会尝试各种方法去解决。那么也目测OpenAI加的GPT5.6也大概能达到相同等级的一个水准。整个在六月份比较戏剧性的就是在fabric 5发布之后仅三天,美国政府就把它下掉了,他不让大家用了,然后在最近又是拿了回来。但拿回来的这个版本好像比最开始发布的那个稍微阉割了一点点,我估计这个也是美国政府之间出现了一些讨论,觉得这个先进的模型是需要一些管控的那确实安全问题是需要解决的。

马克汤01:11:24

但我也听了all in podcast里面大家的这个描述,David作为美国政府人工智能的一个顾问,他也表示了说现在中美的竞争是非常的严峻,我们中国的模型也没有说跟美国的前沿模型差的这么远。它最多也就只有六个月到9个月的一个相差的一个周期。所以说开源模型是大概率会持续的猛追猛赶的。因为这个周期已经从最早的可能要去到一年半,缩短到现在的半年到三个季度。所以对于美国人来说,他们也必须在这场仗里面去打赢,因为我们是开源的,他们是闭源的。开源就代表着我们的模型很可能能更好的被全世界其他的国家去应用起来。在最后中局来看,我们是需要全世界的人大家去抢夺全世界人的一个AI模型的一个使用。到那个时候,如果美国人才反应过来,他就是来不及的。

马克汤01:12:24

所以他们几个大佬在讨论的时候也聊到了说对于美国的这些前沿的闭源模型,不要再加太多的政策的限制了,一定要让大家快速的用起来,对吧?让大家快速的用最先进的模型,把自己的网络安全的问题去解决好,把自己系统里面有的bug给修复好啊。这是美国all in podcast几个大佬给政府的一些意见。

马克汤01:12:54

他们也提到一个点,就是开源的模型追上来。大家最开始会说这是AI基建坏事对吧?就因为开源模型不要钱,所以说好像对于这个算力其实就不需要这么多了,对吧?但其实并不是这样的,因为虽然说开源模型追上来之后肯定会去挤压B元API的毛利。就比如说它肯定会因为它便宜效果又好,量大环保,对吧?那大家就会说为什么你GPE和和cloud能要这么贵的API的价格?因为现在是差了整整一个汇率,所以说你得降价,然后就会挤压这些碧云API的毛利。因为这些碧云API其实现在的毛利有75%是非常高的。

马克汤01:13:35

但是开源模型追上来之后,它其实就等于把更多的价值去转向了推理的基础设施。为什么?因为这些基础设施都可以去部署你的开源模型,就等于开源模型变成了一个你有我有,大家都有的东西,它就是模型本身是不值钱的。那就是说如果你的基础设施能更好的把开源模型去跑起来,更低成本的跑起来,更好的帮你的客户去做私有化的部署,更好的去做模型路由。那么你的这个推理层就能带来更多的商业价值。这是他们都认为开源模型对于整个AI基础设施的一个利好,在未来我们也很可能看到大部分的企业会开始做一些分流。也就是说复杂的问题我仍旧需要去交给frontier model去解决。但是对于一些简单的问题,对于一些不需要如此高能力的问题,那我就去交给简单一些的,或者说开源的,或者说便宜一些的参数量小一些的模型去解决,来实现整个企业成本的一个下降。

马克汤01:14:38

这个事情,我们也在最近的一些报道里面看到了。就是有一些公司他们的这个token的使用量在过去的几个月,尤其是从四月份到6月底,其实都实现了翻倍三倍、四倍甚至更多的一个累加。但是大家的最终的付的钱,并不一定是一个double的过程,很多的公司就是他们会把闭源模型去切一部分量到开源模型,也就是说更加便宜一些,就包括往中国的这个MINIMAX,质朴的GOM去切,往kimi的模型,往千万的模型去切,然后让整个企业的AI的成本去大幅的下降。但同时他们的token消耗是变多的,大家可以理解,因为单价变低了这也是很多企业甚至在做的一件事情。因为确实放开了给员工去用,最后你去看账单的时候,你还是会被吓一跳的。就包括之前微软也传出相应的故事,就是说员工用AI用的有点太多了,导致企业要每年要交给OpenAI的钱有点太多了,数据中心都只能服务内部的人士了。所以说这个商业价值上的考虑量。

马克汤01:16:00

大家会觉得不是所有的任务都需要用顶尖的模型去解决,至少这也是一个比较好的资源分配的过程。并不是所有的请求都要打给最牛逼的模型,因为有些问题没有这么高质量,没有这么高的要求,没有这么复杂的东西需要考虑。就是问一下我今天心跳多少,问一下今天天气如何,问一下我今天应该干哪些事情。这么简单的问题,为什么要一个顶级的智商的一个模型给你回复呢?完全没有必要。

马克汤01:16:31

然后在视频模型这边,豆包的c dance又公布了它的2.5的版本。同时它是一个4K的一个视频,能直接放应该能够生成一分钟左右的视频,那它就是一个非常可用的一个状态了。之前的CDS2.0已经足够优秀,足够强大了。我甚至无法想象c dance 2.5公布之后,他应该有多厉害。他甚至能实现你把一个视频生成出来之后,把里面的一些元素去做局部的修改,这是非常夸张的一个事情。这个东西只能让我认为这个存储板块会迎来进一步的需求的增大。

马克汤01:17:07

为什么?因为要生成视频,它会比生成文本复杂的多,同时这个内容它也变成了很多份儿,我在去年9月份的时候就跟大家说,你同样一个视频,你翻译成十种语言,那它就是要同时存储10份视频。它对于SSD甚至对于HDD的硬盘的存储的需求都会出现进一步的上台,这个是很夸张的一个事情,所以说我们看后面整个视频模型的一个进展我觉得会迎来一波新的浪潮。

马克汤01:17:41

包括国内最近做AI应用的这个短剧的公司,做AI视频的公司都非常的多。大家也可以去关注一下我上一期和Raymond的聊这个AI应用时候聊到的关于一些视频agent的一些内容。然后我们要来看一下这个应用层,从几个大的入口来看,charge BT的六月的月活是将近去到10亿人了,然后豆包是3.2亿人,环比是出现了下降。同时豆包这两个月的MAU合计下降是去到了1173万,这和他们开始收钱是有一定关系的,好吧?而且去因为我自己没有去买豆包的这个pro的版本,就一个月68的这个版本。

马克汤01:18:31

我觉得68块钱用来买彩搭子的SDIP的会员会比你买豆包pro值非常多。尤其如果你是关注投资的朋友,这个68块的会员好像说用不了多少,画三4个PPT就没了。所以你还是得卖200块那200块就有点贵了,对于一个这样的通用的产品来说,对于这种work场景的产品来说,它又不是code产品对吧?就是像我们之前说work body和code buddy,那work body就是相对简单一些的产品形态,它的整个的token消耗量也不会这么多。那你为什么要收这么多钱?是有点偏贵的,对于豆包这个产品形态来说,所以说豆包的这个收费,我觉得对整体的AI应用市场是一个好事情。就是他开始教育市场,这玩意是真要花钱的,你别再来白瓢了,求你了好吗?所以这个豆包的收费是一件好事情。

马克汤01:19:25

但是同时他也确实影响到了他的月活数据,我相信自己内部也会去想办法解决这个问题。确实68块钱你只给人做4个PPT有点过分了,有点真的有点过分。同样的千万的月活是去到了2.5亿,环比增长7.46%。腾讯元宝的月活是马上就要掉到1亿以下了,环比是下降7%。Cloud的月活是将近4000万,环比增长10%。

马克汤01:19:54

同时今这个月有一个比较重磅的消息,就是微信正式上线了他的微信AI助手,微信AI助手在6月20日进行灰度的上线,就是端午节那几天,我在小红书在那一天也进行了一些点评。大家如果没有关注的话,可以关注一下我的小红书财大子马克汤,会有一些不定期的技术的更新,好吧?就这些这这些数字,其实我们就可以看到在中国市场这个C端的AI助手还是竞争比较激烈的。虽然说这个大概率是豆包会吃掉所有的东西,或者说他能至少起到一个市占率70%以上的一个状态。但是他现在出现的一些收费和商业化上的一些问题仍旧是暴露出来了。后面要持续的关注整个商业化的进展是非常重要要的一个要素。

马克汤01:20:45

那么对于C端来说,我们也不得没办法去忽略的就是那两个最牛逼的coding agent。好吧,codex和cloud code这两个还是疯狂的迭代的过程中,像克拉克的在六月份应该是上架了他们这个cloud tag的功能,也就是能真的把AI员工跑起来了。那很多做AI公司的一些AI应用可能就会被拍在沙滩上了,unfortunately他们要被还在沙滩上了。然后codex也是在六月份做了非常多的更新,因为我自己是个codex的深度用户,这个非常夸张的就是他们每天都会需要你更新他的APP,我说的APP是电脑里面的那个桌面的软件,而且经常是中国时间的下午四五点钟的时候还要更新。就像他们在美国细海岸的人还在上上班养,就是大凌大晚上凌晨的还在那发包,就非常夸张。

马克汤01:21:47

统计数据是80%的codex个人的活跃用户至少提交过一个超过30分钟工作的请求。70%至少提交过一个相当于熟练人类超过一小时工作的请求。25%的用户提交过至少超过八小提交过一个超过8小时工作的请求是吧?这个事情就代表着长效去跑的这些智能体的工作变得越频繁了。我自己在codex上最长的一个任务是有14个半小时。

马克汤01:22:19

然后我经常也是在睡觉之前会去让codex我的赛博牛马去开启一个以一个可被验收目标为基准的一个目标工作。他基本上会做非常多的时间,基本上我在睡觉的时候也会让他去做一些事情然后codex也因为cloud code在过去疯狂的封中国大陆的账号,而获得了而收割了一波中国用户的流入。好吧,这个是非常显著的。就是你如果去做田野调查的话,你会发现如果在3 4月份用cloud code的人占70%,那到今天可能是反过来的一个状态。你因为and topic封中国号封的真的是有点丧心病狂了,想进18班51就为了把你的号封掉。他要一万种方式来识别你是不是一个中国人。

马克汤01:23:07

还有一个非常关键的数据,就是这个Cloudflare,就是做CDN节点的,做网络的这一家公司。在过去的一年的回顾里面也写到AI智能体的请求在过去的一年增长超过17倍,好吧,就翻了17倍。也就是说未来包括网页的爬取,包括网页的访问,很大部分的来源就不是人去访问那个网页,而是agent在访问那个网页了。他接到人类给他的任务之后,他觉得访问网页是现在要执行的一个工具,那他就去进行网页的访问了。所以说现在的网络安全也逐渐从防范人变成了要防范AI的智能体。因为AI智能体真的很聪明,他能找到你的各种漏洞,然后想办法的去解决。好,今天差不多就到这里了,给大家做一个简单的总结。

马克汤01:23:59

第一点就是是AI产业链的瓶颈。现在已经从GPU开始扩散到更多的零部件。从存储的顶尖的HBM的芯片开始往一些老的制成的DDR4去扩散,去向这个ESSD扩散。然后先进封装玻璃机板的这些需求也迎来了下一步的启示,进入了主路线。以后我们要再看AI硬件,就不应该只问GPU和英伟达,还需要去看这个存储到底是依赖哪个东西的,具体的哪个东西,它是ESSD,还是land,还是noise,还是怎么样的。然后这个数据怎么在整个的集群里面进行搬运,怎么进行存储,怎么进行供电和散热,怎么去把最终的这个成本去收回来。不管你是通过出租的方式还是出售的方式,去能把成本收回来的资本开支才是好的投入。

马克汤01:24:58

第二点,我们也是讨论了一下国产算力和模型路由正在改变过去的一个默认假设。美团的这个长猫 LongCat 模型,不仅仅是说在推理端全面的使用国产替代的显卡,而是说在训练端也使用了5万张卡的国产算力的集群。他把这个训练必须依赖海外算力的叙事去进行了公开的反向的论证。这个是对于我们后面观测整个国产替代产业链非常重要的一环。

马克汤01:25:30

这一期咱们这个核心也不是指导大家去做一些短期交易,更多还是希望大家能够更好的了解。现在AI产业链已经进入到了一个比较复杂的阶段,需要大家去做更深度的研究。市场也逐渐从题材炒作开始。刨根问底的去追问,像LIC,像你企业的一个真正的成本在哪里?你企业现在来使用智能体系是不是安全的?硬件的瓶颈到底现在被分配到了哪个上游的环节?你企业的利润,你的企业的毛利率、现金流到底是不是一个安全稳定可持续的一个状态?

马克汤01:26:14

好,以上就是本期发财大家的全部内容了。你可以在各大应用商店搜索彩搭子,来使用搭子们好评如潮的研究工具定制你的财富伙伴。你也可以在小宇宙、苹果播客网音乐、QQ音乐、喜马拉雅、B站、小红书、视频号和抖音来找到发财鞑子的更多发财密码。欢迎你给我们留言,也欢迎分享给更多的朋友们,你们的支持是我更新的最强动力,拜拜喽。Okay okay.

延伸阅读

在财搭子继续研究

查资料、核对证据,继续追问。

带着问题去财搭子 ↗
EP37 · 发财搭子原音频 · 86 分 59 秒
去财搭子提问 ↗