据DA Davidson的分析师估算,微软去年在英伟达芯片上的支出高达45亿美元,微软的一位高管证实了这一数字。即使只维持ChatGPT的基本运作,每年也需要约160亿美元的成本。

科博会上AI芯片“秀肌肉”

如果AI芯片占计算引擎总价值的一半,而计算引擎又占系统总成本的一半,那么这些相对较小的数字加起来同样有望给数据中心AI系统带来相当可观的收入。当然,这同样取决于Gartner在哪里划线,包括屏幕前的各位如何设定这条类别边界。

科博会上AI芯片“秀肌肉”

公司毛利率达到53.2%,较第一季度有所提升,并超过分析师预估的52.6%。台积电董事长兼总裁魏哲家预测,2024年全年毛利率将稳定在53%上下,这一预测不仅展示了公司对未来业绩的信心,也反映了公司成本控制和盈利能力的持续提升。此外,第三季度营收预计为224亿美元至232亿美元,毛利率将在53.5%-55.5%之间,进一步巩固了市场对公司未来发展的乐观预期。

科博会上AI芯片“秀肌肉”

在谈及为何加入昆仑万维时,颜水成认为:“在通用人工智能领域,从研究、研发到产品是完整的链条,缺一不可,只有将三者完全打通,研究才能发挥最大价值。”作为AIGC上市公司,除了自研“天工”大模型以外,昆仑万维积极探索AI大模型在游戏、搜索、广告、社交娱乐等领域的应用。颜水成表示,昆仑万维布局了AI大模型、AI动漫、AI社交、AI游戏、AI搜索和AI音乐六大方向,核心业务面向全球市场,其能力矩阵和生态系统非常具有想象空间。

全球存储芯片巨头SK海力士和美光科技近日纷纷表示,其2024年的高带宽内存(HBM)已全部售罄,而2025年的库存也接近枯竭。这一消息在业界引起了广泛关注,因为高性能存储芯片在大型语言模型(LLM)如OpenAI的ChatGPT等应用的训练中起着至关重要的作用。

Run:ai成立于2018年,是一个基于kubernetes的工作负载管理和编排软件提供商,旨在实现高效GPU集群资源利用。

摩根大通认为,随着下半年N3加速采用以及SoIC和CoWoS的广泛应用,HBM供应商、台积电和先进封装供应链将从中受益最多。

英伟达表示,自 2020 年以来,Run:ai 一直是英伟达的密切合作伙伴。未来,英伟达表示将继续以相同的商业模式提供Run:ai的产品,并将继续投资Run:ai产品路线图,作为NVIDIA DGX Cloud的一部分。

华为Mate70系列作为华为今年的旗舰产品之一,其发布无疑将受到市场的广泛关注,原因是产品本身的突破程度将会超越想象。