除了调度外，在做模型训练时，不能让训练不断重启。无问芯穹开发了高效容错训练系统，包括针对大模型容错运行时系统、混合指标异常预测系统、检查点异步读写系统。
据最新报道，Tensor G4还将集成全新调制解调器。Android Authority率先指出，Pixel 9系列将采用三星5400调制解调器，搭配Tensor G4芯片（较去年的5300 G3有所升级）。调制解调器不仅在软件层面有所精进，还支持3GPP Rel. 17 5G标准，涵盖卫星通信功能。Pixel用户将能通过“Satellite Gateway”应用发送紧急信息。
据东海证券计算，AI芯片占AI服务器成本约70%-75%，其中GPU是AI芯片的主流。集邦咨询数据显示，AI服务器搭载的GPU供应商来源上，英伟达、AMD和英特尔三分天下，英伟达市场占比高达9成。
今年4月，Cerebras发文比较Cerebras CS-3与英伟达B200，称CS-3和英伟达DGX B200是2024年上市的两款最令人兴奋的AI硬件新品。
据了解，今年初以来，英伟达的股价已暴涨162%，推动其市值超过3万亿美元，这相当于该公司2018年8月约1500亿美元市值的20倍。另外，据Bloomberg Intelligence的数据，今年迄今为止，专注于英伟达的ETF（交易所交易基金）已经获得了44亿美元的资金流入，大约是2023年全年的六倍。
综上所述，AI芯片市场未来的发展趋势仍然充满不确定性。虽然市场增长迅速，但也面临着不少挑战和风险。我们需要保持理性客观的态度，同时关注市场变化和技术发展，以便更好地把握机会和应对挑战。
可能很多朋友已经不太记得，苏姿丰表示数据中心AI加速器的总目标市场在2023年内约为300亿美元，并将以约50%的复合年增长率到2027年底膨胀至1500亿美元以上。但一年之后，随着生成式AI热潮的兴起，以及去年12月发布的“Antares”Instinct MI300系列GPU，苏姿丰称AMD预计数据中心AI加速器的市场规模在2023年内就将达到450亿美元。随后的复合年增长率则将超过70%，意味着到2027年全球市场总规模将达到4000多亿美元。
实际上，如今越来越多设备都需要在运行中使用到高性能的GPU核心，但是GPU核心的高能耗也困扰着部分小型、入门级设备，Arm通过提供更灵活的GPU选择，使得入门级设备也能享受到新一代GPU核心的高能效性能。
发表评论