在这基础上构建的MaaS的服务平台,也就是模型集服务的平台,可提供很多灵活应用的大模型服务,来帮助一些还在AI学习期的企业敏捷开发一些大模型大规模应用。
据介绍,2023年,后摩智能发布了国内首款存算一体智驾芯片后摩鸿途®️ H30;2024年,后摩智能发布了基于存算一体架构的边端大模型AI芯片后摩漫界™️M30,以及后摩漫界™M30智算模组(SoM)、力谋®AI加速卡。
另一方面,目前英伟达在数据中心AI芯片上具备先发优势,英特尔、AMD都在争取更多份额。Justin Hotard告诉记者:“要取得成功,并非只看其中一、两个组件,而是要有系统观、全局观。因此,我们也在和主要的客户开展系统方面的建设和设计,其中包括超大型的云服务商以及OXM(即OEM和ODM结合在一起)这类企业,我们双方一起做系统设计,并进行验证和优化这些系统在主流、开源的模型上的表现和性能,比如像Llama3、Mixtral 8以及国内的千问等模型。”
4月13日消息,作为人工智能的三驾马车之一,算力是训练AI模型、推理任务的关键。
美光科技CEO认为,在AI带来的机遇中,美光是半导体行业最大的受益者之一。
台积电的业绩增长主要得益于全球科技行业的持续复苏以及对高性能计算、5G通讯、人工智能和汽车电子等新兴市场的强劲需求。
然而,大量的异构芯片也形成了“生态竖井”,不同硬件生态系统封闭且互不兼容,软件栈不能很好地协调和打通,算力使用面临一系列非常复杂的工程挑战。即便算力集群众多,仍难以实现有效的整合与利用,这是对算力资源的浪费,不仅成为构建AI Native基础设施的最大难点,也是当前大模型行业面临“算力荒”的重要原因。
据了解,今年初以来,英伟达的股价已暴涨162%,推动其市值超过3万亿美元,这相当于该公司2018年8月约1500亿美元市值的20倍。另外,据Bloomberg Intelligence的数据,今年迄今为止,专注于英伟达的ETF(交易所交易基金)已经获得了44亿美元的资金流入,大约是2023年全年的六倍。
发表评论