阿里云王超:云计算将成为大模型必选算力底座

  5月4日消息,在第六届数字中国建设峰会“人工智能分论坛”上,阿里云智能计算集群灵骏负责人、资深技术专家王超发表了题为《建设大规模绿色智算,护航人工智能产业可持续发展》的演讲。王超指出,大模型在推理和训练场景都需要大算力,云计算将成为大模型的必选算力底座。

  阿里云智能计算集群灵骏负责人、资深技术专家 王超

  图源:阿里云官微,下同

  王超在演讲中表示,大模型训练通常需要数千张GPU卡,基于TB级别的数据,耗时几个月进行训练,然后其他用户在预训练大模型的基础上再进行强化学习,而这需要数百张GPU卡,耗时一两个月。

  但这种现状存在很多问题:一方面,厂商投资数亿元建设的计算集群只用几个月极不经济;另外一方面,购买、规划和组建超大规模的算力集群也要耗时半年到一年的时间。此外,把算力集群的算力提供给全球各地的其他客户使用也有着很大的技术挑战。

  王超透露,阿里云正在基于灵骏智算集群和机器学习平台PAI解决这些问题,希望未来帮助大模型厂商只需要花费一天的时间就能在云上建设一个数千张GPU卡规模的训练集群,在完成训练任务后,算力可以快速释放出来供其他客户使用。

  王超介绍,目前,阿里云使用多年积累的技术,已经可以在云上打造一个“10万卡”体量的超大规模智算集群,并且解决了关键的网络、数据存储、算力的可观测、可调度和负载平衡等技术问题,构建了一个从集群IaaS到PaaS到MaaS全栈式的服务,方便各行各业的大模型厂商和企业客户使用。

  在本次大会上,阿里云还集中展示了在绿色数据中心、双碳解决方案以及少年云助学计划等领域的最新产品和进展。

  少年云助学计划2021年10月由阿里巴巴集团发起,目前在20个欠发达区域,让6万多个中小学生用上了自己的专属云电脑,除信息技术外,数学、语文、音乐、美术、劳动、沟通等43门特色课程被搬进了这个信息科技教学空间。

电商资讯*版权声明:本网站所收集的部分公开资料来源于互联网,转载的目的在于传递更多信息及用于网络分享,并不代表本站赞同其观点和对其真实性负责,也不构成任何其他建议。本站部分作品是由网友自主投稿和发布、编辑整理上传,对此类作品本站仅提供交流平台,不为其版权负责。如果您发现网站上有侵犯您的知识产权的作品,请与我们取得联系,我们会及时修改或删除。 本网站所提供的信息,只供参考之用。本网站不保证信息的准确性、有效性、及时性和完整性。本网站及其雇员一概毋须以任何方式就任何信息传递或传送的失误、不准确或错误,对用户或任何其他人士负任何直接或间接责任。在法律允许的范围内,本网站在此声明,不承担用户或任何人士就使用或未能使用本网站所提供的信息或任何链接所引致的任何直接、间接、附带、从属、特殊、惩罚性或惩戒性的损害赔偿。
文章网址:http://www.cnecn.com.cn/hangye/renwu/2023-05-04/10900.html
赞 | 0