蚂蚁集团何征宇呼吁行业加强软硬协同与生态建设

  11月9日消息,在2023世界互联网大会乌镇峰会“数字化绿色化协同转型发展”分论坛上,蚂蚁集团首席技术官何征宇表示,AI和大模型的爆发推高了智能算力需求,数字化、绿色化协同发展的使命,要求行业亟需构建绿色、高质量的计算基础设施。

  他呼吁行业加强软硬协同与生态建设,共同提升计算基础设施算力规模、可用性与宽容度。

  何征宇认为,AI大模型时代,行业智能化的深度和广度在扩展,双化协同也迎来提速。“大语言模型与生成式AI让计算机开始具备语言与内容生产能力,将我们带入了通用人工智能时代,承载这种能力的智能计算资源需求也随之井喷,算力基础设施的效率提升和绿色化是必经之路。”

  据何征宇介绍,上周蚂蚁百灵大模型正式通过了备案,蚂蚁集团搭建的绿色计算体系,也正在为百灵大模型提供绿色化的计算能力。蚂蚁建设了万卡异构集群,其中硬件算力效率(HFU)超过60%,集群有效训练时长占比90%以上,RLHF训练在同等模型效果下训练吞吐性能相较于业界方案提升3.59倍,推理性能相较于业界方案提升约2倍,处于业界先进水平。

蚂蚁集团首席技术官何征宇

  图源新浪科技

  值得一提的是,11月7日,由上海人工智能实验室与商汤科技联合主办的IEEE“人工智能大模型”标准大会在深圳市工业和信息化局、IEEE标准协会指导下和深圳市市场监督管理局支持下顺利召开,近300位产业专家参加大会。会上,中国电子技术标准化研究院、上海人工智能实验室、华为云、百度、腾讯、蚂蚁、商汤科技、360、中兴通讯、美的、海信集团等国内首批11家单位发起成立了IEEE大模型工作组。

  据介绍,此次大会上发起成立的IEEE大模型标准工作组,将协同国内外大模型产业力量,制定大模型技术规范、测评方法、安全可信、可靠决策等领域国际先进标准,为全球大模型产业技术创新和发展提供更好支撑。IEEE国际标准体系也将首次新增人工智能大模型领域国际标准。会后,由首批成员单位代表组成的编写组,连同国际专家,正式立项IEEE大模型标准工作组的首个标准《大规模深度学习模型评估框架及流程》。

IEEE大模型标准工作组正式成立

  图源商汤科技SenseTime公众号

电商资讯*版权声明:本网站所收集的部分公开资料来源于互联网,转载的目的在于传递更多信息及用于网络分享,并不代表本站赞同其观点和对其真实性负责,也不构成任何其他建议。本站部分作品是由网友自主投稿和发布、编辑整理上传,对此类作品本站仅提供交流平台,不为其版权负责。如果您发现网站上有侵犯您的知识产权的作品,请与我们取得联系,我们会及时修改或删除。 本网站所提供的信息,只供参考之用。本网站不保证信息的准确性、有效性、及时性和完整性。本网站及其雇员一概毋须以任何方式就任何信息传递或传送的失误、不准确或错误,对用户或任何其他人士负任何直接或间接责任。在法律允许的范围内,本网站在此声明,不承担用户或任何人士就使用或未能使用本网站所提供的信息或任何链接所引致的任何直接、间接、附带、从属、特殊、惩罚性或惩戒性的损害赔偿。
文章网址:http://www.cnecn.com.cn/hangye/qiye/2023-11-09/14415.html
赞 | 0