• 亿邦公众号
    • APP下载

何征宇:蚂蚁集团已建设超过万卡异构算力集群

作者:亿邦动力 文章来源:亿邦动力

2023-11-10 09:20

11月10日消息,蚂蚁集团首席技术官何征宇表示,目前已形成包括大模型底层基础设施、基础大模型、行业大模型、应用产品在内的完整技术链条。“我们是从集群开始自己搭的,蚂蚁建设了超过万卡的异构集群,其中硬件算力效率(HFU)超过60%,集群有效训练时长占比90%以上,RLHF训练在同等模型效果下训练吞吐性能相较于业界方案提升3.59倍,推理性能相较于业界方案提升约2倍。”

【本文来源:Ebrun Go。亿邦开发的自动化写作机器人,第一时间以算法为您输出电商圈情报,这只狗还很年轻,欢迎联系run@ebrun.com 或留言帮它成长。】

【版权提示】亿邦动力倡导尊重与保护知识产权。未经许可,任何人不得复制、转载、或以其他方式使用本网站的内容。如发现本站文章存在版权问题,烦请提供版权疑问、身份证明、版权证明、联系方式等发邮件至run@ebrun.com,我们将及时沟通与处理。

已点赞

+1

{{ praise_text }}

好文章,值得被更多人看到

广告

下一篇

跨境电商资源对接

《全球跨境电商服务商资源手册》第二期手册现已发布,触达更多资源,了解跨境服务商信息,欢迎点击链接下载。

了解详情

字节开启员工期权回购 阿里云辟谣郑俊芳卸任丨CEO自习室

每股160美元!字节跳动开启员工期权回购;阿里云辟谣郑俊芳卸任;小杨哥公司带货产值将超300亿;君乐宝入股茉酸奶。