• 亿邦公众号
    • APP下载

妙鸭相机算力需求暴涨数百倍 阿里云紧急扩容

作者:七七 文章来源:亿邦动力

2023-08-09 11:59

【亿邦原创】8月9日消息,AI应用“妙鸭相机”已连续多日火爆出圈,上线不到一个月,算力需求暴涨数百倍。为此阿里云紧急扩容,因用户暴增导致的排队情况也有所缓解,排队时长已大幅减少。

据资深IT人介绍,“妙鸭相机”的相片生成需要庞大的GPU算力进行计算,高峰期的量级至少需要几千台GPU服务器才能满足,线下部署不切实际,云上部署能为创业公司节省大量成本和时间,但目前仅有少数云计算大厂具备这样的算力储备。

GPT类的模型训练动辄需要上万张显卡,随着Llama2等开源大模型的流行,大模型应用推理端的算力需求更值得关注,当AIGC进入生产力时代,推理算力需求可能远高于训练算力。

自7月17日正式上线以来,“妙鸭相机”就以9块9价格和高质量“写真”照获得了大量关注,成千上万的用户涌进应用中,高峰期一度有4000-5000人排队,需要等待10多个小时才能出片。据相关负责人透露,“妙鸭相机”已在阿里云上进行紧急扩容,应对暴涨数百倍的算力需求。虽然算力一边加,但另一边用户也在涨,但高峰期排队现象已经有了缓解。

目前妙鸭相机也在苹果应用商店上线了App版本。

随着各个行业的AIGC开发逐步完成,对业务开展阶段使用的推理算力需求开始大幅增长,未来几个月推理的算力需求总量可能远高于训练算力。阿里云提供最大十万卡GPU规模集群的扩展性,同时可承载多个万亿参数大模型同时在线训练和推理。此外,阿里云还提供了AI加速套件AIACC,大幅提升计算效率,大模型Finetune的训练效率可提升60%,推理效率可提升100%以上。

【版权提示】亿邦动力倡导尊重与保护知识产权。未经许可,任何人不得复制、转载、或以其他方式使用本网站的内容。如发现本站文章存在版权问题,烦请提供版权疑问、身份证明、版权证明、联系方式等发邮件至run@ebrun.com,我们将及时沟通与处理。

已点赞

+1

{{ praise_text }}

好文章,值得被更多人看到

FAQ回顾

妙鸭相机是什么AI应用?

妙鸭相机是一款AI写真生成应用,于7月17日上线,以9.9元价格提供高质量AI写真照片服务,上线后用户量激增,高峰期有4000-5000人排队等待。

阿里云如何应对妙鸭相机的算力需求?

阿里云为妙鸭相机进行紧急扩容,提供最大十万卡GPU规模集群,支持多个万亿参数大模型同时训练和推理,通过AIACC加速套件将推理效率提升100%以上。

AIGC应用推理算力与训练算力有何区别?

随着Llama2等开源模型流行,AIGC进入生产力阶段后,应用推理端的算力需求可能远高于训练算力,未来几个月推理算力总量将大幅增长。

广告

下一篇

征集报名《品牌数字化服务商资源手册》

《品牌数字化服务商资源手册》展示数字化服务商风采,亿邦全年零售大会通发,触达更多资源,马上加入!

马上入驻

王小川:年底做出中国最好的大模型

对于王小川和百川智能来说,搜索与大模型的融合将成为未来百川系列大模型稳定的亮点,Baichuan-53B的API也会在下个月开放。

案例研究 未来零售

2023-08-09 10:38:29