[返回网际谈兵首页]·[所有跟帖]·[ 回复本帖 ] ·[热门原创] ·[繁體閱讀]·[版主管理]
DeepSeek后中国AI再度重磅发声!
送交者: 华人lee8[★★★声望勋衔13★★★] 于 2025-02-05 9:16 已读 1117 次 1 赞  

华人lee8的个人频道

DeepSeek后中国AI再度重磅发声!百度智能云点亮昆仑芯三代万卡集群 6park.com

近日,百度智能云成功点亮昆仑芯三代万卡集群,这也是国内首个正式点亮的自研万卡集群。据悉,百度智能云将进一步点亮3万卡集群。 6park.com

‌万卡集群是什么?它是指由超过一万张加速卡(如GPU、TPU或其他专用AI加速芯片)组成的高性能计算系统,用于加速人工智能模型的训练和推理过程‌。蛇年新春伊始,‌这一重大突破不仅为百度自身技术发展提供了强大动力,也为整个中国科技界、互联网行业和AI行业带来了新的发展机遇,为大模型达成万千需求的AI生态,提供了更厚实更智能的“肩膀”,为可以预见的百花齐放万紫千红的行业远景和AI愿景,提供了更多可能。 6park.com

AI主战场,万卡集群将是出圈利器 6park.com

从算力上看,超大规模并行计算能力可实现训练效率跃升,万卡集群可将千亿参数模型的训练周期大幅降低,满足AI原生应用快速迭代的需求。同时也能支持更大模型与复杂任务和多模态数据,支撑Sora类应用的开发。此外,万卡集群能够支持多任务并发能力,通过动态资源切分,单集群可同时训练多个轻量化模型,通过通信优化与容错机制减少算力浪费,实现训练成本指数级下降。 6park.com

随着国产大模型的兴起,万卡集群逐渐从“单任务算力消耗”到“集群效能最大化”过渡,通过模型优化、有效训练率提升、动态资源分配等手段,智能调度任务,将训练、微调、推理任务混合部署,从而提升集群综合利用率,降低单位算力成本。 6park.com

国产AI,最擅长的就是把成本打下来 6park.com

Deepseek之所以能够震撼全球,最大的亮点之一就是“把价格打了下来”。用了非常小的成本实现了同等算力结果,“花小钱办大事”不仅凸现了中国AI的破局之道,更彰显了中国智慧。而此次百度智能云成功点亮昆仑芯三代万卡集群的意义所在,不仅仅是带来了强大的算力支持,还进一步推动了模型降本的趋势成形。 6park.com

业内专家表示,过去一年中,整个行业都在努力降低大模型的使用成本,而算力紧张是导致成本居高不下的重要因素之一。百度通过自研芯片和大规模集群的建设,不仅解决了自身算力供应的问题,还为整个行业提供了新的思路和方向。百度昆仑芯三代万卡集群的成功点亮,是中国科技界在人工智能领域的又一次重大突破。国产万卡集群的出现可以解决过去价格高和无法稳定应用等问题,让企业进行应用开发与产业创新的门槛更低。 6park.com

百舸赋能,夯实万卡集群硬实力 6park.com

过去,多芯混训和激增的故障率等难题,成为万卡集群部署过程中的巨大挑战。而2024年9月升级的百度百舸AI异构计算平台4.0(以下简称“百舸平台”),在万卡集群的建设中发挥了至关重要的作用。百舸赋能,全方位提升了集群性能与稳定性。 6park.com

首先,为了解决大模型训练时高通信带宽的需求,百度建设了超大规模HPN高性能网络,通过优化的拥塞控制算法、集合通信算法策略,提升了通信效率,将带宽有效性提升到90%以上。 6park.com

同时,万卡集群的能耗极高,常规的散热方案能耗可达十兆瓦或更高,这将提升企业进行模型训练的电力成本,为此,百舸采用了创新性散热方案,可以有效降低能耗,进一步降低模型训练成本。 6park.com

然后,为了提升GPU 的有效利用率(通常用MFU来表示GPU的有效利用率),百舸不断优化并完善模型的分布式训练策略,通过高效并行化任务切分策略,将训练主流开源模型的集群MFU提升至58%; 6park.com

为了保证大规模集群执行训练任务的稳定性,百舸提供全面的故障诊断手段,可以快速自动侦测到导致训练任务异常的节点故障。同时,百度自研的BCCL(百度集合通信库),能够快速定位故障同时提供自动化的容错能力,重新调度任务到健康节点,继续完成训练,目前已经将故障恢复时间从小时级降低到分钟级,保障集群有效训练率达到98%。 6park.com

中国式大模型全球吸睛,2025AI拐点到来 6park.com

站在中国式基建的强大算力“肩膀”上,中国大模型高效低成本优势正在吸引全球看好:百度港股、美股应声大涨,花旗银行也发布研报表示,DeepSeek、百度等中国模型展现出高效和低成本优势,将有助于加速全球AI应用开发,并在全球引发更多技术创新,推动2025年人工智能应用的拐点。 6park.com

中国工程院院士、清华大学计算机系教授郑纬民也表示,当下构建国产自主万卡系统充满挑战,但"至关重要"。 6park.com

智慧算力是AI的马达和驱动力,百度智能云成功点亮昆仑芯三代万卡集群以及即将进一步点亮3万卡集群,将推动AI大模型应用可以与云、大数据、数据库等通用场景实现更为紧密高效的结合,充分释放AI在各行业场景落地。 6park.com

所有过往,皆为序章。中国AI,未来可期!
喜欢华人lee8朋友的这个贴子的话, 请点这里投票,“赞”助支持!
[举报反馈]·[ 华人lee8的个人频道 ]·[-->>参与评论回复]·[用户前期主贴]·[手机扫描浏览分享]·[返回网际谈兵首页]
帖子内容是网友自行贴上分享,如果您认为其中内容违规或者侵犯了您的权益,请与我们联系,我们核实后会第一时间删除。

所有跟帖:        ( 主贴楼主有权删除不文明回复,拉黑不受欢迎的用户 )


用户名:密码:[--注册ID--]

标 题:

粗体 斜体 下划线 居中 插入图片插入图片 插入Flash插入Flash动画


     图片上传  Youtube代码器  预览辅助

打开微信,扫一扫[Scan QR Code]
进入内容页点击屏幕右上分享按钮

楼主本栏目热帖推荐:

>>>>查看更多楼主社区动态...






[ 留园条例 ] [ 广告服务 ] [ 联系我们 ] [ 个人帐户 ] [ 版主申请 ] [ Contact us ]