智源发布悟道 3.0,天数智芯从底层赋能大模型发展

智源发布悟道 3.0,天数智芯从底层赋能大模型发展

IT资讯 2023-06-12 15:53:04 1年以前

6 月 9-10 日,由北京智源人工智能研究院举办的 2023 智源大会正式召开。与会期间,智源发布了完整的悟道 3.0 大模型系列,标志着大模型进入到了全面开源的新阶段。此次悟道 3.0 包含首个支持中英双语知识、开源商用许可的“悟道・天鹰(Aquila)”语言大模型系列,提供“能力-任务-指标”三维评测框架的“天秤(FlagEval)”大模型评测体系,力求打造大模型时代“新 Linux”生态的 FlagOpen 大模型开源技术体系,以及 6 项“悟道・视界”视觉大模型研究成果。

一年一度的智源大会是国际人工智能生态发展的标志性活动,全球人工智能精英汇聚一堂,用最前沿的成果、最广阔的国际视野进行思想碰撞。大模型成为主角的背后,是此前 ChatGPT 掀起全球技术革命和商业浪潮的必然结果。如今,伴随着大模型的快速崛起及广泛应用,底层算力的支撑作用愈发凸显。潮流之下,国内领先的 AI 硬件公司天数智芯与此次智源大会有多方面的深度合作。

在技术推动层面,基于天数智芯天垓 100 加速卡的算力集群,仅用 19 天便成功完成北京智源人工智能研究院 70 亿参数大模型全量训练,收敛效果与英伟达 A100 集群相当。天数智芯从硬件、软件两个角度推动战略升级,打造高性价比、广通用性的全栈式集群解决方案,为大模型时代提供强大算力底座。

天数智芯的通用 GPU 产品天垓、智铠系列具有自主可控、高性能、通用性、灵活性等特点,广泛支持 PyTorch、TensorFlow、PaddlePaddle 等各种原生框架,支撑了 200 余种人工智能算法模型稳定运行。在此基础上,天数智芯自主研发了 IXCCL 分布式通信技术,显著提升多机多卡高速互联性能,打造基于自主通用 GPU 的算力集群方案,持续优化自动混精训练、流水线并行、张量并行、数据并行以及模型并行等并行加速策略,让大模型训练、推理变得更加高效。

大模型应用的海量爆发,天数智芯以持续的研发和技术升级,支撑算力成规模增长的需求。用国际领先的高性能通用 GPU 产品,不断升级算力解决方案,适配支持更多参数量、更大数据集、更复杂算法的大模型。

文章版权声明:除非注明,否则均为网络转载文章,转载或复制请以超链接形式并注明出处。

相关阅读

  • OPPO 618 诚意拉满,热销产品迎好价,Find X6 系列、折叠屏值得关注
  • 华为擎云亮相 2023 数博会,全方位展示数智化解决方案创新成果
  • 华为云张修征: 一切皆服务, 做好行业数字化云底座与使能器
  • 美外卖平台 DoorDash 被指控向 iPhone 用户收取更高费用,面临 10 亿美元诉讼
  • 3X 人像模式,所爱跃然眼前:这就是 OPPO Reno10 系列标配超光影潜望长焦的魅力
  • 猿辅导入局智能硬件推出“小猿学练机”:封闭式系统、电子手写笔,首发价 3899 元
  • 颠覆传统!疾霆 Pro 固态硬盘正式上市
  • MSI 微星笔记本多款创新产品亮相,强势回归 Computex 2023
  • i.MX9 系列新成员亮相!飞凌嵌入式 FET-MX91xx-C 核心板登陆台北国际电脑展
  • 天翼云重磅发布 AccessOne,为企业打造安全加速一体化服务
  • SK 海力士完成 1b DRAM 内存研发并携手英特尔验证,今年量产
  • 安卓 / iOS 支付宝 10.3.86 版本支持深色模式,可跟随系统开启
  • 台积电美国工厂快速扩张背后,当地员工和企业文化矛盾愈发尖锐
  • SNE:全球 1~4 月电动汽车动力电池装车量 182.5GWh 同比增长 49.0%,比亚迪增长 108.3% 稳居第二位
  • 中科院与腾讯申请的 AI 心理咨询专利获授权
  • 双榜前三占两席 vivo X Fold2 / X Flip 领跑京东 618 手机竞速榜、热卖榜
  • 2027 年全球基于订阅的流媒体业务营收预估突破 1370 亿美元
  • 赋能全局安防,芯视达闪耀亮相安博会
  • 万兴播爆桌面端上线,支持 AI 数字人搜索、视频编辑等功能
  • 薇娅被罚 13.41 亿元后最终退场,电商公司申请拟注销
  • 最新资讯

    热门资讯