智源发布悟道 3.0,天数智芯从底层赋能大模型发展

智源发布悟道 3.0,天数智芯从底层赋能大模型发展

IT资讯 2023-06-12 15:53:04 1年以前

6 月 9-10 日,由北京智源人工智能研究院举办的 2023 智源大会正式召开。与会期间,智源发布了完整的悟道 3.0 大模型系列,标志着大模型进入到了全面开源的新阶段。此次悟道 3.0 包含首个支持中英双语知识、开源商用许可的“悟道・天鹰(Aquila)”语言大模型系列,提供“能力-任务-指标”三维评测框架的“天秤(FlagEval)”大模型评测体系,力求打造大模型时代“新 Linux”生态的 FlagOpen 大模型开源技术体系,以及 6 项“悟道・视界”视觉大模型研究成果。

一年一度的智源大会是国际人工智能生态发展的标志性活动,全球人工智能精英汇聚一堂,用最前沿的成果、最广阔的国际视野进行思想碰撞。大模型成为主角的背后,是此前 ChatGPT 掀起全球技术革命和商业浪潮的必然结果。如今,伴随着大模型的快速崛起及广泛应用,底层算力的支撑作用愈发凸显。潮流之下,国内领先的 AI 硬件公司天数智芯与此次智源大会有多方面的深度合作。

在技术推动层面,基于天数智芯天垓 100 加速卡的算力集群,仅用 19 天便成功完成北京智源人工智能研究院 70 亿参数大模型全量训练,收敛效果与英伟达 A100 集群相当。天数智芯从硬件、软件两个角度推动战略升级,打造高性价比、广通用性的全栈式集群解决方案,为大模型时代提供强大算力底座。

天数智芯的通用 GPU 产品天垓、智铠系列具有自主可控、高性能、通用性、灵活性等特点,广泛支持 PyTorch、TensorFlow、PaddlePaddle 等各种原生框架,支撑了 200 余种人工智能算法模型稳定运行。在此基础上,天数智芯自主研发了 IXCCL 分布式通信技术,显著提升多机多卡高速互联性能,打造基于自主通用 GPU 的算力集群方案,持续优化自动混精训练、流水线并行、张量并行、数据并行以及模型并行等并行加速策略,让大模型训练、推理变得更加高效。

大模型应用的海量爆发,天数智芯以持续的研发和技术升级,支撑算力成规模增长的需求。用国际领先的高性能通用 GPU 产品,不断升级算力解决方案,适配支持更多参数量、更大数据集、更复杂算法的大模型。

文章版权声明:除非注明,否则均为网络转载文章,转载或复制请以超链接形式并注明出处。

相关阅读

  • 紫光股份拟定增 120 亿元,以总额 247.45 亿元收购新华三剩余 49% 股权
  • 消息称 ofo 创始人戴威美国二次创业项目陷入困境:资金链受阻,扩张彻底停滞
  • 微软正将数据保护安全工具引入 ARM 版 Win11 系统,可防止复制敏感文件
  • 破解“效用计算”难题,曙光智算引领算力网 3.0 时代
  • TGA 投票显示:七成以上玩家不考虑索尼串流掌机 Project Q
  • 从起源到落幕,半小时纪录片带你深入了解苹果 Lisa
  • 推特被马斯克收购后价值已大跌近 70%
  • 美韩联合团队发现光子量子存储器关键技术原理,可实现无限重复存储
  • 天猫 618 菜鸟推出预售极速达夜派,宝洁连续两年参与
  • 英特尔首席财务官:对本季度营收持乐观预期,有机会搭上 AI 顺风车
  • 全球首家!新华三率先通过“IPv6+Ready 2.0 & SRv6 Ready”认证
  • 苹果发布 tvOS 17,支持 Apple TV 用户展开 FaceTime 视频通话
  • 隔空投送默认关闭,网信办就《近距离自组网信息服务管理规定(征求意见稿)》公开征求意见
  • 茅台微信小程序现咖啡产品:起价 28 元,最贵 42 元,可加料飞天酒
  • 讯飞星火认知大模型 V1.5 升级发布会直播(视频)
  • 消息称 TikTok 今年电商业务目标高达 200 亿美元,比去年扩大四倍以上
  • 台积电先进封测六厂正式启用,每年可处理超过一百万片晶圆
  • 618 品牌日大促返场 i9 HX / RTX4060,5999 元,绝无仅有!
  • AI 写诗设计 T 恤?TVB 淘宝直播间陈敏之:好劲!
  • 复兴号动车组将开进青藏铁路,时速 160 公里
  • 最新资讯

    热门资讯