智源发布悟道 3.0,天数智芯从底层赋能大模型发展

智源发布悟道 3.0,天数智芯从底层赋能大模型发展

IT资讯 2023-06-12 15:53:04 1年以前

6 月 9-10 日,由北京智源人工智能研究院举办的 2023 智源大会正式召开。与会期间,智源发布了完整的悟道 3.0 大模型系列,标志着大模型进入到了全面开源的新阶段。此次悟道 3.0 包含首个支持中英双语知识、开源商用许可的“悟道・天鹰(Aquila)”语言大模型系列,提供“能力-任务-指标”三维评测框架的“天秤(FlagEval)”大模型评测体系,力求打造大模型时代“新 Linux”生态的 FlagOpen 大模型开源技术体系,以及 6 项“悟道・视界”视觉大模型研究成果。

一年一度的智源大会是国际人工智能生态发展的标志性活动,全球人工智能精英汇聚一堂,用最前沿的成果、最广阔的国际视野进行思想碰撞。大模型成为主角的背后,是此前 ChatGPT 掀起全球技术革命和商业浪潮的必然结果。如今,伴随着大模型的快速崛起及广泛应用,底层算力的支撑作用愈发凸显。潮流之下,国内领先的 AI 硬件公司天数智芯与此次智源大会有多方面的深度合作。

在技术推动层面,基于天数智芯天垓 100 加速卡的算力集群,仅用 19 天便成功完成北京智源人工智能研究院 70 亿参数大模型全量训练,收敛效果与英伟达 A100 集群相当。天数智芯从硬件、软件两个角度推动战略升级,打造高性价比、广通用性的全栈式集群解决方案,为大模型时代提供强大算力底座。

天数智芯的通用 GPU 产品天垓、智铠系列具有自主可控、高性能、通用性、灵活性等特点,广泛支持 PyTorch、TensorFlow、PaddlePaddle 等各种原生框架,支撑了 200 余种人工智能算法模型稳定运行。在此基础上,天数智芯自主研发了 IXCCL 分布式通信技术,显著提升多机多卡高速互联性能,打造基于自主通用 GPU 的算力集群方案,持续优化自动混精训练、流水线并行、张量并行、数据并行以及模型并行等并行加速策略,让大模型训练、推理变得更加高效。

大模型应用的海量爆发,天数智芯以持续的研发和技术升级,支撑算力成规模增长的需求。用国际领先的高性能通用 GPU 产品,不断升级算力解决方案,适配支持更多参数量、更大数据集、更复杂算法的大模型。

文章版权声明:除非注明,否则均为网络转载文章,转载或复制请以超链接形式并注明出处。

相关阅读

  • 漫步者“音生万象”发布会:全球首款超广域大深度降噪旗舰耳机 NeoBuds Pro 2
  • OPPO 618 大促进行时!OPPO Watch 3 溢彩蓝惊喜上市
  • OPPO Reno10 系列超光影长焦与广角镜头,来自辰瑞光学
  • 谷歌 YouTube 宣布 6 月 26 日终止“Stories”服务
  • 荣耀赵明:将按需制定自研芯片战略,不盲目乐观也不妄自菲薄
  • 垂类大模型再造 AI 新格局 家居行业将如何从中获益?
  • 探路者集团总裁何华杰在中关村论坛发表《把握产业趋势,领军显示 IC》演讲
  • 科技成果赋智中小企业专项行动启动 将构建“以大带小、以小托大”生态模式
  • 小米开启 618 电池 / 屏幕换新服务:6 月 1 日到 7 日,至高省 795 元
  • 当贝投影仪 F6 开售:华为海思 V811 芯片、WiFi 6,6799 元
  • 广东天宸升级多项未成年保护管控措施,助力未成年健康成长
  • 消息称英伟达 CEO 黄仁勋或于下周二到访上海,此前曾称仍未决定是否访陆
  • 抖音严打虚假卖惨助农内容,与各方联手共同规范网络公益内容
  • 为节省开支,马斯克已经对推特翻译功能动刀了
  • 腾势汽车赵长江:D9 接下来会达到月销 1.5 万台的目标
  • 奥田集成灶的质量真的值得信赖,不愧是老品牌
  • 中科院与腾讯申请的 AI 心理咨询专利获授权
  • 松下计划三年内将特斯拉内华达工厂电池扩产 10%
  • 商用四周年:全国 5G 基站总数超 273 万个,我国 5G 网络规模全球第一
  • 讯飞星火认知大模型 V1.5 将于 6 月 9 日发布
  • 最新资讯

    热门资讯