超级计算实现自然语言训练

场景描述

本实践适用于自然语言训练场景,使用神龙GPU云服务器(SCCGN6)+CPFS 进行NLP的训练,采用Bert模型。这里不使用容器,直接使用裸机进行NLP的Bert训练,使用飞天AI加速训练工具可以有效提升多机多卡的训练效率。

解决问题

  • 使用神龙 GPU 云服务器搭建 NLP 训练环境
  • 使用 SCC 的 RDMA 网络
  • 使用 CPFS 存储训练数据
  • 使用飞天 AI 加速训练工具加速训练

产品列表

  • 神龙云服务器 GPU (SCCGN6)
  • 超级计算集群 SCC
  • 共享存储 CPFS

超级计算实现自然语言训练

直达最佳实践 》》

超级计算实现自然语言训练

上一篇:高性能计算混合云渲染


下一篇:高性能计算用于工业仿真