博客
关于我
1024块TPU在燃烧!BERT训练从3天缩短到76分钟 | 技术头条
阅读量:127 次
发布时间:2019-02-26

本文共 756 字,大约阅读时间需要 2 分钟。

BERT预训练时间大幅缩短:Google与UC Berkeley研究团队提出新算法

近日,Google与UC Berkeley、UCLA的研究团队在大模型训练领域取得重大突破。他们成功将BERT预训练的时间从三天压缩至76分钟,采用LAMB优化器后实现了这一显著进展。

BERT作为当前最耗时的工业界应用之一,其预训练过程一直面临效率瓶颈。特别是在使用大批量数据时,传统的训练方法难以满足需求。UC Berkeley博士尤洋在接受采访时表示:“直接优化传统批处理方法会导致测试集准确性下降,这对模型性能是一个严峻挑战。”

为了应对这一难题,他们提出了一种全新的优化算法LAMB(LARGE batch Matrix Optimization)。该算法不仅支持更大的批量处理(如65536),还能在不降低准确率的情况下显著提升训练效率。具体而言,使用LAMB优化器的BERT-Large模型在批量处理为65536时,仅需8599次迭代完成预训练,而传统方法需要100万次迭代。

尤洋的研究团队还进一步优化了批量处理的内存限制,实现了与TPUv3 pod相匹配的训练效果。最终,他们将BERT的预训练时间从三天压缩至76分钟。

尤洋的研究成果备受关注。他目前专注于大规模深度学习训练算法的分布式优化。值得一提的是,他曾在2017年9月以24分钟完成ImageNet训练,刷新了世界纪录。尤洋的导师是美国科学院与工程院院士、伯克利计算机系主任James Demmel教授,这为他的研究提供了坚实的理论基础。

推荐阅读:

  • 「2019 Python开发者日」演讲议题全揭晓!10余位一线Python技术专家共同打造硬核技术大会。
  • 更有深度培训实操环节,为开发者们带来更多深度实战机会。

点击阅读原文,查看更多历史精彩文章。

转载地址:http://muay.baihongyu.com/

你可能感兴趣的文章
Mysql 时间操作(当天,昨天,7天,30天,半年,全年,季度)
查看>>
MySQL 是如何加锁的?
查看>>
MySQL 是怎样运行的 - InnoDB数据页结构
查看>>
mysql 更新子表_mysql 在update中实现子查询的方式
查看>>
MySQL 有什么优点?
查看>>
mysql 权限整理记录
查看>>
mysql 权限登录问题:ERROR 1045 (28000): Access denied for user ‘root‘@‘localhost‘ (using password: YES)
查看>>
MYSQL 查看最大连接数和修改最大连接数
查看>>
MySQL 查看有哪些表
查看>>
mysql 查看锁_阿里/美团/字节面试官必问的Mysql锁机制,你真的明白吗
查看>>
MySql 查询以逗号分隔的字符串的方法(正则)
查看>>
MySQL 查询优化:提速查询效率的13大秘籍(避免使用SELECT 、分页查询的优化、合理使用连接、子查询的优化)(上)
查看>>
mysql 查询,正数降序排序,负数升序排序
查看>>
MySQL 树形结构 根据指定节点 获取其下属的所有子节点(包含路径上的枝干节点和叶子节点)...
查看>>
mysql 死锁 Deadlock found when trying to get lock; try restarting transaction
查看>>
mysql 死锁(先delete 后insert)日志分析
查看>>
MySQL 死锁了,怎么办?
查看>>
MySQL 深度分页性能急剧下降,该如何优化?
查看>>
MySQL 深度分页性能急剧下降,该如何优化?
查看>>
MySQL 添加列,修改列,删除列
查看>>